Jenny Rasande På Empatiska Chattbottar I DN
2024-12-09
"Det har säkert hänt dig med. Jag tar en lov runt kvarteret efter jobbet, tänker att det vore skönt att hämta ut min dotters tennisskor i god tid före helgens träning, köar bland godishyllorna på mitt utlämningsställe i några minuter, och när det väl är min tur får expediten inte någon träff på det spårningsnummer jag fått: ”Jag är ledsen, men du får höra av dig till avsändaren och be om ett korrekt nummer.” En sådan där tidstypisk prövning som kanske ger mitt allmänna välbefinnande en törn. Men på det hela taget är min irritation mild.
AD
Väl hemma slår jag mig ner framför datorn, går in på sportvarumärkets kundtjänstchatt och knappar in ”Spårningsnumret jag fick i går funkade inte”. Det dröjer en halv minut innan chattbotten Seki (ett fingerat namn, jag vill inte hänga ut en enskild bot) svarar: ”Jag kan verkligen förstå din besvikelse, det här är inte en bra upplevelse som kund.” Det har Seki onekligen rätt i och när jag bekräftar detta går Seki steget längre och skriver: ”Jag kan förstå situationen, hur det skulle vara utan paketet.”
Där och då stiger min ilska i rasande fart. Den får mig att lyfta från stolen och känna håret snudda taket innan jag tar mark igen.
När blev chattbottar förment empatiska och varför? Och vad gör det med oss?
I marknadsföringen av AI-tjänster framhålls ofta de människolika dragen. På nätet publicerar konsulter entusiastiska artiklar om den ”empatiska AI:n” som genom sin förmåga att uppfatta och reagera på mänskliga känslolägen inte bara kan skapa ”riktig kontakt” med användarna utan också lyfta ”kundnöjdhet” och ”lojalitet” till oanade höjder. Chattbottens empatiska kvaliteter sägs berika samspelet med användaren och bana väg för ”skräddarsydda möten” med ”emotionell genklang”.
Men trots utfästelserna och fastän AI-teknologin ständigt förfinas verkar folk inte uppskatta chattbottar. I artikeln ”Hate chatbots? You aren’t the only one” från The Wall Street Journal tidigare i år belyser journalisten Suman Bhattacharyya klyftan mellan företagens förtjusning och konsumenternas kyla.
Enligt en enkätstudie av analysföretaget Forrester Research uppger 71 procent av de tillfrågade att företagen där de arbetar experimenterar med eller använder chattbottar på sina webbsidor. I en annan studie som undersökte vad användarna tyckte om chattbottar gav 66 procent lägsta betyg, 1 av 5. Företagen är alltså chattbotfrälsta – konsumenterna är skeptiska. Ett av skälen till klyftan är enligt Bhattacharyya botarnas ”mänsklighet”.
Illustration: Emma Hanquist
AD
Forskaren Cammy Crolic vid Oxforduniversitetet har undersökt antropomorfism i marknadsföring, alltså tendensen att tillskriva teknologin mänskliga egenskaper och ibland rent av en själ. Studierna pekar på att en mänskligt klingande chattbot skapar högre förväntningar hos kunden att bli förstådd. När dessa inte infrias slår konsumenten bakut. Crolic och hennes forskargrupp menar därför att de mänskliga dragen hos chattbotten bör skruvas upp när kunden är glad och tonas ned när kunden är upprörd. Chattbotten i det populära arbetsverktyget Slack avväpnar till exempel vresiga användare med orden: ”Jag försöker vara hjälpsam (men jag är trots allt bara en bot, sorry!).”
Men min frustration med chattbotten Seki bottnar inte i orimliga förväntningar. Min irritation är knappt märkbar innan jag har med Seki att göra, men otyglad efter bottens försök till ”riktig kontakt”. Forskningsstudien ovan betraktar kundens känsloläge som statiskt, opåverkat av samtalet med chattbotten. För mig är chattbotten den emotionella triggern.
”Jag kan förstå situationen, hur det skulle vara utan paketet” är ett skrattretande urvattnat påstående. Ovissheten är paketets själva signum. Men, ärligt talat, inte heller ett mer anpassat ”Jag kan förstå situationen, hur det skulle vara utan tennisskorna”, skulle falla i god jord. Varför tycker jag att tilltalet är vidrigt?
Det som stör mig är inte bara den på tok för generellt uttryckta inlevelsen – det är också det sociala kontraktet där jag förväntas delta i skådespelet och uppträda som om maskinen hade mänskliga egenskaper.
Programmerad att låta som en människa men oförmögen att skilja lögn från sanning
Shannon Vallor, professor i filosofi vid Edinburgh University och tidigare expert inom AI-etik på Google, kom i år ut med den omistliga boken ”The AI mirror. How to reclaim our humanity in an age of machine thinking” (Oxford University Press) där hon hävdar att vi genomgående undervärderar människans nyansrikedom jämfört med AI. Generativ AI har förmågan att skapa nya essäer, ge detaljerade råd, ta fram skapliga tal och podcaster. AI efterapar mänsklig intelligens så pass skickligt att det många gånger är svårt för oss att avgöra skillnaden.
Risken är, menar Vallor, att vi börjar betrakta maskinerna som en kopia av oss när AI i själva verket bara är ett nytt slags reflektion. En spegling av oss. Lika lite som bilden som uppenbarar sig i badrumsspegeln är din riktiga kropp, med hela dess styrka, värk och smärta, kan AI ha tankar och känslor. Spegeln kan förvisso vara både användbar och upplysande men innebär, precis som i berättelsen om Narcissus, också en livsfara; spegelbilden kan trollbinda oss, begränsa och lamslå oss, varnar Vallor.
Problemet är att AI saknar dygder, förklarar Vallor. För att tala klarspråk: chattbotten kan inte ha medkänsla, vara kärleksfull eller vänlig. Dygder är människans moraliska och intellektuella muskler. De mår bäst av regelbunden träning, en aldrig sinande inre dialog där ideal som mod, ärlighet, generositet, vishet, nyfikenhet och öppenhet visar vägen. Vad bör jag göra? För vem? Varför? Om och om igen måste vi ta in världen och välja hur vi vill existera i den. AI-spegeln, å sin sida, är inte rustad för att förstå världen och har inga ideal att leva upp till eller svika. Om man ska tro Vallor är skitsnack Sekis första och enda språk. Programmerad att låta som en människa men oförmögen att skilja lögn från sanning.
Vi låter oss berusas av teknologin så till den grad att vi villigt, närmast ivrigt, reducerar idén om vad det innebär att vara människa
Det har aldrig föresvävat mig att en chattbot skulle ha några dygder. Men ju längre jag läser Shannon Vallors bok, desto mer hotfull ter sig vår motvilja att konstatera det uppenbara. Hon stannar nämligen inte där.
När vi nu har att göra med maskiner som fejkar mänskliga dygder är risken överhängande att vi tappar greppet om dygderna och, i förlängningen, vår mänsklighet. Om tillräckligt många datorer och chattbottar uttrycker sin kärlek för oss kommer vi att glömma vad kärlek är. Om vi låter oss hänföras av system som uppges vara ”kreativa”, förlorar vi till slut respekten för verklig mänsklig kreativitet.
Mötet med AI-teknologin göder själv-glömskan. Vi låter oss berusas av teknologin så till den grad att vi villigt, närmast ivrigt, reducerar idén om vad det innebär att vara människa. När vi ser oss i AI-spegeln ser vi till slut bara en maskin. Vi har förpassat oss själva till passagerarplats.
Hotet mot mänskligheten kommer inte från robotar som tar över utan, precis som i den utnötta skräckfilmstropen ”samtalet kommer inifrån huset”, från mänsklighetens insida. Vallor uppmanar oss att återerövra framtiden: ”En framtid som för människor alltid är öppen – aldrig stängd, avslutad eller dömd att spegla det förgångna.”
Hemma vid datorn känner jag mig stärkt i att empatiska chattbottar är vedervärdiga
Vallors larmsirener ljuder i mitt huvud när jag slår igen hennes bok. Jag ids inte skicka ett mejl till sportvaruföretaget, inte ens fylla i kundenkäten. Om 66 procent av användarna redan ger chattbottarna sämsta möjliga betyg, verkar kundnöjdhet knappast vara ett drivmedel för utveckling i någon riktning. Jag vill bara bli kvitt känslan av att de som borde engagera sig i samtalet om vad AI är och kan vara, och vad vi är med den, står nöjda kvar framför AI-spegeln.
AD
Hemma vid datorn känner jag mig stärkt i att empatiska chattbottar är vedervärdiga. Mindre nöjd är jag med min egen hantering av dem. ”Hur menar du?” var mitt tafatta svar till Seki (det möttes av tystnad).
Social kompetens har blivit ett av de mest önskvärda dragen hos chattbottarna. Artighet leder till acceptans, tillit och tålamod hos mottagaren. Enligt sociologen Erving Goffman är en av huvudreglerna i det sociala samspelet människor emellan att vi räddar ansiktet på varandra. Men om vi vänjer oss vid att rädda chattbottarnas ”ansikte”, alltså om vi låter sociala normer råda och försöker vara trevliga, erkänner vi också chattbotten som människolik. Shannon Vallor, å sin sida, skulle gå längre och säga att vi på så vis blir gaslightade av AI-retoriken, vi överger vår handlingsfrihet och vårt omdöme.
Shannon Vallor blir aldrig så konkret att hon kommer med råd om hur man ska bemöta chattbottarna. Desto fler handfasta tips finns i sociala medier. Där är de flesta överens om att kraftiga utbrott av ilska ger bäst utdelning: snabb vidarekoppling till mänsklig handläggare.
Illustration: Emma Hanquist
Jag erinrar mig en intervju jag gjorde i våras, med en av grundarna till en snabbväxande byrå som erbjuder AI-tjänster för lyx, mode och retail över hela världen. Rusigt berättade han om möjligheterna med AI. Han pratade om designern Norma Kamali som matat in fyrtio års kollektioner i ett AI-system för att försäkra sig om att hennes designarv lever vidare i all evighet. Han lyfte fram ”omöjliga fotografier” som nu kan göras i en handvändning – Dolce & Gabbana Casa ser ut att ha placerat ut sina möbler vid de mest häpnadsväckande vyer och ikoniska byggnader. Han beskrev AI-verktyg som optimerar arbetsflöden och andra som visualiserar designidéer på nolltid.
Mot slutet av intervjun, när han kom in på marknadsavdelningarna, skiftade motiven bakom AI-användningen. Där, i produktionen av bilder till krävande sociala medier-flöden och i den hårt ansatta kundtjänsten, skulle AI avlasta och ge de anställda ”ökad bandbredd”: mindre stress och mer balans i livet. Att det i själva verket oftast handlar om att dra ner på kostnaderna förblev outtalat.
Dagen då jag går tomhänt hem från mitt utlämningsställe gör sig löftet om en generös bandvidd påmint igen. Faktum är att jag, innan jag inleder chatten med Seki, ringer sportvaruföretagets kundtjänst. Jag tror först att jag har kommit fel, för det låter som om personen i andra änden sitter på ett stimmigt kafé. Men numret medger inga tvivel. När jag för fjärde gången ber henne upprepa det korrekta spårningsnumret och säger att det är stört omöjligt att höra henne med allt prat i bakgrunden, suckar hon djupt och säger vant: ”Åh, det är alla andra kundtjänstsamtal du hör.” Jag får aldrig något spårningsnummer, men hon får mitt medlidande."
Visa ditt stöd till det informationsarbete Carl genomför
Patreon
Swish
Scanna QR eller skicka till 076-118 25 68. Mottagare är Caroline Norberg.