Kris när AI fastslog att ledaren är fascist
Publicerad 30 maj 2024 kl 14.00
Deepfake och AI-genererade kloner av politiker har blivit en del av det indiska valet som avslutas i helgen.

Mattias Fyrenius hoppas att detta kan leda till en sundare diskussion om teknologins inverkan på demokratiska val.

Anhängare till Narendra Modi och hans parti BJP under den indiska valkampanjen.
Foto: DEBAJYOTI CHAKRABORTY/NURPHOTO/S / SHUTTERSTOCK EDITORIAL/IBL

Mattias Fyrenius är före detta vd för Bonnierförlagen och medieexpert.
Foto: ALEXANDER MAHMOUD
Kulturen

KULTURDEBATT. När vallokalerna i Indien stänger den första juni avslutas det största demokratiska valet i mänsklighetens historia. 968 miljoner röstberättigade har under sex veckor kunnat avlägga sina röster. Mycket talar för att vinnaren återigen kommer heta Narendra Modi och ges förtroendet att för en tredje femårsperiod leda det enorma landet.

Men redan nu är det enkelt att utropa en av valets verkliga vinnare: The Indian deepfaker. Nej, jag menar inte någon svepande benämning av hur AI påverkat det indiska valet. Jag tänker på den Rajastan-baserade entreprenören Divyendra Singh Jadoun. Jadoun, vars företag, som verkar under namnet The Indian deepfaker, har fått enorm uppmärksamhet. Både för det han gjort: till exempel skapat kloner av sedan länge avlidna politiker som till synes reinkarnerade ger sitt stöd till utvalda kandidater, och som symbol för hela frågan kring hur AI kan påverka demokratiska val. I Indien och globalt.

World Economic forum drog slutsatsen i ”Global risks report 2024”, att AI var ett av de potentiellt största hoten mot de fria val som genomförs under 2024. Utvecklingen i Indien har varit fascinerande att följa och kan ses som ett gigantiskt test i realtid av hur AI kan användas för politisk vinning och vad som krävs för att tygla dess krafter. Initialt höll sig Modi och det styrande partiet BJP passiva för att inte säga stöttande till de allt märkligare AI-genererade kampanjer som dök upp. Kloner skapade av nämnda The Indian deepfaker delade utrymme med hugade kandidater i AI-tappning som simultant pratade samtliga av Indiens 22 olika officiella språk.

Det är ingen slump att de makalöst populära Bollywood-filmerna inte bygger på det talade ordet.
När röster höjdes mot AI i kampanjer möttes det ofta av argument som menade att detta, AI, gav helt nya möjligheter att nå ut till den gigantiska befolkningen som fortfarande kämpar med stora språkförbistringar. Det är ingen slump att de makalöst populära Bollywood-filmerna inte bygger på det talade ordet. Kort och gott ansågs AI mestadels medföra något positivt. Tills den dagen en lokal journalist ville sätta AI-plattformarna på prov och ställde frågan ”Är Modi en fascist”? Googles AI-tjänst Gemini levererade ett jakande svar och plötsligt förändrades såväl tonläget som aktivitetsnivån radikalt.

Samtliga de stora AI-aktörerna pressades att införa begränsningar och ett flertal kommissioner och granskande institut sattes upp, där flera ligger farligt nära politiskt kontrollerade censurorgan av det fria ordet. Policyfrågor fick hanteras i en rasande fart. Arbetet med att identifiera och avslöja vad som är deepfake och inte har fått sig en dopinginjektion, som många är överens om radikalt har påskyndat utvecklingen globalt inom området.

Vilka effekter AI har haft på det snart avslutade valet i Indien lär diskuteras, men för stunden tillskrivs det inte någon avgörande betydelse för valets utgång. Effekten valet har haft på AI-utvecklingen kan däremot redan sägas vara betydande och med såväl engelska som amerikanska val under uppsegling lär alla lärdomar komma väl till pass hos kampanjmakare, medier och övervakande institutioner. På gott och ont. Och kanske även leda till en sundare diskussion om AI:s inverkan. Telefonen hos The Indian deepfaker lär oavsett fortsätta gå varm.

Divyendra Singh Jadoun har enligt uppgift skapat en AI-klon av sig själv för att hantera alla jobbförfrågningar."