Redan Artificiellt Utsatt
2024-03-25
https://www.svd.se/a/nQo1P5/manipulerade-bilder-har-natt-en-niva-som-aldrig-har-funnits-forut
"Vid en förevisning av de bästa AI-genererade bilder och videor som går att producera just nu står det klart att vi redan är besegrade. Det enda vi kan göra är att förstå hur enkelt det är att bli lurad.
Utöver ett paraply finns det en sak som är användbar i London i mars, när magnolian och de vita blommorna på yviga päronträd börjat slå ut: en nyckel till en av de små gömda parkerna mellan husen. Eller snarare en blipp.
Där inne skulle jag sitta och rofyllt läsa en bok. Eller snarare maniskt scrolla efter de senaste konspirationsteorierna om Kate Middleton. Detta var innan det stod klart att hon hade cancer, och internet var fullt av analyser på de manipulerade foton hon tagit och skickat ut på sin familj – och sedan bett om ursäkt för.
Hennes fotoredigering diskuterades också där jag i själva verket befann mig hela veckan – i en Londonkällare dit inte ens en gnutta av det vita marsljuset når, och päronträden fanns bara i min fantasi.
Där skulle några av världens mest kvalificerade tekniska ingenjörer, jurister och forensiker lära oss något viktigt och användbart: hur man ser skillnad på en falskt och ett riktigt fotografi. Vad som utgör ”bevis” eller åtminstone ”bekräftelse”. Eller inte.
Den lektionen tog ungefär trettio sekunder. Eftersom det just nu är nästan omöjligt. Jag är fortfarande lite chockad av hur äkta och naturligt och självklart det som inte finns i verkligheten har blivit nu.
AI-genererade och manipulerade bilder har sedan några månader nått en nivå som aldrig tidigare har funnits. Det går inte heller att köra bilden genom någon maskin eller ett program som berättar om den är fake eller ett original.
Numera finns till och med kameror som ändrar lite på bilden redan innan den ens tas, vilket inte kan räknas som efterhands-manipulation. Men före, då?
Det finns inga namn på den sortens bilder ännu.
Du har förmodligen, liksom jag, redan sett AI-bilder i tron att de återspeglade verkligheten, utan att reagera. Och de senaste åren finns åtskilliga exempel på vad manipulerade bilder kan orsaka för typ av skada.
Som när en ganska illa ihopklistrad bild av ett stort rökmoln utanför Pentagon tweetades förra året. Det avfärdades strax av alla som var exakt där och kunde berätta att försvarshögkvarteret inte alls var under attack. Men på den lilla stund som passerade tappade börsmarknader jorden runt miljarder i värde.
Video är också på en helt ny nivå.
För ett halvår sedan var AI-genererad video fortfarande hopplöst, med ljud och bild som inte hängde ihop och där något ganska uppenbart inte stämde. Sen dess har det gått fort. Än är det inte helt perfekt, men mycket nära. Om det går i samma takt som hittills beräknas AI-genererad video om några månader också bli näst intill omöjligt att skilja från verklig.
De största användningsområdena är uppenbara: porr. Där finns redan nu en diskussion bland stora användare om att AI-generad porr är bättre. Eftersom rollinnehavarna kan utsättas för (och överleva) än mer extrema handlingar. Att byta ut ansikten på kroppar, och ersätta dem med en fiende eller en känd person, ser ganska trovärdigt ut redan nu.
Det andra stora användningsområdet är bluff-verksamhet. Att lura folk på pengar, genom att återskapa någons röst och bild och be dem skicka pengar. En medarbetare på en bank lurades att betala ut 25 miljoner dollar i februari i år, efter att han fått tydliga instruktioner under ett konferenssamtal med kollegor. Trodde han.
Och sedan förstås: incitament för krig och upplopp på beställning, genom att visa på något som triggar en viss grupp. Eller att påverka andra länder på uppdrag av främmande makt.
I det nära förestående amerikanska valet i höst skulle ju få reagera på nakenbilder av kandidaterna.
Men tänk att en i övrigt trovärdig video med Joe Biden saktas ner en aning, så att han släpar fötterna efter sig och talar ännu långsammare. Säger fel och glömmer bort sig. Kanske svimmar. Eller dör. En motsvarande Trump-video kanske görs lite snabbare och mer färgstark, så att kandidaten framstår som mer energisk.
Den är den typen av små förfinade manipulationer som experter ser allra mest av just nu. Där vad som lagts till eller dragits ifrån är omärkligt, men tydligt avsett att påverka.
I kriget mellan Israel och Hamas finns syns också mer AI-genererad video från båda sidor. Där ingen nyhetsredaktion, ingen krigsbrottsutredare eller en tekniskt bevandrad tonåring direkt kommer kunna avgöra äkthetsgraden.
Journalister kommer däremot vara bland dem som är bättre utbildade i att analysera bilder. Men grunderna måste rätt snart börja ingå i skolplanen för samtliga medborgare.
På fredagskvällen, när prinsessan av Wales cancerbesked kom, var bildredaktörer och faktagranskare på de stora nyhetsredaktionerna och bildbyråerna sedan en dryg vecka helt upptagna med att gå igenom alla bilder som Kensington Palace skickat ut de senaste åren – eftersom inget därifrån numera tas som automatiskt äkta och trovärdigt.
Det kanske låter hårt, men i ett läge när för många framgångsrikt manipulerar, och för många ljuger, så blir lite Photoshop på den brittiska tronföljden ett mer uppenbart problem.
Det blir motsvarigheten till att en president gömmer eller slarvar bort eller slänger officiella dokument. Eller när en utrikesminister använder sitt X-konto eller Whatsapp för att skicka meddelanden för att hålla delar av sin tjänsteutövning hemlig. Det blir att förställa och förvränga historien och allmänhetens förtroende – oavsett om man anser sig behöva det eller inte.
När bilderna från konserthuset i Moskva började komma in fick alla experter på nyhetsredaktionerna abrupt byta spår, men fortsätta med exakt samma uppgift: att försöka avgöra äktheten och trovärdigheten på materialet, och vad som kunde förmedlas vidare från osäkra källor.
För att ha en chans att ens börja mota tillbaka konspirationerna, i en verklighet som är osannolik och brutal nog ändå."
Visa ditt stöd till det informationsarbete Carl genomför
Patreon
Swish
Scanna QR eller skicka till 076-118 25 68. Mottagare är Caroline Norberg.