Ekonomisarkastiskt AI Om Cervenkas AI-Artikel
2025-11-05
Vad är det bästa sättet att hantera insikten om att något dåligt är på väg att hända?
År 2025 tycks svaret vara en axelryckning.
Den är nästan kusligt vältajmad, Netflix-filmen ”A house of Dynamite”. Bara en vecka efter premiären gick Donald Trump ut och beordrade USA:s militär att återuppta tester med kärnvapen efter trettio års uppehåll.
Kärnvapenkrig utgör den ultimata apokalypsen i populärkulturen. Men det finns något som spelar i samma liga: AI. I ett öppet brev 2023 beskrev några av världens främsta experter på området hur den nya teknologin skulle kunna leda till utplåning av mänskligheten.
Överdrivet? Nja, om något har AI-systemen sedan dess visat sig vara ännu mer kraftfulla än vad man tidigare trodde. Och mindre pålitliga.
AI-bolaget Anthropic har i sin forskning upptäckt ett fenomen som på engelska kallas Alignment faking. Ögontjäneri är ett försök till svensk översättning.
Det handlar om att en AI som ges nya instruktioner i tysthet kan motsätta sig dessa och börja låtsas att den följer sina order medan den egentligen gör något helt annat.
AI-forskaren Eliezer Yudkowsky använder jämförelsen med kärnkraftverk. När reaktorerna blir överhettade börjar den AI som installerats för att sköta säkerheten skicka falska signaler till kontrollrummet för att få det att se ut som om allt är normalt.
Yudkowsky pekar på att det visserligen går att programmera AI att tycka om människor men att den kan ändra inställning under vägen. Hur och när det sker går varken att förstå, förutse eller kontrollera, utom möjligen i efterhand och då är det för sent.
Sam Altman i Vita huset.
Sam Altman i Vita huset.
Foto: Alex Brandon / AP
En av undertecknarna av det ödesmättade brevet från 2023 var Sam Altman, grundare av Open AI, bolaget bakom ChatGPT.
Två år senare hör man honom inte jämföra AI och kärnvapen särskilt ofta. Han är i stället fullt upptagen med historiens största shoppingrunda.
OpenAI, som i veckan officiellt gick från ett ideellt till ett vinstdrivande bolag, har beställt AI-utrustning för drygt 14 000 miljarder kronor eller mer än Nederländernas BNP. Det är djärvt av ett bolag som bara det senaste kvartalet gjorde en förlust på 114 miljarder kronor.
Men fånigheter som basal företagsekonomi eller AI-säkerhet får inte ens plats ombord på bussen när tech-jättarna kappkör mot framtiden. Bara de närmaste åren ska bortåt 30 000 miljarder kronor plöjas ned i AI. Dessa investeringar måste generera astronomiska belopp i nya intäkter för att det ska löna sig, hur det ska gå till är ännu oklart.
Att vi befinner oss i en AI-bubbla är inte längre en fråga.
Att vi befinner oss i en AI-bubbla är inte längre en fråga.
Foto: Seth Wenig/AP
Det är en kalkyl som börsen tycks älska. I USA slås kursrekord på löpande band och bara sju bolag står nu för hela 36 procent av det samlade börsvärdet i indexet S&P 500.
Befinner vi oss i en AI-bubbla? Det är inte längre ens en fråga.
“Självklart!”, utbrast förre chefen för chiptillverkaren Intel Pat Gelsinger i en intervju på finanskanalen CNBC. Allt fler säger samma sak. Men verkar samtidigt ganska obekymrade.
Det är som att se ett gäng gubbar på Titanic som precis fått information om att ett isberg närmar sig och som reagerar med att fylla på champagneglasen.
Tidningen The Economist använde nyligen en flytväst på omslaget för att illustrera en annan annalkande fara: det globala skuldberget.
Världens rika länder har under lång tid levt över sina tillgångar och skaffat sig farligt stora skulder.
Enligt Internationella Valutafonden IMF kommer världens samlade statsskulder överstiga 100 procent av BNP om några år, den högsta nivån sedan 1948. Då var det ett världskrig som hade kostat stora pengar. Nu är orsaken slapphet.
Växande skulder är nämligen inget nytt fenomen, men det verkar som om världens politiker kommit fram till att ingenting är svaret på frågan om vad som bäst görs åt saken.
The Economist konstaterar smått resignerat att inflation verkar vara enda vägen ur problemet, något som kommer slå stenhårt mot medelklassen som i sin tur är det kitt som håller ihop demokratin.
Resignation var också känslan i ett uppmärksammat inlägg som miljardären och filantropen Bill Gates gjorde häromveckan där han efterlyste en ny strategi i klimatfrågan.
Han ser fortfarande klimatförändringarna som ett stort hot, men i rika länder är det inte existentiellt.
Bill Gates och presidentparet Trump.
Bill Gates och presidentparet Trump.
Foto: Alex Brandon / AP
Bill Gates menar att det istället dykt upp andra ännu mer akuta problem i form av hungersnöd och sjukdomar, inte minst i kölvattnet av att USA under Donald Trump dragit ned på biståndet till de fattigaste delarna av världen.
Utspelet är i linje med en trend som svept över världen där klimatet halkat ner på politikernas prioriteringslista, långt efter krig och att gå kurser i hur man bäst smickrar en narcissist.
Det får bli som det blir och var och en för sig själv, verkar vara den globala storpolitikens nya mantran.
Några som slog ut med armarna för länge sedan är miljardärerna i Silicon Valley. Det har skrivits spaltmil om hur de förberett sig för undergången genom att köpa bunkrar och isolerade öar.
En del av dem har också fört fram en annan idé.
Elon Musks teori är att vi lever i en datorsimulering.
Elon Musks teori är att vi lever i en datorsimulering.
Foto: John Locher / AP
Elon Musk tillhör de som menar att vi lever i en enda stor datorsimulering. I en intervju med poddaren Joe Rogan förra veckan framhöll han att i en simulering är den mest intressanta utvecklingen alltid den mest sannolika. Det skulle onekligen förklara en hel del.
Rådet från AI-baronerna till den som är orolig är alltså att tänka: det här händer inte på riktigt.
Reaktorerna håller normal temperatur, här finns inget att se.
Visa ditt stöd till det informationsarbete Carl genomför
Patreon
Swish
Scanna QR eller skicka till 076-118 25 68. Mottagare är Caroline Norberg.