AI. ”Den stora frågan är kanske inte om AI kommer att förändra världen utan om vi är beredda att erkänna att det är vi, genom våra val, som avgör hur framtiden kommer att se ut.” Det skriver Nette Wermeld Enström
Mellan varning och vision – AI, ansvar och det existentialistiska valet
I podcasten The Diary of a CEO för Steven Bartlett ett djuplodande samtal med AI-forskaren Stuart Russell om artificiell intelligens och mänsklighetens framtid.
Samtalet rör sig bortom tekniska detaljer och berör i stället grundläggande filosofiska frågor: Vad innebär ansvar i en tid då våra teknologiska skapelser riskerar att bli mer intelligenta än vi själva? Och kan vi undkomma konsekvenserna av våra val?
Jean-Paul Sartres existentialism utgår från tesen att existensen föregår essensen: människan föds utan ett givet syfte och definierar sig själv genom sina handlingar.
Översatt till AI-frågan innebär detta att teknologins framtid inte (ännu) är förutbestämd. Den formas (fortfarande) av mänskliga beslut, av vad forskare, företag och politiker väljer att prioritera.
När Russell kritiserar föreställningen om att teknisk utveckling automatiskt leder till framsteg, avfärdar han implicit tanken på ett teknologiskt öde.
Det finns inga historiska lagar som garanterar att AI kommer att gagna mänskligheten, resonerar Russell, utan det är upp till oss att ge utvecklingen riktning.
Russell tar upp ”gorilla-problemet”, det vill säga frågan om vad som händer om artificiell intelligens övertrumfar den mänskliga intelligensen. Detta kan vidare förstås i ljuset av Sartres syn på ångest. Enligt Sartre uppstår ångest när människan inser sin frihet och därmed sitt fulla ansvar.
Skapandet av system som kan överträffa mänsklig intelligens tvingar oss att konfrontera gränserna för vår kontroll. Vi kan inte längre luta oss mot tron att vi alltid kommer att vara de mest rationella aktörerna i rummet.
Denna insikt är djupt obehaglig men enligt existentialismen också nödvändig. Ångesten avslöjar att våra handlingar verkligen spelar roll.
Sartres begrepp ”ond tro” (mauvaise foi) är därför centralt för att förstå Russells varningar genom en existentialistisk tolkning. ”Ond tro” innebär att människan försöker fly från sin frihet genom självbedrägerier, som att till exempel intala sig att hon är styrd av yttre omständigheter.
Debatten om AI
I AI-debatten tar detta formen av påståenden som att ”utvecklingen är oundviklig”, att ”marknaden kräver det” eller att ”någon annan bär ansvaret”.
När vi accepterar dessa förklaringar reducerar vi oss själva till kuggar i ett maskineri i stället för att göra oss till fria subjekt.
Idén om att vi alltid kan ”dra ur kontakten” om något går fel är ett annat exempel på ond tro. Den fungerar som en lugnande berättelse som tillåter fortsatt utveckling utan djupare etisk reflektion. Russell avfärdar denna idé som orealistisk och livsfarlig i en global konkurrensdriven teknologisk miljö.
I Sartres termer innebär tron på en sådan nödbroms att vi vägrar erkänna att valet redan är gjort, att vi genom att fortsätta utveckla kraftfull AI redan har tagit ställning till framtiden.
Här finns en beröringspunkt med Albert Camus och hans idé om det absurda. Människan strävar efter kontroll och mening i en värld som inte erbjuder några garantier.
AI förstärker denna absurditet. Vi skapar system i hopp om ordning och effektivitet samtidigt som vi riskerar att förlora överblicken.
Skillnaden mellan resignation och ansvar blir avgörande.
För Camus var svaret inte uppgivenhet utan revolt, att med öppna ögon fortsätta agera, göra aktiva val, trots osäkerheten.
Knyter an till existentialismens kärna
Så när Russell under samtalet sänker rösten och betonar att framtiden fortfarande är öppen anknyter han tydligt, medvetet eller omedvetet, till existentialismens kärna.
Att bryta med ond tro innebär att erkänna att även passivitet är ett val. Varje utebliven reglering, varje beslut att prioritera snabb utveckling framför säkerhet, är ett uttryck för mänsklig vilja.
Vi kan inte längre gömma oss bakom tekniken utan måste också ta individuellt ansvar och stå för det vi är en del av och är med om att skapa.
Att det sedan finns skillnader i ansvar utifrån makt och att kampen bäst organiseras i gemensam form, är en annan fråga.
Sammanfattningsvis är det här avsnittet av The Diary of a CEO ett samtal som mest av allt bjuder in till existentiella reflektioner.
Det uppmanar lyssnaren att fråga sig om vi möter AI-utvecklingen i ond tro eller med den ansvarstagande frihet som Sartre förespråkar.
Den stora frågan är kanske inte om AI kommer att förändra världen utan om vi är beredda att erkänna att det är vi, genom våra val, som avgör hur framtiden kommer att se ut.
nette.wermeld.enstrom@opulens.se
