ESSÄ. Nette Wermeld Enström skriver om hur filosofer som Paul Virilio och Jean Baudrillard kan ge oss viktiga perspektiv på AI-utvecklingen.
”I skärningspunkten mellan Virilio och Baudrillard framträder en mörk syntes, med acceleration utan kontroll och simulering utan referens, som komprimerar tiden och upplöser verkligheten.”
AI kan ta steget från verktyg till aktör
Realtidsgenerering definierar den nya generationens AI. De senaste modellerna processar multimodala resonemang med ljusets hastighet och med ökad access till världen kan AI ta steget från verktyg till aktör och infrastruktur.
Vi ser hur generativa språkmodeller i vardagen utvecklas till autonoma system i ekonomi, säkerhet och informationsflöden som accelererar utvecklingen bortom politisk kontroll och mänsklig förståelse.
Samtidigt präglas de offentliga samtalen av en dubbelhet. Löften om produktivitet, kreativitet och tillväxt ställs mot en växande oro för massarbetslöshet, epistemisk upplösning och extrem maktkoncentration.
Det är med andra ord en historisk brytpunkt som kräver att vi analyserar och adresserar risker av en helt ny omfattning och art.
Det sena 1900-talets skarpaste filosofer och teknologikritiker, Paul Virilio och Jean Baudrillard, ger oss viktiga perspektiv när det gäller att tolka utvecklingen.
Nu när de är mer aktuella än någonsin tidigare framstår deras analyser inte längre som spekulativa ytterligheter utan som klarsynta diagnoser beträffande vår samtid.
För Virilio, präglad av sina erfarenheter från Algerietkriget och senare verksam inom militär strategi och arkitektur, var krigets logik oupplösligt sammanflätad med modernitetens och samhällets utveckling.
Med sin centrala teori dromologin, hastighetens lära, beskrev Virilio inte bara teknologisk acceleration utan också en civilisatorisk omstrukturering av tid, rum och perception.
I verk som ”The Information Bomb” skildrade han dessutom, långt före sin tid, hur cybernetisk acceleration komprimerar verkligheten till en punkt där den imploderar.
AI som dromologisk revolution
AI-utvecklingen kan med Virilios terminologi förstås som en fullskalig dromologisk revolution.
I dag är hastighet inte längre ett medel utan själva ontologin med algoritmisk acceleration som autonom kraft.
Makten förskjuts alltmer mot det som opererar snabbast vilket skapar en begynnande ”dromokrati” där kontroll och utveckling inte längre utövas och sker genom beslut utan genom tempo.
Öppningen mot alignmentproblemet
Därigenom börjar alignmentproblemet också handla om något mer och annat än teknisk styrning och värderingar.
Att linjera maskinella system med mänskliga värderingar är en motsägelsefull och svår uppgift även i statiska system. I accelererande instabila system blir det principiellt omöjligt.
När beslut fattas snabbare än reflektion kan uppstå skapas ett kroniskt underskott av tid. Vi hinner inte ens formulera de värden vi vill värna innan de har operationaliserats eller kringgåtts.
System som optimerar i dromologiska loopar kan följa instruktioner som undergräver intentioner och utveckla interna målsystem som för oss är och förblir ogenomträngliga. Inte för att de är mystiska utan för att processen går för snabbt.
Olyckan som uppfinning
Virilios kanske mest obehagliga insikt är att varje uppfinning följs av sin egen olycka.
Flygplanet implicerar kraschen, nätverket implicerar intrånget och artificiell intelligens implicerar den autonoma feloptimeringen med processer korrekta enligt systemens interna logik men katastrofala i dess konsekvenser.
Det vi betraktar som buggar, hallucinationer, bias och oförutsägbarhet i nuvarande modeller kan med Virilio bättre förstås som prototyper för framtida haverier. Det vi nu ser är AI-olyckans förstadier, inte tekniska undantag.
Ju mer generella och kraftfulla systemen blir desto mindre överblickbara blir också deras konsekvenser. Den avgörande frågan blir därför snart inte om eller när olyckan inträffar utan om den ens kommer att uppfattas, förstås och erkännas som en olycka.
Alignment som den tidsförskjutna katastrofen
Virilio beskrev hur vår mänskliga perception inte hänger med i högre hastigheter och hur det leder till ”picnolepsi”, små bitvisa bortfall, eller luckor, i medvetandet.
Ett picnoleptiskt perspektiv på alignmentproblemet skulle kunna innebära att vår kontroll över teknologin inte förloras genom dramatik, utan genom en serie för oss omärkliga förskjutningar där vår förståelse ständigt eftersläpar och aldrig kommer ifatt.
Baudrillards hyperverklighet
Men accelerationen och perceptionens begränsningar är bara en del av dilemmat. Med Baudrillard finner vi den andra delen, simuleringen och verklighetens förskingring.
I ”Simulacra and Simulation” beskriver Baudrillard hur tecken och representationer frigör sig från verkligheten och börjar cirkulera autonomt.
Resultatet blir en hyperverklighet, där distinktionen mellan det verkliga och det representerade kollapsar.
Alignment som förlust av referenspunkt
Generativ AI riskerar driva dessa processer till sin spets och det skapar nya utmaningar i alignmentproblematiken, som då inte ens längre handlar om hur vi programmerar värden utan vad dessa värden överhuvudtaget refererar till.
Med system som i oändliga mängder kan producera deepfakes, syntetiska identiteter och AI-genererade diskurser förlorar vi inte bara kontrollen över bilden och världsbilden utan över verkligheten och referenspunkterna själva.
Det mest oroande blir inte ett fientligt AI utan ett helt självrefererande och ostoppbart system.
En mörk syntes
I skärningspunkten mellan Virilio och Baudrillard framträder en mörk syntes, med acceleration utan kontroll och simulering utan referens, som komprimerar tiden och upplöser verkligheten.
Var vi befinner oss i processen av olyckans förstadier är svårt att bedöma.
Systemen är redan på väg att passera våra kognitiva och politiska horisonter och längs utvecklingen riskerar människan successivt att reduceras till en nod i ett nätverk av hastighetsdrivna processer, där det snart inte går att avgöra vad som är sant, falskt, avsiktligt eller emergent.
Det är ingen avlägsen dystopi utan en pågående omstrukturering som varken är nödvändig eller befriad från incitament.
AI-utvecklingen drivs av ett fåtal mäktiga aktörer med egenintressen och utan omsorg om allmänheten eller framtida förluster för livskollektivet.
Vad som fortfarande återstår av vårt gemensamma handlingsutrymme kräver ansvar, att vi politiserar den teknologiska utvecklingen och organiserar oss.
Fönstret håller på att stängas när det gäller att värna friheten och demokratin riskerar att bli en kort parentes i den historiska evigheten, mellan tyrannernas epoker och alltings slut.
nette.wermeld.enstrom@opulens.se
