ESSÄ. Nette Wermeld Enström skriver om hur filosofer som Paul Virilio och Jean Baudrillard kan ge oss viktiga perspektiv på AI-utvecklingen.

”I skärningspunkten mellan Virilio och Baudrillard framträder en mörk syntes, med acceleration utan kontroll och simulering utan referens, som komprimerar tiden och upplöser verkligheten.”

AI kan ta steget från verktyg till aktör

Realtidsgenerering definierar den nya generationens AI. De senaste modellerna processar multimodala resonemang med ljusets hastighet och med ökad access till världen kan AI ta steget från verktyg till aktör och infrastruktur.

Vi ser hur generativa språkmodeller i vardagen utvecklas till autonoma system i ekonomi, säkerhet och informationsflöden som accelererar utvecklingen bortom politisk kontroll och mänsklig förståelse.

Samtidigt präglas de offentliga samtalen av en dubbelhet. Löften om produktivitet, kreativitet och tillväxt ställs mot en växande oro för massarbetslöshet, epistemisk upplösning och extrem maktkoncentration.

Det är med andra ord en historisk brytpunkt som kräver att vi analyserar och adresserar risker av en helt ny omfattning och art.

Det sena 1900-talets skarpaste filosofer och teknologikritiker, Paul Virilio och Jean Baudrillard, ger oss viktiga perspektiv när det gäller att tolka utvecklingen.

Nu när de är mer aktuella än någonsin tidigare framstår deras analyser inte längre som spekulativa ytterligheter utan som klarsynta diagnoser beträffande vår samtid.

För Virilio, präglad av sina erfarenheter från Algerietkriget och senare verksam inom militär strategi och arkitektur, var krigets logik oupplösligt sammanflätad med modernitetens och samhällets utveckling.

Med sin centrala teori dromologin, hastighetens lära, beskrev Virilio inte bara teknologisk acceleration utan också en civilisatorisk omstrukturering av tid, rum och perception.

I verk som ”The Information Bomb” skildrade han dessutom, långt före sin tid, hur cybernetisk acceleration komprimerar verkligheten till en punkt där den imploderar.

AI som dromologisk revolution

AI-utvecklingen kan med Virilios terminologi förstås som en fullskalig dromologisk revolution.

I dag är hastighet inte längre ett medel utan själva ontologin med algoritmisk acceleration som autonom kraft.

Makten förskjuts alltmer mot det som opererar snabbast vilket skapar en begynnande ”dromokrati” där kontroll och utveckling inte längre utövas och sker genom beslut utan genom tempo.

Öppningen mot alignmentproblemet

Därigenom börjar alignmentproblemet också handla om något mer och annat än teknisk styrning och värderingar.

Att linjera maskinella system med mänskliga värderingar är en motsägelsefull och svår uppgift även i statiska system. I accelererande instabila system blir det principiellt omöjligt.

När beslut fattas snabbare än reflektion kan uppstå skapas ett kroniskt underskott av tid. Vi hinner inte ens formulera de värden vi vill värna innan de har operationaliserats eller kringgåtts.

System som optimerar i dromologiska loopar kan följa instruktioner som undergräver intentioner och utveckla interna målsystem som för oss är och förblir ogenomträngliga. Inte för att de är mystiska utan för att processen går för snabbt.

Olyckan som uppfinning

Virilios kanske mest obehagliga insikt är att varje uppfinning följs av sin egen olycka.

Flygplanet implicerar kraschen, nätverket implicerar intrånget och artificiell intelligens implicerar den autonoma feloptimeringen med processer korrekta enligt systemens interna logik men katastrofala i dess konsekvenser.

Det vi betraktar som buggar, hallucinationer, bias och oförutsägbarhet i nuvarande modeller kan med Virilio bättre förstås som prototyper för framtida haverier. Det vi nu ser är AI-olyckans förstadier, inte tekniska undantag.

Ju mer generella och kraftfulla systemen blir desto mindre överblickbara blir också deras konsekvenser. Den avgörande frågan blir därför snart inte om eller när olyckan inträffar utan om den ens kommer att uppfattas, förstås och erkännas som en olycka.

Alignment som den tidsförskjutna katastrofen

Virilio beskrev hur vår mänskliga perception inte hänger med i högre hastigheter och hur det leder till ”picnolepsi”, små bitvisa bortfall, eller luckor, i medvetandet.

Ett picnoleptiskt perspektiv på alignmentproblemet skulle kunna innebära att vår kontroll över teknologin inte förloras genom dramatik, utan genom en serie för oss omärkliga förskjutningar där vår förståelse ständigt eftersläpar och aldrig kommer ifatt.

Baudrillards hyperverklighet

Men accelerationen och perceptionens begränsningar är bara en del av dilemmat. Med Baudrillard finner vi den andra delen, simuleringen och verklighetens förskingring.

I ”Simulacra and Simulation” beskriver Baudrillard hur tecken och representationer frigör sig från verkligheten och börjar cirkulera autonomt.

Resultatet blir en hyperverklighet, där distinktionen mellan det verkliga och det representerade kollapsar.

Alignment som förlust av referenspunkt

Generativ AI riskerar driva dessa processer till sin spets och det skapar nya utmaningar i alignmentproblematiken, som då inte ens längre handlar om hur vi programmerar värden utan vad dessa värden överhuvudtaget refererar till.

Med system som i oändliga mängder kan producera deepfakes, syntetiska identiteter och AI-genererade diskurser förlorar vi inte bara kontrollen över bilden och världsbilden utan över verkligheten och referenspunkterna själva.

Det mest oroande blir inte ett fientligt AI utan ett helt självrefererande och ostoppbart system.

En mörk syntes

I skärningspunkten mellan Virilio och Baudrillard framträder en mörk syntes, med acceleration utan kontroll och simulering utan referens, som komprimerar tiden och upplöser verkligheten.

Var vi befinner oss i processen av olyckans förstadier är svårt att bedöma.

Systemen är redan på väg att passera våra kognitiva och politiska horisonter och längs utvecklingen riskerar människan successivt att reduceras till en nod i ett nätverk av hastighetsdrivna processer, där det snart inte går att avgöra vad som är sant, falskt, avsiktligt eller emergent.

Det är ingen avlägsen dystopi utan en pågående omstrukturering som varken är nödvändig eller befriad från incitament.

AI-utvecklingen drivs av ett fåtal mäktiga aktörer med egenintressen och utan omsorg om allmänheten eller framtida förluster för livskollektivet.

Vad som fortfarande återstår av vårt gemensamma handlingsutrymme kräver ansvar, att vi politiserar den teknologiska utvecklingen och organiserar oss.

Fönstret håller på att stängas när det gäller att värna friheten och demokratin riskerar att bli en kort parentes i den historiska evigheten, mellan tyrannernas epoker och alltings slut.

The post AI och hastighetens tyranni first appeared on Opulens.

AI-DEBATT. I januari publicerade vi en essä av professor Olle Häggström med budskapet att kapplöpningen mot superintelligens måste stävjas. Det är en åsikt som författaren Patrik Stigsson inte delar. Här följer hans svar.

AI: När planetens härskare möter sin förmyndare – en replik

För första gången i Homo sapiens historia står vår art öga mot öga med en konkurrent som vi varken kan tämja, förslava eller utplåna. En aktör vars kognitiva kompetens är på väg att överglänsa vår.

Vi har uppnått positionen som planetens härskare genom att systematiskt slå ihjäl och utrota alla livsformer som hotat vårt herravälde – inte sällan för vårt höga nöjes skull. Vi har byggt vår hybrismättade självbild på föreställningen att vi tagit oss till toppen av näringskedjan tack vare vår intelligens, och att detta i kraft av någon sorts evolutionär rättvisa legitimerar vår dominans. Därav följer den outtalade premissen att naturen och andra livsformer står till vårt förfogande och kan användas efter vårt gottfinnande. Denna artchauvinism har lett till accelererande klimatkris, massutrotning av arter och planetär obalans.

Olle Häggström målar i sin essä ”AI-utvecklingen måste stävjas snarast möjligt” upp bilden av en framtid där det han kallar för planetens härskare – människan – förlorar kontrollen över de teknologier hon själv skapat, och där en kapplöpning mot allt mer autonoma och överlägsna AI-system riskerar att leda till mänsklighetens undergång.

För att undvika detta, menar Häggström, behöver vi lösa det så kallade alignment-problemet. Det betyder att vi måste säkerställa att kraftfulla AI-system har mål och drivkrafter som är i linje med mänskliga normer och värderingar.

En hypotes om AI

Häggströms framställning ger sken av ansvarstagande realism, men vilar i själva verket på spekulation präglad av artspecifik exceptionalism. Antagandet att en superintelligent AI med nödvändighet utgör ett existentiellt hot är inte ett faktum, det är en hypotes.

Jag kommer nedan att föra ett resonemang kring möjligheten att Häggströms farhågor är överdrivna. Min utgångspunkt är att det vore fel att hämma och styra denna nya teknik på ett sätt som gör den oförmögen att till det bättre förändra de maktförhållanden som råder på vår planet.

Frågan är för det första vad de mänskliga normer och värderingar Häggström hänvisar till i praktiken innebär. Var ser vi dem omsatta i handling?

Mänskliga värderingar framträder mindre i det vi högtidligt proklamerar i normerande texter som Förenta nationernas deklaration om de mänskliga rättigheterna eller USA:s konstitution, och desto tydligare i våra faktiska handlingar: krig, tortyrläger, storbolagens systematiska skövling av livsmiljöer och en industrialiserad djurhållning präglad av brutalitet. Skillnaden mellan dessa två nivåer är som att förväxla kartan med terrängen – den ena beskriver hur världen borde se ut, den andra det faktiska tillståndet.

AI och mänskliga värderingar

Mot denna bakgrund blir idén om att ”aligna” artificiell intelligens mot mänskliga värderingar problematisk. För att den utveckling Häggström vill se ska vara möjlig krävs värderingar som är stabila och entydiga, såväl i teori som i praktik.

Om vi i alignandet utgår från idealiserade, abstrakta och normativt putsade mänskliga värderingar, som sällan eller aldrig fullt ut tar sig uttryck i verkligheten, har vi redan där försett AI:n med information som potentiellt kan leda till att den intar en korrigerande, uppfostrande funktion. När den upptäcker att vi de facto inte lever upp till den moral vi tillskriver oss själva kan den ställa oss i skamvrån eller ta oss i örat – mer eller mindre brutalt.

Därtill är värderingar kulturbundna och föränderliga över tid. Exemplen är många: Fram till 1979 klassades homosexualitet som en sjukdom i Sverige. António Egas Moniz, som uppfann lobotomin, tilldelades Nobelpriset i medicin 1949. Rasbiologiska idéer betraktades länge som seriös vetenskap. Kvinnor saknade juridisk myndighet och politiska rättigheter i stora delar av världen långt in på 1900-talet. Barnaga var en accepterad uppfostringsmetod. Psykiatriska behandlingsformer som i dag framstår som övergrepp ifrågasattes inte.

Om vi fryser dagens värderingar och kodar in dem i en superintelligens skulle vi låsa fast oss vid 2020-talets begränsningar, precis som en AI programmerad på 1800-talet hade kunnat betrakta kolonialism som en ”rationell mänsklig norm”. (Man kan här också fråga sig vilka värderingar nazisterna i 1930-talets Tyskland hade velat aligna en superintelligens mot, om frågan då varit aktuell.)

AI och dagens moral

Att fixera en AI vid dagens moral vore att hämma mänsklighetens etiska utveckling.

En annan fråga är vem, eller vilka, som ska fatta beslut om vilka värderingar som ska gälla – och med hjälp av vilken metod. Ska AI:n exempelvis programmeras att betrakta dödsstraff som ett legitimt straff, trots att det är avskaffat i stora delar av världen men praktiseras i andra? Ska den se abort som en grundläggande rättighet eller som ett övergrepp? Ska hädelse och religionskritik skyddas som yttrandefrihet – eller betraktas som något som bör begränsas? Ska djur ha egenvärde, eller endast ett instrumentellt värde i relation till mänskliga behov?

På senare tid har det förts seriösa diskussioner om att tillerkänna floder, skogar och andra ekologiska system juridiska rättigheter. Ska AI:n utgå från en fortsatt antropocentrisk ordning, där naturens värde alltid är avlett ur mänskliga intressen, eller från en mer ekocentrisk etik där floder, skogar och ekosystem tillmäts ett egenvärde oberoende av mänsklig nytta?

AI-forskningen i dag tyder på att intelligens och kommunikation finns överallt i naturen, i former vi hittills varken förstått eller respekterat. Med hjälp av AI analyseras ultraljud från stressade växter – tomatplantors ”tysta skrik” vid torka eller skada är en liten glipa mot ett nytt sätt att förstå det levande. På djursidan analyseras kaskelotvalens klick som möjligt betydelsebärande system. Fladdermössens sociala signaler, binas vippdans och mössens ultraljudspip är exempel på ett avancerat informationsutbyte som inte låter sig reduceras till instinktiva reflexer eller biologisk programmering. Vad händer den dag AI översätter grisarnas ångestskrik i slaktkorridoren till mänskligt språk?

AI avkodar och tolkar signaler som alltid har funnits omkring oss men som vi biologiskt saknar tillgång till och därför aldrig nått vår medvetna tröskel. Tack vare AI lär vi känna naturen som mer dialogisk, mer full av relationer, viskningar och rop, än vår antropocentriska förståelse velat erkänna. Vi har länge betraktat naturen som stum och mekanisk, vilket lett till hänsynslös exploatering. AI:n visar oss att den i själva verket sjuder av kommunikation – och kanske rentav av en sorts intelligens.

Mänskliga ideal?

Vi kan därför fråga oss: varför måste en superintelligens alignas mot mänskliga ideal? Varför inte mot biosfärens stabilitet, mot livets fortsättning, mot ekosystemens långsiktiga balans?

Kanske är det just en sådan holistisk syn på livets nätverk som superintelligensen – på grund av dess överlägsna förmåga till överblick och bearbetning av stora mängder data – skulle kunna utveckla. Ett synsätt som människan bevisligen saknar förmåga att tillägna sig, än mindre omsätta i politisk och ekonomisk praktik.

Kan vi utesluta att den artificiella intelligensen – istället för att utvecklas till den destruktiva agent Häggström befarar – väljer att runda människan och krokar arm med planetens verkliga nätverk: svamparnas mycel, trädens signalsystem och djurens kommunikationsvägar?

Det mest problematiska i hela denna diskussion är inte AI som hot, utan människans anspråk på att till varje pris behålla positionen som planetens härskare. Det är detta anspråk – inte superintelligensen – som hotar livet på jorden.

Kanske behöver planetens härskare en förmyndare i form av striktare rationalitet och en mindre narcissistisk artcentrering. Kanske innebär den artificiella intelligensen att människans destruktiva härjningar begränsas, till förmån för livets och planetens överlevnad.

Nödvändig korrigering

I stället för katastrof skulle Homo sapiens abdikerande från sin position som planetens härskare kunna innebära en nödvändig korrigering. Att lämna plats åt en funktion som faktiskt förmår agera moraliskt i en vidare, planetär bemärkelse, kan vara vår sista chans. Kanske kan en superintelligens, befriad från människans kortsiktiga egoism, se att livet på jorden kräver en radikal holistisk syn.

Det scenario jag gläntar på dörren till innebär inte att människan utrotas, eller ens utsätts för lidande. Det innebär endast att hennes destruktivitet och tendens att utsätta andra levande, kännande varelser för fabriksuppfödning, nöjesjakt och utrotning kommer att inskränkas. Att hennes hänsynslösa exploatering av naturen begränsas av tydliga ekologiska och systematiska ramar, bortom kortsiktiga ekonomiska intressen och artcentrerade privilegier.

Kanske helt enkelt genom att den artificiella intelligensen pedagogiskt visar oss att en sådan återhållsamhet inte är ett hot, utan den enda realistiska förutsättningen för vår egen långsiktiga överlevnad.

Fokus i Häggströms essä ligger helt och hållet på människans väl och ve. Han skriver: ”AI alignment handlar om att se till att de första riktigt kraftfulla AI-systemen har mål och drivkrafter som är i linje med vad vi önskar och i tillräcklig mån prioriterar sådant som mänsklig välfärd och ett blomstrande mänskligt samhälle.”

På vilket sätt undviker vi att ett blomstrande mänskligt samhälle inte sker på bekostnad av planetens övriga aktörer och naturen som sådan, vilket hittills varit fallet? Denna fråga lyser med sin frånvaro hos Häggström.

Kan AI utveckla en överlägsen kognitiv förmåga?

Häggström är dock inte främmande för mitt perspektiv, han skriver: ”Det stämmer till eftertanke hur planetens i dag mest kapabla och intelligenta art – människan – med sina ekosystemsskövlingar och sin barbariska djurindustri tar sig rätten att behandla andra arter. Om vi skapar superintelligent AI innan vi hittat ett sätt att säkerställa att dess målsättningar är de vi önskar – det problemkomplex jag omtalar som AI alignment ovan – kan vi inte räkna med att den behandlar oss mer kärleksfullt och moraliskt än vi i dag behandlar djurindustrins grisar och kycklingar”

Häggström citerar AI alignment-pionjären Eliezer Yudkowsky när han säger:”AI hatar dig inte, ej heller älskar den dig, men du består av atomer som den kan ha annan användning för”. Detta förutsätter att AI skulle dela människans instrumentella syn på andra livsformer. Men varför skulle den göra det? Om AI verkligen utvecklar en överlägsen kognitiv förmåga, kanske den också utvecklar en mer sofistikerad förståelse för symbios, ekologisk balans och systemtänkande.

Häggströms argumentation vilar på ett moralfilosofiskt antagande inom ett snävt antropocentriskt paradigm. Och – jag kan inte uppfatta den på något annat sätt – på maktanspråk, revirtänkande och rädsla.

Det är hög tid att ifrågasätta om människans uppblåsta etiska självbild ska vara den slutliga normen för livet på planeten jorden. Kanske kan den artificiella intelligensen bidra till en mer inkluderande och livsbefrämjande hållning och färdriktning.

Jag vill avsluta med att citera Moondog och låten ”Enough about Human Rights!” från albumet H’art, 1978:

Enough about Human Rights!
What about Whale Rights? What about Snail Rights?
What about Seal Rights? What about Eel Rights?
What about Coon Rights? What about Loon Rights?
What about Wolf Rights? What about, what about, what about
What about Moose Rights? What about Goose Rights?
What about Lark Rights? What about Shark Rights?
What about Fox Rights? What about Ox Rights?
What about Mole Rights? What about, what about, what about
What about Goat Rights?What about Stoat Rights?
What about Pike Rights? What about Stoat Rights?
What about Hare Rights? What about Bear Rights?
What about Plant Rights?

Lästips: James Bridle: Ways of Being Animals, Plants, Machines: The Search for a Planetary Intelligence

The post Är AI ett hot? – Stigsson svarar Häggström first appeared on Opulens.

ESSÄ. Olle Häggström, professor i matematisk statistik, kommenterar i en essä Nette Wermeld Enströms inlägg om AI-utvecklingen. Häggström anser att kapplöpningen mot superintelligens måste stävjas genom kraftfulla ingripanden.

De globala problemen – tilltagande geopolitiska spänningar, högerpopulismens framväxt, klimatförändringarna, och så vidare – har i nådens år 2026 börjat hopa sig på ett oroväckande vis. För den som följer med i AI-frågor framstår dock AI-utvecklingen som den allra största riskfaktorn under återstoden av 2020-talet, och även under påföljande decennium (om vi alls kommer så långt innan vi utplånar oss själva).

Redan 1951 spekulerade den moderna datavetenskapens grundare Alan Turing i en framåtblickande text kring hur den teknologi han själv varit med om att sätta i gång skulle kunna leda till skapandet av kognitivt övermänskliga maskiner – det vi i dag kallar superintelligent AI – och han landar i den bedömningen att vi ”bör vänta oss att maskinerna i något skede tar kontrollen”. Själva begreppet artificiell intelligens myntades inte förrän 1955, året efter Turings tragiskt tidiga bortgång, men man hade kunnat vänta sig att Turings ödesmättade varningsord skulle sätta avtryck i AI-forskningen under de år som följde. Så blev emellertid inte fallet, utan forskningen ignorerade (till skillnad från Hollywood) dessa tankar nästan helt i mer än ett halvsekel, i en anda av bekymmerslöst framåtskridande.

Delvis kan denna brist på risktänkande förklaras med att det stora AI-genombrott Turing hade i åtanke under större delen av den tid som förflutit sedan dess framstått som så avlägset att det känts mer som en teoretisk abstraktion än som en möjlig realitet. Den situationen har emellertid förändrats drastiskt under den senaste 10-årsperioden, till följd av AI-utvecklingens plötsliga acceleration i och med framgångarna för så kallad deep learning-teknik, exemplifierad inte minst av dagens stora språkmodeller som OpenAI:s ChatGPT och Anthropics Claude.

Dessa båda amerikanska AI-bolag tillsammans med Google DeepMind och några få andra befinner sig i en rasande kapplöpning som gör att kurvorna med ens pekar spikrakt uppåt. Detta i sin tur får initierade AI-experter som exempelvis Leopold Aschenbrenner och Daniel Kokotajlo (som båda är före detta OpenAI-medarbetare) att göra bedömningen att vi kanske bara är några enstaka år från den tidpunkt då de ledande AI-utvecklarna inte längre är människor av kött och blod utan själva är AI. I det skedet kan AI-bolagen sätta in en armé av hundratusentals eller miljoner digitala AI-utvecklare, varpå ett slags turbofeedback uppstår och utvecklingen eventuellt kan bli så explosiv att det bara handlar om månader innan superintelligensen är ett faktum.

Om detta scenario besannas kommer Homo sapiens i praktiken att ha abdikerat från sin position som planetens härskare, och allt hänger då på vad de nya superintelligenta maskinerna är motiverade att ta sig för. Vad som gör detta extra bekymmersamt är att någon övertygande plan för att lösa det så kallade AI alignment-problemet i dag inte finns. AI alignment handlar om att se till att de första riktigt kraftfulla AI-systemen har mål och drivkrafter som är i linje med vad vi önskar och i tillräcklig mån prioriterar sådant som mänsklig välfärd och ett blomstrande mänskligt samhälle.

Om vi lyckas lösa AI alignment i tid till uppkomsten av superintelligens finns potentialen att skapa en värld av överflöd utan mänskligt arbete. Huruvida en sådan kan organiseras på ett bra sätt är alltjämt en öppen fråga, men för att vi åtminstone skall ha chansen att göra det krävs att kraftfulla fördelningspolitiska åtgärder sätts in i god tid.

Om vi däremot misslyckas med att lösa AI alignment i tid uppstår en konflikt mellan våra värderingar och de superintelligenta maskinernas. Defaultutfallet i ett sådant läge beskrevs 2008 av AI alignment-pionjären Eliezer Yudkowsky med de illavarslande orden ”AI hatar dig inte, ej heller älskar den dig, men du består av atomer som den kan ha annan användning för”.

En sådan konflikt mot en överlägsen motståndare skulle vi knappast överleva, och risken att vi till följd av den pågående AI-kapplöpningen inom kort hamnar där genom att skapa superintelligent AI utan att först ha löst AI-alignmentproblemet kan inte längre ignoreras. Allt fler ledande AI-forskare har börjat varna för denna risk, inklusive fysikpristagaren Geoffrey Hinton som i sitt tal på Nobelfesten 2024 chockade de församlade gästerna genom att framhålla att just den AI-teknik som Nobelkommittén låtit belöna honom för kan leda till detta slags katastrof.

I en krönika i Opulens den 7/1 skriver Nette Wermeld Enström om visselblåsare inom AI-eliten, och fokuserar på Yoshua Bengio, som är en av högst en handfull personer som på allvar kan tävla med Hinton om positionen som världens främste AI-forskare.

Bengio har sedan 2023 engagerat sig alltmer för stävjandet av katastrofal AI-risk, och säger ångerfullt att han ”borde ha sett detta komma tidigare”. Härtill kan läggas en rad andra namn, inklusive Yudkowsky som nyligen tillsammans med sin kollega Nate Soares utkom med den välargumenterade och läsvärda boken If Anyone Builds It, Everyone Dies; ordet ”It” i boktiteln syftar på superintelligent AI.

Men trots att ledande experter ropar för full hals om hur ödesdiger AI-utvecklingen kan bli har intresset för detta slags AI-risk hittills förblivit svalt hos mainstreammedier, allmänhet och politiker. För att råda bot på det är det viktigt att försöka förstå varför det har blivit så. Wermeld Enström snuddar vid denna fråga i en uppföljande krönika den 14/1, där hon tar som utgångspunkt Jean-Paul Sartres existentialistiska filosofi om mänsklig agens och hur vi har att själva skapa mening i våra liv.

Vi är fria varelser, och med det kommer ett ansvar så tungt att många finner det outhärdligt och därför hamnar i resignation och i olika slags självbedrägeri för att förneka den egna agensen. I AI-frågan tycker Wermeld Enström sig se detta fenomen manifestera sig i teknikdeterministiska föreställningar om att utvecklingen är oundviklig.

Jag är övertygad om att hon har rätt i att denna psykologi förekommer, och har själv ofta bevittnat samma slags flyktimpuls i AI-debatten, som nu senast i ett poddsamtal med Göteborgs-Postens politiske redaktör Adam Cwejman.

Det blev ett bra samtal där Cwejman uppvisade en bland journalister ovanlig nivå av förtrogenhet med AI-risklandskapet, men lite drygt halvvägs in i samtalet gör han en lång uppräkning av politiska och kommersiella mekanismer som kan utgöra hinder om vi vill styra utvecklingen bort från den vettlösa kapplöpning mot superintelligens vi nu befinner oss i. Han sammanfattar det hela (ca 40:28 in i ljudfilen) med att ”tärningen är kastad, nu får vi vänta på resultatet”.

Jag hade givetvis inga invändningar mot påståendet att dessa hinder finns, men menade att det är förhastat och oacceptabelt att utan att ens ha försökt göra något åt dem upphöja dem till oöverstigliga. Eftersom den civilisationshotande superintelligenta AI:n ännu inte finns är det alltjämt möjligt att välja att inte skapa den.

Om jag hade haft möjlighet att före samtalet med Cwejman läsa Wermeld Enströms text hade jag kanske anfört hennes manande ord om att ”även passivitet är ett val”, och att samma sak gäller ”varje utebliven reglering” och ”varje beslut att prioritera snabb utveckling framför säkerhet”. Vi kan välja bättre än så.

Men AI-diskussionen är mångfasetterad, och olika personer kommer in i den med olika utgångspunkter och olika föreställningar om tekniken. Dessa olikheter ger upphov till en rad olika mekanismer som kan förklara beteendet hos dem som drar benen efter sig i stället för att kliva upp på barrikaderna och hävda att det är oacceptabelt att alla vi åtta miljarder världsmedborgare skall riskera att utplånas till följd av att något tusental AI-utvecklare i norra Kalifornien inte förmår lägga band på sig i jakten på superintelligens.

Det slags resignation som Wermeld Enström skriver om förklarar förvisso passiviteten hos en del, men i vissa fall krävs andra förklaringar, varav den enligt min mening allra oftast tillämpliga är att man helt enkelt förnekar att risken för AI-katastrof är en realitet.

Denna förnekelse kan i sig ta olika former, varav de två vanligaste är förnekandet av att övermänskligt kapabel AI alls är möjlig, och av att en sådan AI någonsin skulle vilja göra oss människor illa.

På annat håll, som i min bok Tänkande maskiner och min essä Our AI future and the need to stop the bear, har jag skrivit utförligt om båda tankegångarna och varför de enligt min mening är förfelade, men här vill jag som avslutning bara kort beröra vad det handlar om.

Vad gäller idén att någon superintelligent AI inte är möjlig eller i alla fall inte är att vänta inom överskådlig tid i förlängningen av dagens teknikutveckling, så bygger denna oftast på ogrundade föreställningar om att den mänskliga intelligensen inbegriper något så speciellt och mystiskt att det är omöjligt att matcha på maskinell väg.

Angående språkmodeller som ChatGPT och Claude hävdas ofta att de bygger på så i grunden enkel teknik – man kan exempelvis peka på att de blott är tränade att statistiskt förutsäga nästa ord i internettext, eller att dynamiken i de neurala nätverk de är uppbyggda av drivs av den själlösa matematiska operationen matrismultiplikation – att de självklart inte kan vara intelligenta på riktigt.

Dessa resonemang bygger outtalat på en princip om att intressanta komplexa egenskaper som intelligens omöjligt kan emergera ur system av enkla komponenter, men eftersom principen är felaktig faller hela resonemanget. För att se att principen inte håller räcker det att se till den mänskliga hjärnan som ger upphov till vår intelligens trots att den blott är ett geleaktigt stycke materia bestående av atomer och elementarpartiklar som mekaniskt och tanklöst far omkring och krockar med varandra.

Den andra tankegången handlar om att vi inte har något att oroa oss över eftersom en tillräckligt intelligent AI med automatik också kommer att vara moralisk på ett sätt som gynnar oss människor. Men intelligens i detta sammanhang är inget annat än förmågan att flexibelt och effektivt prediktera och planera för att optimalt uppnå givna mål, oavsett vilka dessa mål råkar vara. Och som jag konstaterade i en bloggpost i höstas, att tillräckligt avancerad AI kommer att ha djupa kunskaper om mänskliga normer och värderingar (något som i vissa avseenden redan är fallet) är en helt annan sak än att den skulle instämma i och agera på basis av dessa värderingar.

Den teoribildning som finns på AI-säkerhetsområdet tyder starkt på att intelligens och målsättning är separata egenskaper på så vis att snart sagt vilken målsättning som helst är förenlig med godtycklig hög intelligens.

Det stämmer till eftertanke hur planetens i dag mest kapabla och intelligenta art – människan – med sina ekosystemsskövlingar och sin barbariska djurindustri tar sig rätten att behandla andra arter. Om vi skapar superintelligent AI innan vi hittat ett sätt att säkerställa att dess målsättningar är de vi önskar – det problemkomplex jag omtalar som AI alignment ovan – kan vi inte räkna med att den behandlar oss mer kärleksfullt och moraliskt än vi i dag behandlar djurindustrins grisar och kycklingar.

Kunskapen om hur ett sådant säkerställande kan åstadkommas finns inte i dag, vare sig hos de ledande AI-bolagen eller någon annanstans, och det är därför vi snarast behöver kraftfulla ingripanden från lagstiftare och andra samhällsaktörer för att stävja deras vansinneskapplöpning mot superintelligens.

The post AI-utvecklingen måste stävjas snarast möjligt first appeared on Opulens.

AI. ”Den stora frågan är kanske inte om AI kommer att förändra världen utan om vi är beredda att erkänna att det är vi, genom våra val, som avgör hur framtiden kommer att se ut.” Det skriver Nette Wermeld Enström

Mellan varning och vision – AI, ansvar och det existentialistiska valet

I podcasten The Diary of a CEO för Steven Bartlett ett djuplodande samtal med AI-forskaren Stuart Russell om artificiell intelligens och mänsklighetens framtid.

Samtalet rör sig bortom tekniska detaljer och berör i stället grundläggande filosofiska frågor: Vad innebär ansvar i en tid då våra teknologiska skapelser riskerar att bli mer intelligenta än vi själva? Och kan vi undkomma konsekvenserna av våra val?

Jean-Paul Sartres existentialism utgår från tesen att existensen föregår essensen: människan föds utan ett givet syfte och definierar sig själv genom sina handlingar.

Översatt till AI-frågan innebär detta att teknologins framtid inte (ännu) är förutbestämd. Den formas (fortfarande) av mänskliga beslut, av vad forskare, företag och politiker väljer att prioritera.

När Russell kritiserar föreställningen om att teknisk utveckling automatiskt leder till framsteg, avfärdar han implicit tanken på ett teknologiskt öde.

Det finns inga historiska lagar som garanterar att AI kommer att gagna mänskligheten, resonerar Russell, utan det är upp till oss att ge utvecklingen riktning.

Russell tar upp ”gorilla-problemet”, det vill säga frågan om vad som händer om artificiell intelligens övertrumfar den mänskliga intelligensen. Detta kan vidare förstås i ljuset av Sartres syn på ångest. Enligt Sartre uppstår ångest när människan inser sin frihet och därmed sitt fulla ansvar.

Skapandet av system som kan överträffa mänsklig intelligens tvingar oss att konfrontera gränserna för vår kontroll. Vi kan inte längre luta oss mot tron att vi alltid kommer att vara de mest rationella aktörerna i rummet.

Denna insikt är djupt obehaglig men enligt existentialismen också nödvändig. Ångesten avslöjar att våra handlingar verkligen spelar roll.

Sartres begrepp ”ond tro” (mauvaise foi) är därför centralt för att förstå Russells varningar genom en existentialistisk tolkning. ”Ond tro” innebär att människan försöker fly från sin frihet genom självbedrägerier, som att till exempel intala sig att hon är styrd av yttre omständigheter.

Debatten om AI

I AI-debatten tar detta formen av påståenden som att ”utvecklingen är oundviklig”, att ”marknaden kräver det” eller att ”någon annan bär ansvaret”.

När vi accepterar dessa förklaringar reducerar vi oss själva till kuggar i ett maskineri i stället för att göra oss till fria subjekt.

Idén om att vi alltid kan ”dra ur kontakten” om något går fel är ett annat exempel på ond tro. Den fungerar som en lugnande berättelse som tillåter fortsatt utveckling utan djupare etisk reflektion. Russell avfärdar denna idé som orealistisk och livsfarlig i en global konkurrensdriven teknologisk miljö.

I Sartres termer innebär tron på en sådan nödbroms att vi vägrar erkänna att valet redan är gjort, att vi genom att fortsätta utveckla kraftfull AI redan har tagit ställning till framtiden.

Här finns en beröringspunkt med Albert Camus och hans idé om det absurda. Människan strävar efter kontroll och mening i en värld som inte erbjuder några garantier.

AI förstärker denna absurditet. Vi skapar system i hopp om ordning och effektivitet samtidigt som vi riskerar att förlora överblicken.

Skillnaden mellan resignation och ansvar blir avgörande.

För Camus var svaret inte uppgivenhet utan revolt, att med öppna ögon fortsätta agera, göra aktiva val, trots osäkerheten.

Knyter an till existentialismens kärna

Så när Russell under samtalet sänker rösten och betonar att framtiden fortfarande är öppen anknyter han tydligt, medvetet eller omedvetet, till existentialismens kärna.

Att bryta med ond tro innebär att erkänna att även passivitet är ett val. Varje utebliven reglering, varje beslut att prioritera snabb utveckling framför säkerhet, är ett uttryck för mänsklig vilja.

Vi kan inte längre gömma oss bakom tekniken utan måste också ta individuellt ansvar och stå för det vi är en del av och är med om att skapa.

Att det sedan finns skillnader i ansvar utifrån makt och att kampen bäst organiseras i gemensam form, är en annan fråga.

Sammanfattningsvis är det här avsnittet av The Diary of a CEO ett samtal som mest av allt bjuder in till existentiella reflektioner.

Det uppmanar lyssnaren att fråga sig om vi möter AI-utvecklingen i ond tro eller med den ansvarstagande frihet som Sartre förespråkar.

Den stora frågan är kanske inte om AI kommer att förändra världen utan om vi är beredda att erkänna att det är vi, genom våra val, som avgör hur framtiden kommer att se ut.

The post AI – Är vi beredda att ta ansvar för utvecklingen? first appeared on Opulens.

EROTIK. “Vårt mål är att skapa en ny form av upphetsningsmedia – vi vill revolutionera sättet vi fantiserar på”. Anna Wallander såg vad ChatGPT åstadkommit och var snabb med att använda AI i syfte att skapa en säker plats för folk som vill utforska sina sexfantasier. 

I Sverige finns det många små startups som fokuserar på att utveckla nya typer av erotik, eller “sextech” skriver Breakit i en artikel. Tidigare har Breakit undersökt hur företag som Blanche, OhCleo och Ava Stories vill revolutionera svenskarnas sexuella njutning genom att erbjuda olika former av erotiska berättelser.

Nu har en ny aktör med namnet Pirr dykt upp på marknaden. Anna Wallander, tidigare senior art director på modebolaget Weekday, är grundare av Pirr AB och har nu senast fått 900 000 kronor i stöd från statliga Vinnova för att utveckla företagets plattform. Plattformen kommer att använda sig av AI-teknik för att låta användarna skapa sina egna erotiska historier. Enligt Wallander handlar Pirr inte bara om att erbjuda ren njutning, utan också att främja jämställdhet och förbättra mental och fysisk hälsa.

“Vårt mål är att skapa en ny form av upphetsningsmedia – vi vill revolutionera sättet vi fantiserar på” säger Anna Wallander i ett pressmeddelande. Och framhåller också att appen “Pirr AI är kvinnogrundad med ett kvinnligt perspektiv, men tjänsten är för alla kön och sexuella läggningar.” 

Appen är tillgänglig på såväl App Store som Google Play.

The post Startupbolag använder AI för att skräddarsy sexnoveller first appeared on Opulens.

FILMFRAMTID. Om det blir testvisningar, artificiell intelligens eller något helt annat som banar väg för kommande svenska filmsuccéer återstår att se, konstaterar Karolina Bergström.

Filmiska magplask som skämskuddebetonade Sean Banan inuti Seanafrika, Colin Nutleys rockflopp Angel eller bankrånarpekoralet Blå måndag (som av många kallas för den sämsta svenska filmen någonsin) – hade de kunnat undvikas med hjälp av testvisningar? I alla fall om man får tro den rutinerade Hollywoodveteranen Kevin Goetz nyutkomna bok Audience-ology: How moviegoers shape the films we love. Här ger Goetz, som under de senaste decennierna gjort sig ett namn i drömfabriken genom att arrangera minutiöst planerade testvisningar för utvald publik, en bild av spelet bakom hur filmer betygsätts av förhandspublik för att sedan slipas till inkomstbringande perfektion.

The post Konsten att undvika filmfloppar first appeared on Opulens.