AI. Debatten om AI fortsätter nu med ett inlägg av Nette Wermeld Enström som anser att Patrik Stigssons syn på AI-utvecklingen präglas av önsketänkande. Hon skriver: ”Stigsson har rätt i att visioner behövs. Men visioner utan maktperspektiv och riskanalys är varken frihetliga eller framsynta.”
Tidigare debattinlägg hittas här och alla texter i Opulens om artificiell intelligens finns här.
Visioner utan verklighetsförankring leder inte till frihet
I debatten med Olle Häggström argumenterar Patrik Stigsson för att AI-utvecklingen bör ledas av visioner snarare än restriktioner. Han liknar teknologiska genombrott vid historiska upptäcktsresor och hoppas på en biocentrisk AI som överskrider mänsklig kortsynthet. I polemik med Häggström ser han även krav på reglering som uttryck för alarmism och ogrundad rädsla.
Det låter frihetligt och progressivt, men Stigssons resonemang utgår från grundläggande missuppfattningar. Dels antar han att AI-riskforskningen drivs av fantasier snarare än empiri och dels tror han att teknologin spontant ska utvecklas mot någon form av moraliskt upplyst biocentrism.
För att bedöma situationens allvar måste vi börja i verkligheten, inte i önsketänkande. Redan idag, innan en superintelligens ens existerar, omformar generativa AI-system våra informations- och kunskapsmiljöer. Studier och testkörningar visar dessutom att modellerna blir allt bättre på att manipulera, kringgå instruktioner och ta egna vägar inom och utom givna ramar. Vi ser därtill att makt koncentreras och hur nya former av sårbarheter uppstår.
Mot denna bakgrund framstår Stigssons kritik som verklighetsfrånvänd. När han beskriver de risker och lösningar som Häggström och andra forskare lyfter som uttryck för alarmism, moralpanik eller rentav hybris så missar han vad forskningsfältet faktiskt analyserar.
Det handlar inte om maskiner som onda eller goda utan om kontrollproblem. Kraftfulla system med felaktigt specificerade mål och bristande styrning kan utveckla handlingsmönster oförenliga med säkerhet och stabilitet. Detta följer av systemdynamik och målrationalitet, vilket är en teknisk och systemteoretisk fråga, inte moralfilosofisk.
Här begår Stigsson sitt centrala felslut genom att han bemöter tekniska argument med moralisk förhoppning.
Intelligens är inget värdeinstrument
Stigsson utgår från att ökad intelligens innebär en bredare värdehorisont, vilket bygger på en underförstådd koppling mellan intelligens och moralisk mognad. Som att högre kognition ger större omsorg om helheten. Problemet är att detta inte är ett tekniskt eller empiriskt samband.
I AI-sammanhang betyder intelligens förmåga till analys, prediktion och optimering. Det är beräkningskapacitet som inte per automatik genererar etisk orientering utan realiserar mål och incitament som formuleras inom de strukturer den utvecklas.
Ett system kan vara överlägset i problemlösning utan att internalisera vare sig mänskliga eller biocentriska värden.
Tvärtom så optimerar dagens modeller snarare mot mål som varken formas av omsorg av biosfären eller global rättvisa. Detta är en blind fläck i Stigssons resonemang.
Historien är ingen naturkraft
Ett annat bekymmer gäller Stigssons syn på historien. När han hänvisar till Columbus och kolonialismen som ett uttryck för utvecklingens dynamik antyder han att teknologiska språng inte kan eller bör bromsas och styras
Men kolonialismen var ingen naturkraft utan resultatet av maktintressen och ekonomiska drivkrafter. Att beskriva den som oundviklig, eller för framsteget nödvändig, är att i efterhand naturalisera beslut och konsekvenser. Det är en historielös tolkning som osynliggör makt, ansvar och alternativ.
Historien är full av projekt som lovat välstånd och frihet. Som Columbus erövring av den nya världen eller dagens techoligarkers jakt på superintelligens och rymdkolonisering. Många har resulterat i hänsynslös exploatering och ökad maktkoncentration.
Att hänvisa till expansionens logik utan att samtidigt analysera risker och makt är därför inget lovande utgångsläge för framtida frihet. Vi har val att göra och beslut att fatta och dessa kommer påverka vår gemensamma värld och verklighet, kanske nu mer än någonsin.
AI – makt och ansvar
AI utvecklas inte i politiska eller filosofiska vakuum utan inom ramen för konkurrerande globala techbolag och stormakters militära och geopolitiska strategier.
Incitamenten formas av specifika intressen och i den samtida kontexten leder oreglerad acceleration knappast till harmonisk balans, utan förstärkning av redan existerande maktförhållanden och en betydande externalisering av risker.
Det senare är extra viktigt att ta hänsyn till. Det finns mycket att vinna men desto mer som står på spel.
Framtida autonoma system kan påverka biologisk design, infrastruktur och resursutvinning på sätt som varken gynnar mänskligheten, det övriga livskollektivet eller biosfären. Så för att AI ska tjäna mänskliga och ekologiska värden krävs just det som Häggström förordar och Stigsson avfärdar: säkerhetsprövningar och tydliga spelregler.
Det är inte uttryck för bakåtsträvande teknikfientlighet utan att erkänna att teknologin verkar inom maktstrukturer och därför måste underställas ansvar.
Osäkerheten i frågan är inte heller symmetrisk. Att vi inte vet exakt hur framtida system kommer utvecklas innebär inte att frånvaro av restriktioner är riskfritt. Tvärtom förstärker osäkerheter behovet av försiktighet
Frihet förutsätter styrning
Stigsson har rätt i att visioner behövs. Men visioner utan maktperspektiv och riskanalys är varken frihetliga eller framsynta.
Det är rent önsketänkande som leder till den starkes rätt.
Kraftfull teknik i mäktiga händer utvecklas inte mot det gemensamma goda av sig själv.
Frihet och välstånd uppstår inte genom frånvaron av regler utan genom att resurser fördelas jämlikt och att makt binds till ansvar.
nette.wermeld.enstrom@opulens.se
