AI. Patrik Stigsson bemöter nu Nette Wermeld Enströms senaste inlägg i debatten om AI-utvecklingen. Han menar att ingen kan ha monopol på verklighetsanknytning i diskussionen om artificiell intelligens.
Nette Wermeld Enströms svar till Stigsson hittar du här. Övriga debattinlägg om AI hittas här och alla texter i Opulens om artificiell intelligens finns här.
Verkligheten är inte ett faktum – den är ett val
Det är värt att påminna om att jag och Wermeld Enström i någon mening befinner oss i samma situation som Christofer Columbus ombord på Santa Maria. Han hade förväntningar om vad resan skulle innebära: rikedom, handel, ära inför kronan och kristen mission. Han tolkade det han mötte genom den karta han redan bar inom sig. Han såg det han redan trodde fanns.
Vi människor möter det okända genom förförståelse, ideologi, önsketänkande och inte så sällan fördomar. Vi navigerar efter teoretiska och filosofiska kartor. Dessa kartor formar vad vi uppfattar som sannolikt, farligt eller möjligt.
När Wermeld Enström beskriver AI-utvecklingen utgår hon från ett ramverk där makt tenderar att koncentreras, där incitament styr teknologins riktning och där osäkerhet motiverar försiktighet. Det är hennes karta. När jag talar om emergens, självorganisering och möjligheten att intelligens kan överskrida nuvarande värdehorisonter är det min karta.
Det är därför missvisande att framställa den ena positionen som strikt verklighetsförankrad och den andra som önsketänkande. Båda perspektiven innehåller antaganden om verklighetens grundton. Är den präglad av maktens gravitation och systemdynamik, eller av emergensens och självorganisering? Detta är två kosmologier som möts på samma däck.
Wermeld Enström uppmanar mig att ”börja i verkligheten”. Problemet är att den verklighet hon uppmanar mig att börja i inte är given – den är ett val. Och det valet är varken neutralt eller okontroversiellt.
Enligt Wermeld Enström är verkligheten inte ett öppet kosmos av möjligheter utan en väv av intressen. Detta är ett filosofiskt – ej empiriskt belagt – ställningstagande.
Jag kan med samma rätt hävda att verkligheten är ett kosmos av möjligheter och att idéer driver historia. Det är inte naivt önsketänkande. Det är en konkurrerande ontologi, och den har minst lika starkt, eller svagt, empiriskt stöd som den Wermeld Enström utgår från.
Ideologiska antaganden
Liknande kategoriska grundsatser återkommer i Wermeld Enströms text: ”Intelligens är inget värdeinstrument.” ”Historien är ingen naturkraft.” ”Frihet förutsätter styrning.” Dessa presenteras som självklara utgångspunkter, men är i själva verket ideologiska antaganden.
Wermeld Enström framställer min position som verklighetsfrånvänd – inte genom att motbevisa mina argument, utan genom att i förväg definiera verkligheten på ett annat sätt än jag gör.
Om verkligheten i grunden är en väv av intressen, och teknologin alltid realiserar den starkastes logik, och historien aldrig är öppen – var finns då utrymmet för det Wermeld Enström efterlyser: ansvarsutkrävande, reglering, en annan ordning? Hur är det under dessa omständigheter möjligt att ställa makten mot väggen, och varifrån kommer förmågan att bryta mot systemets logik?
Wermeld Enström skriver: ”… Stigssons resonemang utgår från grundläggande missuppfattningar. Dels antar han att AI-riskforskningen drivs av fantasier snarare än empiri…”. Det jag skriver är faktiskt raka motsatsen. Ortogonalitet, instrumentell konvergens, CEV är inte ”fantasier”. Min poäng är att dessa modeller saknar tillräcklig empirisk bärkraft för att motivera drastiska politiska ingrepp. Det är en epistemologisk invändning, inte ett påstående om att forskningen är oseriös.
Wermeld Enström fortsätter: ”…. och dels tror han att teknologin spontant ska utvecklas mot någon form av moraliskt upplyst biocentrism.”
Att teknologin spontant ska utvecklas mot någon form av moraliskt upplyst biocentrism finns helt enkelt inte med i min text. Jag argumenterar för emergenta, självorganiserande processer och frihet från centraliserad styrning, men jag gör inga påståenden om att teknologin av sig själv rör sig mot något moraliskt mål överhuvudtaget. Den beskrivningen är framfantiserad av Wermeld Enström.
Osäkerheten beträffande AI
Vad jag faktiskt argumenterar för är att osäkerheten är dubbelriktad – vi vet varken om ohämmad AI-utveckling leder till katastrof eller om kraftig reglering skapar andra problem – och att historiska genombrott ofta uppstår genom kreativ frihet snarare än central kontroll.
Om Wermeld Enströms invändningar beror på slarvig läsning eller faktiskt oförmåga att förstå mitt resonemang vet jag inte. Hennes påståenden är i vilket fall som helst en förvrängning av min text. Wermeld Enströms tillskriver mig positioner jag inte intar.
Diskussionen tjänar för övrigt ingenting på att en sida tar monopol på verklighetsanknytning medan den andra reduceras till naivitet och önsketänkande.
info@opulens.se
