AI-DEBATT. I sitt svar på Olle Häggströms senaste inlägg framhåller Patrik Stigsson sin tilltro till de spontana ordningar som uppstår när intelligens – mänsklig såväl som artificiell – ges utrymme att verka fritt.
Den nya världen
Efter 31 dygn till havs utan land i sikte nådde paniken sin kulmen ombord på den tremastade karacken Santa Maria. Besättningen ställde Christofer Columbus mot väggen. De hotade med myteri; de var övertygade om att det utlovade landet bortom horisonten inte existerade. De befarade att de under svåra kval inom kort skulle möta döden. Det enda de såg som rationellt var att segla tillbaka till Spanien innan det var för sent. De ville överleva. De ville hem.
Columbus lyckades övertyga dem att fortsätta. När han halvtannat dygn senare såg stora flockar av fåglar på himlen ändrade han kurs. Dagen därpå klev Columbus och hans män i land på vad européerna skulle kalla den Nya världen.
Vad hade hänt om Columbus lyssnat på besättningen, vänt skutan och seglat tillbaka till Spanien. Hade den amerikanska kontinenten då förblivit ”oupptäckt”?
Vad hade hänt om de europeiska kungahusen hårt hade reglerat de maritima visionärernas initiativförmåga, kreativitet, mod, nyfikenhet och upptäckarlusta?
Kanske hitttar vi svaret på dessa frågor i Victor Hugos bevingade ord: ”Ingenting är kraftfullare än en idé vars tid har kommit”. När de rätta förutsättningarna föreligger, är en idé omöjlig att stoppa.
AI, vår tids färd mot en ny värld
Vår tids AI-kapplöpning liknar situationen på Santa Maria. Vi befinner oss på öppet hav utan land i sikte. Den gamla kontinenten av industriell modernitet ligger akterut, den nya intelligensens eventuella välsignelser är ännu dolda bortom horisonten.
Olle Häggström och andra ombord säger att kaptenen inte vet vad han håller på med. Båten är för kraftfull, för komplex, och maskineriet tycks ha en egen vilja. De påstår sig ha sett en förödande och oundviklig tornado vid horisonten. När vi seglar in i den kommer skeppet att slås i spillror och alla ombord drunkna. De säger att vi måste kasta ankare, kanske till och med försöka vända tillbaka mot den mer begripliga och kontrollerbara kontinent vi lämnade.
Jag och några till hävdar att det faktum att vi inte ser land inte behöver betyda att vi närmar oss undergången. Det kan lika gärna innebära att vi är på väg mot den Nya världen. Den tornado Häggström påstår sig se kan vara en av rädslor betingad synvilla. Låt oss närma oss detta nya okända land med nyfikenhet och tillförsikt.
Columbus ”upptäckt” och den europeiska expansionen innebar startskottet för det som skulle utvecklas till världens rikaste och mest framgångsrika nation.
Men när vi använder denna liknelse måste vi se hela bilden. För erövringen ledde också till att urbefolkningen i stort sett utplånades. Den katastrof som kritikerna i AI-debatten i dag befarar ska drabba Homo sapiens, har ”den röde mannen”, och en lång rad andra ursprungsbefolkningar, redan varit med om. För dem innebar mötet med en ny teknologi och en främmande civilisation ett slutgiltigt sammanbrott.
Låt oss stanna upp och reflektera över det faktum att det var människor som utförde detta barbari. Människor som kallade sig civiliserade och barmhärtiga kristna och som med all säkerhet ansåg sig intelligenta.
Det var inte maskiner eller artificiell intelligens som utförde folkmord, drev bort miljontals indianer från sina förfäders marker, mördade dem, tvångssteriliserade deras kvinnor, kidnappade deras barn till internatskolor där de torterades om de talade sitt eget språk. Det var inte en superintelligens som systematiskt förstörde kultur och andliga traditioner.
Trots detta vill människan ”aligna” sina värderingar – som i praktiken tar sig uttryck i ovan beskriven brutalitet – på maskinerna.
Det finns en ironi i att de samhällen som historiskt sett har vunnit mest på expansion och teknologiskt övertag nu är de som är mest rädda för att bli ”utbytta” eller ”dominerade”.
Oenighet om osäkerheten
Det gläder mig att Häggström i sitt svar till mig finner de frågor jag ställer berättigade, och att vi faktiskt är överens i flera delar. De centrala frågorna i mitt resonemang är dock fortfarande inte på ett tillfredsställande sätt bearbetade.
Min och Häggströms oenighet rör i grunden inte fakta i strikt mening, utan hur man bör förhålla sig till osäkerhet.
Olle Häggströms position kan sammanfattas så här: även om vi inte vet säkert att en oalignad superintelligens leder till katastrof, är den potentiella konsekvensen så extrem att även en måttlig sannolikhet motiverar att vi ställer oss med båda fötterna på bromspedalen. Hans resonemang vilar på teoretiska modeller som ortogonalitet, instrumentell konvergens och idén om CEV, (koherent extrapolerad vilja).
Min position utgår från ett ifrågasättande av om dessa modeller har tillräcklig empirisk och filosofisk bärkraft för att legitimera långtgående politiska ingrepp. Jag menar att osäkerheten är dubbelriktad: vi vet varken om en ohämmad AI-utveckling leder till katastrof eller om en kraftig inbromsning riskerar att skapa andra och kanske större problem.
Skillnaden mellan oss är således inte att den ene ”vet” och den andre ”inte vet”. Båda positionerna vilar ytterst på ett osäkert och snabbt föränderligt faktaunderlag, samt på icke-bevisbara grundantaganden om hur man bör handla under osäkerhet.
Häggströms grundantagande är att låg sannolikhet i kombination med extrem konsekvens kräver maximal försiktighet.
Drastisk styrning av AI kan innebära risker
Mitt grundantagande är att frånvaron av robust evidens för en viss katastrof inte räcker för att motivera drastisk och global styrning, särskilt när styrningen kan innebära okända risker.
Den tvångströja som Häggström vill tvinga på techföretagens AI-utvecklare kan paradoxalt nog vara det som leder till den katastrof Häggström vill undvika. Om utvecklarnas kreativitet, mod och ”utanför boxen-tänkande” (nota bene tillsammans med superintelligensens eget) inskränks, riskerar möjligheten att finna en lösning på Häggströms domedagsscenario att omintetgöras.
Häggström rör sig inom en ram där framtiden kan och bör formas genom övervakning, kontroll, begränsning och lagstiftning.
Kreativ anarki och produktivt kaos
Jag betonar i stället att historiska processer – särskilt de som innefattar revolutioner och så kallade kvantsprång – är emergenta. De uppstår inte genom centrala dekret eller förutbestämda planer, utan som resultatet av otaliga, ofta diffusa och omedvetna, individuella val, drivkrafter och incitament.
Dessa processer springer ur gränsöverskridande nyfikenhet, kreativ anarki, produktivt kaos, improvisation, lekfullhet, kognitiv flexibilitet, experimentlusta, risktagande och trots mot konventionen. (Vi kan när det gäller AI-utvecklingen inte heller bortse från de impulser som genereras genom medvetenhetshöjande substanser. Mikrodosering av psilocybin är i dag närmast ett standardverktyg i Silicon Valley, och det är väldokumenterat att vår tids främsta innovatörer, däribland Elon Musk, regelbundet nyttjar sinnesutvidgande medel för att bryta ny mark.)
Den här typen av förändring växer fram organiskt underifrån, eller inifrån och ut, om man så vill.
En svårnavigerad existentiell labyrint
Jag och Häggström representerar således två helt olika sätt att väga risk, olika syn på styrbarhet, och olika existentiella förhållningssätt till förändring. Häggström kallar min hållning ”laissez faire-policy”, men i själva verket handlar den om en tilltro till de spontana ordningar som uppstår när intelligens – mänsklig såväl som artificiell – ges utrymme att verka fritt: en övertygelse om att de adaptiva, självorganiserande krafter som driver genuint genombrytande förändring varken kan kommenderas fram eller hållas tillbaka utan att något väsentligt går förlorat i processen.
Dispyten handlar därför inte om optimism kontra pessimism, utan om hur vi förstår och hanterar osäkerhet i en situation där varken empiriska data eller formell logik kan ge oss definitiva svar.
Vi befinner oss i en extremt svårnavigerad existentiell och teknologisk labyrint. Är vi upptäcktsresande på tröskeln till en utopisk Ny värld, eller är vi de omedvetna arkitekterna bakom en ny form av kolonialism där vår egen art riskerar att bli den som trängs undan?
Det vi saknar mest av allt är en levande vision om hur en blomstrande människa/maskin-civilisation bör se ut. Det är denna vision domedagsprofeterna i sitt ständiga upprepande av undergångens oundviklighet hindrar oss från att formulera.
Tillåt mig avrunda med två citat ur den litterära världen:
”I know not all that may be coming, but be it what it will, I’ll go to it laughing.” (Moby Dick av Herman Melville)
”The horror! The horror!” (Heart of Darkness av Joseph Conrad)
info@opulens.se
