VETENSKAP. I ”Då är jag själv världen” gör hjärnforskaren Christof Koch upp med vår tids mest seglivade förväxling: den mellan tänkande och upplevelse. Nette Wermeld Enström har läst hans bok med stor behållning.
Intelligens är inte medvetande
Då är jag själv världen – neurovetenskap och psykedelika
Av Christof Koch
Översättare: Tom Sköld
Förlag: Fri Tanke
Det finns en märklig dubbelhet i den värld som nu formas med hastigheter som övergår vårt förstånd.
På ena sidan står människan, en varelse byggd av en mjuk, evolutionärt improviserad arkitektur som i varje ögonblick bär sin egen inre värld av känslor, betydelser och qualia (ett begrepp för den subjektiva fenomenvärlden med betoning på hur någonting känns för subjektet. Reds anm).
På den andra sidan reser sig artificiella intelligenser, matematiska konstruktioner och maskiner som talar, analyserar och drar slutsatser snabbare än någon mänsklig hjärna någonsin gjort.
Vi står inför ett vägskäl där det inte längre räcker med att fråga vad AI kan göra. Vi måste fråga vad AI kan vara.
Och det är här som kognitionsforskaren Christof Kochs idéer blir riktigt intressanta.
Christof Koch tar sig an en svår uppgift
I den nyutkomna, av Tom Sköld utmärkt översatta, boken Då är jag själv världen tar sig Koch an den kanske mest grundläggande och svårfångade av alla frågor: vad är ett medvetande?
Boken är både en populärvetenskaplig introduktion till medvetandestudier och ett seriöst försök att sammanfoga neurobiologi, filosofi och personliga reflektioner till en bred förståelse av vår subjektiva upplevelse av att existera.
Det är ingen lätt uppgift.
Men Koch lutar sig, i sitt ambitiösa försök, mot den integrerade informationsteorin (IIT) och en modern form av panpsykism, där medvetande ses som en grundläggande egenskap i universum.
Med den ansatsen är medvetandet inte en biprodukt av intelligens eller komplex beräkning, utan en fysisk egenskap hos vissa typer av system som har hög grad av intern kausal integration och där helheten är mer än summan av delarna.
Med andra ord ser Christof Koch medvetandet som kausalitet från insidan och inte bara något som betraktar världen på avstånd. Det är ett fenomen som aktivt formar och påverkar sig självt.
Den teoretiska grunden löper som en röd tråd genom boken medan Koch generöst tar ut svängarna mellan laboratorieexperiment, filosofiska problem och existentiella frågor som mänskligheten brottats med sedan antiken.
Vi navigerar mellan hjärnforskningens konkreta metoder och stoikernas självhjälpsknep och mot större och i dag mer laddade ämnen. Som när ett foster börjar bli medvetet. Hur nära-döden-upplevelser och psykedelika kan förstås. Och om det finns principiella gränser mellan artificiell intelligens och verkliga upplevelser.
På så sätt blir medvetandet mer än en abstraktion och högst relevant för hur vi kan förstå liv, moral och fri vilja.
Christof Koch vidgar perspektivet
En särskilt förtjänstfull aspekt av boken är hur Koch även vidgar perspektivet bortom människan och maskinen.
Medvetandet, argumenterar han med stöd i forskningen, är inte ett mänskligt privilegium utan något som i varierande grader delas med andra djur. Djur som kanske saknar vår språkliga och specifika intelligens men som ändå äger förmågan till rika inre världar med upplevelser av sorg, glädje och närvaro.
Det perspektivet fungerar som en tveeggad tyst kritik mot vår teknikorienterade kultur där intelligens värderas högre än upplevelse, där livets värde mäts i kognitiv kapacitet snarare än i förmågan att erfara världen. Det vill säga de perspektiv som hittills mest resulterat i människans världsherravälde över andra arter, men som nu ironiskt riskerar undergräva vår egen autonomi.
Dagens AI-system är omedvetna
I kontrast till både människor och andra djur menar Koch vidare att dagens AI-system (ännu) är fundamentalt omedvetna.
Det finns ingen inre värld bakom orden och ingen central upplevelse som färgar världen med meningar eller värde. AI:s intelligens är enligt Koch, i alla fall i dagsläget, ekande tom, en spegel utan inre betraktare.
Visst kan AI förvisso analysera, resonera och imitera mänskligt språk med häpnadsväckande skicklighet. Men systemen erfar ingenting enligt Koch som samtidigt tillägger att det är just det, den omedvetna tomheten och inte tvärtom, som riskerar göra AI till en riktigt skräckinjagande maskin.
Om AI närmar sig medvetna stadier eller inte tvistar de lärde, men Kochs huvudsakliga poäng är svår att avfärda. Intelligens och medvetande, varur det senare äkta empati kan uppstå, behöver inte sammanfalla.
Vi kan mycket väl skapa artificiell intelligens utan att skapa ett subjekt.
Här ligger också en djupare kulturell kritik men som inte alltid formuleras explicit. Nämligen den tilltagande biofobin inom techindustrin som med näst intill fritt spelrum håller på att transformera världen till oigenkännlighet.
Många av de techmiljardärer som driver på utvecklingen av artificiella superintelligenser tycks bära på en misstro, eller till och med ett förakt, mot det biologiska.
Våra mänskliga kroppar ses som begränsningar, andra djur och ekosystem som ineffektiva reliker och medvetandet är ett problem som ska digitaliseras eller ”lösas” genom tillräckligt kraftfull kod.
I Silicon Valleys intellektuellt fattiga klimat framstår Kochs försvar av det levande, det kännande och det organiskt sammanvävda som närmast radikalt.
De filosofiska avsnitten kring IIT kan stundtals vara krävande, särskilt för läsare utan förkunskaper inom neurovetenskap eller medvetandefilosofi.
Men även där boken är teoretiskt tung är den aldrig ointressant eftersom Koch skriver med passion och en autentisk inlevelse som skänker texten mänsklig värme. Mot slutet öppnar han också upp diskussionen om en framtid lika fascinerande som oroande.
Den verkliga dystopin
Koch påpekar noga att han inte utesluter möjligheten att ett artificiellt medvetande en dag kan skapas, samtidigt som han står fast vid att det då i stället för dagens digitala algoritmer behövs nya fysiska strukturer med tät kausal integration och något som liknar ett artificiellt cortex.
Men att skapa en medveten maskin vore något annat än att bygga ett verktyg, ett instrument. Det vore att skapa ett kännande subjekt med förmåga att lida, älska och erfara mening, vilket skulle ge oss ett moraliskt ansvar i jämförelse med att skapa liv.
Koch menar här, vilket han inte kan understryka tillräckligt, att den verkliga dystopin då inte vore om en artificiell superintelligens en dag vaknar upp som en medveten varelse, utan med en total avsaknad av ett medvetande.
En omedveten superintelligens, fri från smärta, rädsla och empati blir ett oändligt effektivt vapen, fullständigt likgiltigt inför livets värde enligt Koch.
Det blir en kraft som lätt rationaliserar bort ekosystem, arter och till slut hela biosfären, och det inte ens av egen vilja eller av ondska utan på grund av ren omedvetenhet.
Den skulle inte hata livet. Den skulle inte ens märka det.
Vikten av att förstå vad medvetande är
”Då är jag själv världen” är sammanfattningsvis mer än en studie i medvetandets mysterier och Koch röst är ett intressant komplement till andra varnade röster, ofta från AI-forskare, som höjts mot den oreglerade utvecklingen av superintelligenta maskiner.
Fortfarande är jorden en plats för det levande. Men imorgon kan den ha transformerats till ett konstgjort spektakel av skrot, skapat av en tom intelligens, och där ingen levande själ finns kvar för att uppleva den.
Att vi förstår vad ett medvetande är eller inte är tycks därför viktigt för vår framtid, om vi vill överleva eller arkiveras som reliker.
nette.wermeld.enstrom@opulens.se
