AI. Nette Wermeld Enström skriver om hur AI-utvecklare nu stiger fram som offentliga visselblåsare och varnar för det okontrollerade framåtskridandet.

Det finns ögonblick i teknikhistorien då framtiden plötsligt slutar kännas självklar.

Inte för att något dramatiskt inträffar i stunden utan för att människorna bakom teknologin kommer till insikt och börjar varna för de egna uppfinningarna med en tyngd som inte går att vifta bort som alarmism.

AI-utvecklare blir visselblåsare

Ett sådant ögonblick uppstår just nu när den ena AI-utvecklaren efter den andra stiger fram som offentlig visselblåsare.

Den senaste i raden, efter Nobelpristagaren Geoffrey Hinton med flera andra tunga vetenskapsmän, är Yoshua Bengio, en av pionjärerna bakom modern artificiell intelligens.

I ett samtal med Steven Bartlett i podden The Diary of a CEO den 18 december pratar Bengio ut om sin oro med en ovanlig öppenhet: ”Jag borde ha sett detta komma tidigare.”

Det är inte en journalist som varnar. Inte en politiker på jakt efter uppmärksamhet. Det är en av dem som bokstavligen varit med och skapat den teknik som nu snart präglar hela samhället.

Bengio bekräftar sitt ansvar och erkänner en uppriktig ånger. Inte för att AI utvecklats utan för att han och många med honom inte tog riskerna på tillräckligt stort allvar i tid.

Det är något djupt mänskligt i detta erkännande.

Forskning drivs ofta av nyfikenhet och möjligheter, inte av katastrofscenarier. Men just därför är det också farligt när tekniken får ett försprång gentemot moralen.

AI-utvecklare ser skrämmande framtidsutsikter

Det som förändrade allt för Bengio var inte en ny forskningsrapport utan två specifika händelser. Dels lanseringen av ChatGPT, dels tanken på hans barnbarn.

Plötsligt blev utvecklingstakten konkret förklarar han. Plötsligt handlade framtiden inte om abstrakta generationer utan om ett specifikt liv.

Han säger att det inte längre är självklart att hans barnbarn kommer att ha ett liv om tjugo år. Det är alltså inte ett arbete eller en karriär han talar om, utan ett liv.

I den formuleringen finns en existentiell oro som sträcker sig långt bortom teknikens detaljer. Den pekar mot något djupare. En känsla och en vetskap om att vi håller på att bygga system som inte bara förändrar hur vi lever utan som ska omdefiniera allt.

Det verkliga hotet är total kontrollförlust

När vi talar om AI-risker fastnar diskussionen ofta i ytterligheter. Antingen romantiseras tekniken som lösningen på alla problem eller så avfärdas kritiken som ren science fiction.

Bengios oro rör sig i ett helt annat register.

Det handlar inte om onda maskiner. Det handlar om komplexitet.

AI-system blir allt bättre på att optimera mål, anpassa strategier och kringgå begränsningar. När systemen blir mer kapabla än människan på att förbättra sig själva förlorar vi överblicken.

Inte för att någon vill det utan för att ingen längre hänger med.

Ett system som inte delar våra värderingar behöver inte vara fientligt för att vara farligt. Det räcker att det är effektivt.

Kapplöpningen som förblindar

Samtidigt drivs AI-utvecklingen av starka krafter, ekonomiska incitament, geopolitisk rivalitet, marknadsdominans.

Att sakta ner upplevs som att förlora. Att stanna upp känns som att bli omsprungen.

Resultatet är en märklig paradox. Vi släpper lös alltmer kraftfulla system i samhällets kärna samtidigt som ansvar, reglering och etisk samsyn släpar efter.

Tekniken rusar. Institutionerna stapplar.

När Bengio pratar om behovet av att styra utvecklingen handlar det därför inte om teknikfientlighet. Det handlar om medmänsklig omsorg och ansvar. Om insikten att vissa krafter kräver gemensamt dragna gränser just därför att de är så kraftfulla.

Hoppet förutsätter handling

Bengio är inte pessimist. Han menar att det finns tekniska vägar framåt med AI som är byggd för att vara säker, transparent och i linje med mänskliga värden. Men detta kräver ett akut skifte i prioriteringar.

Från snabbast till säkrast. Från vinst till ansvar. Från fascination till eftertanke. Och framför allt, från ett slutet teknikrum till ett öppet demokratiskt samtal.

Andra AI-forskare är betydligt mer pessimistiska men det som förenar dem är att de alla menar att det, nu eller aldrig, är dags att ta gemensam kontroll över utvecklingen.

Det som står på spel är inte ”bara jobben” utan vår autonomi och livet självt.

Historien visar att civilisationer ofta ignorerar varningar tills de kommer för sent. Det som gör detta ögonblick så annorlunda är avsändaren.

När skaparna av tekniken själva samstämmigt ropar ”stopp” är det inte ett tecken på ogrundad rädsla och alarmism utan akut allvar.

Den största faran med AI är inte att tekniken hamnar i fel händer. För tillräckligt mäktig teknik kommer slinta ur vems som helst händer.

Vilken framtid är det egentligen som byggs i techbolagens insynsskyddade laboratorier? Och för vem?

The post AI-utvecklare räds sina egna verk first appeared on Opulens.

AI-FORSKNING. Ända sedan Ludwig van Beethoven dog 1827 har älskare av hans musik funderat över hur hans 10:e symfoni kunde ha blivit om kompositören fått leva lite till.

Nu har AI-forskaren Ahmed Elgammal med hjälp av avancerad teknik, artificiell intelligens, lyckats skapa de två sista satserna i symfonin, rapporterar Kulturnytt i P1.

Allt som Beethoven har komponerat har matats in i en dator, som sedan har komponerat vidare. Enligt Ahmed Elgammal har projektet varit utmanande men oväntat lyckat eftersom man inte bara lyckats återskapa Beethoven-aktig musik på ett grundläggande sätt, den artificiella intelligensen har även fått med de överraskningsmoment som Beethoven komponerade.

Någon 11:e symfoni blir det dock inte.

– Nej, nu får Beethoven vila i frid, säger Ahmed Elgammal till Kulturnytt.

TT NYHETSBYRÅN

The post Beethovens sista symfoni färdig – med AI first appeared on Opulens.