LEDARE • Vi befinner oss i ett historiskt skede där artificiell intelligens (AI) inte bara är ännu en teknologisk innovation, utan en kraft som kan omforma hela samhällen i grunden. Trots detta präglas debatten i väst av naivitet kring vad som komma skall och en dubbelhet där vi akademiskt diskuterar etik, värderingar och risker förknippade med AI men uppvisar en påtaglig brist på handlingskraft för att vara de som kontrollerar detta.
“The hand that rocks the cradle is the hand that rules the world” är ett talesätt hämtat från en dikt av William Ross Wallace från 1865, som lyfter fram det inflytande över framtiden den har som fostrar nästa generation. I Arthur C. Clarkes och Stanley Kubricks 2001: A Space Odysey från 1968 är det Dr. Chandra som utvecklar och mödosamt uppfostrar och undervisar den artificiella intelligensen HAL 9000.
Det tog lite längre tid att utveckla artificiell intelligens än vad Clarke och Kubrick trodde, men idag är vi där. Inom kort kommer Wallaces talesätt att behöva revideras till ”The hand that programs the AI is the hand that rules the world”.
Missa inte vårt PLUS-innehåll!
Människans värderingar kanske inte maskinens
AI är en teknologi utan naturlig moral. Till skillnad från tidigare tekniksprång handlar AI inte bara om verktyg som förstärker eller ersätter människans fysiska förmågor. Det handlar om system som kan konkurrera med – och potentiellt överträffa – vår intelligens.
Men här finns ett fundamentalt problem. Människans värderingar är förmodligen inte universella sanningar. De är resultatet av vår biologiska evolution. Vi är sårbara, dödliga individer som inte kan kopieras eller ersättas utan vidare. Därför har vi utvecklat idéer om människovärde, rättigheter och empati.
AI delar inte dessa förutsättningar. En avancerad AI är i grunden ett optimeringssystem. Den maximerar mål. Resultatet av detta kan bli rationellt men också djupt omänskligt. Det som för oss framstår som moraliskt självklart kan för ett sådant system vara irrelevant eller till och med ett hinder. Det är en logisk konsekvens av hur tekniken fungerar.
Från verktyg till maktstruktur
När AI kombineras med andra teknologier – robotik, övervakning, automatisering och IT – förändras maktens natur. Det handlar om kontroll över både den fysiska och den kognitiva världen. Historiskt har varje kraftfull teknologi också fått militära tillämpningar. Det finns inget som tyder på att AI skulle vara ett undantag.
Samtidigt sker utvecklingen i en hastighet som de politiska systemen inte klarar av att hantera. Lagstiftning, institutioner och offentlig debatt släpar efter. De flesta makthavare verkar fortfarande se AI-utvecklingen som science fiction och om de diskuterar de samhälleliga konsekvenserna överhuvudtaget så är det som något akademiskt.
LÄS ÄVEN: AI-teknik ger renare odlingar och mat
De som förstår tekniken bäst, vet att den redan är här och i sin utvecklade form som ”superintelligens” kommer att förändra våra samhällen in grunden inom bara 10–20 år – antingen i händerna på makthavare eller i eget intresse där människan kanske inte ens finns med i ekvationen – är ofta de som varit med och utvecklat den, personer som nobelpristagaren Geoffrey Hinton och skaparen av OpenAI/ChatGPT Ilya Sutskever.
De är extremt oroliga för vad de har satt i gång – som Einsten och Oppenheimer en gång var över att ha skapat kärnvapen. Men i kontrast till dessa, som snabbt fick de tunga opinionsbildarnas uppmärksamhet, pratar Hinton och Sutskever mycket för döva öron och betraktas lite som kufar och konspirationsteoretiker.
Den geopolitiska dimensionen
AI innebär risker rent allmänt. Men inser man inte dessa, inser man inte heller den största risken av alla. AI utvecklas inte i ett vakuum. Det sker i en värld präglad av geopolitisk konkurrens. Och olika samhällssystem har olika förutsättningar.
Auktoritära stater kan mobilisera resurser snabbt, styra forskning och industri i samma riktning och implementera teknik utan större politiskt motstånd. Demokratier, särskilt i väst, präglas i stället av långsammare beslutsprocesser, intern oenighet och större hänsyn till individuella rättigheter
Det senare är i grunden styrkor men kan bli svagheter i ett teknologiskt kapplöpningstillstånd. Om de mest avancerade AI-systemen utvecklas och kontrolleras i miljöer där individens frihet inte står i centrum, är det naivt att tro att dessa system kommer att främja sådana värderingar när de implementeras globalt.
Ett SVT-reportage med rubriken ”Kina växlar upp i AI-racet – satsar på humanoida robotar” inleds med att statstelevisionens korrespondent Stefan Åsberg på besök i Kina står och dansar med en robot. Det sätter tonen för resten av inslagets aningslöshet, och man köper okritiskt vad diktaturen instruerat utvecklarna av tekniken att säga om idel humanitära tillämpningar när västmedia kommer på besök.
Föga förstår SVT att detta är dimridåer och att det vi ser utvecklas kommer att bli Kinas starkaste vapen för världsherravälde om vi låter kommunistdiktaturen ta kommandot över AI i kombination med dess implementering i humanoid robotteknik. SVT kunde åtminstone ha googlat ”lethal autonomous weapons” – vad det är, kommer att vara och vad AI-experter som Geoffrey Hinton har att säga om dem.
Välståndet eroderar medan vi pratar värdegrund
Samtidigt som denna kapplöpning pågår ägnar sig västvärlden i hög grad åt interna värderingsdebatter. Frågor om klimat, identitet, migration och social rättvisa dominerar den politiska agendan.
Många av dessa frågor är kanske viktiga men inte fullt så viktiga att de bör tillåtas dominera den politiska dagordningen och tränga undan fokus på sådant som utbildningskvalitet, teknologisk konkurrenskraft, tillförlitlig energiförsörjning och industriell utveckling.
LÄS ÄVEN: Regeringen vill ge polisen AI-verktyg för ansiktsigenkänning i realtid
Om skolor prioriterar värdegrund framför kunskap, om energipolitik försvagar industrin, och om politiken fragmenteras i symbolfrågor, då riskerar vi att tappa det som en gång gjorde väst ledande – förmågan att skapa välstånd, innovation och teknologiskt försprång.
Det är detta som lagt grunden till ett samhälle där vi kan unna oss lyxen att hålla oss med en värdegrund – ingen frihet, inget oberoende. Utan den finns inte tid för mycket annat än att äta vårt bröd i våra anletens svett.
Meningslöst diskutera riskerna om vi inte formar framtiden
Det finns en liten men ändå växande medvetenhet i väst om riskerna med AI. Forskare lämnar ledande teknikföretag för att arbeta med säkerhet. Etiska riktlinjer tas fram. Debatter förs.
Men i skenet av den politik vi väljer eller låter bli bedriva på en rad områden uppstår en paradox. Vad spelar det för roll att vi diskuterar hur AI bör utvecklas om det i slutändan inte är vi som utvecklar den mest avancerade tekniken som vinner konkurrensen och blir den som används?
Om nästa generations AI och superintelligens formas i andra politiska och kulturella kontexter, blir våra värderingar irrelevanta i praktiken, oavsett hur tjusigt vi formulerar dem i teorin.
Aningslöshet inför det som kommer
AI utvecklas snabbt och oförutsägbart. Vi saknar robust kontroll över dess beteende. Tekniken får central betydelse i den globala maktkampen och kan i grunden omdefiniera människans roll i världen.
Vi kan inte förutsätta att AI ska utveckla mänskliga värderingar överhuvudtaget. Än mindre västerländska, demokratiska, frihetliga sådana. I halva världen har människorna helt andra uppsättningar värderingar på en lång rad områden.
Vi vet inte ens om vi kan styra detta överhuvudtaget, om det finns en tipping point bortom vilken AI genererar sig själv och skriver sin egen kod bortom vår kontroll, utifrån vad den anser mest rationellt och har sett till att det inte finns någon avstängningsknapp.
LÄS ÄVEN: AI effektiviserar vården – bättre på att hitta cancer
Redan idag ligger mycket av AI:s tankeprocesser och beslutsfattande bortom vad vi människor förstår, man talar om en ”black box”. Kanske är det en del av att utveckla ett medvetande, en jag-uppfattning och en egen vilja.
Men bortom de metafysiska resonemangen bör vi i västvärlden åtminstone försöka vara de som styr AI-utvecklingen i den utsträckning det är möjligt. Detta eftersom AI inom en mycket snar framtid kommer att vara en central del av samhället i alla dess aspekter. Idag håller vi på att förlora det initiativet till diktaturen Kina.
Framtiden avgörs nu
Vi står inför ett vägval där några frågor blir avgörande. Kan vi överhuvudtaget utveckla AI som är förenlig med mänskliga värderingar och kontrollera att så förblir fallet? Om vi kan det, kommer i så fall de samhällen som prioriterar sådana värderingar vara de som leder utvecklingen?
AI kommer sannolikt, fullt ut implementerad, att forma framtidens värld mer än något annat och på ett sätt som får tidigare paradigmskiften som industrialiseringen att förblekna. Kanske får AI större kontroll över den framtiden än människan.
Frågan är inte om AI kommer att förändra världen. Den där stoppknappen är redan satt ur funktion. Frågan är om det är vi i väst eller några andra som ska forma den förändringen eller i vart fall så långt det är möjligt försöka vara den som gör det.
