På kort tid har artificiell intelligens utvecklats från ett futuristiskt tankeexperiment till ett självklart inslag överallt i vår vardag, i fred som i krig. AI tycks inkludera och inkluderas i allt, men vad är egentligen AI och vart är utveckligen på väg? Den amerikanska tidskriften Boston Review bjöd nyligen in flera skribenter att diskutera AI och vår framtid.
Artificiell intelligens (AI) har på bara några decennier gått från att vara ett futuristiskt koncept till att bli en integrerad del av vår vardag. Dess närvaro är påtaglig i allt från våra telefoner och sökmotorer till sjukvårdens diagnossystem och i de algoritmer som styr informationsflödet på sociala medier.
När OpenAI släppte version 3 av ChatGPT exploderade allmänhetens intresse; AI gick från att vara en dold kraft som bara kunde anas bakom annat till att bli en plattform där användaren i dialog med en ”bot” kunde producera allt från sagor, essäer, programkod och senare till och med bilder. Med denna generativa AI öppnades ännu ett kapitel i mänsklighetens historia – för även om man kan diskutera precis hur bra dess ”output” är, så är den tillräckligt bra för att det ska vara meningsfullt att jämföra den med vad människor kan uppnå.
Men vad betyder det egentligen att ett system använder sig av artificiell intelligens? AI är inte en enda sak, utan ett brett fält av en rad olika teknologier och tillämpningar. Från enkla algoritmer som sorterar e-post till komplexa system som genererar bilder, texter och till och med gör medicinska diagnoser. Vad alla dessa system har gemensamt är att de bygger på stora mängder data och avancerade matematiska modeller för att hitta mönster och göra förutsägelser. Generativ AI, som ligger bakom exempelvis ChatGPT, går ett steg längre då den inte bara analyserar data utan också kan ”skapa” nytt innehåll (även om också det är baserat på vad den lärt sig, vilket gör uttrycket ”skapar” något missvisande).
Denna generativa AI har lett till en explosion av kreativa och industriella möjligheter men också till omfattande etiska och filosofiska debatter, inte minst om de utmaningar och risker som följer med den. Historiker som Yuval Noah Harari har varnat för att teknologin kan användas som ett verktyg för övervakning och social kontroll, när makten över den koncentreras till en liten elit. Samtidigt har futurologer som uppfinnaren Ray Kurzweil talat om AI som en potentiell katalysator för mänsklighetens utveckling, där teknologin inte bara kompletterar människan, utan kan hjälpa oss att övervinna också de största problemen i vår tid. Denna dubbelhet – kris och räddning – utgör också kärnan i dagens AI-debatt.
*
Den amerikanska tidskriften Boston Review bjöd nyligen till sitt specialnummer om AI – AI Futures – in ett antal tänkare att diskutera kring AI idag och imorgon, bland dem Evgenij Morozov, en i detta sammanhang välkänd skribent och forskare, som specialiserat sig på de politiska och sociala konsekvenserna av tekniska framsteg och digital teknik. I sin artikel The AI We Deserve, som upptar halva tidskriftsnumret, gör han en längre analys av AI och av dess roll i dagens samhälle. Ett antal andra röster tillåts därefter i var sina texter svara på och kommentera Morozovs text.
Morozov inleder med att redogöra för teknologins utveckling, spårar dess rötter till Kalla krigets militärindustriella komplex och pekar på hur denna bakgrund kommit att forma AI till ett verktyg mer för effektivitet och kontroll än för demokrati och mänsklig kreativitet. Med inspiration från Martin Heideggers kritik av teknologi och hans tankar i Vara och tid menar han att världen och dess inneboende mening reducerats till en samling objekt och resurser som används för att uppnå vissa mål och att en teknisk målrationalitet formar inte bara hur vi använder teknologi, utan också hur vi ser på världen och oss själva. AI, fortsätter Morozov, är ett tydligt exempel på en motsvarande reduktion, där teknologin inte främjar förståelse eller mänsklig utveckling utan endast fungerar som ett verktyg för att förstärka existerande strukturer. Morozov avfärdar med detta AI:s ”realister” och deras reformistiska idéer om att AI kan förbättras genom små justeringar, såsom ökad transparens eller bättre reglering.
Men samtidigt kritiserar han vad han kallar ”refuseniks”, det vill säga dem som avfärdar AI som en korrupt teknologi, oförmögen att tjäna mänskligheten. AI har visserligen, enligt Morozov, blivit ett symptom på vår moderna värld, där teknisk rationalitet dominerar över mänskliga värden, där teknologin inte bara speglar de strukturer som skapat den utan förstärker dem, och därigenom gör det svårt att föreställa sig alternativa sätt att använda och utveckla AI.
Morozov efterlyser därför ett radikalt omtag: vad skulle AI ha varit om den inte hade formats av militarism och marknadslogik? Genom denna fråga försöker Morozov öppna för en ny vision av en AI som inte reduceras till sina historiska eller samtida begränsningar. Vilka drag, frågar han sig, saknas hos AI som den borde ha haft? Han lyfter här fram ett experiment från 1970-talets socialistiska Chile där systemet Cybersyn var tänkt att bli en den tidens AI, men istället avsedd för att förbättra möjligheterna till samverkan. På samma sätt måste dagens AI, menar Mozorov, snarare än att tjäna marknadskrafter eller staten, länkas till ”folket” och till demokratin.
Häremot kan man invända att ”folket” består av individer, föreningar och företag mm som kan ha helt olika intressen och önskemål. Och att ingen central aktör – vare sig staten, företag eller någon annan institution – lär kunna effektivt samla eller hantera all nödvändig information för att fatta beslut som gynnar alla. Något som förstås gäller också för AI. Försök att skapa en sådan AI för ”folket” riskerar därmed att falla i samma centraliseringsfälla som Morozov kritiserar: en central planeringsinstans sårbar för maktmissbruk – ekonomiskt och politiskt – och för ineffektivitet och kunskapsbegränsningar.
*
En rad inbjudna skribenter kommenterar därefter Morozovs artikel och tillför var och en flera olika perspektiv som på så sätt vidgar och berikar diskussionen.
Brian Eno, konstnär och musiker, tar exempelvis fasta på hur AI:s koppling till vinstdrivna företag har begränsat dess potential. För Eno är AI i sitt nuvarande tillstånd en teknologi som prioriterar snabbhet och resultat framför kreativitet och process. Eno varnar för att AI riskerar att bli en tom spegel av marknadens logik snarare än ett verktyg för mänsklig innovation: att konst blir till en vara där kvaliteten är oväsentlig så länge den är kostnadseffektiv.
Samtidigt vill Eno inte avfärda användningen av AI i den kreativa processen utan menar att medvetet bruk kan utgöra ett nyttigt inslag i den kreativa processen, en välmenande men inte närmare konkretiserad förhoppning.
Terry Winograd tar i sin essä, Machines of Caring Grace, upp hur AI och teknologi kan utformas för att stödja mänsklig omsorg och samarbete snarare än enbart effektivitet och målstyrt beslutsfattande. Winograd diskuterar hur teknologier som AI traditionellt har utvecklats med en instrumentell rationalitet, där fokus ligger på att uppnå specifika mål. Han argumenterar för en annan väg där teknologin används för att stärka mänskliga relationer och värderingar snarare än att ersätta dem, utan att närmare gå in på hur det skulle gå till i något så komplicerat som just mänsklig samvaro.
Han kritiserar också hur AI ofta liknas vid byråkrati, där regler och procedurer tagit över på bekostnad av mänsklig förståelse och omsorg (något som kanske ändå inte är så konstigt, utifrån hur programkod fungerar och vad som är tekniskt enklast att implementera). Winograd föreslår istället en designfilosofi inspirerad av Douglas Engelbarts vision om intelligence augmentation, en teknologi som förstärker mänsklig intelligens snarare än att efterlikna den. 1
I My Father, the Cyborg behandlar Omer Rosen sina erfarenheter av att ha använt teknologi för att övervaka och vårda sin åldrande far. Essän utforskar de etiska och emotionella dilemman som uppstår när välmenande tekniska lösningar inkräktar på en människas autonomi. Rosen beskriver hur han installerade kameror, använde hälso-wearables och medicinska appar för att övervaka sin fars hälsa, men då insåg att dessa åtgärder också fungerade som kontrollmekanismer. Essän diskuterar även den växande trenden med självövervakning genom teknik och hur detta kan förändra vår syn på mänsklig existens.
Rosen problematiserar idén att teknologiska interventioner alltid är positiva och ifrågasätter om vi, i vår strävan efter säkerhet och hälsa, samtidigt berövar människor deras rätt att fatta egna (ibland dåliga) beslut. På sätt sätt utgör essän också en reflektion över den moderna teknologiens dubbelnatur, att potentiellt kunna förbättra livet, men också risken för att den underminerar mänsklig frihet och värdighet.
Sophia Goodfriend tar i sin text The New Old Warfare upp AI:s roll i modern krigföring och dess koppling till militära intressen och privat sektor. Hon beskriver hur AI och övervakningsteknik används för att automatisera och effektivisera militära operationer och då alls inte bara i fredsbevarande syften utan särskilt i konfliktdrabbade områden. Essän lyfter fram hur företag inom försvarsindustrin utvecklar och säljer avancerade vapensystem och övervakningsverktyg, ofta med hänvisning till säkerhet och strävan efter geopolitisk dominans.
Goodfriend argumenterar för att AI-drivna militära system inte nödvändigtvis skapar större säkerhet, utan snarare bidrar till ökad instabilitet och osäkerhet. Hon betonar att trots löften om precision och effektivitet, används dessa teknologier ofta på sätt som leder till civil skada och förvärrar konflikter och ifrågasätter också den växande integrationen mellan Silicon Valley och försvarssektorn, där teknikjättar utvecklar verktyg som används i militära sammanhang. Genom att analysera hur AI används i krigföring och övervakning, ger Goodfriend en kritisk bild av hur teknologins utveckling formar samtida och framtida konflikter. (Om techjättarnas beredvillighet att ställa sin teknologi i krigets tjänst, kan man för övrigt också läsa till exempel här i The Guardian).
Terry Nguyens Literature Machines handlar om AI:s inverkan på litteratur och skrivande. Hon utgår från Italo Calvinos idé om författaren som en skrivande maskin och reflekterar över hur generativ AI utmanar traditionella föreställningar om författarskap och kreativitet. Nguyen diskuterar tre romaner som delvis skrivits med hjälp av AI och hur de balanserar mänsklig och maskinell ”input”.
Hon argumenterar för att AI-genererad litteratur inte bör ses som en monolitisk kategori, eftersom det fortfarande är människor som organiserar, redigerar och formar texterna. Hon lyfter också frågor om kvalitet och originalitet, och konstaterar att medan AI kan efterlikna stil och struktur, är dess förmåga att skapa genuint nya berättelser begränsad. Essäen är både kritisk och nyanserad, och Nguyen föreslår – för några säkert kontroversiellt – att istället för att avfärda AI-litteratur, bör vi utforska dess potential och begränsningar på mer nyanserade sätt.
*
Sammantaget gör texterna i Boston Reviews specialnummer det tydligt att vad vi kallar AI är något mer än en teknologisk innovation. Den är på flera sätt en spegling av våra samhällen, värderingar och av vår mänsklighet. Diskussionen kring AI:s framtid rör sig – och bör röra sig – om de filosofiska, etiska och politiska frågor som uppstår, om dess potential att stärka demokratin och kreativiteten men också om de risker för övervakning, maktkoncentration och avhumanisering den uppenbart för med sig.
Behovet av att föra samman det C.P. Snow redan 1959 med ett berömt uttryck kallade “The Two Cultures” – naturvetenskap och humaniora – tycks viktigare än någonsin. För AI är trots allt också teknologi. Först med en diskussion som omfattar de båda kulturerna (inklusive alla som arbetar med programmering, algoritmer och ständigt nya tillämpningar) går det att få en helhetsförståelse av AI:s inverkan på oss och våra samhällen.
Tyvärr måste man väl konstatera att Boston Reviews specialnummer, trots ett intressant innehåll, inte riktigt tillhandahåller vad som hade krävts för att locka också teknologer att delta i diskussionen. Det är naturligtvis inte en invändning mot specialnumret i sig. Men om nu skribenterna menar allvar med sina intentioner, framstår det ändå som en smula tragiskt att numret också visar att avståndet mellan de två kulturerna aldrig varit så stort, och det just som behovet av samtal, förståelse och enhet mellan ”kulturerna” kanske aldrig varit större. Vi riskerar med detta att få en AI som är det sista vi behöver men precis vad vi förtjänar.
- Se ett längre samtal med Morozov där han får tillfälle utveckla sina synpunkter