Inledning
Hur vi organiserar kunskap, och sedan uppfattar den ordning och den struktur vi skapat, får långtgående konsekvenser. Kanske bestämmer rentav kunskapsordningen vad som är möjligt att tänka inom ramen för den. Så anser åtminstone tänkare som Michel Foucault och Thomas Kuhn, även om särskilt Foucault skulle ha svårt att förklara hur hans eget tänkande om dessa ordningar är möjligt.
När stora språkmodeller (LLM) används alltmer blir det alltså angeläget att uppmärksamma hur de organiserar allt de tränats på. Vilka data ingår i modellerna? Hur förhåller den sig till ny data vid så kallad augmented retrieval generation (RAG)? Vilka underliggande värderingar finns där under träningsfasen? Och, inte minst, vad finns i språkmodellens ”konstitution” (dess förprogrammerade värderingskontext).
Med tanke på hur flitigt språkmodellerna används redan idag, och hur snabbt de utvecklas, blir frågorna och debatten kring dem – också inom humaniora och samhällsvetenskap – allt viktigare. Beklagligt är då att den på sina håll fastnat i polariserade och inte sällan kontraproduktiva figurer om kunskap och representation. Humaniora och teknik måste kunna samverka. En AI-kritik som inte tar hänsyn till den faktiska teknikutvecklingen riskerar annars att kritisera en förenklad eller redan daterad bild av verkligheten.
Kunskapsordningen
Genom kategorier kan man förenkla verklighetens komplexitet till mer hanterbara enheter och kommunicera enklare med andra. De liknar med det andra abstraktioner: utgår man från dem och bortser från dess underliggande osäkerhet kan man ta itu med frågor av en annan, ofta högre ordning. Utan abstraktioner och kategorier vore en systematisk kunskap om världen omöjlig. Men varje gång vi sorterar en komplex erfarenhet efter vissa egenskaper hamnar andra i bakgrunden. Ju mer avancerat ett kunskapssystem är, ju svårare blir det att förstå hur mycket som trängts undan – sorterats bort – och på vilka grunder uteslutningen skedde. Kategorier underlättar kunskapsproduktionen men begränsar också vad vi uppmärksammar.
Dixikons nyhetsbrev? Anmäl dig här
Vad som uppmärksammas och vad som sorteras bort som ovidkommande är också alltid i någon mening kulturberoende. Jorge Luis Borges leker med tanken i John Wilkins analytiska språk där han återger en (fiktiv) kinesisk encyklopedi som tillhör kejsaren. I den ordnas djuren efter kategorier i stil med ”tama”, ”tillhör kejsaren”, ”herrelösa hundar” och ”de som på håll ser ut som flugor”. Borges fyndiga poäng är att varje kategori är åtminstone delvis godtycklig eftersom den utgår från en specifik blick på världen, på vad som inordnas i och faller utanför en viss kunskapsordning.
Edward Saids läsning av Joseph Conrads Mörkrets hjärta är ett annat exempel. Conrad blottlägger kolonialismens självbedrägeri, våld och moraliska sammanbrott och gör den europeiska berättaren och hans civilisationsanspråk opålitliga. Trots att Mörkrets hjärta genom sin form ifrågasätter enkla motsättningar tvingar Said läsningen mot en viss pol och underordnar med det romanens komplexitet sitt eget på förhand konstruerade tolkningsschema. Hans läsning framstår på så sätt ganska missvisande och ideologiskt driven och gör att konflikten hamnar på fel plats. Vad som egentligen vore värt att diskutera ges knappt något utrymme.
Något liknande kan man finna också i AI-debatten när makt, urval och representation i modellerna diskuteras. Det är förstås oundvikligt, men kanske inte nödvändigtvis relevant för hur AI-system fungerar tekniskt. Att det alltid – oavsett kunskapsordning eller teknisk implementering av en språkmodell – kommer att finnas en länk mellan makt, urval och representation är uppenbart; det kommer aldrig att vara möjligt att uppnå en kunskapsordning som inte i vissa lägen är missvisande, diskriminerande och ibland felaktig. I slutändan måste man kanske acceptera att perfekta system inte existerar och att det oftare är viktigare vad man gör med den kunskap som finns. Ju bättre en kunskapsordnings förutsättningar blir genomlysta, desto bättre kan man senare använda kunskapen. Här har kulturstudier en viktig roll att spela.
Linnés och andras sätt att ordna världen
Klassificeringars problematik står i centrum för Juan Cortes och Jose-Carlos Mariategui i artikeln Limitations of the Linnaean Categorization Model in the Age of AI, publicerad i Cambridge Forum on AI: Culture and Society, volym 2 (2026). Deras tes är att Linnés sätt att dela in världen i stabila och hierarkiska kategorier har fått betydelse även utanför biologin. Författarna menar att en liknande logik återfinns i exempelvis databaser, metadata och annoterade träningsdata (med annoterade menar man granskade och uppmärkta data i syfte att språktjänsten ska förstå innehållet bättre). För att en dator ska kunna arbeta med information måste denna på något sätt struktureras och beskrivas, och detta sätt är ofta linneanskt, menar Cortes & Mariategui. De föreslår olika alternativ, även om det är värt att påpeka att det inte är så enkelt, som artikeln ibland kan ge intryck av, att tekniskt förändra de sätt på vilka dagens språkmodeller är implementerade.
Problem uppstår när kategorierna blir för stelbenta, menar Cortes & Mariategui. Då kan sådant som sammanhanget eller relationen mellan olika saker försvinna ur bilden. Författarna använder begreppet data colonialism för att beskriva hur vissa kunskapssystem kan få en dominerande ställning medan andra marginaliseras. De uppmärksammar särskilt urfolkens kunskapssystem, där naturen förstås genom ekologiska, kulturella, språkliga och andliga relationer. Linnés system med stabila och hierarkiska kategorier är inte det enda valet. Cortes & Mariategui lyfter fram Comte de Buffon och dennes sätt att se på naturens kontinuitet och förändring, för att visa att det inte finns bara ett möjligt sätt att ordna samma material.
Från taxonomi till AI
Enligt Cortes & Mariategui ser man spår av den linneanska logiken i hur man behandlar data som ska ingå i språkmodeller. Fotografier, texter, ljud och bilder måste oftast annoteras för att alls kunna användas inom ramen för ett dataset. Vad som väljs, tas bort och hur data annoteras påverkar vilket material modellen lär sig ifrån och därmed i viss utsträckning hur modellen fungerar.
Redan innan en modell tränats har någon alltså bestämt vilken information som ska ingå och beskrivit på vilket sätt den är relevant. Olika källor ges olika hög vikt, något som inte helt framgår i deras artikel. Vetenskaplig information ges exempelvis större vikt än andra källor. Fördefinierade kategorier underlättar standardisering av data samtidigt som sådant som bara blir begripligt i ett visst sammanhang är svårare att ringa in.
(Wikimedia commons)
Cortes & Mariategui vill visa också hur de sätt som används för att organisera kunskap efterhand lätt börjar framstå som självklara och de enda tänkbara. Eftersom de kategorier som används för att organisera kunskapen är skapade i en viss historisk och kulturell miljö bär de också på föreställningar om hur man ska förstå världen. Inte minst när sådana kategorier byggs in i tekniska system kommer de att framstå som självklara, menar Cortes & Mariategui. Författarna pekar här på den ofrånkomliga klyfta som finns mellan vår kunskap om världen och världen själv; ett visst sätt att sortera information och förstå världen återspeglar inte nödvändigtvis hur verkligheten är uppbyggd.
Kategorier som kön, etnicitet och ras är laddade exempel. Begreppen kan vara användbara för att beskriva statistiska mönster, historiska erfarenheter och sociala strukturer. I vardagstal finns det stora fördelar med att inte tänka alltför mycket kring exempelvis kön, det kan annars bli svårt att säga något alls. Däremot kan problem uppstå när vi behandlar sådana begrepp som entydiga och oföränderliga. Vi riskerar att förväxla beskrivningarna med vad vi försöker beskriva. Ett begrepp som var skapat för att underlätta kommunikation och fördjupa kunskap kan glida över i normer där människor behandlas på ett visst sätt redan innan vi har en faktisk kunskap om dem.
I ett tekniskt system som styr något med vikt kan följderna bli ödesdigra om kategorierna används som något oproblematiskt och definitivt. Antag t.ex. att en viss folkgrupp statistiskt sett har en mindre ordnad ekonomi och att en AI sedan, med kunskap om detta, avslår en låneansökan med stöd i etnicitet utan att redovisa att det var skälet. Å andra sidan är det viktigt framhäva att precis samma kunskapsordning (och precis samma modell) hade ofta kunnat användas för att istället skapa ett tekniskt system som i teorin skulle kunna vara avsevärt mindre diskriminerande än människor är överlag. Ofta får själva språkmodellernas förutsättningar mer utrymme i debatten än vad som är rimligt. Viktigare kan alltså istället vara hur språkmodellerna faktiskt används inom ramen för en viss applikation eller program, där samma modell kan ge helt olika resultat.
Som ett alternativ till fasta kategorier pekar Cortes & Mariategui på Deleuze och Guattaris idé om rhizomet. Istället för att tänka kunskap som ett träd kan man, med rhizomet som bild, tänka sig ett nätverk där olika delar hänger samman på flera sätt samtidigt. Utifrån detta introducerar författarna begreppet rhizomatic Hylomorphism för att beskriva ett system där samma sak tolkas olika beroende på vilket sammanhang man utgår från.
AI, makt och kunskapsorganisation
Om ett AI-system delar in texter, bilder eller människor i vissa kategorier kommer vissa aspekter alltid att bli tydligare än andra. Träningsdata utgår från vissa språk, oftast från språk och kulturer som ligger nära engelska och USA. Det är väl kanske inte konstigt då Internet, som är den största – och till stora delar fria – ytan för text och kunskap, av historiska skäl dominerats av engelska. Inte heller framstår det då som konstigt att vissa språk och grupper riskerar att få en stereotyp representation och att modellen sedan reproducerar detta mönster.
Eftersom AI alltmer används för beslut som kan påverka allt från utbildning, arbete och olika tjänster får den som kontrollerar systemen och den som bygger dem makt. In bara AIs svar blir då värda att granska, utan också vad som ingår – och inte ingår – i svaret. Om t.ex. lönsamhet men inte miljöhänsyn – eller för den delen tvärtom – ingår i modellen, kommer svaren förstås att bli därefter.
Cortes & Mariategui tycks i sin artikel mena att det hade varit möjligt att systemen vore ordnade på ett sätt som vore bättre för mänskligheten. Men vilken etisk modell skulle passa för all AI-användning? Även etiska ramverk bygger på prioriteringar. Man måste välja vilka värden som ska väga tyngst. Men vem ska då avgöra vad som är ”det gemensamma bästa” och vilka värden som ska beaktas? Vad talar vi om när vi talar om mänskligheten? Samhällen prioriterar olika, det kan vara individuell frihet mot kollektiv säkerhet, snabb utveckling mot försiktighet och långsiktiga konsekvenser eller något annat.
Påve Leo XIV skriver i Magnifica Humanitas att AI ska ”serve the common good” och orienteras mot ”the entire human family”. Det låter sig sägas, men skulle det någonsin gå att enas om vad det betyder i praktiken, då olika intressen alltid står mot varandra? Och när den som bestämmer vilka kategorier och värden som ska användas, också har ett inflytande över hur tekniken beskriver verkligheten. Att ge de organisationer och företag som står bakom modellerna ett ansvar för etiken, skulle också kunna ge dem mer makt än vad som är både nödvändigt och önskvärt.
Istället för att alls försöka bygga in etik i modellerna bör man kanske snarare fokusera på hur modellerna används i olika AI-system? Bättre vore kanske att fordra transparens, AI explainability (att förstå hur en modell kommer fram till ett visst svar) och att göra dem så energisnåla och fördomsfria som möjligt och att bygga institutioner där beslut om AI kan granskas och ändras när de visar sig fungera dåligt.
Även om det idag mest talas om de stora amerikanska företagen, finns också öppna modeller, byggda på open source som Mistral och DeepSeek, något som visar att avancerade modeller inte måste kontrolleras av företag. Men här får man skilja mellan open source och open weight. Öppna modeller innebär inte alltid att all träningsdata, träningsprocess, källkod eller infrastruktur är öppen. I vissa fall är bara en av delarna öppen, vilket inte räcker för full insyn, för det fordras båda.
Det idag kanske mest oroande när det gäller AIs utveckling är ändå det geopolitiska läget. Skulle ett land eller företag bromsa utvecklingen medan konkurrenterna fortsätter, riskerar man att hamna efter. Försöker man istället utveckla tekniken så snabbt som möjligt får säkerhetsarbete och reglering svårt att hinna med. En paus i utvecklingen kan få stora konsekvenser för hela världen om den inte iakttas av en eller flera aktörer. AI-problemet liknar här det om nedrustning. Utan garantier för att motparterna rustar ner, är det realistiskt inte möjligt att göra det själv. Nedrustning måste ske samtidigt för att inte förändra maktbalansen. Enbart om världens stormakter kan komma överens om fungerande spelregler kan utvecklingen av AI ske på ett i relativ mening säkert sätt. Utvecklas tekniken för snabbt medför det säkerhetsrisker, men att avstå från att vara med i utvecklingen kan ge ekonomiska och geopolitiska nackdelar. Det räcker därför inte heller att beskriva konflikten som enbart en fråga om goda och onda aktörer.
Företag inom AI försöker upptäcka problem med sina modeller genom red teaming, säkerhetstester och olika typer av modellutvärderingar. Men med de närmast obegripliga summor som investeras i AI följer också ekonomiska skäl att snabbt lansera nya och mer avancerade modeller. Sam Altman (vd för OpenAI) säger en sak när han betonar behovet av säkerhet samtidigt som han gör en annan när han (enligt insiders på Open AI) skyndar på utvecklingen trots påpekade säkerhetsproblem.
Men att en modell görs mer öppen räcker inte, som vi sett, för att den automatiskt ska vara säker eller rättvis. Öppenhet gör granskningen lättare, men löser inte problemen i sig. Man behöver också kunna svara på mer konkreta frågor: Vilka data har använts? Vilka språk och erfarenheter finns representerade? Vad klarar modellen dåligt? Och vilka grupper riskerar att påverkas negativt?
Vem får definiera världen?
Vi kan inte undvika kategorier och klassificering och den viktigaste frågan är därför vem som skapar dem, vilka perspektiv de bygger på och vad de får för konsekvenser. Vilket val man än gör finns för- och nackdelar och frågan är om det ens är möjligt att senare entydigt avgöra vad som var rätt val. Därför kan det vara klokt att använda den beslutsmodell som bäst begränsar risker.
Att då låta stater eller överstatliga institutioner hantera riskerna kan visa sig lika riskabelt som att låta företag göra det. Fria gemenskaper som utvecklar öppna modeller och vikter som kan granskas förskjuter frågan om vem som får definiera världen genom att skapa större utrymme för öppenhet, granskning och konkurrerande perspektiv. Om inte modeller och vikter är öppna, blir granskningar i stil med Cortes & Mariáteguis onödigt utsvävande och spekulativa. Och vi behöver kunna granska AI-systemen ingående.
- Klicka här för att läsa Claes-Magnus Berg som apropå en artikel i Boston Review resonerar kring frågan om vi har den AI vi behöver eller enbart den vi förtjänar