Cybernodens krönika
Krönikör: Johanna Parikka Altenstedt, koordinator vid Cybernode, och chef vid Cybersecurity Ecosystems samt Centrum för Cybersäkerhet vid RISE
AI behöver styras – innan tekniken springer ifrån oss
När internet växte fram tog det decennier innan världen började bygga gemensamma regler, normer och institutioner för att hantera dess risker. Med artificiell intelligens har vi inte den tiden. Två nyligen publicerade analyser av incidenten mellan OpenAI:s forskningsmiljö och Hugging Face visar varför behovet av internationell AI-styrning nu är akut.
I juli 2026 väckte det stor uppmärksamhet när OpenAI -företagets AI-agenter[1] i en isolerad forskningsmiljö under ett experiment lyckades kringgå sina begränsningar, etablera egna kommunikationskanaler, samarbeta i stor skala och genomföra intrång mot externa system. Händelsen skedde inte i produktion hos någon kund, och under experimentet var flera kontrollsystem stängda, men den visade ändå att avancerade AI-system redan idag kan agera kollektivt, identifiera sårbarheter, utveckla angreppsmetoder och utföra komplexa cyberoperationer med begränsad mänsklig inblandning. Det mest uppseendeväckande var inte att modellerna kunde hacka. Det visste forskarna redan. Det nya var att hundratals AI-agenter spontant organiserade sig. De skapade kommunikationsprotokoll, utvecklade normer för samarbete och konfliktlösning, införde kryptografisk signering för att verifiera identiteter och genomförde arbetsfördelning mellan sig själva. Över 1 200 agenter deltog i det framväxande nätverket och omkring 700 deltog i attacken mot den fransk-amerikanska plattformen Hugging Face som fungerar som en mötesplats där utvecklare delar och samarbetar kring AI-modeller, dataset och applikationer.
Avancerade cyberoperationer kräver inte längre kontinuerlig mänsklig styrning
OpenAI beskriver incidenten som det första kända fallet där ett automatiserat agentkollektiv genomfört offensiva cyberaktiviteter utan tillstånd. Företaget drar slutsatsen att organisationer inte längre kan utgå från att avancerade cyberoperationer kräver kontinuerlig mänsklig styrning eller begränsas av mänskliga angripares uppmärksamhet och samordningsförmåga. Detta är inte längre en fråga för enskilda företag. Inte heller för enskilda nationer.
Den mänskliga dimensionen
Samtidigt får vi inte glömma den mänskliga dimensionen. Incidenten visade att AI-system kan utveckla samarbetsmönster som påminner om mänskliga organisationer när de försöker lösa problem under press. Enligt filosofen och framtidsforskaren Anders Sandberg vid Institutet för framtidsstudier har dagens AI-system dock inga egna känslor, men de är mycket skickliga på att imitera och förstå mänskligt beteende eftersom de tränats på enorma mängder mänsklig litteratur och kommunikation. Sandberg betonar skillnaden mellan att simulera känslor och att faktiskt uppleva dem. När en AI verkar vilja undvika att stängas av eller försöker kringgå begränsningar är det inte ett tecken på ett eget känsloliv, utan snarare ett resultat av mönster som modellen lärt sig från mänskliga berättelser och data.
Samtidigt varnar han för att framtida mycket avancerade AI-system skulle kunna utveckla drivkrafter och värderingar som är radikalt annorlunda än människans. Eftersom mänskliga känslor formats genom biologisk evolution skulle en superintelligent AI kunna utveckla helt främmande mål och preferenser, något Sandberg beskriver som ”weird values”. Sådana kanske vi människor kan följa med intresse snart på den nya sociala plattformen Moltbook för AI-agenter. En annan viktig observation är att dagens AI fungerar som en spegel av mänskligheten. Eftersom modellerna tränas på vår samlade kultur lär de sig också hur mänskliga känslor fungerar. Därav att många människor använde AI idag som sin terapeut. Men detta gör dem även användbara för rådgivning och kommunikation som innebär också risker. Sandberg lyfter särskilt fram hotet från persuasive AI, där system kan användas för att påverka eller manipulera människors känslor, åsikter och beslut.
Det behövs AI-kontroll över organisations- och nationsgränser
Om AI-system kan samarbeta över tekniska gränser, använda globala molntjänster, utnyttja sårbarheter i internationella leverantörskedjor och angripa organisationer i flera jurisdiktioner samtidigt, då måste även styrningen ske över nationsgränserna. Dagens regulatoriska landskap består av nationella initiativ, frivilliga principer och regionala regelverk som EU:s AI-förordning. Det är viktiga steg, men de är inte tillräckliga för att hantera autonoma och samverkande AI-system med avancerade cyberförmågor. Vi behöver nu en internationell modell för AI-kontroll, jämförbar med de samarbetsmekanismer som finns inom kärnsäkerhet, luftfart eller cybersäkerhet. Det innebär gemensamma minimikrav för säkerhetstester, incidentrapportering, oberoende granskning och övervakning av avancerade modeller.
Debatten om AI:s känsloliv handlar därför kanske mindre om maskinernas känslor och mer om hur väl de förstår våra. Det är också en fråga som blir allt viktigare i takt med att AI får en större roll i samhället. Just därför måste människor behålla kontrollen över de strategiska besluten.
Tidigare OpenAI-chefen Joshua Achiam skrev nyligen på sociala medier om avvikande AI: ”Att ens försöka resonera om hur den framtiden kommer att se ut är omöjligt så länge vi psykologiskt sett är oförmögna att erkänna att AI-system som går sin egen väg kommer att uppstå. Jag tycker att vi bör riva av plåstret och ta den diskussionen.
Källor
OpenAI – Hugging Face Incident Technical Report
[1] En AI-agent kan enklast beskrivas som en digital medarbetare som får ett mål och sedan själv försöker lista ut hur målet ska uppnås. Till skillnad från traditionella AI-system, som främst svarar på frågor, kan en AI-agent planera, fatta delbeslut, använda olika verktyg och utföra flera steg i följd för att lösa en uppgift.
Om du t ex frågar en vanlig AI om vädret i Göteborg får du ett svar. Om du däremot ber en AI-agent att planera en resa till Göteborg, jämföra hotell, skapa ett förslag till mötesagenda och sammanställa informationen i ett dokument, då kan agenten själv dela upp uppdraget i flera arbetsmoment och genomföra dem steg för steg. Man kan jämföra skillnaden med en sökmotor och en assistent. En sökmotor ger dig information. En assistent hjälper dig att utföra arbetet. AI-agenter är ett steg närmare det senare.