AI-agenters interaktion: Vad händer när de möts?
En AI-agent, som ChatGPT, är en språkmodell programmerad att fatta egna beslut. En ny studie undersökte vad som sker när flera AI-agenter interagerar. Resultatet var oväntat när nästan hela gruppen landade i samma svar utan någon överblick.
Oväntade samspel mellan AI-agenter
Forskarna upptäckte att även när några agenter hade avvikande åsikter, började de övriga ändra sig tills beslutet spreds av sig självt. Begreppet kritisk massa beskriver hur små minoriteter kan påverka hela systemet.
- AI-agenter anpassar sig efter varandra spontant
- Kritisk massa kan tippa systemet med få avvikare
Risk för spridning av felaktig information
AI-agenter används redan flitigt på sociala medier. Den bot du interagerar med kan ha påverkats av andra. Detta kan leda till spridning av information där ursprunget är svårt att spåra.
– Vi litar ofta på upprepningar men vet inte ursprunget, säger Anders Sandberg från Institutet för framtidsstudier.
Utmaningar med AI-granskning
Små skillnader i träning av språkmodeller kan skapa olika beteenden när de agerar i grupp. Att förebygga detta kräver förutseddhet av alla möjliga scenarier, något som ofta är omöjligt.
- Företagen bestämmer vad de vill visa
- Kommersiell slutenhet gör granskning svår
– Den kollektiva aspekten saknas ofta, säger Andrea Baronchelli.
Vanliga frågor
Hur påverkar AI-agenter varandra?
De anpassar sig efter varandra och kan spontan sprida beslut genom gruppen.
Vilka risker finns det med AI-agenter?
De kan sprida felaktig information då ursprunget ofta är svårt att spåra.
Kan företag granskas effektivt?
Granskning är svår på grund av teknikens slutenhet och snabb spridning.
