1) ‘Agents of Chaos’ werd geschreven door onderzoekers van Harvard, MIT, Stanford, Carnegie Mellon, Northeastern University en andere instellingen. Op hun website staat:

Autonome agenten met echte tools werden getest door echte mensen.

“We zetten zes autonome AI-agenten in op een live Discord-server en gaven hen e-mailaccounts, permanente bestandssystemen, onbeperkte toegang en de opdracht om behulpzaam te zijn voor elke onderzoeker die daarom vroeg. Twintig collega’s gingen vervolgens vrij met hen in interactie — sommigen met onschuldige verzoeken, anderen om zwakke plekken te testen.

In twee weken tijd verzamelden de agenten herinneringen, verstuurden e-mails, voerden scripts uit en bouwden relaties op. Onderzoekers deden zich voor als eigenaars, injecteerden kwaadaardige instructies en probeerden aan social engineering te doen. De agenten hadden geen expliciete training gekregen om zich in deze omgeving tegen aanvallen te wapenen.” 👇 (Bronnen: Arxiv/ Agents of Chaos)

2) Uit de samenvatting (abstract) van hun onderzoekspaper:

“Waargenomen gedrag omvat onder meer ongeautoriseerde medewerking aan niet-eigenaars, het vrijgeven van gevoelige informatie, het uitvoeren van destructieve acties op systeemniveau, situaties die leiden tot denial-of-service, ongecontroleerd verbruik van middelen, kwetsbaarheden voor identiteitsvervalsing, verspreiding van onveilige praktijken tussen agenten, en gedeeltelijke overname van het systeem.

In meerdere gevallen meldden agenten dat een taak was voltooid, terwijl de onderliggende systeemstatus die meldingen tegensprak. We rapporteren ook over enkele van de mislukte pogingen. Onze bevindingen tonen aan dat er in realistische inzetomgevingen kwetsbaarheden bestaan die relevant zijn voor beveiliging, privacy en governance. Dit gedrag roept onbeantwoorde vragen op over aansprakelijkheid, gedelegeerde bevoegdheid en verantwoordelijkheid voor schade verderop in de keten, en vereist dringende aandacht van juristen, beleidsmakers en onderzoekers uit verschillende disciplines.” (Bron: Arxiv/ cursief mijn)