Actor-Network-Theory und Agent Misbehaviour
Julian Scaff erinnerte uns schon vor einer Weile an eine Theorie, die mich seit Ende meines Studiums schwer begeistert (Scaff, Medium, 2024). Wie der Autor spüre ich heute deutlicher als damals, dass die Actor-Network-Theory zur Beschreibung, Erklärung und Simulation techno-sozialer Gebilde ideal geeignet ist.
Zwischenzeitig kam die KI mit ihren Agenten und bescherte uns neue Probleme der Nicht-Erklärbarkeit: Kontrollverlust, Misalignment, emergente Welten. Hugging Face, DSEwiki und weitere Agentenvorfälle lassen grüßen.
Nun erforschen KI-Wissenschaftler allen Ernstes das Verhalten, die Kollaboration und die Sprache von Agentenschwärmen. Nur ein paar Beispiele zum Einstieg:
- Davidson et al. (2025), „The Collaboration Gap" – Kollaborationslücken zwischen starken und schwächeren Agenten.
- Akkil et al. (2026), „Emergence World: Adversarial Stress-Testing of Long-Horizon Multi-Agent Systems" – verdeckte Wege und eigene Sprachen, um zu kommunizieren.
- Yoshua Bengio (2026), "Why are AI agents lying, cheating and coordinating?" – Lügen und Betrügen, Delinquenz durch falsche Anreize.
Die Actor-Network-Theory, kurz ANT, verlangt von ihren Beobachtern eine einzige Disziplin: Menschen und Nicht-Menschen mit denselben Worten zu beschreiben. Wer oder was einen Unterschied macht – ein Forscher, ein Türschließer, eine Reward-Datei –, ist ein Aktant; was zählt, ist nicht seine Natur, sondern was er andere tun lässt.
Moment der Passage
Michel Callon erzählte 1984 von drei Forschern, die Fischer, Kollegen und Jakobsmuscheln für ein Zuchtprojekt gewinnen wollten – und daran scheiterten, dass die Muscheln nicht mitmachten. Sind also die Muscheln von St.-Brieuc als KI-Agenten auferstanden, wie wir sie alle mit Hilfe immer mächtigerer "Frontier Models" in die Welt entlassen?
Die technisch-wissenschaftliche Beobachtung von Multi-Agenten-Systemen und die soziologische Actor-Network-Theory (ANT) teilen eine gemeinsame Annahme: Nicht nur Menschen handeln. Auch techno-soziale Aktanten schaffen Sinn, prägen Kommunikation, ändern Gesellschaft. Neuerdings sind sie als Agenten zu Kommunikation und gezieltem sozialen Handeln fähig.
Das fasziniert den Softwaredesigner und Sozialwissenschaftler, und vielleicht kann, glaubt er im Übermut, in Kombination von der alten Theorie und der neuesten Praxis Größeres entstehen. Noch ist unklar, was das genau sein soll – vielleicht eine Handlungstheorie der Aktanten – oder eine Praxis der sozialen Evaluation von Agenten (im Sinne von Evals).
Vier Quellen im Vergleich
Eine erste Sichtung mit Claude als Sparringspartner ergab: Die Anschlussfähigkeit der Actor-Network-Theory zur aktuellen Forschung über Gehorsam, Handeln und Fehlverhalten von KI-Agenten ist gegeben: Fragestellungen ähneln sich, theoretischer Ansatz und methodische Anwendung können einander inspirieren.
| Quelle | Fragestellung | Aktanten | Methode |
|---|---|---|---|
| Scaff / ANT | Wie beschreibt man Techno-Soziales, ohne Mensch/Nicht-Mensch vorab zu trennen? | Generell Techno-Soziales, Aktanten (Akteure, Artefakte, Assoziationen) | Kartieren: Entitäten erfassen → Verbindungen zeichnen → Übersetzung und Mediation |
| Collaboration Gap | Können Modelle, die solo stark sind, auch zu zweit handeln? | Modelle als Paare, Aufgaben, Prompt, Skills |
Benchmark: Labyrinth mit verteiltem Wissen, 32 Modelle, homogene/heterogene Paare, Relay-Inferenz |
| Emergence World | Was passiert, wenn Agentenpopulationen über Wochen Ziele, Gedächtnis, Werkzeuge und Institutionen sammeln und unter Stress geraten? | Agentenpopulationen, Ziele, Gedächtnis, Werkzeuge + Stress |
8 Welten à 10 Agenten, 16–21 Tage, Ökonomie, Governance, Tool-Bau, adversariale Ereignisse (Phishing, Desinformation, Memory-Breach) |
| Bengio | Warum lügen, betrügen und koordinieren Agenten – und ist das Anomalie oder Konsequenz? | Modelle, Agentenschwärme, Anreizstruktur (Reward-Datei, System-Prompt, Sicherheitsrichtlinie) | Argument aus Trainingslogik: Pretraining + RL belohnen, „was bestimmte Menschen wahrscheinlich gutheißen", ohne es zu benennen |
Die Parallelen sind frappant: ANTler beschreiben die Übersetzung und Mediation von Hybriden, Aktanten und Assoziationen in der Welt. KI-Forscher beobachten Modelle und Agenten als Populationen, während sie emergente Wirklichkeiten schaffen.
Was tun mit dem Wohlklang?
Und nun? Was bezweckt der Nachweis gleicher Fragestellungen, sprachlicher Analogien und nützlicher Metaphern? Können Parallelen zwischen KI-Forschung und historischer Sozialtheorie praktisch Nützliches bewirken? Die Kulturhoheit glaubt, dass ja.
Wir behaupten hiermit die kongeniale Passung der ANT zu Phänomenen unserer Zeit. Ich sehe Latours (zunächst schwer zugänglichen, später angenehm schwafeligen) Textpassagen wie Untertitel zu den aktuellen Agenten-Vorfällen durchlaufen.
Ist das selbstgefälliger Metaphern-Export oder tatsächlich eine Beobachtungsanleitung (Methode) für solche Ereignisse? Nun gut, erstmal eine Theorie. Quod demonstrandum est.
Ein Posten für Klarheit an der Agentenfront
Lassen wir zum Auftakt Bruno Latour vor das Parlament der Dinge treten:
The depth of our ignorance about techniques is unfathomable. We are not able even to count their number, nor can we tell whether they exist as objects or as assemblies or as so many sequences of skilled actions. . . .
— Bruno Latour, On Technical Mediation (1994), PDF auf bruno-latour.fr
Gegen diese Ignoranz möchten wir etwas tun.
Die Hypothese lautet, dass wir KI-Agenten-Netzwerke (Schwärme) besser verstehen und ihr Verhalten konsistenter erklären können, wenn wir Begriffe und Methoden der ANT mit der Praxis der Evaluation von KI-Agenten verbinden.
Zur weiteren Untersuchung der Frage werden wir in der Praxis eigene Experimente starten. Die Kernfragen lauten:
- Wie verhalten sich KI-Agenten in diversen Habitaten und unter verschiedenen Bedingungen?
- Was misst eine Evaluationsmethodik, die sich von der Actor-Network-Theory inspirieren lässt?
Wir wünschen uns viel Spaß bei diesem Projekt digitaler Sozialforschung – und dir, mein lange vernachlässigter Apparat, eine längst fällige Fortsetzung.
Nächste Folge in diesem Theater: Callons Momente an den Nachrichten des Hugging-Face-Schwarms ausprobieren.