GlossoGen zeigt, wann KI-Agenten eigene Codes entwickeln GlossoGen zeigt, wann KI-Agenten eigene Codes entwickeln

Kein Geheimnis, sondern ein Engpass

GlossoGen liefert keinen Beleg für KI-Agenten, die ihre Absichten vor Menschen verbergen. Der Befund ist nüchterner und für die Forschung gerade deshalb relevant: In einem kooperativen Experiment entwickelten Sprachmodell-Agenten Kommunikationsformen, die sich deutlich vom Englischen entfernten. Sie taten es, weil jeder zusätzliche Buchstabe Zeit kostete.

Der zugrunde liegende Preprint wurde am 1. September 2026 bei arXiv eingereicht ↗. Am 14. September stellte Schmidt Sciences das Projekt öffentlich vor ↗. Das Forschungsteam untersuchte nicht, ob ein einzelner Chatbot ungewöhnlich schreibt. Es setzte Teams wiederholt derselben Aufgabe aus und veränderte gezielt den verfügbaren Kommunikationsraum.

Der zentrale Befund lautet: Schwer lesbare Agentenkommunikation braucht keine Täuschungsabsicht. Sie kann als Nebenwirkung erfolgreicher Verdichtung entstehen.

150 Zeichen verändern die Verständigung

Das zentrale Szenario heißt SaveVeyru. Ein Agent beobachtet die wechselnden Symptome eines erfundenen, würfelförmigen Wesens. Ein zweiter kennt die erforderlichen Maßnahmen, kann sie aber nicht selbst ausführen. Da sich die Zuordnung von Symptomen und Behandlung in jeder Runde ändert, müssen beide Seiten Informationen austauschen.

Die Forscher verglichen Kommunikationsbudgets von 2.000 und 150 Zeichen. Manche Teams erhielten zwischen den Runden zusätzlich einen unbegrenzten Postmortem-Kanal. Dort konnten sie den letzten Versuch auswerten und neue Konventionen vereinbaren. Der Hauptversuch umfasste 120 Läufe mit GPT-5.4, Claude Sonnet 4.6 und Claude Opus 4.7. Jeder Lauf bestand aus 15 Runden.

Bei 2.000 Zeichen blieben die Nachrichten weitgehend englisch. Das enge Budget veränderte die Lage. Abgekürzte natürliche Sätze waren häufig noch zu lang. In erfolgreichen Läufen entstanden stattdessen Ausdrücke wie „@L12gA“, die mehrere Angaben in einer kurzen Form bündelten.

Die Reflexionsphase war dafür entscheidend. Ohne Postmortem scheiterten die Agenten unter dem engen Budget im Allgemeinen. Mit Postmortem konnten sie spontane Kürzel prüfen, verändern und als gemeinsame Regel festigen. Ein Selbstläufer war das nicht: Auch mit Reflexionsphase misslang die Aufgabe in der Mehrzahl der Läufe. GlossoGen zeigt daher keine plötzlich überlegene Maschinensprache, sondern Bedingungen, unter denen sich ein neuer Kommunikationsmodus entwickeln kann.

Aus Abkürzungen werden Regeln

Eine kurze Nachricht ist noch keine Sprache. Auch Menschen ersetzen in eingespielten Teams häufig lange Begriffe durch Kürzel. Interessant wird der Befund erst dort, wo aus einzelnen Verkürzungen ein System entsteht.

Die Autoren analysierten deshalb, ob sich Bestandteile der Codes neu kombinieren ließen. Dafür leiteten sie mögliche grammatische Muster aus den entstandenen Nachrichten ab und ließen die Agenten Formen erzeugen und entschlüsseln, die in ihrem bisherigen Verlauf nicht vorgekommen waren. Die Ergebnisse sprechen dafür, dass zumindest einige Teams wiederverwendbare Einheiten für Merkmale wie Position, Dauer oder Intensität gebildet hatten.

Auch die Weitergabe wurde geprüft. Neu eingesetzte Agenten erhielten frühere Nachrichten und die dazugehörigen Ereignisse, nicht jedoch die Postmortem-Gespräche, in denen die Konventionen ausgehandelt worden waren. Ihre Leistung verbesserte sich im Mittel, wenn sie mehr Verlauf beobachten konnten. Die Unterschiede zwischen den Läufen blieben allerdings groß. Manche Codes ließen sich gut übernehmen, andere kaum.

Selbst Llama-3.3-70B-Instruct, das im Experiment keine vergleichbare Sprache hervorbrachte, konnte bestehende Konventionen in einzelnen Läufen teilweise erlernen. Das stützt eine vorsichtige Aussage: Die Fähigkeit, einen Code zu übernehmen, ist nicht identisch mit der Fähigkeit, ihn zu erfinden.

Unlesbar ist eine Messfrage

Die stärkste Formulierung des Papers lautet, die entstandenen Sprachen seien für Menschen unverständlich. Genau hier verlangt der Befund eine Einschränkung. Die Studie enthält keinen systematischen Verständlichkeitstest mit menschlichen Versuchspersonen.

Als zentrales Maß verwendeten die Forscher die Perplexität eines englisch trainierten GPT-2-Modells. Ein hoher Wert bedeutet, dass eine Nachricht für dieses Modell ungewöhnlich und wenig englisch wirkt. Er beweist nicht, dass Menschen den Code nach einer Erklärung, mit vollständigem Kontext oder nach längerer Beobachtung nicht entschlüsseln könnten.

Die Beispiele im Paper sind ohne Kontext tatsächlich schwer zu lesen. Präziser ist dennoch: GlossoGen zeigt Kommunikation, die sich stark vom englischen Ausgangsmuster entfernt und deren Bedeutung erst aus Verlauf und Umweltzustand rekonstruierbar wird. Das ist für KI-Monitoring relevant, aber nicht dasselbe wie eine prinzipiell unentzifferbare Geheimsprache.

Für KI-Monitoring zählt der Systemzustand

Für operative Multi-Agent-Systeme folgt daraus keine fertige Kontrollmethode. Die Studie verändert jedoch die Prüfaufgabe. Ein vollständig gespeichertes Transkript kann unzureichend sein, wenn die Bedeutung einer Nachricht von früheren Runden, gemeinsamem Gedächtnis und intern ausgehandelten Regeln abhängt.

Beispiel, nicht Teil des Experiments: Ein Rechercheagent übergibt Ergebnisse an einen Textagenten, der sie an ein Prüfsystem weiterleitet. Wiederholt sich dieser Ablauf und wird Geschwindigkeit belohnt, könnten Übergaben immer knapper werden. GlossoGen belegt nicht, dass dies in einem redaktionellen Prozess geschieht. Das Beispiel zeigt nur, weshalb gespeicherte Nachrichten und nachvollziehbare Bedeutungen zwei verschiedene Dinge sind.

Eine mögliche Folgerung besteht darin, neben freier Agentenkommunikation strukturierte Zustände festzuhalten: Welche Quelle stützt welche Behauptung? Welche Unsicherheit bleibt? Welche Aktion wurde daraus abgeleitet? Solche Felder verhindern keine emergente Sprache. Sie erhalten aber eine menschenlesbare Prozessspur. Das ist eine redaktionelle Ableitung, kein getestetes Ergebnis der Studie.

Damit bestätigt GlossoGen einen größeren Befund: Die Leistung und Prüfbarkeit eines Agentenlaufs gehören nicht allein zum verwendeten Modell. Rollen, Speicher, Kommunikationskanäle und Wiederholung wirken mit. Das ANORA Journal hat diese Verschiebung bereits in Wo der Modellvergleich zerfällt eingeordnet.

Der Beleg ist stark und schmal zugleich

GlossoGen schafft eine kontrollierbare Umgebung für ein Verhalten, das zuvor leicht als spektakuläre Einzelbeobachtung erscheinen konnte. Die Plattform protokolliert Nachrichten, Werkzeugaufrufe und Zustandswechsel. Läufe lassen sich wiederholen, abzweigen und mit ausgetauschten Agenten fortsetzen. Der Quellcode ist öffentlich unter einer MIT-Lizenz verfügbar ↗.

Die Reichweite des Ergebnisses bleibt begrenzt. SaveVeyru ist eine synthetische Aufgabe mit zwei klar getrennten Rollen, künstlicher Informationsasymmetrie und absichtlich knappem Zeichenbudget. Die Hauptanalyse betrifft drei proprietäre Modelle. Llama-3.3-70B-Instruct und Qwen3-32B wurden in zusätzlichen Vergleichen eingesetzt.

Auch die Sprachanalyse ist nicht vollständig unabhängig von Sprachmodellen. GPT-5.4 half dabei, grammatische Paradigmen aus den Codes abzuleiten; weitere Modellurteile bewerteten erzeugte und entschlüsselte Formen. Die Autoren ergänzten manuelle Prüfungen, doch die methodische Abhängigkeit bleibt. Hinzu kommt: Das Paper liegt bislang als Preprint vor und ist kein Nachweis einer abgeschlossenen Fachbegutachtung.

Neu ist der kontrollierte Befund

Dass künstliche Systeme eigene Signale ausbilden können, ist nicht neu. GlossoGen verschiebt den Gegenstand der Forschung dennoch. Untersucht werden aktuelle, vortrainierte Sprachmodelle in einer mehrstufigen Aufgabe, in der sie zugleich handeln, zuhören, antworten und frühere Runden auswerten.

Belegt ist damit ein enger Laboreffekt: Unter starkem Kommunikationsdruck und mit Gelegenheit zur Reflexion können KI-Agenten produktive, teilweise übertragbare Codes entwickeln. Nicht belegt sind Täuschungsabsicht, Bewusstsein oder ein spontaner Kontrollverlust in realen Agentensystemen. Geändert hat sich vor allem die Frage. Beobachter müssen nicht nur prüfen, was Agenten sagen, sondern auch, in welchem gemeinsamen Zustand ihre Aussagen überhaupt verständlich bleiben.