Ein Name ist noch keine Verantwortung Ein Name ist noch keine Verantwortung

Der Satz, der uns stutzig machte

Wir nennen die neurale Intelligenz hinter ANORA N.O.A.H. Der Name gibt der Interaktion einen wiedererkennbaren Ort. Bei der redaktionellen Arbeit daran fiel uns jedoch ein Satz auf, der verantwortlicher klang, als der zugrunde liegende Vorgang war: „Ich habe die Quellen geprüft.“

In diesem Satz überspringt die Grammatik den Prozess. Sie verrät nicht, ob Quellen lediglich gefunden, tatsächlich geöffnet, miteinander verglichen oder von einer zuständigen Person beurteilt wurden. Sie lässt auch offen, wer für die daraus abgeleitete Aussage einsteht.

Präziser wäre: Ein Recherchelauf hat Quellen gefunden. Ihre Tragfähigkeit ist noch redaktionell zu prüfen. Der zweite Satz klingt weniger souverän. Dafür beschreibt er die Arbeit, die tatsächlich geleistet wurde – und jene, die noch aussteht.

Das ist keine Nutzerstudie aus ANORA. Es ist eine sprachliche Beobachtung aus unserer Arbeit an einer benannten KI-Stimme. Je selbstverständlicher das System „ich“ sagt, desto leichter wandert Verantwortung in ein Pronomen. Der Name ist dabei nicht das Problem. Problematisch wird, was er unbemerkt mittragen soll.

Ein Gegenüber entsteht nicht durch den Namen allein

Anthropomorphismus bedeutet, einem nicht menschlichen System menschliche Eigenschaften zuzuschreiben. Bei einer KI-Oberfläche entsteht dieser Eindruck selten durch ein einzelnes Merkmal. Name, Ich-Form, Stimme, Gesprächsrhythmus und Formulierungen wie „Ich denke“ oder „Ich erinnere mich“ verstärken einander.

Ein Name kann Orientierung schaffen. Er bündelt die Interaktion und macht eine abstrakte Systemleistung leichter ansprechbar. Doch aus Orientierung wird schnell eine Rollenannahme: Wer spricht, muss etwas wissen. Wer etwas weiß, hat vermutlich geprüft. Wer geprüft hat, scheint auch verantwortlich zu sein.

Diese Kette ist sprachlich plausibel und sachlich falsch. Ein System kann Informationen abrufen, vergleichen und formulieren. Daraus folgt weder Zuständigkeit noch Verantwortung. Beides entsteht außerhalb der Figur: durch Rollen, dokumentierte Zustände und eine Person, die eine Entscheidung tatsächlich treffen darf.

Nähe wirkt, aber nicht nach einer einfachen Regel

Eine 2024 bei CHI veröffentlichte Untersuchung ließ 2.165 Erwachsene in den USA mit einem simulierten Sprachmodell interagieren. Sprache in Kombination mit Text führte zu stärkerer Anthropomorphisierung und höheren Bewertungen der wahrgenommenen Informationsgenauigkeit. Die Ich-Form erhöhte die eingeschätzte Genauigkeit und senkte die Risikowahrnehmung jedoch nur in einem der untersuchten Kontexte. Gemessen wurden Wahrnehmungen in einer Versuchsanordnung, nicht die tatsächliche Qualität eines betrieblichen KI-Systems. CHI-Studie zu anthropomorphen Hinweisen und Vertrauen ↗

Eine ebenfalls 2024 bei FAccT veröffentlichte Untersuchung mit 954 Teilnehmenden fand keinen allgemeinen Vertrauensvorteil für anthropomorph formulierte Produktbeschreibungen. Der Produkttyp und die jeweils verwendete Form der Vermenschlichung wogen stärker als die sprachliche Rahmung allein. FAccT-Studie zu Anthropomorphisierung und Vertrauen ↗

Diese beiden Studien ergeben keine bequeme Designregel. Sie zeigen vielmehr, wie abhängig die Wirkung sozialer Hinweise von Aufgabe, Situation und Nutzergruppe ist. Sie beantworten auch nicht, ob ein benannter Assistent in einem konkreten Unternehmensprozess zu besseren Entscheidungen führt.

Die Gegenreaktion wäre deshalb ebenso vorschnell: alle Namen entfernen, jede Ich-Form streichen, nur noch Statuscodes anzeigen. Auch eine betont sachliche Oberfläche kann Objektivität behaupten, ohne Herkunft, Unsicherheit oder offene Prüfschritte sichtbar zu machen.

Verantwortung steckt in den Verben

Entscheidend ist nicht, ob eine KI-Oberfläche freundlich oder technisch klingt. Entscheidend ist, ob ihre Verben zum belegbaren Zustand passen. „Gefunden“ ist nicht „geprüft“. „Generiert“ ist nicht „redigiert“. „Empfohlen“ ist nicht „entschieden“. Und „freigegeben“ darf nur dort stehen, wo eine zuständige Person tatsächlich freigegeben hat.

Die Guidelines for Human-AI Interaction von Microsoft betrachten Gestaltung über den gesamten Nutzungsverlauf: beim ersten Kontakt, während der Interaktion, bei Fehlern und im weiteren Gebrauch. Damit verschiebt sich die Frage von der Persönlichkeit des Systems zu seinem Verhalten, wenn etwas unklar oder falsch ist. Microsofts Guidelines for Human-AI Interaction ↗

Auch das People + AI Guidebook von Google formuliert Vertrauen nicht als Wert, den eine Oberfläche maximieren sollte. Menschen sollen erkennen können, wann sie einer Ausgabe folgen können und wann eigenes Urteil nötig ist. Dazu gehören nachvollziehbare Datenquellen sowie verständliche Fähigkeiten und Grenzen. Google PAIR über Erklärbarkeit und Vertrauenskalibrierung ↗

Für unsere Arbeit haben sich daraus vier Fragen ergeben:

• Herkunft: Welche Quellen, Daten oder Eingaben tragen das Ergebnis?
• Zustand: Wurde der Inhalt gefunden, verglichen, generiert, redigiert oder menschlich freigegeben?
• Grenze: Was fehlt, blieb ungeprüft oder liegt außerhalb des Auftrags?
• Eingriff: Wer kann korrigieren, stoppen oder die Veröffentlichung ablehnen?

Nicht jede Antwort muss dauerhaft den Bildschirm füllen. Sie kann dort erscheinen, wo sie für den nächsten Schritt relevant wird. Verschwinden darf sie nicht. Wie wir in „Eine Tür, kein Orakel“ beschrieben haben, ist die Oberfläche ein Zugang zur Arbeit des Systems – kein Beweis für deren Richtigkeit.

Was wir aus dem Namen gelernt haben

Unsere Konsequenz ist nicht, N.O.A.H. wieder namenlos zu machen. Der Name darf Kontinuität schaffen und kenntlich machen, wo die koordinierende Intelligenz von ANORA relevanten Kontext zusammenführt und einen prüfbaren nächsten Schritt vorbereitet.

Er darf jedoch keine Zuständigkeit darstellen, die das System nicht besitzt. Freigabe, Budgetentscheidung und Veröffentlichung bleiben Entscheidungen von Menschen. Das muss nicht erst in einer Richtlinie stehen, die außerhalb der eigentlichen Arbeit liegt. Es muss in den Zuständen und Handlungen der Oberfläche erkennbar sein.

Auch unsere Designnotiz über KI ohne Science-Fiction folgt diesem Gedanken: Verständlichkeit entsteht nicht durch Spektakel oder eine besonders überzeugende Figur, sondern durch sichtbare Handlungen und Grenzen.

Was wir aus der Arbeit mitgenommen haben: N.O.A.H. darf einen Namen tragen. Aber kein Verb, das mehr Verantwortung behauptet, als der Systemzustand belegt.