Die Hände am Rand der Maschine

Der schnelle Text und sein langer Schatten

Der rote Bleistift liegt neben einem Ausdruck. Der Absatz klingt flüssig, der Ton stimmt, die Grammatik auch. Trotzdem sind mehrere Stellen markiert: Eine Produkteigenschaft ist veraltet, eine Formulierung nicht abgestimmt, in der Schweizer Fassung steht ein ß.

Die Szene ist verdichtet, kein Kundenfall. Sie könnte sich in einer Redaktion, einem Onlineshop oder einer Marketingabteilung abspielen. Der Entwurf kann in Sekunden entstehen. Verwendbar wird er erst, wenn jemand klärt, welche Daten gelten, welche Sprache zur Marke passt und welche Aussage sich tatsächlich vertreten lässt.

Genau hier beginnt der eigentümliche Eindruck moderner KI. Auf der Oberfläche schrumpft eine Aufgabe auf ein Eingabefeld und eine Antwort. Die Vorgeschichte verschwindet. Ebenso unsichtbar bleibt oft, was nach der Ausgabe geschieht: vergleichen, korrigieren, veröffentlichen und später aktualisieren.

Mühelosigkeit ist dabei weniger eine Eigenschaft des gesamten Systems als eine Kameraperspektive. Sichtbar ist das letzte Glied einer langen Kette. Wer nur dieses Glied betrachtet, kann Geschwindigkeit leicht mit Automatisierung verwechseln.

Das Modell steht nicht allein

Ein Sprachmodell berechnet aus seinen Parametern und dem aktuellen Kontext Wahrscheinlichkeiten für nachfolgende Textbestandteile. Es formuliert schrittweise. Es prüft dabei nicht automatisch, ob eine Aussage aktuell, vollständig oder für den konkreten Einsatz freigegeben ist. Sprachliche Sicherheit und sachliche Verlässlichkeit sind verschiedene Qualitäten.

Praktische Anwendungen legen deshalb weitere Schichten um das Modell. Ein Retrieval-System kann ausgewählte Dokumente in den Kontext holen. Werkzeuge führen Abfragen oder Aktionen aus. Regeln begrenzen Formate und Zugriffe. Erst das Zusammenspiel erzeugt den Eindruck eines Systems, das eine Aufgabe eigenständig versteht und erledigt.

Jede dieser Schichten hat eine Arbeitsgeschichte. Dokumente werden ausgewählt, bereinigt und strukturiert. Taxonomien, Produktattribute und Wissensbestände benötigen Pflege. Evaluationsfälle müssen entworfen, Grenzfälle geprüft und fehlerhafte Ausgaben untersucht werden. Datenannotation ist dabei kein einheitlicher Arbeitsschritt, sondern ein Sammelbegriff für sehr unterschiedliche Formen des Ordnens, Markierens und Bewertens.

Auch die Modelle selbst tragen menschliche Urteile in sich. Je nach Entwicklungsverfahren erstellen Menschen Beispiele, vergleichen Antwortvarianten oder kennzeichnen problematische Inhalte. Bei Verfahren wie Reinforcement Learning from Human Feedback beeinflussen solche Bewertungen die weitere Abstimmung eines Modells. Nicht jedes Modell entsteht auf dieselbe Weise. Gemeinsam ist den Verfahren jedoch, dass Begriffe wie nützlich, sicher oder angemessen in konkrete Bewertungsentscheidungen übersetzt werden müssen.

Hinzu kommt die materielle Ebene: Rechenzentren, Chips, Stromversorgung, Kühlung und Netze. Kate Crawford ordnet in Atlas of AI gerade diese Verbindung von Daten, Ressourcen und Arbeit in den gesellschaftlichen Kontext der KI ein. Die Cloud wirkt immateriell, weil ihre Gebäude außerhalb unseres Blickfelds stehen.

Wenn Aufmerksamkeit ausgelagert wird

Mary L. Gray und Siddharth Suri beschrieben in Ghost Work kleinteilige digitale Tätigkeiten hinter Diensten, die nach außen automatisiert erscheinen. Dazu gehören Klassifikation, Überprüfung und Moderation. Nicht jede dieser Tätigkeiten betrifft generative KI, und die Arbeitsbedingungen unterscheiden sich stark. Als Perspektive bleibt der Begriff hilfreich: Ein System kann automatisch aussehen, weil Menschen seine Unbestimmtheit an vielen Stellen auffangen.

Diese Arbeit findet nicht zwingend dort statt, wo ein Produkt entwickelt oder genutzt wird. Sie kann an Dienstleister gehen, über Plattformen verteilt oder innerhalb einer Organisation an Fachabteilungen weitergereicht werden. Damit verschwindet sie nicht. Sie verliert nur ihren sichtbaren Zusammenhang mit dem Ergebnis.

Das Interface verstärkt diesen Effekt. Es zeigt Eingabe und Ausgabe, aber selten Datenpflege, Evaluation oder Moderation. Aus einer langen technischen und sozialen Kette wird eine kurze Begegnung zwischen Mensch und Maschine. Diese Reduktion ist funktional. Niemand möchte bei jeder Anfrage die gesamte Infrastruktur betrachten. Kulturell prägt sie dennoch, wem wir eine Leistung zuschreiben.

Gelingt ein Entwurf, erhält häufig das Modell die Aufmerksamkeit. Scheitert er, landet die Korrektur bei einer Person, deren Beitrag im System nicht als eigener Produktionsschritt erscheint. Erfolg gilt dann als automatisiert, Fehlerbehebung als Nebentätigkeit.

Der Ausdruck Human in the Loop löst dieses Problem nicht von selbst. Er besagt zunächst nur, dass ein Mensch an einer Stelle eingreifen kann oder soll. Er sagt nichts darüber aus, ob diese Person genug Zeit, Kontext und Entscheidungsspielraum besitzt. Ein Loop ist noch keine operative Verantwortung.

Nicht jede verborgene Tätigkeit ist Ausbeutung, und nicht jede Beteiligung muss sichtbar inszeniert werden. Komplexe Systeme sind auch deshalb nützlich, weil sie Einzelheiten verbergen. Problematisch wird Unsichtbarkeit dort, wo sie Anerkennung, Kosten oder Zuständigkeiten verzerrt.

Im SEO endet die Arbeit nicht mit dem Entwurf

Bei KI und SEO wird die Differenz zwischen Ausgabe und Ergebnis besonders greifbar. Ein Modell kann eine gegliederte Seite, Metadaten oder Vorschläge für strukturierte Daten erzeugen. Ob der Inhalt eine reale Suchfrage beantwortet, aktuelle Informationen nutzt und zur bestehenden Website passt, ist damit noch nicht entschieden.

Die redaktionelle Arbeit liegt häufig in den Verbindungen: Passt die Seite in die vorhandene Themenstruktur? Wiederholt sie bereits veröffentlichte Inhalte? Stimmen interne Links, Produktdaten und rechtlich sensible Aussagen? Beruht der Text auf tatsächlichem Wissen oder imitiert er lediglich dessen Ton?

Google stellt klar, dass der angemessene Einsatz generativer KI nicht grundsätzlich gegen die Richtlinien verstößt. Problematisch werden Inhalte, wenn sie vor allem zur Manipulation von Rankings produziert werden. Die Hinweise zu KI-generierten Inhalten und die Google Search Essentials knüpfen die Bewertung damit nicht an das Schreibwerkzeug allein, sondern an Zweck, Qualität und Nutzen des Inhalts.

Ähnlich verhält es sich mit maschinenlesbaren Auszeichnungen. Ein Modell kann Schema-Markup formulieren. Die Angaben müssen den sichtbaren Inhalt jedoch korrekt repräsentieren und technisch sauber eingebunden sein. Googles Dokumentation zu strukturierten Daten beschreibt diese Auszeichnung als Verständnishilfe für Suchmaschinen, nicht als Ersatz für eine stimmige Seite.

Automatisierung kann den ersten Entwurf schneller und günstiger machen. Knapp bleibt das Urteil: Quellen einordnen, Prioritäten setzen und erkennen, wie Inhalt, Technik, Marke und Veröffentlichung zusammenwirken. Der Generator beendet diese Arbeit nicht. Er verschiebt ihren Schwerpunkt.

In Business Operations zeigen sich die Ränder

Sobald KI nicht nur formuliert, sondern Vorgänge klassifiziert, Dokumente verarbeitet oder Aktionen vorbereitet, wird der Ablauf wichtiger als die einzelne Antwort. Das System benötigt passende Datenquellen, eindeutige Übergaben und einen Weg für Fälle, die nicht zur erwarteten Struktur passen.

Nehmen wir als Beispiel ein eingehendes Dokument, das erkannt, einem Vorgang zugeordnet und weitergeleitet werden soll. Der Ablauf wirkt einfach, solange Format, Inhalt und Absender bekannt sind. Fehlt eine Kennung, widersprechen sich Angaben oder ist die Datei unlesbar, beginnt die eigentliche Qualitätsfrage: Soll das System nachfragen, anhalten oder mit einer Annahme fortfahren? Wer übernimmt den Fall, und welche Informationen braucht diese Person?

Solche Entscheidungen lassen sich nicht aus der Sprachfähigkeit eines Modells ableiten. Sie gehören zum Prozessdesign. Arbeit wandert von der wiederholten Ausführung in die Definition von Regeln, Ausnahmen und Eingriffsrechten. Dazu kommt laufende Pflege, weil sich Dokumente, Zuständigkeiten und externe Bedingungen verändern.

Automatisierung kann Arbeit zugleich tatsächlich beseitigen. Eine monotone Übertragung muss nicht erhalten bleiben, nur damit menschliche Beteiligung sichtbar ist. Gute Systeme vermeiden Wiederholungen und reduzieren vermeidbare Fehler.

Die eingesparte Tätigkeit ist jedoch nicht mit der gesamten Arbeit gleichzusetzen. Wer nur die Zeit bis zum ersten Ergebnis misst, betrachtet den bequemsten Ausschnitt. Belastbar wird KI-Automatisierung dort, wo auch Abweichungen einen vorgesehenen Weg haben und Eingriffe nicht improvisiert werden müssen.

Verborgen ist nicht dasselbe wie unauffindbar

Es wäre unrealistisch, jede beteiligte Handlung permanent offenzulegen. Auch ein gedrucktes Buch trägt die Abstimmungen zwischen Lektorat, Satz und Produktion nicht auf seinem Umschlag. Unsichtbarkeit kann Komfort bedeuten.

Bei KI verläuft die relevante Grenze deshalb zwischen verborgen und unauffindbar. Eine Tätigkeit darf aus der Oberfläche verschwinden. Ihre Zuständigkeit sollte nicht im selben Moment verloren gehen. Eine Entscheidung kann automatisiert fallen, ohne dass ihre Grundlage oder die Möglichkeit zum Eingriff unkenntlich werden muss.

Der rote Bleistift vom Anfang ist daher kein Beweis für das Scheitern der KI. Er zeigt, dass jemand noch weiß, worauf es ankommt. Vielleicht wird dieser Stift in reiferen Abläufen seltener gebraucht. Das Urteil hinter seinen Strichen verschwindet damit nicht. Es wechselt den Ort.

Die kulturelle Frage beginnt genau dort: nicht bei der Behauptung, eine Maschine habe gearbeitet, sondern bei unserem Vermögen zu erkennen, wessen Wissen ein Ergebnis trägt, wer seine Grenzen kennt und wer die Hand ausstreckt, wenn die mühelose Oberfläche nicht mehr weiterweiß.