Die Anbieterakte kennt Ihren Einsatz nicht Die Anbieterakte kennt Ihren Einsatz nicht

Die entscheidende Lücke beginnt im eigenen Prozess

Vor einer Freigabe kann die Dokumentenlage vollständig aussehen. Der vorgesehene Zweck ist beschrieben. Leistungsgrenzen, Eingabedaten, Protokollierung und menschliche Aufsicht haben eigene Kapitel. Trotzdem fehlt die Information, von der die Folgen des Einsatzes abhängen: Was geschieht, wenn die Ausgabe des Systems in Ihren Prozess eintritt?

Der Anbieter kennt Ihre Warteschlangen nicht. Er weiß nicht, ob Beschäftigte eine Empfehlung unter Zeitdruck übernehmen, ob eine niedrige Priorität zu drei weiteren Prüfschritten führt oder ob eine betroffene Person überhaupt erfährt, an wen sie sich wenden kann. Er beschreibt das System. Die einsetzende Organisation verantwortet den Ablauf, in dem es wirksam wird.

Wir verwenden dafür den Arbeitsbegriff Anbieterakte. Die EU-KI-Verordnung kennt diesen Begriff nicht. Gemeint sind die vom Anbieter bereitgestellten Unterlagen zu Zweck, Eigenschaften, Grenzen und vorgesehenem Betrieb. Sie sind notwendiges Eingangsmaterial. Eine abschließende Einsatzfreigabe ersetzen sie nicht.

Besonders deutlich wird diese Trennung bei der Grundrechte-Folgenabschätzung. Artikel 27 des EU AI Act ↗ verlangt für die erfassten Fälle Angaben zum konkreten Prozess, zur Nutzungsdauer und Häufigkeit, zu betroffenen Gruppen, einsatzbezogenen Risiken, Human Oversight sowie zu interner Governance und Beschwerdemechanismen. Diese Angaben entstehen erst beim Betreiber.

Ob Artikel 27 greift, entscheidet nicht der Produktname

Nicht jedes KI-System und nicht jeder Betreiber benötigt eine formale Grundrechte-Folgenabschätzung. Der Prüfweg beginnt mit drei getrennten Fragen: Ist das System für den geplanten Zweck als Hochrisiko-KI einzuordnen? Gehört der Betreiber zum Adressatenkreis des Artikels 27? Sind die einschlägigen Vorschriften bereits anwendbar?

Artikel 27 betrifft Hochrisiko-Systeme nach Artikel 6 Absatz 2 und Anhang III, ausgenommen den Bereich der kritischen Infrastruktur nach Nummer 2 des Anhangs. Verpflichtet werden Einrichtungen des öffentlichen Rechts, private Stellen, die öffentliche Dienste erbringen, sowie Betreiber der ausdrücklich erfassten Systeme zur Kreditwürdigkeitsprüfung und zur Risiko- oder Preisbewertung in der Lebens- und Krankenversicherung.

Ein privates Unternehmen, das ein Hochrisiko-System für die Bewerberauswahl nutzt, fällt deshalb nicht allein wegen dieses Einsatzes unter Artikel 27. Andere Betreiberpflichten, das Datenschutzrecht, das Arbeitsrecht und nationale Vorgaben können dennoch gelten.

Auch der Zeitpunkt ist relevant. Stand 4. Oktober 2026 gelten die Abschnitte 1 bis 3 des dritten Kapitels für Hochrisiko-Systeme nach Artikel 6 Absatz 2 und Anhang III grundsätzlich ab 2. Dezember 2027. Für Systeme nach Artikel 6 Absatz 1 und Anhang I ist der 2. August 2028 vorgesehen. Diese Fristen ergeben sich aus der Änderungsverordnung (EU) 2026/1744 ↗. Sonderregeln, etwa für bestimmte biometrische Anwendungen, müssen separat geprüft werden.

Die Einordnung gibt den Rechtsstand vom 4. Oktober 2026 wieder und ersetzt keine Rechtsberatung.

Der Anbieter liefert Produkteigenschaften, der Betreiber Einsatzwissen

Für Hochrisiko-Systeme verlangt Artikel 13 verständliche Gebrauchsinformationen. Dazu zählen der vorgesehene Zweck, Leistungsgrenzen, Genauigkeit, Robustheit, vorhersehbare Risiken, Anforderungen an Eingabedaten, Maßnahmen zur menschlichen Aufsicht und verfügbare Protokollierungsmechanismen. Die konsolidierte Fassung der EU-KI-Verordnung vom 27. Juli 2026 ↗ macht zugleich sichtbar, wo die Verantwortung des Betreibers beginnt.

Die Anbieterinformationen beantworten vor allem Fragen über das System. Vor der Freigabe müssen daraus Fragen über den eigenen Ablauf werden:

• Entspricht die geplante Verwendung tatsächlich dem vorgesehenen Zweck?
• Welche Eingabedaten kontrolliert die Organisation selbst, und für welche Personengruppen sind sie aussagekräftig?
• Welche Entscheidung beeinflusst die Ausgabe unmittelbar oder mittelbar?
• Welche Protokolle sind für den Betreiber verfügbar und mit dem späteren Vorgang verbindbar?
• Wer erkennt einen Störfall, wer darf den Betrieb begrenzen und wie werden vergleichbare Fälle gefunden?

Eine Beschaffungsakte kann damit belegen, was eingekauft wurde. Die Einsatzakte muss zeigen, wie das System verwendet wird, welche Annahmen aus dem eigenen Prozess stammen und wie im Fehlerfall gehandelt wird. Erst zusammen ergeben beide ein prüfbares Bild.

Human Oversight zeigt sich erst unter Arbeitsdruck

Human Oversight ist keine Rollenbezeichnung im Organigramm. Der Anbieter kann technische Aufsichtsmaßnahmen vorsehen und beschreiben. Der Betreiber muss sie mit kompetenten, geschulten und befugten Personen besetzen und ihnen die notwendige Unterstützung geben.

Ob die Aufsicht funktioniert, zeigt sich nicht an der Benennung einer verantwortlichen Person, sondern an vier praktischen Fragen: Sieht diese Person die Ausgabe, bevor eine folgenreiche Handlung ausgelöst wird? Versteht sie die Grenzen des Systems? Kann sie ohne unvertretbaren Zeit- oder Rechtfertigungsdruck abweichen? Darf sie den Vorgang oder das System tatsächlich stoppen?

Ein Override-Button genügt nicht, wenn niemand die Abweichung erkennt oder eine Überschreibung im Arbeitsablauf faktisch sanktioniert wird. Menschliche Aufsicht ist erst wirksam, wenn Kompetenz, Zeit, Befugnis und Nachweis zusammenkommen.

Beispiel: Eine Priorisierung verlängert Wartezeit

Beispiel, kein Kundenfall und keine abschließende rechtliche Klassifikation: Eine kommunale Stelle prüft ein System für Anträge auf eine öffentliche Unterstützungsleistung. Es soll Unterlagen ordnen, fehlende Angaben markieren und Fälle nach dem erwarteten Prüfaufwand priorisieren. Den formalen Bescheid erlässt weiterhin ein Mensch.

Die Bezeichnung als Sortierhilfe beantwortet noch nicht, welchen Einfluss das System ausübt. Werden niedrig priorisierte Anträge deutlich später geöffnet? Übernehmen Beschäftigte die Reihenfolge regelmäßig, weil die Zahl der Fälle hoch ist? Werden sprachlich ungewöhnliche oder unvollständige Unterlagen häufiger zurückgestellt? Dann entscheidet die Ausgabe zwar nicht unmittelbar über den Anspruch. Sie kann aber beeinflussen, wann eine Person Zugang zur menschlichen Prüfung erhält.

Artikel 6 Absatz 3 sieht Ausnahmen für bestimmte enge, vorbereitende oder verfahrensbezogene Aufgaben vor, wenn das System kein erhebliches Risiko verursacht und das Ergebnis einer Entscheidung nicht wesentlich beeinflusst. Ob diese Ausnahme trägt, lässt sich jedoch nicht aus dem Produktetikett ableiten. Der Betreiber muss prüfen, welche Wirkung die Priorisierung im realen Ablauf entfaltet und ob die geplante Verwendung noch der dokumentierten Zweckbestimmung entspricht.

Für eine belastbare Bewertung müsste die Kommune mindestens festhalten, an welcher Prozessstelle der Wert erscheint, welche Folgehandlungen er auslöst, welche Gruppen von Fehlern besonders betroffen sein könnten und wie Beschäftigte die Reihenfolge korrigieren. Hinzu kommen der Nachweis von Eingabe, Ausgabe und menschlichem Eingriff sowie ein Beschwerdeweg, über den sich systematische Fehler erkennen und begrenzen lassen.

Das Risiko liegt hier nicht nur in einer möglichen Fehlentscheidung. Es kann bereits in der Verteilung von Aufmerksamkeit und Wartezeit entstehen.

FRIA und Datenschutz-Folgenabschätzung prüfen verschiedene Ausschnitte

Eine Datenschutz-Folgenabschätzung ist erforderlich, wenn eine Verarbeitung personenbezogener Daten voraussichtlich ein hohes Risiko für die Rechte und Freiheiten natürlicher Personen verursacht. Die Erläuterungen der Europäischen Kommission zur Datenschutz-Folgenabschätzung ↗ nennen unter anderem umfangreiche automatisierte Bewertungen persönlicher Aspekte, die groß angelegte Verarbeitung sensibler Daten und die systematische Überwachung öffentlicher Bereiche.

Die FRIA nach Artikel 27 setzt an einer anderen Stelle an. Sie ist an bestimmte Hochrisiko-Systeme und Betreiber gebunden und betrachtet den Einsatz im Hinblick auf Grundrechte breiter. Eine Organisation kann deshalb eine Datenschutz-Folgenabschätzung, eine FRIA, beide Prüfungen oder keine von beiden benötigen.

Artikel 27 erlaubt, einschlägige Teile einer bereits durchgeführten Datenschutz-Folgenabschätzung zu übernehmen oder darauf zu verweisen. Das vermeidet Doppelarbeit. Es macht die Dokumente aber nicht austauschbar: Angaben zum konkreten Prozess, zu betroffenen Gruppen, Human Oversight, interner Governance und Beschwerden müssen in der FRIA weiterhin vollständig abgedeckt sein.

Vor dem Go-live braucht die Freigabe sechs Antworten

1. Was tut das System im Prozess? Beschreiben Sie Handlung, betroffene Personengruppe und Wirkung in einem Satz. „Das System priorisiert Anträge und beeinflusst damit die Reihenfolge der manuellen Prüfung“ ist prüfbarer als „Optimierung des Workflows“.
2. Wie ist der konkrete Einsatz klassifiziert? Trennen Sie Anbieterzweck, vertraglich erlaubte Nutzung und geplante Praxis. Dokumentieren Sie, warum das System als hochriskant, nicht hochriskant oder noch ungeklärt behandelt wird und ob der Betreiber unter Artikel 27 fällt.
3. Welche Aussage stammt von wem? Kennzeichnen Sie Anbieterinformationen, interne Prozessdaten und noch unbewiesene Annahmen. Eine Anbieterbewertung darf in ähnlichen Fällen herangezogen werden. Vergleichbarkeit und Aktualität muss der Betreiber selbst prüfen.
4. Kann ein Mensch wirksam eingreifen? Testen Sie einen Grenzfall, in dem die richtige Handlung darin besteht, der Systemausgabe nicht zu folgen. Halten Sie fest, wer entscheiden, überschreiben und stoppen darf.
5. Bleibt der Einzelfall rekonstruierbar? Legen Sie fest, welche Systemversion, Eingabe, Ausgabe, Überschreibung und nachfolgende Entscheidung verbunden bleiben. Der Beitrag „Das Modell kann erklären. Der Einzelfall ist verschwunden.“ vertieft, warum allgemeine Anbieterunterlagen diesen Beweispfad nicht ersetzen.
6. Welche Entscheidung wird tatsächlich getroffen? Das Ergebnis kann eine Freigabe, eine Freigabe unter Auflagen, ein begrenzter Pilot oder ein Stopp sein. Benennen Sie zugleich den Auslöser für eine Neubewertung, etwa einen neuen Zweck, andere Datenquellen, zusätzliche Personengruppen oder eine veränderte Systemversion.

Fehlen noch Zuständigkeiten, Datenkontrollen oder Stop-Regeln, liegt die offene Aufgabe vor der eigentlichen Folgenabschätzung. „Fragen vor KI-Automation: Was Entscheider zuerst klären“ führt diesen vorgelagerten Schritt weiter.

Die Pflicht ist eine Untergrenze, keine universelle Prüfmethode

Nicht jede Textassistenz und nicht jede Automatisierung benötigt eine formale FRIA. Würde jede geringfügige Anwendung durch dasselbe Verfahren geschickt, verlöre die Prüfung ihre Unterscheidungsfähigkeit. Für einen Einsatz mit begrenzter Wirkung kann eine kurze Dokumentation von Zweck, Daten, Verantwortung und Fehlerfolgen angemessen sein.

Mit dem Einfluss auf Menschen muss jedoch auch die Tiefe der Prüfung wachsen. Die Anbieterakte kann dafür belastbares Material liefern. Sie kann nicht entscheiden, wie eine Organisation Arbeit verteilt, Aufsicht ermöglicht, Beschwerden behandelt oder indirekte Folgen erkennt.

Die entscheidende Freigabefrage lautet deshalb nicht, ob die Anbieterunterlagen vollständig wirken. Sie lautet, welche Aussagen über den eigenen Einsatz die Organisation selbst belegen kann. Dort endet die Produktbeschreibung. Dort beginnt die Verantwortung des Betreibers.