KI im Unternehmen rechtssicher einsetzen

Risikobasierter Ansatz des EU AI Act

Der EU AI Act bewertet „KI“ nicht als einheitliche Technologie. Maßgeblich sind der beabsichtigte Zweck, der konkrete Einsatz und die Rolle der Beteiligten. Bestimmte Praktiken sind untersagt. Dazu gehören etwa schädlich manipulative Anwendungen, bestimmte Formen des Social Scoring sowie einzelne biometrische Praktiken. Für Hochrisiko-Systeme gelten umfangreiche Anforderungen an Risikomanagement, Datenqualität, technische Dokumentation, Protokollierung, menschliche Aufsicht, Genauigkeit, Robustheit und Cybersicherheit.

Ob ein System als hochriskant einzuordnen ist, lässt sich nicht allein aus dem Produktnamen ableiten. Der AI Act nennt unter anderem Einsatzbereiche wie Beschäftigung, Bildung, Zugang zu wesentlichen privaten oder öffentlichen Leistungen, kritische Infrastruktur und bestimmte biometrische Anwendungen. Ein Textassistent für interne Entwürfe kann außerhalb dieser Kategorien liegen, während dasselbe Basismodell als Bestandteil einer automatisierten Vorauswahl von Bewerbern eine deutlich strengere Einordnung auslösen kann. Unternehmen sollten daher jeden Anwendungsfall getrennt beschreiben und klassifizieren.

Auch die eigene Rolle ist entscheidend. Ein Unternehmen, das ein fremdes System bestimmungsgemäß einsetzt, ist regelmäßig Betreiber im Sinne des AI Act. Wer jedoch ein System unter eigenem Namen in Verkehr bringt, den vorgesehenen Zweck verändert oder eine wesentliche Änderung vornimmt, kann dagegen in die Anbieterrolle wechseln. Dann reichen Betreiberkontrollen nicht mehr aus. Schon bei White-Label-Produkten, tiefen Integrationen und eigenständig konfigurierten Entscheidungslogiken sollte diese Grenze ausdrücklich geprüft werden.

In zeitlicher Hinsicht muss zwischen geltendem Recht und bereits beschlossenen Änderungen unterschieden werden. Der AI Act wurde am 12. Juli 2024 im Amtsblatt veröffentlicht und trat am 1. August 2024 in Kraft. Seit dem 2. Februar 2025 gelten die allgemeinen Bestimmungen, die Verbote und Art. 4 zur KI-Kompetenz. Seit dem 2. August 2025 gelten insbesondere die Governance-Regeln und die Pflichten für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck. Für solche Modelle, die bereits vor diesem Datum in Verkehr gebracht wurden, läuft grundsätzlich eine Übergangsfrist bis zum 2. August 2027. Die meisten übrigen Vorschriften, darunter die Transparenzpflichten des Art. 50, gelten nach dem derzeit verbindlichen Art. 113 AI Act seit dem 2. August 2026. Nach ursprünglicher Fassung hätten an diesem Tag auch die Hochrisiko-Anforderungen für die in Anhang III genannten Systeme und Hochrisiko-Systeme gelten sollen. 

Das Europäische Parlament und der Rat haben inzwischen den Digital Omnibus on AI angenommen. Die Schlussfassung vom 8. Juli 2026 verschiebt die Hochrisiko-Anforderungen für Systeme nach Anhang III auf den 2. Dezember 2027 und für produktbezogene Systeme nach Anhang I auf den 2. August 2028. Für Anbieter bestimmter Systeme, die synthetische Audio-, Bild-, Video- oder Textinhalte erzeugen und bereits vor dem 2. August 2026 in Verkehr gebracht wurden, sieht sie außerdem für Art. 50 Abs. 2 eine Übergangsfrist bis zum 2. Dezember 2026 vor. Rechtlich verbindlich wird die Änderung jedoch erst am dritten Tag nach ihrer Veröffentlichung im Amtsblatt. Am 21. Juli 2026 war sie dort noch nicht veröffentlicht und trug noch keine endgültige Verordnungsnummer. Bis zu diesem Inkrafttreten bleibt deshalb der bisherige Art. 113 die maßgebliche Rechtsgrundlage. Für die Projektplanung kann der beschlossene neue Zeitplan bereits berücksichtigt werden.

Transparenzpflichten betreffen nicht jede KI-Ausgabe in derselben Weise. Art. 50 erfasst unter anderem bestimmte interaktive Systeme sowie künstlich erzeugte oder manipulierte Inhalte. Die Europäische Kommission hat hierzu am 20. Juli 2026 Leitlinien veröffentlicht. Für Unternehmen bedeutet das: Kennzeichnung und Nutzerinformation müssen aus dem konkreten Kommunikationskanal und der jeweiligen Rolle abgeleitet werden, nicht aus einer pauschalen Vorgabe, jeden KI-unterstützten Inhalt mit demselben Hinweis zu versehen.

Datenschutz, Urheberrecht und Geschäftsgeheimnisse

Der AI Act ersetzt die DSGVO nicht. Sobald ein KI-System personenbezogene Daten verarbeitet, braucht das Unternehmen eine belastbare Rechtsgrundlage und muss die Grundsätze aus Art. 5 DSGVO beachten. Zweckbindung, Datenminimierung, Richtigkeit, Speicherbegrenzung und Sicherheit müssen bereits beim Aufbau des Use Cases berücksichtigt werden. Bei besonderen Kategorien personenbezogener Daten, Beschäftigtendaten oder Profiling steigen die Anforderungen. Trifft ein System ausschließlich automatisierte Entscheidungen mit rechtlicher oder ähnlich erheblicher Wirkung, ist zusätzlich Art. 22 DSGVO zu prüfen.

Eine Datenschutz-Folgenabschätzung ist nach Art. 35 DSGVO erforderlich, wenn die geplante Verarbeitung voraussichtlich ein hohes Risiko für Rechte und Freiheiten natürlicher Personen zur Folge hat. Die Hochrisiko-Einstufung nach dem AI Act und die Datenschutz-Folgenabschätzung sind dabei zwei verschiedene Prüfungen. Ein System kann unter dem AI Act nicht hochriskant sein und trotzdem eine Folgenabschätzung erfordern. Umgekehrt schafft die Einhaltung der AI-Act-Vorgaben noch keine datenschutzrechtliche Rechtsgrundlage.

Bei generativer KI entstehen urheberrechtliche Fragen auf mehreren Ebenen. Für den Input ist zu klären, ob geschützte Texte, Bilder, Software oder Datenbanken verarbeitet werden dürfen. Beim Output kommt es darauf an, ob hinreichende menschliche Gestaltung vorliegt, welche Nutzungsbedingungen des Anbieters gelten und ob das Ergebnis Rechte Dritter verletzt. Eine vertragliche Zusage, der Kunde dürfe den Output nutzen, ist keine Garantie dafür, dass keine fremden Rechte berührt werden. Vor externer Veröffentlichung braucht es deshalb eine inhaltliche und, bei sensiblen Projekten, eine rechtliche Prüfung.

Geschäftsgeheimnisse verdienen eine eigene Betrachtung. Nach dem Geschäftsgeheimnisgesetz setzt der gesetzliche Schutz unter anderem angemessene Geheimhaltungsmaßnahmen voraus. Werden interne Kalkulationen, Quellcode, Vertragsentwürfe oder Kundendaten ohne Freigabe in ein öffentliches System eingegeben, kann das die Darlegung solcher Schutzmaßnahmen erschweren. Ob tatsächlich Schutz verloren geht, hängt vom Einzelfall ab. Eine belastbare Organisation verbindet daher technische Einstellungen, vertragliche Vertraulichkeit, abgestufte Datenklassen und klare Vorgaben dazu, welche Inhalte in welches System eingegeben werden dürfen.

Drittanbieter-KI: Vertrag und Rollenverteilung

Die meisten Unternehmen beziehen KI-Funktionen von externen Anbietern. Das verschiebt einen Teil der technischen Kontrolle, nicht aber die Verantwortung für den eigenen Einsatz. Vor Vertragsschluss sollte feststehen, welche Produktversion verwendet wird, ob das System nur assistiert oder Entscheidungen vorbereitet, welche Daten übertragen werden und ob der Anbieter Modell, Funktionen oder Nutzungsbedingungen einseitig ändern kann. Bei geschäftskritischen Anwendungen ist zudem zu klären, ob eine Änderung angekündigt wird und ob das Unternehmen auf eine stabile Version ausweichen kann.

Der Vertrag sollte verständlich regeln, ob Prompts, hochgeladene Dateien, Metadaten und Feedback für Training, Feinabstimmung, Missbrauchserkennung oder Produktverbesserung genutzt werden. „Kein Training“ beantwortet nicht automatisch, wie lange Daten gespeichert, in welchen Regionen sie verarbeitet oder welchen Unterauftragnehmern sie zugänglich gemacht werden. Vertraulichkeit, Löschkonzept, technische und organisatorische Maßnahmen, Sicherheitsvorfälle, Auditinformationen und Unterstützung bei Behörden- oder Betroffenenanfragen gehören daher in denselben Prüfstrang.

Verarbeitet der Anbieter personenbezogene Daten im Auftrag, ist regelmäßig eine Vereinbarung nach Art. 28 DSGVO erforderlich. Internationale Datenübermittlungen müssen gesondert geprüft werden. Ein Serverstandort in der EU beantwortet nicht zwingend, ob Support- oder Konzernzugriffe aus Drittländern stattfinden. Der Vertrag sollte außerdem festlegen, wer für Anfragen zu Betroffenenrechten, Berichtigung, Löschung und Datenexport zuständig ist.

Für die AI-Act-Compliance braucht der Betreiber Informationen zum vorgesehenen Zweck, zu Einsatzgrenzen, erforderlichen Eingabedaten, Leistungsmerkmalen und menschlichen Kontrollmöglichkeiten. Bei Hochrisiko-Anwendungen kommen die gesetzlich vorgesehenen Informationen und Protokolle hinzu. Fehlen diese Unterlagen, kann das Unternehmen seine eigenen Kontroll- und Dokumentationspflichten kaum erfüllen. Eine bloße Marketingaussage zur „AI-Act-Konformität“ ersetzt die konkrete Dokumentation nicht.

Haftungsregelungen sollten zum realen Schadensbild passen. Denkbar sind fehlerhafte Ausgaben, Datenschutzverletzungen, Verletzungen fremder Rechte, Ausfälle, unerwartete Modelländerungen oder diskriminierende Ergebnisse. Ein allgemeiner Haftungsausschluss des Anbieters verlagert diese Risiken vollständig auf den Kunden. Bei Standardbedingungen ist außerdem zu prüfen, welches Recht gilt und ob die Klauseln wirksam einbezogen wurden. Für besonders wichtige Anwendungen können Freistellungen, abgestufte Haftungsgrenzen, Versicherungsnachweise und Exit-Unterstützung verhandlungsentscheidend sein.

Ein praktikabler Weg zur KI-Compliance

Am Anfang steht ein realistisches Inventar. Erfasst werden zentral beschaffte Systeme, KI-Funktionen in bestehender Software und informell genutzte Tools einzelner Teams. Für jeden Use Case sollten Zweck, Nutzerkreis, Eingabe- und Ausgabedaten, betroffene Personen, Anbieter, Integrationen und die Bedeutung des Ergebnisses für nachfolgende Entscheidungen dokumentiert werden. Erst diese Beschreibung erlaubt eine rechtliche Einordnung.

Danach folgt eine abgestufte Prüfung. Zunächst werden verbotene Praktiken ausgeschlossen und Rolle sowie Risikokategorie nach dem AI Act bestimmt. Parallel sind Datenschutz, Arbeitsrecht, Urheberrecht, Geschäftsgeheimnisse und branchenspezifische Vorgaben zu prüfen. Ein Freigabeprozess sollte bei sensiblen Daten, Entscheidungen über Menschen oder sicherheitsrelevanten Funktionen eine vertiefte Prüfung auslösen, während risikoarme Hilfsfunktionen mit einem schlankeren Verfahren auskommen können.

Eine interne KI-Richtlinie sollte keine Sammlung abstrakter Verbote sein. Sie muss benennen, welche Systeme für welche Datenklassen freigegeben sind, wann Ergebnisse fachlich überprüft werden, wie KI-Nutzung dokumentiert wird und an wen Vorfälle gemeldet werden. Beschäftigte brauchen Beispiele aus ihrem Arbeitsalltag und genügend KI-Kompetenz, um Grenzen des Systems, mögliche Fehlantworten und die eigene Verantwortung zu verstehen. Technische Sperren und Zugriffsrechte ergänzen diese Vorgaben, ersetzen sie aber nicht.

Schließlich braucht das Unternehmen einen laufenden Kontrollprozess. Anbieter ändern Modelle und Bedingungen, Use Cases wachsen über ihren ursprünglichen Zweck hinaus, und neue Leitlinien konkretisieren die Anwendung des AI Act. Regelmäßige Überprüfungen, ein dokumentiertes Änderungsverfahren und klare Verantwortlichkeiten halten das Inventar aktuell. So entsteht eine Compliance-Struktur, die mit der Nutzung mitwächst, statt erst nach einem Vorfall zu reagieren.