Thema 1 / 15
Zum Thema
Die rechtliche Architektur der KI-Verordnung
Anbieter oder Betreiber, verbotene Praxis oder Hochrisiko: vier Prüffragen ordnen jede KI-Anwendung ein.
Ob Chatbot im Kundenservice, KI-gestützte Texterstellung, automatisierte Auswertungen oder handelnde Agenten: Der Einsatz von Künstlicher Intelligenz wirft in fast jedem Unternehmen dieselben Rechtsfragen auf. Diese Seite ist Ihr Einstieg – sie bündelt die relevanten Themen und führt Sie über kompakte Themenseiten zu jeder Detailfrage. Von hier aus können Sie sich Thema für Thema durcharbeiten.
Alle rechtlichen Fragen rund um KI im Unternehmen – von der KI-Verordnung über Datenschutz und Urheberrecht bis zur Governance – sind Teil des LEGAL SMART Rechtsschutzes. Als Mitglied erhalten Sie die anwaltliche Beratung zu diesen Themen ohne Zusatzkosten: planbar, schnell und direkt von unseren Rechtsanwältinnen und Rechtsanwälten.
LEGAL SMART Rechtsschutz entdeckenDie KI-Verordnung der EU tritt nicht an einem Stichtag vollständig in Kraft, sondern in Stufen. Für Unternehmen sind aktuell vier Termine besonders wichtig:
Ab diesem Datum gelten die Kennzeichnungspflichten aus Art. 50 KI-VO für Chatbots, KI-generierte Inhalte und Deepfakes vollständig; zugleich beginnt die Bußgeld-Durchsetzung gegenüber Anbietern von General-Purpose-KI-Modellen.
Die Richtlinie (EU) 2024/2853 muss bis zu diesem Datum in nationales Recht umgesetzt werden und erfasst dann Software und KI-Systeme ausdrücklich als „Produkt" im Haftungsrecht.
Unter anderem Personalwesen, Bildung, kritische Infrastruktur und biometrische Systeme.
KI, die z. B. in Medizinprodukte oder Maschinen eingebettet ist, unterliegt zusätzlich den dort geltenden Konformitätsanforderungen.
Ein Unternehmen führt im Frühjahr 2026 einen KI-Chatbot auf seiner Website ein. Auch wenn das Projekt schon vorher startet, wird die Kennzeichnungspflicht erst mit dem 2. August 2026 rechtlich verbindlich – ab diesem Datum muss beim ersten Kontakt klar erkennbar sein, dass Besucher mit einer KI und nicht mit einem Menschen kommunizieren.
Die folgenden fünfzehn Themenseiten decken die zentralen Rechts- und Umsetzungsfragen rund um KI im Unternehmen ab. Jede Seite erklärt ein Thema verständlich und praxisnah, mit Beispielen und konkreten Hinweisen. Sie können der Reihenfolge folgen oder gezielt einsteigen – am Ende jeder Seite gelangen Sie zum nächsten Thema.
Anbieter oder Betreiber, verbotene Praxis oder Hochrisiko: vier Prüffragen ordnen jede KI-Anwendung ein.
Seit Februar 2025 verpflichtend: ausreichende KI-Kompetenz der Mitarbeitenden – dokumentiert und risikobasiert.
Von Awareness über Pilot bis Skalierung: ein sechsstufiger Fahrplan für den kontrollierten KI-Einsatz.
KI-Register, Freigabeprozess, Schatten-KI und eine verbindliche Nutzungsrichtlinie statt Zufall.
Rechtsgrundlage, Rollenprüfung, Datenminimierung und Folgenabschätzung – die Grundlage jeder KI-Nutzung.
Wer Vertrauliches in öffentliche KI-Tools eingibt, riskiert den Geheimnisschutz nach dem GeschGehG.
Input und Output getrennt prüfen: Trainingsdaten, TDM-Schranke und der Schutz KI-generierter Inhalte.
Namen, Gesichter und Marken in Prompts, Deepfakes und synthetische Medien rechtssicher einsetzen.
Ab 2. August 2026: Kennzeichnung von Chatbots, KI-Inhalten und Deepfakes – inklusive Bußgeld- und Abmahnrisiko.
Mitbestimmung des Betriebsrats, Nutzung im Arbeitsalltag und die Grenzen der Leistungskontrolle.
Hochrisiko-Einstufung, Art. 22 DSGVO, AGG-Diskriminierung und das Verbot der Emotionserkennung.
Prompt Injection, Datenabfluss und handelnde Agenten: technische und organisatorische Absicherung.
Halluzinationen als vorhersehbares Risiko, Organisationsverschulden und die neue Produkthaftung.
Wann sich die Geschäftsleitung auf KI stützen darf – und wann Expertenrat unverzichtbar bleibt.
Wie Unternehmen in ChatGPT, Gemini & Co. auftauchen – und was agentischer Handel künftig bedeutet.
Ob SaaS-Lösung oder API-Zugang – der Vertrag mit dem KI-Anbieter entscheidet über einen großen Teil des rechtlichen Risikos. Zu klären sind insbesondere: Wird Ihre Eingabe zum Training des Anbieter-Modells genutzt (und lässt sich das ausschließen)? Wo werden die Daten verarbeitet? Welche Haftung übernimmt der Anbieter für fehlerhafte oder erfundene Ergebnisse („Halluzinationen")? Was passiert bei Kündigung – erhalten Sie Ihre Daten zurück, werden sie gelöscht? Diese Punkte werden in der Praxis häufig übersehen, weil KI-Tools oft ohne klassischen Beschaffungsprozess eingeführt werden.
Ein Unternehmen bucht spontan ein KI-Textwerkzeug als Cloud-Abonnement, um Kundenanfragen zu beantworten. Ohne ausdrückliche vertragliche Regelung bleibt unklar, ob die dabei eingegebenen Kundendaten zum Training des Anbieter-Modells verwendet werden dürfen – ein Punkt, der vor Vertragsschluss abgefragt und im Vertrag ausgeschlossen werden sollte, statt sich auf die Standard-AGB des Anbieters zu verlassen.
Praxishinweis: Ein Marketingversprechen wie „DSGVO-konform" oder „AI-Act-ready" ersetzt die konkrete Vertragsprüfung nicht. Prüfen Sie Version und Leistungsumfang, Trainings- und Speicherregeln, Unterauftragnehmer, Verarbeitungsorte, Sicherheit, Löschung, Datenexport und – bei geschäftskritischen Systemen – Haftung, Servicelevel und Unterstützung beim Anbieterwechsel.
In regulierten Branchen kommen weitere Anforderungen hinzu – etwa im Finanzsektor, im Gesundheitswesen oder bei sicherheitsrelevanten Produkten. Auch das Wettbewerbsrecht spielt eine Rolle, etwa bei der Kennzeichnung von KI-generierter Werbung oder automatisierter Kundenkommunikation. Diese Aspekte lassen sich nicht pauschal beantworten, sondern hängen vom konkreten Geschäftsmodell ab.
Ein Finanzdienstleister, der einen KI-Chatbot zur Anlageberatung einsetzt, muss neben den allgemeinen KI-Transparenzpflichten zusätzlich die aufsichtsrechtlichen Vorgaben der Finanzbranche beachten – eine Einordnung als Hochrisiko-Anwendung ist hier deutlich wahrscheinlicher als bei einem einfachen Kundenservice-Chatbot im Einzelhandel.
Die Themen zeigen: Die relevanten Fragen lassen sich nicht pauschal beantworten, sondern hängen vom konkreten Einsatz in Ihrem Unternehmen ab. Der kostenlose KI-Check gibt Ihnen in wenigen Minuten eine erste Einordnung.
Ob Chatbot, KI-gestützte Texterstellung oder automatisierte Auswertung: Die rechtliche Einordnung hängt immer vom Einzelfall ab. In einem unverbindlichen Erstgespräch ordnen unsere Rechtsanwältinnen und Rechtsanwälte Ihren KI-Einsatz gemeinsam mit Ihnen ein und zeigen Ihnen die nächsten Schritte auf – kostenlos und ohne Verpflichtung.
Über 100 Seiten Praxiswissen für Geschäftsführung, Recht und IT: von der Einordnung nach der KI-Verordnung über Datenschutz, Urheberrecht und Arbeitsrecht bis zu Governance, Haftung und einem durchgerechneten Fallbeispiel – inklusive Mustertexten, Checklisten und 30-Tage-Umsetzungsplan.
Ja. Die KI-Verordnung knüpft nicht nur an die Entwicklung eigener Modelle an. Wer ein KI-System unter eigener Verantwortung geschäftlich einsetzt, kann Betreiber sein und Pflichten haben. Der Umfang hängt aber stark vom System ab: Ein interner Textassistent löst deutlich weniger Pflichten aus als ein System zur automatisierten Bewerberauswahl. Eine pauschale „AI-Act-Zertifizierung" ist für KMU nicht erforderlich – nötig ist eine auf den Anwendungsfall bezogene Prüfung.
Eine bestimmte formale Schulung für jeden einzelnen Mitarbeiter ist nicht allgemein vorgeschrieben. Entscheidend ist, wer mit KI arbeitet und welche Risiken entstehen. Für regelmäßige Nutzer empfiehlt sich eine Grundeinweisung, für sensible Bereiche wie Personal, IT, Marketing oder Datenschutz eine vertiefte, auf das jeweilige System zugeschnittene Schulung. Ein Zertifikat ist nicht gesetzlich zwingend; wichtiger ist die nachvollziehbare Dokumentation, wer welche Inhalte erhalten hat.
Ein KI-Register ist nicht für jede Anwendung als ausdrückliche Einzelpflicht vorgeschrieben, praktisch aber eines der wichtigsten Governance-Instrumente. Ohne Überblick lassen sich Rollen, Risikoklassen, Datenflüsse und Kompetenzbedarfe nicht zuverlässig bestimmen. Für KMU genügt oft eine strukturierte Tabelle mit Zweck, verantwortlichem Bereich, Tool, Rolle des Unternehmens, Datenarten, Risiken, Freigabestatus und letzter Überprüfung – bei Agenten zusätzlich deren Zugriffs- und Aktionsrechte.
Nein, ein generelles gesetzliches Verbot gibt es nicht. Kostenlose oder öffentliche Versionen sind für Unternehmensdaten aber oft ungeeignet, weil zentrale Administrations-, Datenschutz- und Kontrollfunktionen fehlen. Für allgemeine, nicht vertrauliche Aufgaben kann eine Nutzung unter klaren Regeln denkbar sein; für produktive Prozesse ist eine administrierbare Unternehmensumgebung meist besser. Wichtig ist auch die Kontoinhaberschaft: Nutzt ein Mitarbeiter ein privates Konto dienstlich, verliert das Unternehmen mit dem Ausscheiden den Zugriff auf die dort gespeicherten Ergebnisse.
Nur, wenn der Anbieter personenbezogene Daten als Auftragsverarbeiter nach Art. 28 DSGVO verarbeitet. Ein Anbieter kann für einzelne Verarbeitungen Auftragsverarbeiter, für andere eigenständig Verantwortlicher sein. Vor Abschluss eines AVV ist deshalb die Rolle zu klären. Der Vertrag ersetzt zudem nicht die Prüfung von Rechtsgrundlage, Drittlandübermittlung, Speicherfristen und technischen Schutzmaßnahmen.
Nein. Der Serverstandort ist nur ein Teil der Prüfung. Support-, Konzern- oder Administrationszugriffe und Unterauftragnehmer können internationale Übermittlungen auslösen. Auch rein europäische Verarbeitungen können unzulässig sein, wenn Rechtsgrundlage, Zweckbindung oder Datenminimierung fehlen. EU-Hosting ist ein positiver Faktor, ersetzt aber keine vollständige Datenschutzprüfung.
Nein. Eine Folgenabschätzung ist nur erforderlich, wenn die Verarbeitung voraussichtlich ein hohes Risiko für die Rechte und Freiheiten natürlicher Personen mit sich bringt. Ein Textassistent für allgemeine interne Entwürfe löst sie nicht automatisch aus. Deutlich prüfungsbedürftiger sind Profiling, Beschäftigtenüberwachung, besondere Datenkategorien und ausschließlich automatisierte Entscheidungen mit erheblicher Wirkung. Ein kurzer Vorprüfungsschritt im Freigabeprozess – dokumentiert, auch wenn er negativ ausfällt – ist sinnvoll.
Die zentralen Transparenzpflichten aus Art. 50 KI-VO gelten ab dem 2. August 2026 vollständig. Ob im Einzelfall eine Kennzeichnungspflicht besteht, hängt von der Art des Inhalts und davon ab, ob Sie als Anbieter oder als Betreiber des KI-Systems handeln.
Die EU-Kommission schlägt vorwiegend englischsprachige Hinweise vor, das ist aber nur eine freiwillige Empfehlung. Solange nicht höchstrichterlich geklärt ist, ob ein englischsprachiger Hinweis vor deutschen Gerichten stets ausreicht, halten wir eine deutschsprachige Kennzeichnung mit „KI" für die derzeit sicherere Variante.
In der Regel nicht allein wegen Art. 50 KI-VO. Gewöhnliche Produktbeschreibungen oder Werbung sind nicht automatisch Texte zur Information der Öffentlichkeit über Angelegenheiten von öffentlichem Interesse. Deepfakes und andere realistisch synthetische Medien können jedoch eigene Pflichten auslösen. Unabhängig von der Kennzeichnung müssen Werbeaussagen wahr und wettbewerbsrechtlich zulässig sein.
Es drohen Bußgelder von bis zu 15 Millionen Euro oder 3 Prozent des weltweiten Konzernjahresumsatzes – je nachdem, welcher Wert höher ist. Das sind gesetzliche Höchstwerte; die tatsächliche Höhe hängt von den Umständen des Einzelfalls ab.
Ja, das dürfte praktisch das größere Risiko für Unternehmen sein. Vieles spricht dafür, dass die Kennzeichnungspflichten auch dem Schutz des fairen Wettbewerbs dienen und damit als Marktverhaltensregel nach § 3a UWG von Mitbewerbern oder Verbänden abgemahnt werden können.
Als Anbieter gilt, wer ein KI-System entwickelt oder entwickeln lässt und es unter eigenem Namen in Verkehr bringt; als Betreiber gilt, wer ein fremdes System lediglich einsetzt. Wer eine zugekaufte KI-Funktion unter eigener Marke weitergibt, eine wesentliche Änderung vornimmt oder den Zweck in einen Hochrisikobereich verschiebt, wird dadurch häufig selbst zum Anbieter mit weitergehenden Pflichten.
Sehr häufig ja, aber nicht bei jeder Anwendung automatisch. § 90 BetrVG verlangt bei der Planung von Arbeitsabläufen einschließlich des KI-Einsatzes frühzeitige Information und Beratung. Ein erzwingbares Mitbestimmungsrecht nach § 87 Abs. 1 Nr. 6 BetrVG entsteht insbesondere, wenn das System objektiv geeignet ist, Verhalten oder Leistung zu überwachen – auf eine Überwachungsabsicht kommt es dabei nicht an.
Eine ausschließlich automatisierte Ablehnung ist besonders problematisch. Art. 22 DSGVO schützt vor ausschließlich automatisierten Entscheidungen mit erheblicher Wirkung; hinzu kommen Beschäftigtendatenschutz, AGG und künftig die Hochrisikoregeln der KI-Verordnung. Die robuste Lösung: KI nur zur Unterstützung einsetzen und die eigentliche Entscheidung durch einen qualifizierten Menschen treffen lassen, der die Empfehlung tatsächlich prüfen und ändern kann. Eine bloß formale Bestätigung der maschinellen Rangfolge genügt nach dem EuGH nicht.
Grundsätzlich nein. Der Einsatz von KI zur Ableitung von Emotionen am Arbeitsplatz ist nach Art. 5 KI-VO verboten; eine enge Ausnahme besteht nur für medizinische oder Sicherheitszwecke. Systeme, die vermeintlich Motivation, Stimmung, Stress oder Loyalität messen, sind daher besonders kritisch. Eine Einwilligung der Beschäftigten macht eine nach Art. 5 KI-VO verbotene Praxis nicht zulässig.
Rein maschinell erzeugte Inhalte sind mangels menschlicher Schöpfung grundsätzlich nicht urheberrechtlich geschützt – das Amtsgericht München hat dies 2026 für KI-Logos ausdrücklich entschieden. Ein Schutz kann entstehen, wenn der menschliche Gestaltungsanteil das Ergebnis hinreichend individuell prägt. Nutzungsrechte sollten daher vertraglich mit dem KI-Anbieter geklärt werden, statt von einem automatischen „Eigentum" auszugehen.
Nicht automatisch. Entscheidend ist, ob geschützte Gestaltungsmerkmale des Originals im bearbeiteten Bild wiedererkennbar bleiben. Wie ein Urteil des Landgerichts Frankfurt am Main zeigt, reicht die bloße Ähnlichkeit für den Nachweis einer Urheberrechtsverletzung nicht aus – der Kläger muss die tatsächliche Nutzung seines Bildes als Vorlage belegen können.
Hier ist Vorsicht geboten. Wer interne oder vertrauliche Informationen in ein öffentlich zugängliches KI-Tool eingibt, riskiert den Verlust des Geheimnisschutzes nach dem Geschäftsgeheimnisgesetz, das angemessene Geheimhaltungsmaßnahmen verlangt. Eine unternehmensweite Regel, welche Datenklassen in welchen Tools verwendet werden dürfen – mit konkreten Beispielen –, ist ein sinnvoller erster Schritt.
Die KI selbst haftet nicht. Maßgeblich ist, welche vertragliche oder gesetzliche Pflicht das Unternehmen verletzt hat – eine falsche Auskunft als eigene Leistung entlastet nicht dadurch, dass sie von einer KI stammt. Ab dem 9. Dezember 2026 erfasst die neue Produkthaftungsrichtlinie (EU) 2024/2853 Software und KI ausdrücklich als Produkt; daneben gelten die allgemeinen zivilrechtlichen Haftungsregeln. Ein Regress gegen den Anbieter kommt nur in Betracht, soweit der Vertrag es zulässt.
Nein, ein allgemeines Gebot menschlicher Zwischenschaltung für jede KI-Anwendung existiert nicht. Bei Hochrisiko-KI ist menschliche Aufsicht nach Art. 14 KI-VO aber ein wesentlicher Baustein; außerhalb der Hochrisikofälle kann Kontrolle aus anderen Sorgfalts- oder Datenschutzpflichten folgen. Die Kontrollintensität sollte an die Rechtswirkung gekoppelt sein – ein interner Entwurf braucht weniger Aufsicht als eine Kündigung oder ein Vertragsabschluss. Wichtig ist, dass die Kontrolle tatsächlich ausgeübt wird und nicht zur bloßen Bestätigungsroutine verkommt.
Nein, einen gesetzlich vorgeschriebenen KI-Beauftragten gibt es nicht – auch Art. 4 KI-VO verlangt keine eigene Stabsstelle. Sinnvoll ist dennoch eine feste, dokumentierte Zuständigkeit, an der neue Anwendungsfälle zusammenlaufen (etwa in IT, Compliance, Datenschutz oder Geschäftsleitung). Die Geschäftsleitung kann ihre Verantwortung für Auswahl, Instruktion und Überwachung dabei nicht vollständig delegieren.
Eine allgemeine Pflicht zur KI-Nutzung besteht nicht. Geschäftsleitungen müssen aber angemessene Informationsquellen nutzen. In hochdigitalisierten Prozessen kann es künftig erklärungsbedürftig sein, verlässliche vorhandene Datenanalysen bewusst zu ignorieren – das ist etwas anderes als eine Pflicht, bei jeder Entscheidung generative KI einzusetzen. Ein überzeugend formulierter Output ist zudem kein Beweis für Richtigkeit.
Zunächst muss die Handlungsmacht technisch begrenzt werden: nur definierte Waren, Vertragspartner und Beträge; höhere Werte oder ungewöhnliche Vorgänge lösen eine menschliche Freigabe aus. Diese Grenzen gehören in den Anwendungscode, nicht in den Prompt. Hinzu kommen Authentifizierung, Protokollierung, Missbrauchsschutz und Rückabwicklung. Im Außenverhältnis ist zu verhindern, dass der Agent den Eindruck umfassender Vertretungsmacht erweckt, obwohl intern nur enge Kompetenzen bestehen.
Wenn noch keine Governance besteht, sind ein KI-Register, eine interne KI-Nutzungsrichtlinie und ein kurzes Freigabeformular für Anwendungsfälle die sinnvollsten Startdokumente. Das Register schafft Transparenz, die Richtlinie begrenzt den zulässigen Nutzungskorridor, und das Freigabeformular verhindert, dass neue Anwendungen unkontrolliert in den Produktivbetrieb gelangen. Je nach Datenverarbeitung kommen Folgenabschätzung, Verarbeitungsverzeichnis, AVV und Betriebsvereinbarungen hinzu.
Ja. Dieses sogenannte „AI-Washing" – die Bewerbung nicht tatsächlich vorhandener KI-Funktionen – kann als irreführende Werbung wettbewerbsrechtlich abgemahnt werden.