KI im Unternehmen einsetzen: Was der EU AI Act vom Mittelstand verlangt

Die Personalabteilung sortiert Bewerbungen mit einem Assistenzsystem vor, im Kundenservice beantwortet ein Chatbot die ersten Anfragen, und im Marketing entstehen Produkttexte in Sekunden. Keine dieser Entscheidungen wurde als regulatorische Entscheidung getroffen. Seit dem 2. August 2026 sind sie es trotzdem, denn seitdem sind zentrale Vorschriften der europäischen KI-Verordnung anwendbar und durchsetzbar.

Die Verunsicherung im Mittelstand ist groß, und sie wird durch widersprüchliche Meldungen verstärkt. Einerseits wurden Fristen verschoben, andererseits hat Deutschland seine Aufsichtsbehörde benannt und der Bußgeldrahmen reicht bis 35 Millionen Euro. Beides stimmt. Die Frage ist, welcher Teil davon Sie betrifft.

clience.legal ist eine digitale Wirtschaftskanzlei für Unternehmerinnen und Unternehmer. Wir begleiten den rechtlich sicheren Einsatz von KI und ordnen dabei ein, welche Pflichten aus dem Geschäftsmodell tatsächlich folgen. Dieser Beitrag sortiert die Regelungen nach Rolle und Risikoklasse und zeigt, was für ein Unternehmen, das KI einsetzt statt entwickelt, konkret zu tun ist.

Das Wichtigste im Überblick

• Rolle vor Risiko: Die meisten mittelständischen Unternehmen sind Betreiber, nicht Anbieter. Die strengen Pflichten treffen die Anbieterseite.
• Vier Risikoklassen: verbotene Praktiken, Hochrisiko, transparenzpflichtige Systeme und Anwendungen mit minimalem Risiko.
• Seit dem 2. August 2026 anwendbar: Transparenzpflichten nach Artikel 50 sowie Durchsetzung und Sanktionen.
• Hochrisiko wurde verschoben: Der Digital Omnibus verlegt die Pflichten für eigenständige Hochrisiko-Systeme auf den 2. Dezember 2027, für produkteingebettete Systeme auf den 2. August 2028.
• KI-Kompetenz gilt seit Februar 2025: Artikel 4 verlangt, dass die mit KI befassten Personen über ausreichendes Verständnis verfügen.
• Aufsicht in Deutschland: Die Bundesnetzagentur ist zentrale Marktüberwachungsbehörde, sektorale Behörden wie die BaFin bleiben für ihre Bereiche zuständig.

Erste Weichenstellung: Anbieter oder Betreiber?

Diese Unterscheidung entscheidet über neunzig Prozent Ihres Aufwands. Anbieter ist, wer ein KI-System entwickelt oder entwickeln lässt und unter eigenem Namen oder eigener Marke in Verkehr bringt. Betreiber ist, wer ein KI-System in eigener Verantwortung verwendet.

Wer ein am Markt eingekauftes Werkzeug nutzt, ist Betreiber. Die umfangreichen Pflichten zu Risikomanagement, technischer Dokumentation, Daten-Governance und Konformitätsbewertung treffen den Anbieter. Betreiberpflichten sind deutlich schlanker und betreffen im Kern die bestimmungsgemäße Verwendung, die menschliche Aufsicht und die Information der betroffenen Personen.

Vorsicht ist geboten, wenn Sie ein fremdes System wesentlich verändern, unter eigenem Namen anbieten oder für einen anderen Zweck einsetzen als vorgesehen. In diesen Fällen können Sie in die Anbieterrolle rutschen, mit allen daran hängenden Pflichten. Prüfen Sie das bevor Sie eine Lösung in Ihr eigenes Produkt einbetten.

Warum die Rollenfrage so oft falsch beantwortet wird

In der Praxis entstehen zwei Fehler. Der erste ist die Annahme, dass man als reiner Nutzer gar nicht betroffen sei. Betreiberpflichten sind schlanker, aber sie existieren, und die Transparenz- und Kompetenzpflichten treffen jeden, der KI im Unternehmen einsetzt.

Der zweite Fehler ist die unbemerkte Rollenverschiebung. Wer ein zugekauftes Modell in das eigene Produkt einbettet, es unter eigenem Namen anbietet oder für einen anderen Zweck einsetzt als vom Hersteller vorgesehen, kann als Anbieter gelten. Besonders häufig passiert das bei Softwareunternehmen, die eine Assistenzfunktion in ihre Anwendung integrieren und dafür mit dem eigenen Produktnamen werben.

Sinnvoll ist deshalb, bei jeder Integration drei Fragen schriftlich zu beantworten: Wer wird gegenüber dem Kunden als Verantwortlicher sichtbar, wird die Zweckbestimmung des Herstellers verändert, und wie weit reichen die vertraglichen Zusicherungen des Anbieters. Die Antworten gehören in den Vertrag mit dem Anbieter und in Ihre eigene Leistungsbeschreibung. Wie sich KI-Werkzeuge sinnvoll in die Vertragsarbeit einbinden lassen, beschreiben wir unter KI im Vertragsrecht und mit Blick auf die Grenzen unter warum Verträge nicht mit KI-Tools wie ChatGPT entstehen sollten.

Die vier Risikoklassen

Verbotene Praktiken

Bestimmte Anwendungen sind untersagt, etwa das Bewerten sozialen Verhaltens mit benachteiligender Wirkung, das gezielte Ausnutzen von Schwächen bestimmter Personengruppen und die Ableitung von Emotionen am Arbeitsplatz. Der letzte Punkt ist für Unternehmen praktisch relevant, weil Systeme zur Stimmungsanalyse in Callcentern oder in Bewerbungsgesprächen davon erfasst sein können. Verstöße lösen den höchsten Bußgeldrahmen aus, bis zu 35 Millionen Euro oder sieben Prozent des weltweiten Jahresumsatzes.

Hochrisiko-Systeme

Erfasst sind KI-Systeme, die aufgrund ihres Einsatzfeldes ein hohes Risiko bergen, unter anderem in der Personalauswahl und Personalverwaltung, bei der Kreditwürdigkeitsprüfung, in kritischer Infrastruktur und im Bildungsbereich. Für den Mittelstand ist vor allem die Personalseite relevant: Systeme, die Bewerbungen vorsortieren oder Beförderungsentscheidungen unterstützen, fallen typischerweise hierunter.

Der Digital Omnibus hat den Begriff der Hochrisiko-KI enger gefasst. Komponenten, die lediglich der Unterstützung, der Effizienzsteigerung oder der Qualitätskontrolle dienen, gelten nur noch dann als hochriskant, wenn ein Ausfall tatsächlich Risiken für Gesundheit oder Sicherheit auslösen kann. Die Einordnung selbst wird damit wichtiger, weil sie nicht mehr pauschal ausfällt.

Transparenzpflichtige Systeme

Diese Klasse betrifft die meisten mittelständischen Anwender. Wer ein System einsetzt, das mit natürlichen Personen interagiert, muss dafür sorgen, dass die Interaktion mit einer Maschine erkennbar ist. Künstlich erzeugte oder manipulierte Inhalte sind entsprechend zu kennzeichnen. Diese Pflichten sind seit dem 2. August 2026 anwendbar. Die technische Kennzeichnung synthetischer Inhalte durch maschinenlesbare Markierungen wurde auf den 2. Dezember 2026 verschoben, weil die Standards dafür noch reifen.

Minimales Risiko

Der weit überwiegende Teil betrieblicher Anwendungen fällt hierunter, etwa Rechtschreibhilfen, Terminplanung, Übersetzung oder Prognosen in der Disposition. Besondere Pflichten aus der KI-Verordnung entstehen hier nicht. Datenschutz, Geheimnisschutz, Urheberrecht und Haftung gelten unabhängig davon weiter.

Was der Digital Omnibus geändert hat

Das Änderungspaket wurde Ende Juli 2026 im Amtsblatt veröffentlicht und ist in Kraft. Für Unternehmen sind drei Punkte wesentlich.

• Verschobene Fristen: Die Pflichten für eigenständige Hochrisiko-Systeme greifen erst ab dem 2. Dezember 2027, für in regulierte Produkte eingebettete Systeme ab dem 2. August 2028.
• Engerer Hochrisiko-Begriff: Etliche Systeme, die zuvor erfasst gewesen wären, gelten nicht mehr automatisch als hochriskant.
• Erleichterungen für kleinere Unternehmen: Dokumentations- und Nachweisanforderungen wurden gezielt reduziert.

Eine Verschiebung ist allerdings keine Aufhebung. Am 2. Dezember 2027 wird der gesamte Pflichtenkatalog erwartet, der ursprünglich für August 2026 vorgesehen war. Wer jetzt nichts tut, hat den gewonnenen Zeitraum verbraucht statt genutzt.

Die Pflicht, die längst gilt: KI-Kompetenz

Artikel 4 der KI-Verordnung verlangt seit dem 2. Februar 2025, dass Anbieter und Betreiber Maßnahmen ergreifen, damit ihr Personal und andere mit dem Betrieb befasste Personen über ein ausreichendes Maß an KI-Kompetenz verfügen. Der Umfang richtet sich nach Vorkenntnissen, Einsatzkontext und betroffenen Personengruppen.

Praktisch heißt das: dokumentierte Schulungen, angepasst an die Rolle. Wer im Kundenservice mit einem Chatbot arbeitet, braucht anderes Wissen als die Fachabteilung, die ein System auswählt. Halten Sie Teilnehmer, Inhalte und Datum fest, denn die Erfüllung dieser Pflicht wird sich im Zweifel nur über Dokumentation belegen lassen. Der inhaltliche Rahmen dafür überschneidet sich stark mit dem, was wir unter KI und Datenschutz und Haftung, Urheberrecht und Datenschutz bei der Nutzung von KI beschreiben.

Was Betreiber konkret schulden

Die Betreiberpflichten lassen sich in vier Punkte fassen, die sich ohne großen Aufwand umsetzen lassen.

Erstens die bestimmungsgemäße Verwendung. Ein System darf nur für den Zweck eingesetzt werden, für den es vorgesehen ist. Das klingt selbstverständlich, wird aber regelmäßig verletzt, wenn ein Werkzeug im Alltag für neue Aufgaben genutzt wird, ohne dass jemand die Zweckbestimmung prüft.

Zweitens die menschliche Aufsicht. Ergebnisse dürfen nicht ungeprüft in Entscheidungen einfließen, die Menschen betreffen. Erforderlich ist eine benannte Person, die prüfen kann und darf, und die dafür auch die nötige Zeit hat. Eine Prüfpflicht ohne Kapazität ist eine Fiktion.

Drittens die Information der betroffenen Personen. Wer mit einem System interagiert oder von einer unterstützten Entscheidung betroffen ist, soll das erkennen können. Im Beschäftigungskontext ist zusätzlich die Belegschaft zu informieren.

Viertens die Aufzeichnung. Wo das System Protokolle erzeugt, sind diese aufzubewahren, soweit sie in Ihrem Verantwortungsbereich liegen. Diese Aufzeichnungen sind zugleich Ihr Nachweis, dass die Aufsicht tatsächlich stattgefunden hat.

Wer in Deutschland kontrolliert

Deutschland hat die nationale Durchführung mit dem KI-Marktüberwachungs- und Innovationsförderungsgesetz geregelt, das der Bundestag am 11. Juni 2026 beschlossen hat. Zentrale Marktüberwachungsbehörde ist die Bundesnetzagentur. Bei ihr wurde ein Koordinierungs- und Kompetenzzentrum eingerichtet, das die Zusammenarbeit mit den Fachbehörden bündelt und einen Service-Desk für Unternehmen betreibt, der sich ausdrücklich auch an kleine und mittlere Unternehmen richtet.

Die sektoralen Zuständigkeiten bleiben bestehen. Für den Finanzsektor führt die BaFin die Aufsicht, für Medizinprodukte das BfArM, für Datenschutzfragen die Datenschutzaufsicht. Das Gesetz schafft keine zusätzlichen materiellen Pflichten, sondern regelt Zuständigkeit, Verfahren und Sanktionen. Die Behörden können Unterlagen anfordern, Systeme prüfen und Abhilfemaßnahmen verlangen.

Für Unternehmen ist die Benennung der Aufsicht mehr als eine Formalie. Sie beendet den Zustand, in dem eine Verordnung galt, aber niemand sie durchsetzte. Ab jetzt existiert eine Adresse für Beschwerden, etwa von Bewerbern, Kunden oder Wettbewerbern, und ein Verfahren, das daran anschließt. Zugleich entsteht damit erstmals eine Stelle, bei der Unternehmen Fragen zur Einordnung stellen können, ohne ein Verfahren auszulösen.

In fünf Schritten zur Bestandsaufnahme

• Erfassen: Listen Sie alle eingesetzten KI-Werkzeuge auf, einschließlich der Funktionen, die in vorhandener Software erst nachträglich hinzugekommen sind. Diese Schatten-Anwendungen sind der häufigste blinde Fleck.
• Rolle bestimmen: Klären Sie je System, ob Sie Betreiber oder ausnahmsweise Anbieter sind, insbesondere bei Einbettung in eigene Produkte.
• Einordnen: Prüfen Sie je System die Risikoklasse. Achten Sie besonders auf Personalprozesse und auf Systeme, die mit Kunden interagieren.
• Regeln festlegen: Eine Nutzungsrichtlinie mit Freigabeliste, Eingaberegeln, Prüfpflicht vor Verwendung und Kennzeichnungsvorgaben deckt den größten Teil des Bedarfs ab.
• Schulen und dokumentieren: Rollenbezogene Schulungen durchführen und festhalten. Damit erfüllen Sie die Kompetenzpflicht und schaffen zugleich die Grundlage für die spätere Umsetzung weiterer Anforderungen.

Für die meisten mittelständischen Unternehmen ist dieser Aufwand in wenigen Tagen zu leisten. Aufwendig wird es erst dort, wo Hochrisiko-Anwendungen im Einsatz sind, und genau deshalb lohnt die frühe Einordnung. Wie sich das in die übrige Compliance einfügt, beschreiben wir unter Compliance und Geschäftsführerhaftung und KI: Chancen und Stolperfallen.

Was die KI-Verordnung nicht regelt

Ein verbreitetes Missverständnis lautet, mit der Einordnung nach der KI-Verordnung sei das Thema erledigt. Tatsächlich lässt die Verordnung mehrere Rechtsgebiete unberührt, die im Alltag häufiger relevant werden.

• Datenschutz: Für jede Verarbeitung personenbezogener Daten braucht es eine Rechtsgrundlage, einen Vertrag mit dem Anbieter und Klarheit über den Verarbeitungsort. Ein System mit minimalem Risiko kann datenschutzrechtlich hochproblematisch sein.
• Geheimnisschutz: Werden Geschäftsgeheimnisse ohne angemessene Schutzmaßnahmen in externe Systeme eingegeben, kann der rechtliche Schutz entfallen.
• Urheberrecht: Rein maschinell erzeugte Inhalte sind regelmäßig nicht geschützt, zugleich können Ergebnisse fremde Rechte verletzen.
• Haftung: Für ein fehlerhaftes Ergebnis steht das Unternehmen ein, das es verwendet, nicht das Werkzeug.
• Arbeitsrecht und Mitbestimmung: Der Einsatz von Systemen, die Verhalten oder Leistung überwachen können, berührt Beteiligungsrechte des Betriebsrats.

Diese Themen lassen sich in derselben Nutzungsrichtlinie mitregeln, was den Aufwand deutlich senkt. Den datenschutzrechtlichen Teil behandeln wir unter Datenschutz und Compliance im Unternehmen.

Passend dazu: Rechtssicherheit im digitalen Unternehmen.

Senden Sie uns eine Liste der eingesetzten KI-Werkzeuge und eine kurze Beschreibung, wofür sie verwendet werden. Wir ordnen Rolle und Risikoklasse ein, benennen die Pflichten, die Sie tatsächlich treffen, und erstellen die Nutzungsrichtlinie, mit der Ihre Teams arbeiten können. Vereinbaren Sie dafür ein kostenloses Erstgespräch von 15 bis 20 Minuten. Für die laufende Begleitung stehen wir als externe Rechtsabteilung zur Verfügung.

Jetzt Kontakt aufnehmen!

FAQs

Gilt der EU AI Act auch für kleine Unternehmen?

Ja, die Verordnung knüpft nicht an die Unternehmensgröße an, sondern an Rolle und Risiko. Für kleine und mittlere Unternehmen sind die Pflichten allerdings deutlich schlanker, weil sie in aller Regel Betreiber und nicht Anbieter sind. Der Digital Omnibus hat zusätzlich Erleichterungen bei Dokumentation und Nachweisen geschaffen. Praktisch relevant sind vor allem Transparenzpflichten und die Kompetenzpflicht.

Was ist der Unterschied zwischen Anbieter und Betreiber?

Anbieter ist, wer ein KI-System entwickelt oder entwickeln lässt und unter eigenem Namen oder eigener Marke auf den Markt bringt. Betreiber ist, wer ein System in eigener Verantwortung nutzt. Die umfangreichen Pflichten zu Risikomanagement, technischer Dokumentation und Konformitätsbewertung treffen den Anbieter. Wer ein fremdes System wesentlich verändert oder unter eigenem Namen anbietet, kann in die Anbieterrolle wechseln.

Welche Pflichten gelten seit dem 2. August 2026?

Anwendbar und durchsetzbar sind seitdem insbesondere die Transparenzpflichten nach Artikel 50 sowie die Sanktions- und Durchsetzungsvorschriften. Die nationalen Aufsichtsbehörden können ab diesem Zeitpunkt Unterlagen anfordern, Systeme prüfen und Abhilfe verlangen. Die Pflichten für allgemeine KI-Modelle gelten bereits seit dem 2. August 2025. Die umfangreichen Hochrisiko-Anforderungen wurden dagegen verschoben.

Wurden die Hochrisiko-Pflichten wirklich verschoben?

Ja. Der Digital Omnibus verlegt die Anforderungen für eigenständige Hochrisiko-Systeme nach Anhang III auf den 2. Dezember 2027 und für in regulierte Produkte eingebettete Systeme nach Anhang I auf den 2. August 2028. Der Inhalt der Pflichten bleibt unverändert, verschoben wurde allein der Zeitpunkt. Zum jeweiligen Stichtag wird die vollständige Umsetzung erwartet.

Fällt der Einsatz von KI im Bewerbungsprozess unter Hochrisiko?

Systeme zur Auswahl und Bewertung von Bewerbungen sowie zur Unterstützung von Beförderungs- und Kündigungsentscheidungen gehören zu den in Anhang III genannten Bereichen. Nach der engeren Fassung durch den Digital Omnibus kommt es darauf an, welche Funktion das System tatsächlich erfüllt. Reine Hilfsfunktionen ohne Einfluss auf die Entscheidung können herausfallen. Unabhängig davon gelten Datenschutzrecht und das Verbot der Diskriminierung.

Muss ich kennzeichnen, dass Inhalte mit KI erstellt wurden?

Für Systeme, die mit Menschen interagieren, muss erkennbar sein, dass es sich um eine Maschine handelt. Künstlich erzeugte oder veränderte Inhalte sind zu kennzeichnen, wobei die technische Markierung maschinenlesbarer Art auf den 2. Dezember 2026 verschoben wurde. Unabhängig von der Verordnung kann eine Kennzeichnung wettbewerbsrechtlich geboten sein, wenn ihr Fehlen in die Irre führt.

Was bedeutet die Pflicht zur KI-Kompetenz konkret?

Artikel 4 verlangt seit dem 2. Februar 2025, dass die mit dem Betrieb und der Nutzung befassten Personen über ausreichendes Verständnis verfügen. Der Umfang richtet sich nach Vorkenntnissen, Einsatzbereich und betroffenen Personen. Praktisch erfüllt man die Pflicht durch rollenbezogene Schulungen, die nach Teilnehmern, Inhalten und Datum dokumentiert werden. Eine bestimmte Zertifizierung ist nicht vorgeschrieben.

Wer kontrolliert die Einhaltung in Deutschland?

Zentrale Marktüberwachungsbehörde ist die Bundesnetzagentur, bei der ein Koordinierungs- und Kompetenzzentrum mit einem Service-Desk für Unternehmen eingerichtet wurde. Sektorale Zuständigkeiten bleiben bestehen, etwa die BaFin für den Finanzsektor und das BfArM für Medizinprodukte. Grundlage ist das nationale Durchführungsgesetz, das der Bundestag am 11. Juni 2026 beschlossen hat. Es schafft keine zusätzlichen materiellen Pflichten.

Wie hoch können Bußgelder ausfallen?

Der Rahmen ergibt sich aus der KI-Verordnung. Für verbotene Praktiken sind bis zu 35 Millionen Euro oder sieben Prozent des weltweiten Jahresumsatzes vorgesehen, für andere Verstöße niedrigere Beträge. Maßgeblich ist jeweils der höhere Wert. Für kleine und mittlere Unternehmen sieht die Verordnung eine Berücksichtigung der Unternehmensgröße vor.

Wann lohnt sich ein Anwalt beim Thema KI-Verordnung?

Sobald KI in Prozesse eingreift, die Menschen betreffen, etwa in Personalauswahl, Kundenkommunikation oder Bonitätsbewertung, lohnt die Prüfung. Wir ordnen Ihre Systeme nach Rolle und Risikoklasse ein, erstellen die Nutzungsrichtlinie und verbinden sie mit Datenschutz und Geheimnisschutz. Der Aufwand ist überschaubar, solange die Einordnung früh erfolgt. Aufwendig wird es, wenn ein System bereits produktiv läuft und sich als hochriskant erweist.