KI Recht Fertigung.
Welche Pflichten für KI im Werk gelten.
KI Recht Fertigung heißt: Wer KI im Werk oder im Manufacturing Execution System (MES, die Software zwischen ERP und Anlage) einsetzt, prüft fünf Pflichtenkreise. Die KI-Verordnung (KI-VO, Verordnung (EU) 2024/1689) verbietet Einzelnes seit 02.02.2025 und verlangt Hochrisiko-Pflichten erst ab 02.12.2027. Schon heute greifen Mitbestimmung und Datenschutz, ab 09.12.2026 die neue Produkthaftung. Ersetzt keine Rechtsberatung.
Welche Rechtsregeln gelten
für KI im Werk?
Es gibt kein eigenes Gesetz für KI im Werk. Fünf Regelkreise greifen ineinander: die KI-VO, das Betriebsverfassungsrecht, der Datenschutz, bei Arzneimitteln der GMP-Leitfaden und das Produktrecht. Die Rechtsgrundzüge stehen unter KI im MES, hier folgt die Prüfreihenfolge. Zuerst klären Sie Ihre Rolle: Betreiber ist, wer ein KI-System in eigener Verantwortung nutzt (Art. 3 Nr. 4 KI-VO). Anbieter wird, wer ein System unter eigenem Namen in Betrieb nimmt, seine Zweckbestimmung ändert oder es wesentlich umbaut (Art. 3 Nr. 3, Art. 25 Abs. 1). Die Funktion liefern meist die MES Anbieter, die Rolle als Betreiber bleibt bei Ihnen, auch bei KI Agenten Shopfloor.
Ohne Rechtsprüfung vor dem Pilot
- Eine Leistungsauswertung startet, bevor Betriebsrat und Datenschutzbeauftragte davon wissen.
- Niemand hat die Einstufung festgehalten, der Anbieter keine Unterlage geliefert.
- Der Vertrag regelt weder Protokolle noch Modellwechsel noch den Ausstieg.
Mit Rechtsprüfung vor dem Pilot
- Ein KI-Inventar nennt je Funktion Zweck, Datenquellen, Anbieter und Ihre Rolle.
- Die Einstufung steht schriftlich, das Gremium ist unterrichtet, die Datenschutz-Folgenabschätzung läuft, wo sie nötig ist.
- Der Vertrag enthält Protokolle, Änderungsmitteilung, Datenexport und Meldekette.
Ersetzt keine Rechtsberatung: Die Einordnung von Find-Your-MES hilft bei Auswahl und Vorbereitung, Ihren Einzelfall prüfen Rechtsabteilung, Datenschutzbeauftragte und Fachanwalt. Rechtsstand 04.11.2026. Quellen: Verordnung (EU) 2024/1689 in der Fassung der Verordnung (EU) 2026/1744, konsolidiert dargestellt im AI Act Service Desk der Europäischen Kommission (Stand 27.07.2026), abgerufen am 04.11.2026.
Welche Fristen gelten für KI im Werk
und was ist schon in Kraft?
Die Verordnung (EU) 2026/1744 (Digital Omnibus zur KI, Amtsblatt vom 24.07.2026) hat die KI-VO geändert. Jede Zeile nennt die Rechtsgrundlage. Die Fristen von Cyber Resilience Act MES und NIS2 Fertigung stehen dort.
| Stichtag | Regel | Bedeutung im Werk | Rechtsgrundlage |
|---|---|---|---|
| 02.02.2025 | Verbote und KI-Kompetenz gelten. | Emotionserkennung am Arbeitsplatz ist verboten, außer aus medizinischen oder Sicherheitsgründen. Art. 4 verlangt Maßnahmen zur KI-Kompetenz, kein Niveau je Person. | Art. 113 Abs. 3 Buchst. a, Art. 5 Abs. 1 Buchst. f, Art. 4 KI-VO |
| 22.07.2026 | Deutsches Durchführungsgesetz (KI-MIG) ausgefertigt. | Die Bundesnetzagentur ist grundsätzlich die Marktüberwachungsbehörde. Fehlt bei Systemen nach Anhang III Nr. 1, 3, 4 oder 5 die Erläuterung für Betroffene, drohen bis zu 50.000 €. | § 2 Abs. 1, § 15 Abs. 2 und 3 KI-MIG, BGBl. 2026 I Nr. 223 |
| 27.07.2026 | Digital Omnibus tritt in Kraft. | Er verschiebt die Hochrisiko-Fristen, fasst Art. 4 neu und ordnet die Maschinenverordnung dem Abschnitt B zu. | Art. 1 Nr. 5, 40, 41, Art. 4 der Verordnung (EU) 2026/1744 |
| 02.08.2026 | Die KI-VO gilt allgemein, Art. 50 inklusive. | Ein KI-Assistent am Terminal muss als KI erkennbar sein, wenn das nicht offensichtlich ist. Für ältere Systeme mit synthetischen Inhalten gilt die Kennzeichnung nach Art. 50 Abs. 2 bis 02.12.2026. | Art. 113 Satz 2, Art. 50 Abs. 1, Art. 111 Abs. 4 KI-VO |
| 09.12.2026 | Neue Produkthaftung: Software ist ein Produkt. | Die alte Richtlinie ist ab diesem Tag aufgehoben, für früher in Verkehr gebrachte Produkte gilt sie weiter. Deutschland hat am 22.10.2026 ausgefertigt. Mehr unter Produkthaftung Software im MES. | Art. 4 Nr. 1, Art. 21 der Richtlinie (EU) 2024/2853; BGBl. 2026 I Nr. 321 |
| 20.01.2027 | Die Maschinenverordnung gilt. | KI mit Sicherheitsfunktion steht in Anhang I Teil A Nr. 5 und 6, wer eine Maschine wesentlich verändert, gilt als Hersteller. Siehe Maschinenverordnung im MES. | Art. 54, Art. 18, Anhang I der Verordnung (EU) 2023/1230 |
| 02.12.2027 | Hochrisiko-Pflichten nach Anhang III. | Gilt etwa für KI, die Beschäftigte überwacht und bewertet oder Aufgaben nach individuellem Verhalten zuweist (Anhang III Nr. 4). Ältere Systeme erfasst die KI-VO nur nach erheblicher Änderung. | Art. 113 Abs. 3 Buchst. c Ziff. i, Art. 111 Abs. 2 KI-VO |
| 02.08.2028 | Hochrisiko-Pflichten nach Anhang I; KI-Anforderungen für Maschinen. | Maschinen stehen seit dem Omnibus in Abschnitt B, ihre KI-Anforderungen kommen über delegierte Rechtsakte nach Art. 8 der Maschinenverordnung ab 02.08.2028. | Art. 113 Abs. 3 Buchst. c Ziff. ii, Art. 2 Abs. 2 KI-VO; Art. 3 der Verordnung (EU) 2026/1744 |
| offen | Annex 22 zum EU-GMP-Leitfaden (KI). | Nur Konsultationsfassung (07.07.2025 bis 07.10.2025). EudraLex Volume 4 listet am 04.11.2026 die Annexe 1 bis 21. | Konsultation der Kommission, EudraLex Volume 4 |
Stand 04.11.2026. Termine der KI-VO nach dem konsolidierten Text der Kommission.
Welche KI-Funktionen im MES sind verboten,
hochriskant oder frei?
Die Zuordnung hängt an der Zweckbestimmung, nicht am Produktnamen. Die Spalte „Einstufung“ ist eine Einschätzung von Find-Your-MES.
| KI-Funktion | Einstufung (Einschätzung) | Maßstab im Recht | Nächster Schritt |
|---|---|---|---|
| Ausschuss-, Anomalie- und BildprüfungMaschinen- und Prozessdaten | In der Regel weder verboten noch hochriskant. | Anhang III Nr. 4 betrifft Beschäftigte. Sicherheitsbauteil ist, was eine Sicherheitsfunktion erfüllt oder bei Ausfall Sicherheit gefährdet (Art. 3 Nr. 14). Erwägungsgrund 7 der Verordnung (EU) 2026/1744 nimmt Systeme aus, die nur Automatisierung oder nicht sicherheitsrelevante Qualitätskontrolle bezwecken. | Zweckbestimmung festhalten, auf Schicht- und Werkerkennungen in den Daten prüfen. Siehe KI Qualitätsprüfung. |
| Feinplanung und Schichtzuweisung | Hochrisiko möglich, wenn die KI Aufgaben nach individuellem Verhalten oder persönlichen Merkmalen zuweist. | Anhang III Nr. 4 Buchst. b. Profiling natürlicher Personen macht ein Anhang-III-System immer hochriskant (Art. 6 Abs. 3). Planung nur nach Maschinen, Aufträgen und Material fällt in der Regel nicht darunter. | Eingabedaten auf Personenbezug prüfen, dann die Dokumentation nach Art. 6 Abs. 4 anfordern. Siehe KI Feinplanung. |
| Leistungs- und Verhaltensauswertung je Werker | In der Regel Hochrisiko-System. | Anhang III Nr. 4 Buchst. b nennt KI zur Überwachung und Bewertung von Leistung und Verhalten. Pflichten ab 02.12.2027, Mitbestimmung nach § 87 BetrVG schon heute. | Aggregationsebene festlegen oder auf personenbezogene Auswertung verzichten, sonst Betriebsvereinbarung und Betreiberpflichten einplanen. |
| Assistent und Chat mit Produktionsdaten | Transparenzpflicht; hochriskant nur bei zusätzlicher Bewertung von Beschäftigten. | Art. 50 Abs. 1: Systeme, die direkt mit Menschen interagieren, müssen als KI erkennbar sein, sofern das nicht offensichtlich ist. Die Pflicht trifft den Anbieter. | Hinweis im Terminal prüfen, Rechte wie bei MES-Benutzern. Siehe KI-Assistent für Werker. |
| Stimmungs- und Emotionserkennung | Verboten, außer aus medizinischen oder Sicherheitsgründen. | Art. 5 Abs. 1 Buchst. f. Bußgeld bis 35 Mio. € oder 7 % des weltweiten Jahresumsatzes (Art. 99 Abs. 3). | Funktion nicht pilotieren, die Ausnahme sonst schriftlich begründen lassen. |
| KI in Sicherheitsfunktionen | Produktrecht statt MES-Projekt. | Art. 6 Abs. 1 KI-VO mit der Maschinenverordnung, Anhang I Teil A Nr. 5 und 6. Anforderungen über delegierte Rechtsakte ab 02.08.2028. | Mit dem Maschinenbauer klären, wer Hersteller ist, und Änderungen nur mit dessen Freigabe vornehmen. |
Quellen: Art. 6, Art. 5, Art. 50, Anhang III und Art. 99 KI-VO (Kommission, Stand 27.07.2026), Verordnung (EU) 2026/1744, abgerufen am 04.11.2026.
Was müssen Betreiber hochriskanter KI
ab 02.12.2027 tun?
Die Liste gilt nur für Systeme, die nach Anhang III als hochriskant eingestuft sind. Zuerst gilt Art. 26 Abs. 1: Betreiber nutzen das System nach der Gebrauchsanweisung des Anbieters. Wer umwidmet oder unter eigenem Namen anbietet, wird nach Art. 25 Abs. 1 selbst Anbieter.
| Pflicht | Norm | Inhalt laut Verordnung | Nachweis im Betrieb (Empfehlung) |
|---|---|---|---|
| Menschliche Aufsicht | Art. 26 Abs. 2 | Aufsicht übertragen Sie Personen mit der nötigen Kompetenz, Schulung und Befugnis. | Benennung je Linie und Schicht, Schulungsnachweis. |
| Überwachung und Meldung | Art. 26 Abs. 5 | Betrieb anhand der Anleitung überwachen. Bei einem Risiko Anbieter und Marktüberwachungsbehörde informieren und die Nutzung aussetzen, schwere Vorfälle melden. | Eskalationsweg mit Kontakten, getesteter Abschaltweg. |
| Protokolle | Art. 26 Abs. 6 | Automatisch erzeugte Protokolle, soweit unter Ihrer Kontrolle, mindestens sechs Monate aufbewahren, sofern kein anderes Recht gilt. | Speicherort, Löschfrist, Zugriffsrechte, mit dem Betriebsrat abgestimmt. |
| Information der Beschäftigten | Art. 26 Abs. 7 | Vor dem Einsatz am Arbeitsplatz die Arbeitnehmervertreter und die betroffenen Beschäftigten informieren, nach den unions- und nationalrechtlichen Regeln zur Unterrichtung. | Datierte Information, Protokoll der Sitzung des Gremiums. |
| Erläuterung für Betroffene | Art. 86 Abs. 1 KI-VO, § 15 KI-MIG | Wer von einer Entscheidung auf Grundlage eines Anhang-III-Systems erheblich betroffen ist, kann vom Betreiber klare Erläuterungen zur Rolle des Systems und zu den Hauptelementen verlangen. Fehlt sie, droht nach § 15 KI-MIG bei Anhang III Nr. 1, 3, 4 oder 5 ein Bußgeld bis 50.000 €. | Erläuterungstext je Funktion, Ansprechperson, interne Frist. |
Bußgeldrahmen: Art. 99 Abs. 4 und 6, für kleine und mittlere Unternehmen gilt der niedrigere Betrag. Quellen: Art. 26, Art. 86, Art. 99, Art. 25 KI-VO, KI-MIG (BGBl. 2026 I Nr. 223), abgerufen am 04.11.2026.
Muss der Betriebsrat zustimmen,
wenn das MES KI nutzt?
Er bestimmt mit, sobald eine KI-Funktion zur Überwachung von Verhalten oder Leistung geeignet ist, unabhängig von den Fristen der KI-VO. Den Ablauf beschreiben Betriebsrat und MES und die Checkliste Betriebsvereinbarung.
| Vorschrift | Inhalt | Bedeutung bei KI im MES | Nachweis (Empfehlung) |
|---|---|---|---|
| § 87 BetrVG | Mitbestimmung bei „Einführung und Anwendung von technischen Einrichtungen, die dazu bestimmt sind, das Verhalten oder die Leistung der Arbeitnehmer zu überwachen“. Laut Bundesarbeitsgericht (BAG) zählt die objektive Eignung, die Absicht des Arbeitgebers ist unerheblich, eine Speicherung ist nicht nötig. Grundsätzlich müssen sich Daten einzelnen Beschäftigten zuordnen lassen. Ohne Einigung entscheidet die Einigungsstelle (§ 87 Abs. 2). | Funktionen mit Werker-, Schicht- oder Ausweiskennung lösen die Mitbestimmung aus, Maschinenmodelle ohne Personenbezug beurteilen Sie im Einzelfall. | Datenfeldliste mit Personenbezug je Funktion. |
| § 80 Abs. 2 und 3 BetrVG | Der Betriebsrat ist rechtzeitig und umfassend zu unterrichten. Muss er KI beurteilen, gilt die Hinzuziehung eines Sachverständigen als erforderlich. | Zeit und Kosten einer externen Beurteilung einplanen. | Unterrichtungsschreiben mit Anbieterunterlagen. |
| § 90 Abs. 1 Nr. 3, Abs. 2 BetrVG | Unterrichtung über die Planung von Arbeitsverfahren und Arbeitsabläufen einschließlich des Einsatzes von KI, Beratung so rechtzeitig, dass Vorschläge berücksichtigt werden können. | Beratung in der Planungsphase, sinnvoll vor der Anbieterentscheidung. | Beratungstermin im Projektplan vor dem Pilot. |
| Zuständiges GremiumBAG 1 ABR 20/21, 1 ABR 16/23 | Bei unternehmensweit genutzten, zentral betriebenen Systemen kann der Gesamtbetriebsrat zuständig sein (Beschlüsse vom 08.03.2022 zu Microsoft Office 365 und vom 16.07.2024 zu einem Headset-System). | Bei Werksverbund und zentralem Modell klären Sie früh, welches Gremium verhandelt. | Zuständigkeitsvermerk. |
Quellen: § 87, § 80, § 90 BetrVG, BAG, Beschlüsse vom 16.07.2024 (1 ABR 16/23) und 08.03.2022 (1 ABR 20/21), abgerufen am 04.11.2026. Die Auslegung ist Rechtsprechung, der Einzelfall bleibt zu prüfen.
Was gilt für Datenschutz und Datenhoheit
bei KI im Werk?
Sobald Werker-, Schicht- oder Ausweiskennungen in Trainings-, Protokoll- oder Nutzungsdaten stehen, greift der Datenschutz. Aggregation auf Maschinen- und Materialebene verringert den Prüfaufwand, die Datenbasis beschreibt KI Datenvoraussetzungen MES.
| Thema | Norm | Inhalt | Folge für KI im MES |
|---|---|---|---|
| RechtsgrundlageBeschäftigtendaten | § 26 Abs. 1 und 4 BDSG, Art. 88 DSGVO, EuGH C-34/21 | Verarbeitung ist zulässig, soweit für die Durchführung des Beschäftigungsverhältnisses erforderlich, auch auf Grundlage von Kollektivvereinbarungen unter Beachtung von Art. 88 Abs. 2 DSGVO. Der EuGH entschied am 30.03.2023: Eine nationale Regelung, die Art. 88 Abs. 2 nicht erfüllt, ist keine „spezifischere Vorschrift“ und bleibt unangewendet, außer sie genügt Art. 6 Abs. 3 DSGVO. | Stützen Sie KI mit Personenbezug nicht allein auf § 26 Abs. 1. Eine Betriebsvereinbarung mit den Maßnahmen nach Art. 88 Abs. 2 gibt Halt. Wie weit das Urteil auf § 26 BDSG wirkt, klären Datenschutzbeauftragte und Rechtsberatung. |
| Automatisierte Entscheidung | Art. 22 DSGVO, EuGH C-634/21 | Betroffene haben das Recht, keiner ausschließlich automatisierten Entscheidung mit rechtlicher oder ähnlich erheblicher Wirkung unterworfen zu werden. Nach dem EuGH (07.12.2023) kann schon ein automatisch erstellter Wahrscheinlichkeitswert eine solche Entscheidung sein, wenn ein Dritter maßgeblich davon abhängig entscheidet. | Ein Bewertungswert für Beschäftigte, an dem Schichtleitung oder Personalabteilung ihre Entscheidung ausrichten, kann darunter fallen (Einschätzung). Sehen Sie eine menschliche Entscheidung mit echtem Spielraum vor. |
| Folgenabschätzung | Art. 35 Abs. 1, 3 DSGVO, Art. 26 Abs. 9 KI-VO | Bei voraussichtlich hohem Risiko vorab, insbesondere bei systematischer, umfassender Bewertung persönlicher Aspekte durch automatisierte Verarbeitung, die Entscheidungen mit erheblicher Wirkung trägt. Der Rat des Datenschutzbeauftragten ist einzuholen. Bei Hochrisiko-Systemen nutzen Betreiber dafür die Informationen des Anbieters. | Funktionen, die Beschäftigte bewerten, brauchen in der Regel eine Abschätzung (Einschätzung). |
| Datenhoheit und Ausstieg | Art. 29 Data Act (Verordnung (EU) 2023/2854), Vertrag | Ab 12.01.2027 dürfen Anbieter von Datenverarbeitungsdiensten keine Wechselentgelte mehr erheben. Vor Vertragsschluss müssen sie über Standardentgelte und Sanktionen bei vorzeitiger Kündigung informieren. | Fordern Sie schriftlich: Ort von Modellen und Trainingsdaten, Nutzung Ihrer Daten für andere Kunden, Export und Löschung. Siehe MES API, Exit und Datenhoheit. |
Quellen: Verordnung (EU) 2016/679, Verordnung (EU) 2023/2854, § 26 BDSG, EuGH, Urteile vom 30.03.2023 (C-34/21) und 07.12.2023 (C-634/21), abgerufen am 04.11.2026.
Was gilt für KI in GxP-Umgebungen
von Pharma und Medizintechnik?
Annex 22 zum EU-GMP-Leitfaden ist nicht in Kraft. Die Konsultationsfassung betrifft KI-Modelle in kritischen Anwendungen mit Einfluss auf Patientensicherheit, Produktqualität oder Datenintegrität. Weiter gilt Annex 11 in der Fassung von Januar 2011. Zu elektronischen Aufzeichnungen siehe FDA 21 CFR Part 11 im MES und MES für Pharma.
| Abschnitt | Aussage der Konsultationsfassung | Das verlangen Sie vom Anbieter |
|---|---|---|
| 1 · Anwendungsbereich | Erfasst sind statische Modelle mit deterministischer Ausgabe. Dynamisch lernende Modelle, probabilistische Modelle sowie generative KI und große Sprachmodelle sollen in kritischen GMP-Anwendungen nicht verwendet werden. | Schriftlich: Ist das Modell eingefroren, und liefert es bei gleicher Eingabe gleiche Ausgabe? Wo steckt generative KI? |
| 4.2, 4.3 · Akzeptanzkriterien | Kriterien und Messgrößen werden vorab festgelegt. Sie sollen mindestens der Leistung des ersetzten Prozesses entsprechen. | Messgrößen wie Sensitivität und Spezifität, Ausgangsleistung des manuellen Prozesses. |
| 6 · Testdaten | Testdaten dürfen weder beim Entwickeln noch beim Trainieren oder Validieren genutzt worden sein, der Zugriff ist geschützt und protokolliert. | Nachweis der Datentrennung und der Zugriffsprotokolle. |
| 8, 9 · Erklärbarkeit und Konfidenz | Bei Tests sind die zur Entscheidung beitragenden Merkmale aufzuzeichnen. Die Konfidenz je Vorhersage wird protokolliert, bei sehr niedriger Konfidenz kann das Modell „unentschieden“ melden. | Zeigen: Merkmalszuordnung, Konfidenz im Protokoll, einstellbarer Schwellwert. |
| 10 · Betrieb | Änderungsmanagement für Modell, System und Prozess, Konfigurationskontrolle, regelmäßige Leistungsüberwachung und Überwachung der Eingabedaten auf Drift. | Änderungsprozess, Kriterien für Neutests, Driftberichte, Ankündigung von Modellwechseln. |
Quellen: Europäische Kommission, Annex 22 Artificial Intelligence, Konsultationsfassung (PDF), EudraLex Volume 4, abgerufen am 04.11.2026. Die Konsultationsfassung ist unverbindlich, der endgültige Text ist offen.
Prüfliste „KI im Werk“:
Zehn Punkte mit Nachweis.
Gehen Sie die Liste je KI-Funktion mit Fertigungsleitung, Datenschutz, Betriebsrat und Recht durch, für die Demo siehe MES Demos bewerten.
| Prüfpunkt | Was zu klären ist | Nachweis |
|---|---|---|
| KI-InventarArt. 4, 26 KI-VO | Welche KI-Funktionen laufen oder sind geplant, mit Zweckbestimmung, Anbieter, Datenquellen und Version? | Inventarliste mit Eigentümer und Änderungsdatum |
| Rolle je FunktionArt. 3, 25 KI-VO; Art. 18 Maschinenverordnung | Nutzen Sie die Funktion nur, oder trainieren, ändern oder benennen Sie sie? | Vermerk mit Begründung je Funktion |
| Verbot und KennzeichnungArt. 5 Abs. 1 Buchst. f, Art. 50 Abs. 1 | Wertet eine Funktion Emotionen von Beschäftigten aus? Erkennen Werker, dass sie mit einer KI arbeiten? | Bestätigung des Anbieters, Bildschirmfoto mit Hinweis |
| EinstufungArt. 6, Anhang III Nr. 4 | Bewertet die Funktion Beschäftigte oder weist sie Aufgaben nach individuellem Verhalten zu? Ist sie Sicherheitsbauteil? | Schriftliche Einstufung, Anbieterdokumentation nach Art. 6 Abs. 4 |
| KI-KompetenzArt. 4 | Welche Maßnahmen erhalten Bediener, Schichtleitung, Instandhaltung und Administratoren? | Schulungsplan, Teilnahmeliste |
| PersonenbezugDSGVO, § 26 BDSG, Art. 35 DSGVO | Stehen Personenkennungen in Trainings-, Protokoll- oder Nutzungsdaten, und bewertet die Funktion Beschäftigte systematisch? | Datenflussplan mit Feldliste, Folgenabschätzung mit Votum der Datenschutzbeauftragten |
| Betriebsrat§§ 80, 87, 90 BetrVG | Ist das Gremium vor dem Pilot unterrichtet, und liegt eine Regelung vor? | Unterrichtungsschreiben, Betriebsvereinbarung |
| Protokolle und AufsichtArt. 26 Abs. 2, 6 | Wer prüft Modellausgaben und darf sie übersteuern? Wie lange bleiben Protokolle erhalten? | Rollenbeschreibung, Aufbewahrungskonzept |
| GxP-ValidierungAnnex 11, Annex 22 (Konsultationsfassung) | Wirkt die Funktion auf Patientensicherheit, Produktqualität oder Datenintegrität? | Validierungsplan, Testdatentrennung, Driftüberwachung |
| Vertrag und ÄnderungenProdukthaftung, CRA, Data Act | Sind Modellgüte, Updates, Änderungsmitteilung, Datenexport und Meldekette geregelt? Wer prüft, ob ein Modellwechsel die Einstufung ändert? | Klauseln, Anhang zum SLA |
Einordnung von Find-Your-MES auf Grundlage der verlinkten Rechtsquellen, Stand 04.11.2026. Nachweise sind Empfehlungen, keine gesetzliche Form.
Welche Rechtsfragen stellen Sie MES-Anbietern?
Fünf Fragen für die Demo.
Allgemeine Fragen stehen unter KI Fragen an MES-Anbieter, die Evidenz im Hype-Check. Nehmen Sie diese Rechtsfragen in den RFI-Fragebogen auf.
| Thema | Prüffrage | Tragfähige Antwort enthält | Rückfrage auslösen |
|---|---|---|---|
| EinstufungArt. 6 KI-VO | Wie stufen Sie die KI-Funktion nach der KI-Verordnung ein? | Zweckbestimmung und Begründung, Verweis auf Anhang III und Art. 6 Abs. 3 | „Fällt nicht unter die KI-Verordnung“ ohne Begründung |
| PersonenbezugDSGVO | Welche Beschäftigtendaten verarbeitet das Modell, und lässt sich das abschalten? | Feldliste, Konfigurationsschalter, Aggregationsstufen | Personenkennung ist fest im Datensatz |
| ProtokolleArt. 26 Abs. 6 | Was protokolliert das System, wie lange, und wie exportieren wir es? | Inhalte, Aufbewahrung, Exportformat, Löschkonzept | Protokolle nur beim Anbieter einsehbar |
| ModellwechselArt. 25 Abs. 1 | Wie kündigen Sie Modelländerungen an, und wann gilt eine Änderung als wesentlich? | Änderungsmitteilung mit Vorlauf, Retest-Kriterien | Updates ohne Ankündigung im Hintergrund |
| Daten und TrainingData Act, Vertrag | Trainieren Sie mit unseren Daten für andere Kunden, und wo liegen Modelle und Daten? | Schriftliche Zusage, Hostingort, Exit mit Datenherausgabe | Pauschale Nutzungsrechte an Kundendaten |
Die Antworten fließen in die Anbieterbewertung ein. Vertragsklauseln: MES Vertrag und SLA.
Fünf typische Fehler
bei KI-Recht im Werk.
Die Muster folgen aus Gesetzestext und Rechtsprechung.
Hochrisiko-Termin für alles halten
Der 02.12.2027 gilt nur für hochriskante Systeme. Verbote, KI-Kompetenz und Transparenz laufen bereits, die Mitbestimmung nach BetrVG ohnehin.
Umwidmen ohne Prüfung
Wer ein Assistenzsystem zur Leistungsbewertung von Werkern umwidmet, kann nach Art. 25 Abs. 1 Buchst. c selbst Anbieter eines Hochrisiko-Systems werden.
Nur an der Absicht messen
Das BAG fragt nach der objektiven Eignung. Dass niemand überwachen will, nimmt die Mitbestimmung nicht weg.
Nur auf § 26 BDSG stützen
Nach dem EuGH-Urteil C-34/21 braucht eine nationale Regel die Maßnahmen des Art. 88 Abs. 2 DSGVO. Eine Betriebsvereinbarung sollte sie enthalten.
Modellwechsel dem Anbieter überlassen
Ohne Änderungsmitteilung und Retest-Regel ändert sich unbemerkt, was Sie eingestuft und validiert haben.
Einordnung von Find-Your-MES. Quellen: Anbieter- und Referenzdatenbank von Find-Your-MES (über 110 MES-Systeme im Katalog), Rechtsquellen wie in den Tabellen, Angaben laut Anbieter, ohne Gewähr, Stand 04.11.2026.
Häufige Fragen
direkt beantwortet.
Gilt die KI-Verordnung für KI im MES meines Werks?
Die KI-Verordnung gilt für jedes KI-System, das Sie in der EU einsetzen, auch wenn der MES-Anbieter es liefert. Sie sind dann Betreiber (Art. 3 Nr. 4). Seit 02.02.2025 gelten Verbote und die Pflicht zu Maßnahmen zur KI-Kompetenz, seit 02.08.2026 die Transparenzregeln des Art. 50. Hochrisiko-Pflichten folgen erst ab 02.12.2027 für Systeme nach Anhang III und ab 02.08.2028 für Anhang I. Eine Ausschussprognose an Maschinen ist in der Regel nicht hochriskant (Einschätzung).
Ab wann gelten die Hochrisiko-Pflichten für KI im Werk?
Die Hochrisiko-Pflichten gelten nur für Systeme, die als hochriskant eingestuft sind: für Systeme nach Anhang III ab 02.12.2027, für Systeme nach Anhang I ab 02.08.2028 (Art. 113 Abs. 3 Buchst. c, geändert durch die Verordnung (EU) 2026/1744). Maschinen stehen seit dem Omnibus im Abschnitt B des Anhangs I, ihre KI-Anforderungen kommen über delegierte Rechtsakte nach der Maschinenverordnung, die ab 02.08.2028 gelten. Ältere Systeme erfasst die Verordnung nur nach erheblicher Konzeptionsänderung (Art. 111 Abs. 2).
Ist eine KI-Funktion im MES automatisch ein Hochrisiko-System?
Nein, hochriskant ist ein System nur, wenn es unter Anhang I oder Anhang III fällt. Im Werk ist Anhang III Nr. 4 maßgeblich: KI, die Beschäftigte überwacht und bewertet oder Aufgaben nach individuellem Verhalten zuweist. Profiling von Personen macht ein Anhang-III-System immer hochriskant (Art. 6 Abs. 3). Maschinenbezogene Funktionen wie Anomalieerkennung fallen nach Einschätzung von Find-Your-MES in der Regel nicht darunter. Der Anbieter dokumentiert seine Einstufung nach Art. 6 Abs. 4.
Muss ich KI-Schulungen für Mitarbeiter nachweisen?
Art. 4 der KI-Verordnung verlangt von Anbietern und Betreibern Maßnahmen zur Förderung der KI-Kompetenz ihres Personals und anderer Personen, die in ihrem Auftrag mit KI arbeiten. Ein bestimmtes Niveau je Person müssen Sie nicht garantieren. Diese Fassung gilt seit dem Digital Omnibus (Verordnung (EU) 2026/1744). Eine Pflicht zur Dokumentation von Schulungen steht nicht im Gesetzestext. Als Nachweis empfiehlt sich dennoch ein Schulungsplan mit Teilnahmeliste für Bediener, Schichtleitung, Instandhaltung und Administratoren.
Braucht ein KI-Assistent am Terminal einen Hinweis?
Ja, sofern nicht offensichtlich ist, dass es sich um eine KI handelt. Art. 50 Abs. 1 der KI-Verordnung verpflichtet Anbieter, Systeme, die direkt mit Menschen interagieren, so zu gestalten, dass Betroffene dies erkennen. Die Pflicht gilt seit 02.08.2026 und trifft zunächst den Anbieter. Prüfen Sie in der Demo, ob der Hinweis sichtbar in der Oberfläche steht. Verstöße gegen Art. 50 können mit bis zu 15 Mio. € oder 3 % des weltweiten Jahresumsatzes geahndet werden.
Muss der Betriebsrat einer KI-Funktion im MES zustimmen?
Er bestimmt nach § 87 Abs. 1 Nr. 6 BetrVG bei Einführung und Anwendung technischer Einrichtungen mit, die zur Überwachung von Verhalten oder Leistung bestimmt sind. Laut Bundesarbeitsgericht genügt die objektive Eignung, eine Absicht oder Speicherung ist nicht nötig, Daten müssen aber grundsätzlich Einzelnen zuordenbar sein (Beschluss vom 16.07.2024, 1 ABR 16/23). Bei Einigungsmangel entscheidet die Einigungsstelle (§ 87 Abs. 2). Für KI gilt zudem § 80 Abs. 3 Satz 2 zum Sachverständigen.
Darf ich Werkerdaten zum Training einer KI verwenden?
Das hängt vom Personenbezug und einer tragfähigen Rechtsgrundlage ab. Prüfen Sie zuerst, ob Personenkennungen im Datensatz stehen, und entfernen Sie sie, wenn das Modell sie nicht braucht. Stehen sie darin, gelten DSGVO und § 26 BDSG. Der EuGH hat am 30.03.2023 (C-34/21) entschieden, dass eine nationale Regelung ohne die Maßnahmen des Art. 88 Abs. 2 DSGVO unangewendet bleibt. Eine Betriebsvereinbarung mit diesen Maßnahmen und Aggregation auf Maschinenebene verringern das Risiko.
Brauche ich eine Datenschutz-Folgenabschätzung für KI im Werk?
Eine Folgenabschätzung ist nach Art. 35 Abs. 1 DSGVO nötig, wenn die Verarbeitung voraussichtlich ein hohes Risiko hat. Art. 35 Abs. 3 Buchst. a nennt die systematische, umfassende Bewertung persönlicher Aspekte durch automatisierte Verarbeitung, die Entscheidungen mit erheblicher Wirkung trägt. Funktionen, die Beschäftigte bewerten, brauchen sie deshalb in der Regel (Einschätzung). Bei Hochrisiko-Systemen nutzen Betreiber nach Art. 26 Abs. 9 KI-VO die Informationen des Anbieters dafür. Rat der Datenschutzbeauftragten einholen.
Gilt Annex 22 schon für KI in der Arzneimittelherstellung?
Nein, Annex 22 ist eine Konsultationsfassung der Europäischen Kommission und nicht in Kraft. Die Konsultation lief vom 07.07.2025 bis 07.10.2025, die Übersicht von EudraLex Volume 4 listet am 04.11.2026 nur die Annexe 1 bis 21. Die Konsultationsfassung zielt auf statische Modelle mit deterministischer Ausgabe und schließt generative KI und große Sprachmodelle für kritische GMP-Anwendungen aus. Als Prüfraster für Anbieterfragen taugt sie, eine Rechtspflicht ergibt sich daraus nicht. Annex 11 gilt weiter in der Fassung von Januar 2011.
Wer haftet, wenn eine KI-Funktion im MES einen Fehler verursacht?
Das hängt von Vertrag und Einzelfall ab, denn die KI-Verordnung regelt vor allem Marktzugang und Pflichten, nicht die zivilrechtliche Haftung. Mit der Richtlinie (EU) 2024/2853 ist Software ausdrücklich ein Produkt (Art. 4 Nr. 1), die alte Richtlinie ist ab 09.12.2026 aufgehoben. Regeln Sie im Vertrag Modellgüte, Messverfahren, Updates und Haftungsgrenzen, und fragen Sie vor der Unterschrift nach Nachweisen zur Modellgüte. Einzelheiten nennt Produkthaftung Software im MES. Entscheidungen auf Grundlage einer Modellausgabe treffen weiter Sie.
Welche Bußgelder drohen bei Verstößen gegen die KI-Verordnung?
Verbotene Praktiken kosten bis zu 35 Mio. € oder 7 % des weltweiten Jahresumsatzes (Art. 99 Abs. 3). Verstöße gegen Betreiberpflichten nach Art. 26 und Transparenzpflichten nach Art. 50 kosten bis zu 15 Mio. € oder 3 %, jeweils der höhere Betrag. Für kleine und mittlere Unternehmen gilt der niedrigere Betrag (Art. 99 Abs. 6). Fehlt die Erläuterung für Betroffene bei Systemen nach Anhang III Nr. 1, 3, 4 oder 5, sind nach § 15 KI-MIG bis zu 50.000 € möglich.
Welche Behörde überwacht die KI-Verordnung in Deutschland?
Grundsätzlich die Bundesnetzagentur, die für die Marktüberwachung zuständig ist. Das KI-Marktüberwachungs- und Innovationsförderungs-Gesetz (KI-MIG) vom 22.07.2026 (BGBl. 2026 I Nr. 223) bestimmt sie in § 2 Abs. 1 zur zuständigen Marktüberwachungsbehörde, soweit das Gesetz nichts anderes regelt. Ausnahmen gelten etwa für die Finanzaufsicht und für Stellen der Länder, für Mediendienstanbieter sind Landesbehörden zuständig. Die Bußgeldverfahren führen die Marktüberwachungsbehörden jeweils für ihren Geschäftsbereich (§ 16 KI-MIG). Für den Datenschutz bleiben die Datenschutzaufsichtsbehörden zuständig.
Das MES, dessen Anbieter
Ihre KI-Rechtsfragen belegt.
Aus über 110 MES-Systemen im Katalog und über 80 Merkmalen entsteht in rund 6 Minuten eine begründete Shortlist. Im Selection Portal, dem Werkzeug für die Softwareauswahl, sammeln Sie Anforderungen wie Protokolle, Kennzeichnung und Datenexport, halten Demos und Vertragsprüfung fest und dokumentieren alles nachvollziehbar. KI-Funktionen laufen mit eigenen, lokal betriebenen Modellen, Daten bleiben bei Find-Your-Software. Passende Anbieter finden Sie im MES-Katalog, Kriterien nennt MES Auswahl, den Kontext MES Technologie und Trends. Governance und Risikoklassifizierung beschreibt die KI-Strategie-Beratung der Sectorlens GmbH.