Der kürzlich verabschiedete EU KI-Act stellt eine große Veränderung in der Regulierung von Künstlicher Intelligenz (KI) in Europa dar. Das wegweisende Gesetz wird zahlreiche Branchen beeinflussen. Unternehmen aller Größenordnungen müssen verstehen, wie sie sich anpassen können.
Zeitplan und Inkrafttreten
Der EU KI-Act wurde am 21. Mai 2024 vom Rat der Europäischen Union formell verabschiedet, nachdem das Europäische Parlament den Entwurf zuvor am 13. März 2024 gebilligt hatte. Die Verordnung wurde am 12. Juli 2024 im Amtsblatt der EU veröffentlicht und ist am 1. August 2024 in Kraft getreten. Im Juli 2026 wurde sie durch die Verordnung (EU) 2026/1744 („Digital Omnibus“) erstmals geändert.
Die Regeln gelten stufenweise: Verbote und die Pflicht zur KI-Kompetenz seit Februar 2025, die Regeln für KI-Modelle mit allgemeinem Verwendungszweck seit August 2025 und die Transparenzpflichten seit August 2026. Die Pflichten für Hochrisiko-KI-Systeme wurden verschoben: Sie gelten ab dem 2. Dezember 2027 (Anhang III) bzw. ab dem 2. August 2028 (KI in regulierten Produkten nach Anhang I).
Was bedeutet das für Ihr Unternehmen?
Wenn Sie KI-Systeme entwickeln oder einsetzen, insbesondere in sensiblen Bereichen wie Finanzdienstleistungen oder Gesundheitswesen, sind die Auswirkungen des KI Acts direkt spürbar. Ein Verstoß gegen die Verordnung kann teuer werden: Bei verbotenen KI-Praktiken drohen bis zu 35 Millionen Euro oder 7 % des weltweiten Jahresumsatzes (Art. 99 Abs. 3), bei Verstößen gegen bestimmte weitere Pflichten, etwa die Transparenzpflichten, bis zu 15 Millionen Euro oder 3 % (Art. 99 Abs. 4).
Vorbereitung auf den EU KI-Act
Um Ihr Unternehmen auf die Anforderungen vorzubereiten sollten Sie:
- Risikoanalyse durchführen: Identifizieren Sie, welche Ihrer KI-Systeme als „hochriskant“ eingestuft werden könnten und planen Sie erforderliche Anpassungen.
- Transparenz schaffen: Informieren Sie sowohl Ihre Mitarbeiter als auch Ihre Kunden über den Einsatz von KI, um Vertrauen zu schaffen.
- Menschliche Aufsicht implementieren: Stellen Sie sicher, dass Entscheidungen von KI-Systemen durch Menschen überwacht und, falls nötig, korrigiert werden können.
- Mitarbeiter schulen: KI Kompetenz der Mitarbeitenden durch geeignete Maßnahmen fördern (Art. 4)
Unterstützung von Innovation und Start-ups
Um Innovation zu fördern, bietet der EU-KI Act spezielle Unterstützung für Start-ups und KMUs. Diese umfasst Testumgebungen, in denen Unternehmen ihre Lösungen vor der Markteinführung unter realen Bedingungen erproben können.
Langfristige Auswirkungen
Der EU KI-Act wird die Innovationslandschaft in Europa nachhaltig prägen. Durch die Schaffung eines sicheren und transparenten Rahmens für KI-Anwendungen wird nicht nur das Vertrauen der Verbraucher gestärkt, sondern auch neue Geschäftsmöglichkeiten für Unternehmen geschaffen, die Compliance und Sicherheit in den Vordergrund stellen.
Fazit
Der EU KI-Act bringt Herausforderungen, aber auch erhebliche Chancen. Unternehmen, die frühzeitig mit der Anpassung ihrer Prozesse beginnen, werden KI-Compliance sicherstellen und als vertrauenswürdige Innovatoren am Markt hervorstechen. Nutzen Sie die verfügbaren Ressourcen und stellen Sie sicher, dass Ihr Unternehmen für die Zukunft gerüstet ist.
FAQ
Was genau ist ein hochriskantes KI-System?
Hochriskante KI-Systeme sind solche, die bedeutende Auswirkungen auf die Sicherheit und Grundrechte haben könnten. Beispiele hierfür sind KI-Anwendungen in der Kreditwürdigkeitsprüfung, im Gesundheitswesen, in der Überwachung von Mitarbeitern und im autonomen Verkehr. Diese Systeme unterliegen strengen Auflagen, darunter Risikoanalysen, die Einhaltung strenger Datenschutzrichtlinien und die Implementierung von Maßnahmen zur menschlichen Aufsicht.
Welche Schritte sind erforderlich, um eine Konformitätsbewertung durchzuführen?
Eine Konformitätsbewertung umfasst mehrere Schritte:
- Risikoanalyse: Eine gründliche Untersuchung der KI-Systeme auf potenzielle Risiken.
- Risikominderung: Implementierung von Maßnahmen, um identifizierte Risiken zu minimieren.
- Dokumentation: Erstellung umfangreicher Unterlagen, die die Sicherheitsmaßnahmen und die Systemleistung dokumentieren.
- Regelmäßige Überprüfungen: Kontinuierliche Überwachung und Aktualisierung der KI-Systeme, um deren Sicherheit und Effektivität zu gewährleisten.
Wie wird die menschliche Aufsicht in Hochrisiko-KI-Systemen implementiert?
Die menschliche Aufsicht bei Hochrisiko-KI-Systemen beinhaltet die Einrichtung von Überwachungsmechanismen, die sicherstellen, dass Entscheidungen von Menschen überprüft und, wenn nötig, korrigiert werden können. Dies umfasst:
- Aufsichtspflichten: Zuordnung von geschultem Personal, das die Arbeitsweise der KI überwacht.
- Mensch-Maschine-Schnittstelle: Entwicklung von Schnittstellen, die es Menschen ermöglichen, in die Entscheidungsprozesse einzugreifen.
- Klarheit der Verantwortung: Festlegung, wer für Überwachungsaufgaben verantwortlich ist, um rechtliche und ethische Standards einzuhalten.
Wie werden Verstöße gegen den KI Act überwacht und geahndet?
Verstöße werden sowohl von nationalen Behörden als auch vom Europäischen KI-Büro überwacht. Unternehmen, die gegen die Bestimmungen des KI Acts verstoßen, können mit hohen Geldbußen belegt werden: bis zu 35 Millionen Euro oder 7 % des weltweiten Jahresumsatzes bei verbotenen Praktiken (Art. 99 Abs. 3), bis zu 15 Millionen Euro oder 3 % bei Verstößen gegen die in Art. 99 Abs. 4 genannten Pflichten. Für KMU gilt jeweils der niedrigere Betrag.
Welche Branchen sind am stärksten vom KI Act betroffen?
Branchen, die häufig Hochrisiko-KI-Systeme einsetzen, sind besonders betroffen. Dazu zählen das Finanzwesen, das Gesundheitswesen, die Personalverwaltung und die kritische Infrastruktur.
Wie sollten Unternehmen ihre Risikoanalysen für KI-Systeme durchführen?
Unternehmen sollten einen systematischen Ansatz verfolgen, um alle potenziellen Risiken zu identifizieren und zu bewerten. Dieser Ansatz sollte die gesamte Bandbreite möglicher Gefahren abdecken und geeignete Maßnahmen zur Risikominderung vorsehen.
Wie unterstützt der KI Act Start-ups und KMU konkret?
Der KI Act fördert Start-ups und KMUs durch spezielle Unterstützungsprogramme, die Testumgebungen, finanzielle Hilfen und Beratungsdienste umfassen. Diese Angebote sollen kleineren Unternehmen helfen, die Herausforderungen der KI-Compliance zu bewältigen.
