Häufig gestellte Fragen zur KI-Schulungspflicht nach der EU-KI-Verordnung

März 2025 | Künstliche Intelligenz

1. Gibt es eine explizite Schulungspflicht in der EU-KI-Verordnung?

Antwort: Die EU-KI-Verordnung (AI Act) formuliert keine wortwörtliche Schulungspflicht. ABER sie verlangt, dass Unternehmen sicherstellen, dass ihr Personal über ausreichende KI-Kompetenz verfügt. Dies ergibt sich aus Artikel 4, der „angemessene Maßnahmen“ zur Gewährleistung der notwendigen Kenntnisse und Fähigkeiten fordert. Schulungen sind ein geeignetes Mittel, um diese Kompetenz zu erwerben.

2. Welche Risiken bestehen, wenn Unternehmen keine KI-Schulungen anbieten?

Antwort: Ohne angemessene Schulungen können Unternehmen rechtliche Risiken eingehen, insbesondere bei Verstößen gegen Datenschutzrecht (DSGVO), Wettbewerbsrecht oder IT-Sicherheitsrichtlinien. Zudem besteht die Gefahr der persönlichen Haftung der Geschäftsleitung, wenn sie keine ausreichenden Maßnahmen zur Schulung und Sensibilisierung getroffen hat.

3. Was sind die Hauptinhalte einer KI-Schulung?

Antwort: Eine umfassende KI-Schulung sollte folgende Themen abdecken:

  • Grundlagen der KI: Wie KI-Systeme funktionieren, einschließlich maschinellem Lernen und neuronalen Netzen.
  • Risiken der KI: Diskriminierung, Halluzinationen, Falschinformationen und Cybercrime.
  • Compliance & Ethik: Was Mitarbeitende bei der KI-Nutzung dürfen und was nicht.
  • Datenschutz: Wie datenschutzkonform mit KI gearbeitet werden kann.
  • Rechtliche Grundlagen: Basiswissen zur KI-Verordnung, DSGVO und Urheberrecht.

4. Welche Schulungsformate sind geeignet?

Antwort: Unternehmen können verschiedene Formate nutzen, um ihre Mitarbeitenden zu schulen:

  • Interne Schulungen
  • E-Learning-Module
  • Workshops mit externen Experten
  • Zielgerichtete Einweisungen für bestimmte Rollen (z. B. HR, Marketing, IT).

Haben wir Ihr Interesse geweckt? Am 29. April 2025 erklärt Ihnen Rechtsanwalt Dr. Marc Maisch in einem exklusiven Online-Seminar, worauf Unternehmen, Kreative und Entwickler jetzt achten müssen.

Er zeigt, welche Anforderungen die KI-VO stellt, wie man Datenschutz und Ethik in die KI-Strategie integriert und was das neue Urheberrecht für KI-generierte Inhalte bedeutet.

Gemeinsam mit führenden KI-Experten gibt Rechtsanwalt Dr. Marc Maisch praxisnahe Einblicke, damit man rechtssicher mit künstlicher Intelligenz agieren kann. Mit dabei sind Dr. Erlijn van Genuchten, Michele Fuhs und Roger Basler de Roca !

5. Warum ist die Dokumentation von Schulungen wichtig?

Antwort: Die Dokumentation der Schulungsinhalte und die Belegung der Teilnahme sind entscheidend, um gegenüber Aufsichtsbehörden nachweisen zu können, dass die Organisationspflicht erfüllt wurde. Dies kann im Falle von Haftungsansprüchen oder Bußgeldern entscheidend sein.

6. Wie können Unternehmen die Risiken durch „Shadow-KI“ minimieren?

Antwort: „Shadow-KI“ bezeichnet den eigenständigen Einsatz von KI-Tools durch Mitarbeitende ohne Kenntnis der Führungskräfte. Um diese Risiken zu minimieren, sollten Unternehmen gezielte Schulungen anbieten und klare Richtlinien für den Einsatz von KI-Systemen erstellen. Dies hilft, rechtliche Risiken zu reduzieren und die Transparenz innerhalb des Unternehmens zu erhöhen.

7. Welche Rolle spielt die Geschäftsleitung bei der Umsetzung der KI-Verordnung?

Antwort: Die Geschäftsleitung trägt die Verantwortung dafür, dass das Unternehmen die Anforderungen der KI-Verordnung erfüllt. Dazu gehört auch die Sicherstellung, dass Mitarbeitende über die notwendigen KI-Kompetenzen verfügen. Bei Versäumnissen kann die Geschäftsleitung persönlich haftbar gemacht werden.

8. Wie können Unternehmen die Schulungspflicht effizient umsetzen?

Antwort: Unternehmen sollten den Bedarf an Schulungen analysieren und eine Schulungsstrategie entwickeln, die auf die spezifischen Bedürfnisse der Mitarbeitenden abgestimmt ist. Die Dokumentation der Schulungen ist entscheidend, um die Erfüllung der Organisationspflicht nachweisen zu können. Regelmäßige Updates der Schulungen sind ebenfalls wichtig, um mit der rasanten Entwicklung der KI-Technologien Schritt zu halten.

9. Die EU-KI-Verordnung: Ein Meilenstein für KI-Regulierung

Die EU-KI-Verordnung, die am 1. August 2024 in Kraft getreten ist, markiert einen bedeutenden Schritt in der Regulierung von künstlicher Intelligenz. Ziel ist es, den sicheren, transparenten und ethisch vertretbaren Einsatz von KI in der gesamten EU sicherzustellen.

Risikobasierter Ansatz

Die Verordnung verwendet einen risikobasierten Ansatz, der vier Hauptkategorien umfasst:

  1. Verbotene KI-Praktiken: Dazu gehören Methoden wie Social Scoring oder manipulative biometrische Überwachung.
  2. Hochrisiko-KI-Systeme: Diese werden in Bereichen wie Personalwesen, Kreditvergabe oder sicherheitskritischer Infrastruktur eingesetzt.
  3. KI mit Transparenzpflichten: Beispiele sind Chatbots oder Deepfakes, bei denen Nutzer über die KI-Interaktion informiert werden müssen.
  4. Geringes oder kein Risiko: Hierzu zählen KI-generierte Texte ohne Entscheidungsrelevanz.

Anforderungen an Hochrisiko-KI

Für Hochrisiko-KI-Systeme gelten strenge Anforderungen an Transparenz, menschliche Kontrolle und die Fähigkeiten der mit KI befassten Mitarbeitenden. Diese Anforderungen sind entscheidend, um sicherzustellen, dass KI-Systeme verantwortungsvoll eingesetzt werden.

Sanktionen bei Verstößen

Verstöße gegen die KI-Verordnung können erhebliche Strafen nach sich ziehen:

  • Bußgelder: Bis zu 35 Millionen Euro oder 7 % des weltweiten Jahresumsatzes.
  • Reputationsschäden: Diese können durch Datenschutz- oder Compliance-Verstöße entstehen.
  • Haftung der Geschäftsführung: Bei Organisationsversagen kann die Geschäftsleitung persönlich haftbar gemacht werden.

Effiziente Umsetzung von Schulungen

Um diese Risiken zu minimieren, sind gezielte Schulungen und ein dokumentierter Kompetenzaufbau entscheidend. Hier sind einige Schritte zur effizienten Umsetzung:

  1. Bedarf analysieren: Identifizieren Sie die KI-Systeme, die bereits genutzt werden, und bestimmen Sie die Risikobereiche.
  2. Schulungsstrategie entwickeln: Legen Sie fest, wer wie tief geschult werden muss.
  3. Formate wählen: Nutzen Sie eine Kombination aus Präsenz-, Online- und Onboarding-Schulungen oder externen Partnern.
  4. Dokumentation sicherstellen: Bewahren Sie Teilnahmebescheinigungen, Inhalte, Prüfungen und Feedbackbögen auf.
  5. Wissen aktuell halten: Schulungen sollten regelmäßig aktualisiert werden, um mit der rasanten Entwicklung der KI-Technologien Schritt zu halten.

10. Fazit: Schulungen als Pflicht

Obwohl die Verordnung keine explizite Schulungspflicht formuliert, ist es zwingend notwendig, dass Unternehmen die notwendigen KI-Kompetenzen aufbauen. Dies ist entscheidend, um Haftung, Bußgelder und Imageschäden zu vermeiden.

Nächste Schritte

Nutzen Sie die verbleibende Zeit, um Ihre Mitarbeitenden auf den Einsatz von KI vorzubereiten. Die Investition in Wissen ist die günstigste Versicherung gegen KI-Risiken.

Interessiert an weiteren Informationen zur KI-Verordnung oder Schulungen? Nehmen Sie Kontakt mit uns auf, um mehr über unsere KI-Schulungen zu erfahren oder um Fragen im KI- und Datenschutzrecht zu klären. Wir freuen uns darauf, Ihnen helfen zu können!