Die Europäische Union hat neue Rechtsvorschriften zur künstlichen Intelligenz erlassen: Der EU AI Act. Er schafft die Grundlagen für die Regulierung der KI in der EU.
Zum Nachlesen: Details zu EU AI Act und den gesetzlichen Bestimmungen.
Abbildung & Lizenz: "EU AI ACT: Das Wichtigste auf einen Blick - Grundlagen & Strategischen Ziele"
© 2025 by Jasmina Džanić is licensed under CC BY-SA 4.0
Der EU AI Act stellt das weltweit erste umfassende Gesetz zur Regulierung von künstlicher Intelligenz dar und verfolgt das Ziel, vertrauenswürdige sowie menschenzentrierte Innovation in Europa zu fördern. Die Verordnung nutzt einen risikobasierten Ansatz, der Anwendungen in vier Kategorien unterteilt, wobei gefährliche Praktiken wie Social Scoring streng untersagt sind. Besonders für Hochrisiko-Systeme in sensiblen Bereichen wie der Medizin oder dem Personalwesen gelten strenge Auflagen für Transparenz, menschliche Aufsicht und Datengüte. Das Dokument erläutert zudem die spezifischen Pflichten für Anbieter und Betreiber sowie die notwendige Verzahnung mit bestehenden Gesetzen wie der DSGVO. Organisationen müssen demnach präzise Compliance-Strategien, Schulungen und Überwachungsprozesse implementieren, um hohe Bußgelder bei Verstößen zu vermeiden. Ein stufenweiser Zeitplan regelt dabei die verbindliche Einführung der verschiedenen gesetzlichen Anforderungen bis zum Jahr 2027.
Wichtig: Ein Verstoß gegen diese Anforderungen nach dem Stichtag kann für Unternehmen Sanktionen von bis zu 15 Mio. € oder 3 % des weltweiten Jahresumsatzes nach sich ziehen.
Abbildung & Lizenz: "Gesetzliche Transparenzpflicht (Art. 50)"
© 2025 by Jasmina Džanić is licensed under CC BY-SA 4.0
Abbildung & Lizenz: "Urheberrecht & Richtige Linzenzierung"
© 2025 by Jasmina Džanić is licensed under CC BY-SA 4.0
Was bedeutet das für den Bildungsbereich?
Der EU AI Act (Verordnung (EU) 2024/1689) trat am 1. August 2024 offiziell in Kraft. Für den Bildungsbereich ergeben sich daraus spezifische Verbote und strenge Auflagen für Hochrisiko-Systeme, die schrittweise verbindlich werden.
Die wichtigsten Punkte und Änderungen für den Bildungssektor:
1. Verbotene Praktiken (Gültig ab 2. Februar 2025)
Bestimmte KI-Anwendungen sind im Bildungskontext aufgrund eines „unannehmbaren Risikos“ komplett untersagt:
➜ Emotionserkennung: Der Einsatz von KI-Systemen zur Erkennung von Emotionen in Bildungseinrichtungen ist verboten. Ausnahmen bestehen lediglich aus strengen medizinischen oder Sicherheitsgründen.
➜ Manipulative Techniken: KI-Systeme, die unterschwellige Techniken nutzen, um das Verhalten von Lernenden (insbesondere Kindern) zu manipulieren und ihnen physischen oder psychischen Schaden zuzufügen, sind untersagt.
2. Einstufung als Hochrisiko-KI (Gültig ab 2. August 2026)
KI-Systeme im Bildungsbereich werden oft als hochriskant eingestuft, da sie über den Zugang zu Bildung und die berufliche Laufbahn entscheiden können. Dazu zählen Systeme zur Bewertung von Prüfungen, zur Bestimmung des Bildungsniveaus oder zur Steuerung des Zugangs zu Bildungseinrichtungen. Anbieter dieser Systeme müssen ab August 2026 umfassende Anforderungen erfüllen, darunter:
➜ Einrichtung eines Risikomanagementsystems über den gesamten Lebenszyklus.
➜ Gewährleistung von hochwertigen Datensätzen (Data Governance) zur Vermeidung von Verzerrungen (Biases).
➜ Gewährleistung einer wirksamen menschlichen Aufsicht.
➜ Erstellung technischer Dokumentationen und Durchführung von Konformitätsbewertungen.
3. Pflicht zur Förderung der KI-Kompetenz (Artikel 4)
Eine wesentliche Neuerung, die für alle Bildungseinrichtungen relevant ist, betrifft die KI-Alphabetisierung. Anbieter und Betreiber müssen sicherstellen, dass ihr Personal und Personen, die mit KI arbeiten, über ein ausreichendes Maß an KI-Kompetenz verfügen. Die Schulungen müssen die technischen Kenntnisse, die Erfahrung und den spezifischen Einsatzkontext (z. B. Arbeit mit Kindern oder Prüfungssituationen) berücksichtigen.
4. Transparenzpflichten
Auch wenn ein System nicht als Hochrisiko eingestuft ist (z. B. einfache Chatbots), gelten Transparenzregeln: Wenn Lernende mit einer KI (z. B. einem Tutor-Bot) interagieren, müssen sie darüber informiert werden, dass sie mit einem maschinengestützten System kommunizieren. KI-generierte Lehrinhalte, die wie reale Personen oder Ereignisse wirken, müssen klar als solche deklariert werden.
Zusammenfassender Zeitplan für die Bildung:
01.08.2024: Offizielles Inkrafttreten der Verordnung.
02.02.2025: Verbot von Emotionserkennung in Schulen und manipulativen KI-Systemen.
02.08.2026: Volle Anwendung der Pflichten für hochriskante KI-Systeme in der Bildung (z. B. automatisierte Korrektursysteme).
Abbildung & Lizenz: "Die 4 Risikoklassen der Regulierung"
© 2025 by Jasmina Džanić is licensed under CC BY-SA 4.0
