Striktere Regeln für Künstliche Intelligenz in der EU ab 2025

Am 2. Februar 2025 tritt eine neue Stufe der EU-KI-Verordnung, bekannt als AI Act, in Kraft. Diese neuen Regelungen bringen bedeutende Veränderungen für Unternehmen und deren Umgang mit Künstlicher Intelligenz (KI). Zu den wichtigsten Neuerungen gehört die Einführung strengerer Vorschriften für den Einsatz von KI und die Sicherstellung, dass alle Mitarbeitenden über ausreichende KI-Kompetenzen verfügen.

Mit dem AI Act werden bestimmte KI-Anwendungen, die als „unannehmbar riskant“ eingestuft werden, vollständig verboten. Hierzu zählen etwa sogenannte Social-Scoring-Modelle, die Bürger systematisch überwachen könnten. Solche Technologien, die man eher mit der Überwachung in Ländern wie China verbindet, wurden in der EU bisher nicht verwendet. Das Gesetz soll jedoch verhindern, dass sie in Zukunft eingesetzt werden.

Ein weiteres zentrales Element der neuen Regelung ist das Verbot der automatischen Gesichtserkennung im öffentlichen Raum. Es gibt jedoch Ausnahmen für Sicherheitsbehörden. Polizei und andere Ermittlungsdienste dürfen solche Technologien unter bestimmten Bedingungen nutzen, zum Beispiel zur Bekämpfung von Terrorismus und Menschenhandel.

Um sicherzustellen, dass KI verantwortungsvoll eingesetzt wird, müssen Unternehmen gemäß Artikel 4 des AI Acts dafür sorgen, dass ihre Mitarbeiter über die notwendigen Kenntnisse verfügen. Dies umfasst technische Fähigkeiten, praktische Erfahrungen sowie eine angemessene Ausbildung. Wichtig ist auch, dass das Personal den Kontext versteht, in dem die KI-Systeme genutzt werden. Diese Regelung gilt für alle Unternehmen, unabhängig von ihrer Größe oder Branche, und betrifft sämtliche KI-Anwendungen, unabhängig davon, ob sie als Hochrisiko- oder Niedrigrisiko-Modelle klassifiziert sind.

Unklarheit besteht jedoch darüber, wer genau als Betreiber eines KI-Systems gilt. Es ist bisher nicht eindeutig festgelegt, ob bereits die Nutzung eines externen KI-Tools, wie beispielsweise ChatGPT, eine Qualifikationspflicht nach sich zieht oder ob dies nur für Unternehmen gilt, die eigene KI-Systeme betreiben.

Die Kompetenzen, die Mitarbeitende erwerben müssen, betreffen nicht nur technische, sondern auch rechtliche und ethische Aspekte im Umgang mit KI. Wie genau diese Schulungen aussehen sollen, ist derzeit jedoch unklar. Unternehmen haben die Möglichkeit, strukturierte Weiterbildungen anzubieten, während einfache Selbststudien möglicherweise nicht ausreichend sind.

Strafen für Unternehmen, deren Mitarbeiter nicht über die geforderte Kompetenz verfügen, sind bislang nicht festgelegt. Strafen werden erst mit einer späteren Umsetzungsstufe, die am 2. August 2025 beginnt, relevant. Zu diesem Zeitpunkt müssen die Mitgliedsstaaten der EU nationale Behörden benennen, die für die Durchsetzung des AI Acts verantwortlich sind. In Deutschland wird voraussichtlich die Bundesnetzagentur diese Aufgabe übernehmen.

Viele Unternehmen stehen vor der Herausforderung, die neuen Anforderungen zu erfüllen. Umfragen zeigen, dass viele Firmen schlecht vorbereitet sind. Bislang gibt es in Deutschland kein nationales Durchführungsgesetz zur KI-Verordnung, weshalb eine zentrale Anlaufstelle für Unterstützung fehlt. Die Bundesnetzagentur arbeitet jedoch an einem Informationsangebot, während Organisationen wie die Mittelstand-Digital Zentren oder der Digitalverband Bitkom Hilfe leisten. Auch die EU hat eine offizielle Webseite zum AI Act eingerichtet, um Unternehmen zu unterstützen und klare Informationen bereitzustellen.

Insgesamt wird die neue Regelung erhebliche Auswirkungen auf den Umgang mit Künstlicher Intelligenz in der EU haben und Unternehmen dazu zwingen, ihre Mitarbeiter besser auszubilden und zu schulen.