Neues Gesetz zur Regulierung von Künstlicher Intelligenz in der EU

Ab sofort sind in der Europäischen Union Künstliche Intelligenz (KI)-Systeme mit unannehmbaren Risiken verboten. Dies umfasst unter anderem Systeme zur Überwachung von Bürgerinnen und Bürgern, die als Social-Scoring-Anwendungen bekannt sind. Diese Art von Anwendungen gibt es zwar bislang nicht in der EU, jedoch sorgt der im August 2023 in Kraft getretene AI Act dafür, dass sie auch in Zukunft nicht eingesetzt werden dürfen. Das Verbot tritt offiziell am 2. Februar 2025 in Kraft.

Der AI Act bringt neben dem Verbot bestimmter KI-Anwendungen auch weitere wichtige Verpflichtungen mit sich. So dürfen Mitarbeiterinnen und Mitarbeiter KI-Technologien im Arbeitsumfeld nur dann nutzen, wenn sie über ausreichende Kenntnisse und Fähigkeiten verfügen. Was genau „ausreichende Kompetenz“ bedeutet, bleibt an einigen Stellen jedoch unklar. Laut dem Artikel 4 des AI Acts müssen Anbieter und Betreiber von KI-Systemen sicherstellen, dass ihr Personal über die nötige technische Ausbildung, Erfahrung und Wissen verfügt und den Kontext versteht, in dem KI eingesetzt wird.

Diese Regelung gilt für alle Unternehmen, unabhängig von deren Größe oder Art, sowie für jede Art von KI-Anwendung, egal wie hoch das damit verbundene Risiko ist. Es bleibt jedoch unklar, wer genau als Betreiber einer KI-Anwendung gilt. Beispielsweise könnte die Frage auftreten, ob Mitarbeitende betroffen sind, die alltäglich Programme wie ChatGPT nutzen, oder ob dies nur gilt, wenn sie eine eigene KI-Anwendung entwickeln und betreiben.

Über die Anforderungen an die KI-Kompetenz können Interessierte in einer umfassenden FAQ nachlesen.

Strafen und Leitfäden für Unternehmen

Laut dem AI Act sind zunächst keine Strafen vorgesehen, falls Mitarbeitende über keine ausreichende Kompetenz im Umgang mit KI verfügen. Es könnte sich jedoch als herausfordernd erweisen, diese Kompetenz zu überprüfen. Strafen, die im Artikel 99 des Gesetzes festgelegt sind, sollen erst ab dem 2. August 2025 zur Anwendung kommen. Bis zu diesem Zeitpunkt müssen die einzelnen Mitgliedsstaaten auch nationale Behörden benennen, die für die Überwachung des AI Acts verantwortlich sind.

Zusätzlich wird in drei Monaten ein Leitfaden veröffentlicht, der den sicheren Umgang mit sogenannten KI-Modellen mit allgemeinem Verwendungszweck, auch bekannt als General Purpose AI (GPAI), behandelt. Auch für diese speziellen KI-Anwendungen gelten ab dem 2. Februar 2025 Verpflichtungen wie eine technische Dokumentationspflicht und die Klärung von Urheberrechtsfragen im Zusammenhang mit KI. Weitere Details zur Offenlegung der Trainingsdaten und zu anderen relevanten Aspekten werden ebenfalls Bestandteil dieses Leitfadens sein.

Mit diesen neuen Regelungen möchte die EU sicherstellen, dass der Einsatz von Künstlicher Intelligenz verantwortungsbewusst und kompetent erfolgt und die Rechte und Freiheiten der Bürgerinnen und Bürger gewahrt bleiben.