Neue Regeln für Künstliche Intelligenz: Unternehmen müssen KI-Kompetenz sicherstellen

Am 2. Februar 2025 trat die erste Stufe des europäischen AI Acts in Kraft. Dieses neue Gesetz hat große Auswirkungen auf Unternehmen, die Künstliche Intelligenz (KI) verwenden. Ab sofort sind nicht nur KI-Systeme mit hohen Risiken verboten – wie etwa solche im Gesundheitswesen oder in der Personalbeschaffung – sondern es gibt auch klare Anforderungen an die Mitarbeiter der Unternehmen: Sie müssen über ausreichende Kenntnisse im Umgang mit KI verfügen.

Der AI Act verpflichtet Unternehmen gemäß Artikel 4 des Gesetzes, „nach besten Kräften sicherzustellen“, dass ihre Angestellten ein „ausreichendes Maß an KI-Kompetenz“ besitzen. Dies betrifft praktisch jedes Unternehmen, das KI-Tools einsetzt, wie beispielsweise Chatbots oder automatisierte Datenanalysen. Nur private, nicht-berufliche Nutzung von KI-Anwendungen ist von dieser Regelung ausgenommen.

Was genau bedeutet KI-Kompetenz? Laut dem Gesetz umfasst sie die Fähigkeit, KI-Systeme sachkundig zu verwenden sowie sich der Chancen und Risiken bewusst zu sein, die mit diesen Technologien verbunden sind. Es wird auch darauf hingewiesen, dass KI-Programme unter Umständen falsche Informationen erzeugen können. Dies wird als „Halluzination“ bezeichnet, wenn das System plausible, aber ungenaue Ausgaben liefert.

Trotz der neuen Vorschriften bleiben viele Fragen offen. Unternehmen sind unsicher, ob beispielsweise spezielle Nachweise benötigt werden, um KI-Systeme zu nutzen, oder ob für verschiedene KI-Anwendungen unterschiedliche Schulungen erforderlich sind. Zudem ist unklar, welche Konsequenzen drohen, falls die Regeln missachtet werden. Die einzelnen EU-Mitgliedstaaten werden voraussichtlich erst ab August 2025 über die entsprechenden Strafen entscheiden.

Rechtsanwältin Kerstin Bäcker beschreibt den AI Act als einen „Rohbau“, da viele wichtige Details fehlen. Die Unsicherheit über die rechtlichen Rahmenbedingungen könnte dazu führen, dass Unternehmen zögerlicher werden, KI am Arbeitsplatz zu nutzen. Sie fordert das neu gegründete ‘AI Office’ der Europäischen Kommission auf, schnellstmöglich Klarheit zu schaffen.

Es wird empfohlen, dass Unternehmen sich umfassend mit dem Thema KI-Kompetenz auseinandersetzen, auch wenn noch immer viele Fragen unbeantwortet bleiben. Die bloße Schaffung eines „KI-Koordinators“ sei nicht ausreichend; auch solche Positionen müssen mit Fachwissen gefüllt werden.

Der AI Act zeigt, dass Künstliche Intelligenz ein wichtiges Thema für die Maschinen zukünftiger Arbeitsplätze ist. Unternehmen sollten sich gut vorbereiten, um den Herausforderungen der neuen gesetzlichen Vorgaben gerecht zu werden. Es bleibt zu hoffen, dass klare Richtlinien und Standards zeitnah umgesetzt werden, um den Unternehmen eine bessere Orientierung zu bieten.