Neue Regeln für Künstliche Intelligenz in der EU – Ein wichtiger Schritt für Sicherheit und Verbraucherschutz

Brüssel – Am Sonntag tritt in der Europäischen Union ein bahnbrechendes Gesetz in Kraft, das den Umgang mit Künstlicher Intelligenz (KI) regelt. Der AI Act ist das erste seiner Art, das über mehrere Länder hinweg verbindliche Vorgaben für den Einsatz von KI schafft. Diese neuen Regeln zielen darauf ab, die Sicherheit, Gesundheit und die Grundrechte der Bürger zu schützen.

Ab dem 2. Februar 2025 müssen Unternehmen, die KI-Systeme entwickeln oder nutzen, sicherstellen, dass ihre Technologien keine ‘unannehmbaren Risiken’ darstellen. Dazu zählen Programme, die beispielsweise das Verhalten von Menschen bewerten oder sogar manipulieren können. Besonders im Fokus stehen Technologien, die mit dem sogenannten Social Scoring arbeiten. Diese Verfahren bewerten Personen nach ihrem Verhalten, wie es bereits in China praktiziert wird, und können zu Belohnungen oder Strafen führen. In der EU wird es undenkbar sein, solche Praktiken anzuwenden.

Ein weiteres wichtiges Verbot betrifft die Emotionserkennung in Schulen und am Arbeitsplatz. Zudem sind manipulative KI-Systeme, wie etwa sprachgesteuertes Spielzeug, das Kinder zu gefährlichem Verhalten anstiften könnte, ebenfalls ausgeschlossen. Auch automatisierte Anrufe, die gezielt Ältere betrügen, werden nicht toleriert. Ein strenges Verbot gilt auch für die Gesichtserkennung im öffentlichen Raum, außer in Fällen von strafrechtlichen Ermittlungen durch Sicherheitsbehörden, die diese Technologie zur Bekämpfung schwerer Verbrechen wie Menschenhandel oder Terrorismus einsetzen dürfen.

Die EU-Kommission sieht in diesen Regelungen nicht nur einen Weg, die Rechte der Verbraucher zu schützen, sondern auch einen Schritt hin zu einem verantwortungsvollen Umgang mit Künstlicher Intelligenz. So müssen die Entwickler von KI-Systemen sicherstellen, dass ihre Mitarbeiter über die notwendige ‘KI-Kompetenz’ verfügen. Damit soll gewährleistet werden, dass alle, die an der Entwicklung oder Betriebsführung beteiligt sind, gut geschult und vorbereitet sind.

Trotz der gut gemeinten Absichten gibt es auch kritische Stimmen aus der Wirtschaft. Der Branchenverband Bitkom äußerte Bedenken, dass das neue Gesetz keine klare rechtliche Sicherheit biete. Gemäß Susanne Dehmel, einer Führungskraft bei Bitkom, sei unklar, welche Anwendungen genau unter das gesetzliche Verbot fallen. Dies könnte dazu führen, dass Unternehmen, die Innovationen im Bereich KI entwickeln oder umsetzen möchten, durch übermäßige Regeln behindert werden.

In einem gemeinsamen Blogeintrag haben Ursula von der Leyen, die Präsidentin der EU-Kommission, und Christine Lagarde, die Präsidentin der Europäischen Zentralbank, darauf hingewiesen, dass die Wettbewerbsfähigkeit Europas gefährdet sein könnte. Während in anderen Teilen der Welt, wie den USA und China, Milliarden in die Entwicklung von KI investiert werden, sieht man in Europa die Gefahr, ins Hintertreffen zu geraten. Doch es gibt auch Hoffnung: Europa hat das Potenzial, im technologischen Wettlauf aufzuholen, da es viele gut ausgebildete Fachkräfte im Bereich MINT (Mathematik, Informatik, Naturwissenschaften und Technik) gibt.

Insgesamt ist der AI Act ein wegweisender Schritt, der sowohl die Chancen als auch die Risiken der Künstlichen Intelligenz im Blick behält. Die EU strebt an, einen sicheren und verantwortungsvollen Rahmen für die Nutzung dieser fortschrittlichen Technologien zu schaffen, während sie gleichzeitig die innovativen Möglichkeiten nicht aus den Augen verliert.