Apple steht unter Druck wegen Kritik an KI-gestützter Nachrichtenfunktion

Die neue KI-Funktion von Apple, bekannt als Apple Intelligence, sieht sich wachsender Kritik gegenüber. Nachdem ein besonders schwerwiegender Fehler bei der Zusammenfassung einer Nachrichtenüberschrift aufgetreten ist, haben sich die Journalisten von Reporters Sans Frontières (RSF) mit einem dringenden Appell an das Unternehmen gewandt. Sie fordern Apple dazu auf, ‘verantwortungsbewusst zu handeln’ und die umstrittene Funktion aus ihrem Betriebssystem zu entfernen.

Der Auslöser für die Kritik war eine irreführende Zusammenfassung, die von Apples KI-Tool generiert wurde. Laut Berichten hatte die KI beim Erstellen einer Kurzfassung einer Nachricht über einen Mordfall in den USA fehlerhafte Informationen verbreitet. Besondere Aufmerksamkeit erhielt die Situation, als es um den Täter ging: Der Verdächtige, der in dem Zusammenhang auftauchte, hatte sich selbst das Leben genommen, was jedoch in der von der KI erstellten Nachricht nicht korrekt wiedergegeben wurde. Die BBC hatte sich daraufhin an Apple gewandt, um auf diesen Fehler aufmerksam zu machen.

Die Journalisten von RSF betonen, dass KI-Tools derzeit ‘unreif’ sind, um verlässliche und qualitativ hochwertige Informationen für die Öffentlichkeit zu liefern. Sie warnen davor, dass die automatisierte Erstellung von Nachrichtenfehlern das Vertrauen in die Medien untergräbt und den Journalismus gefährdet. RSF bezeichnet Künstliche Intelligenz als ‘Wahrscheinlichkeitsmaschinen’, was bedeutet, dass sie auf Wahrscheinlichkeiten und nicht auf festen Tatsachen basieren. ‘Fakten sollten nicht durch Auswürfeln entstehen’, ist eine klare Warnung der Journalisten.

Darüber hinaus hat RSF auch die Europäische Kommission indirekt dazu aufgefordert, Regelungen für den Einsatz von KI bei Nachrichtenkonten zu schaffen. Ihrer Meinung nach sollte die Verwendung von KI in diesem sensiblen Bereich komplett untersagt werden. Sie kritisieren, dass die aktuelle europäische KI-Verordnung, bekannt als EU AI Act, den Einsatz von KI-gestützten Nachrichten zusammenfassungen als hochriskant nicht ausreichend berücksichtigt hat, was zu einem ‘rechtlichen Vakuum’ führt. Dieses Problem müsse dringend angegangen werden.

Seit der Einführung von iOS 18.1 bietet Apple die Möglichkeit, Nachrichten auf Wunsch automatisch zusammenzufassen, aktuell jedoch nur auf Englisch. In der Europäischen Union ist diese Funktion bislang überwiegend auf Macs verfügbar, nicht aber auf iPhones und iPads. Da Sprachmodelle unterschiedliche Ausgaben erzeugen können, gestaltet sich das Nachvollziehen oder Reproduzieren solcher Fehler oft als schwierig. Bereits seit dem Start der Funktion gab es mehrere Berichte über skurrile, komische und sogar verstörende Zusammenfassungen, die durch Apple Intelligence erstellt wurden.

Bislang hat Apple auf die aktuellen Vorwürfe und die Kritik seitens RSF und der BBC noch nicht öffentlich reagiert. Die Diskussion rund um den verantwortungsvollen Umgang mit Künstlicher Intelligenz in den Medien wird auch weiterhin spannend bleiben.