Apple steht unter Druck wegen falscher KI-Zusammenfassungen

Apple hat mit Problemen in seiner neuen Funktion „AI Summaries“ zu kämpfen. Diese Funktion gehört zu Apple Intelligence und soll Nachrichten auf iPhones, iPads und Macs intelligent zusammenfassen. Obwohl die Zusammenfassungen manchmal gut funktionieren, gibt es immer wieder große Fehler. Manchmal sind die Informationen so falsch, dass sie als Fake News angesehen werden können. Vor kurzem hat sich sogar die britische Nachrichtenorganisation BBC direkt bei Apple beschwert.

Die BBC und zahlreiche Journalistenvereinigungen sind besorgt, dass diese fehlerhaften Zusammenfassungen eine ‘Bedrohung für den Journalismus’ darstellen. In ihrer Beschwerde forderten sie sogar, den Dienst ganz abzuschalten. Apple hat daraufhin eine Stellungnahme abgegeben und angekündigt, in den kommenden Wochen ein Software-Update zu veröffentlichen. Dieses Update soll sicherstellen, dass Nutzer künftig klar erkennen können, dass es sich bei den Zusammenfassungen um Inhalte handelt, die durch künstliche Intelligenz erstellt wurden. Momentan sind diese nur mit einem einfachen Symbol gekennzeichnet – einem Pfeil und zwei Textzeilen.

Die Probleme, mit denen Apple konfrontiert ist, sind nicht neu und betreffen auch andere Unternehmen, die im Bereich der künstlichen Intelligenz tätig sind, wie OpenAI und Google. Oftmals wird zwar im Kleingedruckten darauf hingewiesen, dass die von diesen Systemen erzeugten Inhalte überprüft werden sollten, jedoch tun dies die wenigsten Nutzer wirklich. Viele vertrauen einfach auf die Ergebnisse oder halten sie für ausreichend, selbst wenn sie falsch sind. Das Phänomen, dass KI-Systeme ungenaue oder falsche Informationen liefern, nennt man „Halluzination“. Technisch bedingt kann dieses Problem nur schwer vollständig behoben werden.

Apple erklärte, dass sie weiterhin an Verbesserungen arbeiten und Nutzerfeedback sammeln. Die Verwendung von AI Summaries ist zudem optional, was bedeutet, dass Nutzer selbst entscheiden können, ob sie den Dienst nutzen möchten. Allerdings gab es einige besonders auffällige Fehler, wie die falsche Meldung über einen noch lebenden Attentäter oder irreführende Informationen über prominente Sportler. Laut der BBC spiegeln diese KI-Zusammenfassungen nicht die korrekten Inhalte wider oder sind in vielen Fällen schlichtweg falsch.

Um das Vertrauen der Nutzer wieder zu gewinnen, ist es für Apple entscheidend, die Fehler in seinem System zu beheben. Die BBC betonte die Wichtigkeit genauer Nachrichten, damit die Menschen Vertrauen in die Medien haben. Apple ist jedoch nicht das einzige Unternehmen, das mit solchen Problemen zu kämpfen hat. Auch andere großangelegte Medien, wie die New York Times, haben fälschliche Zusammenfassungen erlebt.

In der Online-Community Reddit gibt es mittlerweile sogar ein ganzes Unterforum, das sich den Fehlern von Apple Intelligence widmet. Viele Nutzer teilen dort ihre Erfahrungen mit den fehlerhaften Zusammenfassungen und diskutieren, was geändert werden muss, damit solche Missgeschicke nicht mehr vorkommen.

Apple hat zwar angekündigt, an der Lösung zu arbeiten, doch bis die Probleme behoben sind, bleibt die Sorge um die Genauigkeit digitaler Nachrichten bestehen.