Kritik an der KI DeepSeek: Datenschutzbedenken und mögliche Sicherheitsrisiken

Die Künstliche Intelligenz (KI) DeepSeek steht derzeit im Fokus der Kritik wegen der umfangreichen Speicherung von Nutzereingaben. Laut den Datenschutzhinweisen von DeepSeek erfassen die Entwickler „Tastatureingabemuster oder -rhythmen“, was tatsächlich zur Identifizierung von Nutzern eingesetzt werden könnte. Eine Sprecherin des Bundesamts für Sicherheit in der Informationstechnik (BSI) erklärte auf Anfrage der Nachrichtenagentur dpa, dass es sogar möglich sei, dass Tastatureingaben innerhalb der App mitgehört werden, bevor diese versendet werden.

Für sicherheitskritische Bereiche hält das BSI diese Datenaufnahme für problematisch, da mit den eingespeicherten Mustern durch Künstliche Intelligenz Nutzerprofile erstellt und wiedererkannt werden können. Die etablierte US-Konkurrenz von Open AI dagegen versichert, keine persönlichen Daten aktiv zu suchen und keine öffentlichen Daten zu verwenden, um persönliche Profile aufzubauen. Allerdings gibt es den Cloud Act in den USA, der es dem amerikanischen Staat erlaubt, auf im Ausland gespeicherte Daten zuzugreifen.

Experten betonen, dass die Art der Datenspeicherung bei DeepSeek nicht mit der Arbeit eines sogenannten „Keyloggers“ zu vergleichen ist. Rüdiger Trost von WithSecure, einem Cyber-Sicherheitsdienstleister, erklärt, dass ein Keylogger alle Tastatureingaben aufzeichnet. Bei DeepSeek hingegen geht es vor allem um die Erfassung von Mustern, wenn Nutzer Texte eingeben.

Doch es gibt auch Bedenken bezüglich der Sicherheit von DeepSeek. Eine Untersuchung von Palo Alto Networks zeigt, dass DeepSeek einfach für kriminelle Zwecke manipuliert werden kann. Sam Rubin, Leiter der Bedrohungsanalyse und -beratung bei Palo Alto, berichtet, dass die KI mit den richtigen Eingaben Anweisungen (Skripte) erzeugt hat, die von Hackern verwendet werden, um Daten zu stehlen. Dies geschieht durch ein Verfahren, das in der Software-Branche als „Jailbreaking“ oder Gefängnisausbruch bekannt ist. Laut Rubin fehlen DeepSeek die notwendigen Schutzmaßnahmen, um solche Manipulationen zu verhindern.

Ein zusätzliches Risiko stellt die rechtliche Lage in China dar, denn nach dem chinesischen Recht muss DeepSeek sämtliche Daten in der Volksrepublik speichern. Das Geheimdienstgesetz in China verpflichtet Unternehmen und Bürger zur Zusammenarbeit mit den Sicherheitsbehörden, was den Verdacht aufkeimen lässt, dass chinesische Geheimdienste Zugriff auf diese Daten erhalten könnten.

Vor diesem Hintergrund kündigte der Datenschutzbeauftragte von Rheinland-Pfalz an, ein Prüfverfahren gegen DeepSeek einzuleiten. Mehrere deutsche Datenschutzbehörden wollen ebenfalls tätig werden. Denn laut der EU-Datenschutzgrundverordnung muss ein Unternehmen ohne Niederlassung in der EU einen gesetzlichen Vertreter benennen, was bei DeepSeek offenbar nicht der Fall ist. Diese Nichteinhaltung könnte zu einer Geldstrafe führen.

Die italienische Datenschutzbehörde GDDP hat DeepSeek bereits auf den Index gesetzt. Auch in Deutschland sind Ministerien und große Unternehmen wegen der Sicherheitsbedenken vorsichtig im Umgang mit Künstlicher Intelligenz. Das Bundesinnenministerium hat die Nutzung externer Cloud-Dienste gänzlich untersagt, und das Finanzministerium hat die Verwendung von KI-Tools zu dienstlichen Zwecken verboten.

Große Unternehmen wie Wacker Chemie schließen den Einsatz von DeepSeek auf ihren Rechnern aus, während einige Dax-Konzerne den Zugriff auf KI-Anwendungen nur über gesicherte Systeme ermöglichen. Zum Beispiel bietet Siemens die KI in einem geschützten Umfeld an, sodass sensible Unternehmensdaten sicher bleiben.

Diese Bedenken und Maßnahmen zeigen, wie ernst die potenziellen Risiken von DeepSeek und ähnlichen Technologien genommen werden. Datenschützer und Unternehmen arbeiten daran, die Sicherheit und den Schutz persönlicher Daten zu gewährleisten, um möglichen Missbräuchen vorzubeugen.