Dienstag, 10. Juni 2025

Warum KI-Apps wie DeepSeek besonders riskant sein können 

4 von 10 Deutschen haben generative KI (Künstliche Intelligenz) wie ChatGPT, Google Gemini oder Microsoft Copilot zumindest einmal ausprobiert. Mit DeepSeek scheint sich ein weiterer KI-Dienst einzureihen.


Achtung bei Nutzung von KI-Apps

Doch vor DeepSeek wird besonders gewarnt.

Generative KI wird oftmals im Kundenkontakt und im Marketing genutzt 


ChatGPT und andere Formen von generativer KI werden nicht nur auf privaten Smartphones genutzt. Auch Unternehmen versprechen sich Vorteile von KI: Am häufigsten wird generative KI derzeit im Kundenkontakt (89 Prozent) verwendet, so eine Umfrage des Digitalverbands Bitkom. Dahinter folgt mit deutlichem Abstand der Einsatz im Marketing und in der Kommunikation (40 Prozent der befragten Unternehmen). 

Offensichtlich spielen im Kundenkontakt, im Marketing und in der Kommunikation auch personenbezogene Daten eine große Rolle, der Datenschutz wird also in aller Regel berührt, wenn generative KI zum Einsatz kommt. Deshalb warnen Datenschützerinnen und Datenschützer auch davor, einfach ungeprüft vertrauliche, zu schützende Daten in eine KI einzugeben. 

Mit DeepSeek ist nun eine weitere, generative KI im Angebot. DeepSeek verblüfft und verunsichert die Technologie-Welt. Das neue KI-Modell eines chinesischen Unternehmens soll deutlich effizienter und günstiger entwickelt worden sein als die Konkurrenz aus den USA. Der neue KI-Dienst funktioniert ähnlich wie sein Konkurrent ChatGPT, ruft aber sogar noch stärkere Bedenken hervor als die anderen KI-Dienste. 

Datenschutz- und Sicherheitsexperten warnen vor leichtfertiger KI-Nutzung 


KI-Sicherheitsforscher von Robust Intelligence und der University of Pennsylvania zeigten, dass DeepSeek einfacher durch Attacken zu manipulieren sein kann als vergleichbare KI-Dienste. Wiz Research deckte offengelegte DeepSeek-Datenbanken auf, die vertrauliche Informationen, einschließlich Chatverlauf, preisgeben können. Offensichtlich ist es um die Datensicherheit bei diesem KI-Dienst gegenwärtig nicht gut bestellt. 

Datenschutzaufsichtsbehörden nennen weitere Gründe, warum man bei der Nutzung von DeepSeek Vorsicht walten lassen sollte: Der Landesbeauftragte für den Datenschutz und die Informationsfreiheit Rheinland-Pfalz und andere Aufsichtsbehörden machten explizit auf die Risiken aufmerksam, die mit der Verwendung des KI-Tools DeepSeek verbunden sein können. Obwohl dieses Modell der generativen KI im Internet frei zugänglich ist, hat es der Hersteller nicht für den europäischen Markt konzipiert, erklären die Datenschützer. Nach gegenwärtigem Kenntnisstand sei davon auszugehen, dass insbesondere die Anforderungen der europäischen KI-Verordnung und der Datenschutz-Grundverordnung nicht eingehalten werden.

„Auch chinesische Unternehmen müssen rechtskonform mit den Daten europäischer Bürgerinnen und Bürger umgehen, wenn sie ihre Apps in Europa anbieten“, sagte Denis Lehmkemper, Landesbeauftragter für den Datenschutz Niedersachsen. „Wir müssen aber davon ausgehen, dass es bei DeepSeek noch erheblichen Nachholbedarf beim Datenschutz gibt.“ 

Mögliche Weiterleitung an Geheimdienste 

Insbesondere lässt sich der Datenschutzerklärung zu DeepSeek entnehmen, dass jegliche Eingaben und gegebenenfalls hochgeladene Dokumente uneingeschränkt aufgezeichnet, übertragen, gespeichert oder analysiert werden, so die Warnung der Datenschützer. DeepSeek weist außerdem darauf hin, dass das Unternehmen nach chinesischem Recht verpflichtet werden kann, dem chinesischen Geheimdienst und den Sicherheitsbehörden Daten zu übermitteln. Da das Unternehmen und damit die für die Verarbeitung der personenbezogenen Daten verantwortliche Stelle nicht auf dem Gebiet der EU ansässig ist und keinen gesetzlichen Vertreter in der EU ernannt hat, geht zum Beispiel die Datenschutzaufsicht in Niedersachsen davon aus, dass die Zusammenarbeit des Unternehmens mit den Datenschutzbehörden in der EU unsicher ist. Datenschutzverletzungen und ein Missbrauch von Daten werden faktisch also nur sehr schwer zu unterbinden und zu ahnden sein.

Tipps der Datenschutzaufsichtsbehörden zu KI-Apps wie DeepSeek 

Bevor also eine generative KI wie DeepSeek privat oder beruflich zum Einsatz kommt, sollten insbesondere diese Punkte beachtet werden: Achten Sie bei der Auswahl einer KI-Anwendung auf Transparenz des Anbieters und eine entsprechende Dokumentation, aus der nachvollziehbar hervorgeht, dass Garantien für die Einhaltung der EU-DSGVO gegeben werden und diese eingehalten werden.

Benötigen Sie Hilfe? Kein Problem!

  Jetzt Kontakt aufnehmen


Das könnte Sie auch interessieren: