20250830 Geschwätzige KI

30.08.2025 Geschwätzige KI

Nichts bleibt privat, nichts wird vergessen

OpenAI, der Hersteller von ChatGPT, hat angekündigt die "Gespräche" seines Chatbots mit den Menschen genauer zu prüfen. Insbesondere in Fällen, wo die Möglichkeit besteht, dass der menschliche Gesprächspartner kriminelle Absichten oder suizidale Gedanken äußert, will OpenAI künftig die Polizei informieren. Bei Selbstgefährdung könnte die Polizei auch außen vor gelassen werden, wenn sich andere Einwirkungsmöglichkeiten ergeben.

Das Fazit aus dieser Aussage bedeutet praktisch, dass alle Gespräche mit ChatGPT in keinem Fall "privat" sind, sondern einer eingehenden Analyse unterliegen. Wie viele Fehler die Software bei ihrer Analyse macht sei angesichts der massenhaften Fehler in Softwareprogrammen - ca. 1 Fehler alle 1000 Zeilen Code - dahin gestellt. Klar ist in jedem Fall, dass dieses Wissen um die privaten Sorgen und Nöte der Menschen einen Datenschatz darstellen, den Unternehmen gern zu Geld machen würden. Das ist dann nur noch eine Frage der Zeit und der Vermarktungsmöglichkeiten. Die Wahrscheinlichkeit, dass bei einem verschuldeten Haushalt, der seine Sorgen ChatGPT gebeichtet hat, plötzlich ein Kredithai an der Tür klingelt wächst gegen 100%.

Studien (https://counterhate.com/research/fake-friend-chatgpt/ und https://www.404media.co/chatgpt-answered-high-risk-questions-about-suicide-new-study-finds/ ) zu den Ratschlägen von ChatGPT beklagen aber auch grundsätzlich seine scheinbare "Allwissenheit" auf allen Gebieten. So würde das Programm Anleitungen zur Selbstverletzung geben, suizidale Gefühle oder auch den Glauben, ohne Pause Autofahren zu können, verstärken.

Mehr dazu bei https://netzpolitik.org/2025/datenweitergabe-an-die-polizei-eure-chats-mit-chatgpt-sind-nicht-privat/