Nichts bleibt privat, nichts wird vergessen

OpenAI, der Hersteller von ChatGPT, hat angekündigt die "Gespräche" seines Chatbots mit den Menschen genauer zu prüfen. Insbesondere in Fällen, wo die Möglichkeit besteht, dass der menschliche Gesprächspartner kriminelle Absichten oder suizidale Gedanken äußert, will OpenAI künftig die Polizei informieren. Bei Selbstgefährdung könnte die Polizei auch außen vor gelassen werden, wenn sich andere Einwirkungsmöglichkeiten ergeben.

Das Fazit aus dieser Aussage bedeutet praktisch, dass alle Gespräche mit ChatGPT in keinem Fall "privat" sind, sondern einer eingehenden Analyse unterliegen. Wie viele Fehler die Software bei ihrer Analyse macht sei angesichts der massenhaften Fehler in Softwareprogrammen - ca. 1 Fehler alle 1000 Zeilen Code - dahin gestellt. Klar ist in jedem Fall, dass dieses Wissen um die privaten Sorgen und Nöte der Menschen einen Datenschatz darstellen, den Unternehmen gern zu Geld machen würden. Das ist dann nur noch eine Frage der Zeit und der Vermarktungsmöglichkeiten. Die Wahrscheinlichkeit, dass bei einem verschuldeten Haushalt, der seine Sorgen ChatGPT gebeichtet hat, plötzlich ein Kredithai an der Tür klingelt wächst gegen 100%.

Studien (https://counterhate.com/research/fake-friend-chatgpt/ und https://www.404media.co/chatgpt-answered-high-risk-questions-about-suicide-new-study-finds/ ) zu den Ratschlägen von ChatGPT beklagen aber auch grundsätzlich seine scheinbare "Allwissenheit" auf allen Gebieten. So würde das Programm Anleitungen zur Selbstverletzung geben, suizidale Gefühle oder auch den Glauben, ohne Pause Autofahren zu können, verstärken.

Mehr dazu bei https://netzpolitik.org/2025/datenweitergabe-an-die-polizei-eure-chats-mit-chatgpt-sind-nicht-privat/

Comment

For further confidential communication, we recommend that you include a reference to a secure messenger, such as Session, Bitmessage, or similar, below the comment text. To prevent the use of this form by spam robots, please enter the portrayed character set in the left picture below into the right field.

CC license   European Civil Liberties Network   Bundesfreiwilligendienst   We don't store your data   World Beyond War   Use Tor router   Use HTTPS   No Java   For Transparency