Sympathy with the devil

Forscher des King's College London sowie der spanischen Universitat Politècnica de València berichteten auf einem Sicherheitskongress in Seattle über ihre Untersuchungen, wie Menschen auf den "Wissensdurst" von KI-Programmen reagieren. Wie viele persönliche Daten die Menschen bereit waren mit der Maschine zu teilen, hing entscheidend von deren Vorgehen ab. In der Studie mit etwa 500 Teilnehmern nutzten sie 3 verschiedene Modelle:

• Ein Programm fragte die Nutzer möglichst ungefiltert nach persönlichen Details.
• Die 2. Version behauptete, dass sie die Informationen als Voraussetzung für einen bestimmten Service benötige.
• Eine dritte, dialogorientierte Version zeigte sich den Nutzern gegenüber empathisch, teilte selbst Geschichten und bot emotionale Unterstützung.

Und, welch ein Wunder: Bei Dialogen mit dem dritten Chatbot gaben die Teilnehmenden deutlich mehr Informationen von sich preis als die Nutzer im Dialog mit den anderen Versionen. Das Wunder lag auch eher in der Einfachheit aus einem Sprachmodell eines der anderen Kategorie zu machen. Dazu reichte es, die "Prompts", also die Aufforderung an den Chatbot zur Erzeugung seiner Fragen und seines Verhaltens minimal zu ändern. "Eine Anweisung an die KI, reiche aus, um den Bot in eine effektive Datenkrake zu verwandeln", schreibt Geo dazu.

Merke: eine sympathische, sozial zugewandte KI tut nur so - sie ist und bleibt eine Maschine.

Dann können wir auch schon im voraus ahnen, was auf uns zukommt. Nichts wird mehr real sein und im Internet finden wir dann bestenfalls Chatbots, die uns ungeahnt Werbung unterjubeln und uns im schlimmsten Fall versuchen zu rechten Arschlöchern, Egomanen oder Mördern zu machen ...

Mehr dazu bei https://www.geo.de/wissen/forschung-und-technik/wie-ki-chatbots-uns-unbemerkt-ausspionieren-35987262.html

Kommentar

Für eine weitere vertrauliche Kommunikation empfehlen wir, unter dem Kommentartext einen Verweis auf einen sicheren Messenger, wie Session, Bitmessage, o.ä. anzugeben.

Geben Sie bitte noch die im linken Bild dargestellte Zeichenfolge in das rechte Feld ein, um die Verwendung dieses Formulars durch Spam-Robots zu verhindern.

CC Lizenz   Mitglied im European Civil Liberties Network   Bundesfreiwilligendienst   Wir speichern nicht   World Beyond War   Tor nutzen   HTTPS nutzen   Kein Java   Transparenz in der Zivilgesellschaft