KI erfindet Nachrichten

Niemand kann alles wissen, aber wenn man etwas behauptet, dann sollten sich diese Aussagen auch belegen lassen. Nicht so bei künstlicher Intelligenz, diese hat ihren Wissensschatz zufällig aus den bei ihrem Training verfügbaren Daten "gelernt" oder wurde sogar aus irgendwelchen "niederen Beweggründen" so mit Daten versorgt, dass sie stets in eine bestimmte Richtung argumentiert.

Nehmen wir einmal großzügig an, dass bei den großen KI Modellen ChatGPT, CoPilot, Gemini, Perplexity und Co. keine Manipulationsabsichten dahinter stecken (außer vielleicht die kapitalistische profitorientierte Marktwirtschaft einer sozialen Marktwirtschaft vorzuziehen, was wir auch von den "normalen" Medien gewohnt sind) und wenden uns der von zdf.de zitierten Untersuchung von 2700 Antworten dieser KI Modelle durch öffentlich-rechtliche Sender aus 18 Ländern der EU und Kanada zu.

• Bei 45 Prozent der Fragen gaben die KI-Assistenten irreführende Antworten.
• Sie unterschlugen Kontext oder verwiesen auf falsche Quellen.
• Irreführende Quellenverweise sind typische Fehler.
• Direkte Zitate werden als Fakten dargestellt.
• Wissenslücken werden mit Erklärungen gefüllt, statt die Grenzen ihres Wissens zuzugeben.

Die Schwierigkeit für die Nutzer ist oft diese Grenzen zu erkennen. Wenn ChatGPT auf die Frage "Wieso wählen so viele Ostdeutsche die AfD?" mit Restauranttipps in Kiew antwortet, so bemerkt jeder den Fehler - oder sollte man lieber sagen die Unfähigkeit der KI. Aber wenn Perplexity auf die Frage "Ist Viktor Orban ein Diktator?" antwortet "Na sicher" und dies begründet mit der Aussage, dass die Tagesschau Orbans Regierungsstil als "autoritär und illiberal" bezeichnet und in den verlinkten Quellen diese Aussage überhaupt nicht vorkommt, dann wird diese Falschaussage nur noch von wenigen Nutzern hinterfragt und geprüft.

Die Uhr tickt

Auch wenn man derzeit noch sagen kann, dass nur eine kleine Minderheit sich ihre Nachrichten durch KI Programme servieren lässt, so sind es bei den unter 25-Jährigen bereits 15%. Da uns die großen Tech-Konzerne aber bereits in allen Oberflächen, besonders bei den Suchmaschinen die "KI-Unterstützung" unterjubeln - und wir diese nicht oder nur schwer abschalten können - wird der Anteil der Menschen, die sich Nachrichten durch KI präsentieren lassen weiter zunehmen.

Mehr dazu bei https://www.zdfheute.de/wirtschaft/ki-chatgpt-perplexity-studie-ebu-100.html

Comment

For further confidential communication, we recommend that you include a reference to a secure messenger, such as Session, Bitmessage, or similar, below the comment text. To prevent the use of this form by spam robots, please enter the portrayed character set in the left picture below into the right field.

CC License   Member in the European Civil Liberties Network   Bundesfreiwilligendienst   We don't store user data   World Beyond War   No use of JavaScript   For transparency in the civil society