"KI macht Internet immer dümmer!"

Mit obigem Spruch in mehreren Sendungen zum Thema Künstliche Intelligenz (KI-1, KI-2, KI-3) haben wir Widerspruch erfahren müssen. So wurde argumentiert, dass die KI doch auch "neues" und "neue Zusammenhänge" entwickeln könnte. Fast fühlten wir uns wie Maschinenstürmer. Doch nun scheint es als ob wir das Problem sogar noch weit unterschätzt haben.

Wie Telepolis.de berichtet, werden im Netz inzwischen massenweise "wissenschaftliche Arbeiten" gefunden, die so nie geschrieben wurden. Während sich früher WissenschaftlerInnen freuten, wenn ihre Arbeiten verlinkt und zitiert werden, so besteht nun die reale Gefahr, dass es Links zu Fakes sind, die nun ihrer Reputation und der Wissenschaft schaden.

Telepolis.de schreibt: "Die Assistenzprofessorin für Informationssysteme und digitale Innovation an der Universität Lausanne, Dr. Liudmila Zavolokina, konnte dagegen überhaupt keine Freude empfinden, als sie mit Google Scholar einige Zitate zu vier angeblich unter ihrem Namen veröffentlichten wissenschaftlichen Studien fand. Denn die Forschungsarbeiten waren – zumindest nach Kenntnis der vorgeblichen Autorin – nicht existent. Für das Fälschen wurde offensichtlich Künstliche Intelligenz eingesetzt."

Sinn und Zweck?

• Faulheit: "Wissenschaftler" lassen sich Studien von einer KI "verbessern" oder sogar im Ganzen schreiben, um den Aufwand zu minimieren.
• Geschäftsmodell: Mittels KI werden Zusammenfassungen zu einem Forschungsstand zusammengestellt, die über die Realität hinaus halluzinieren - und wieder kommen weitere Fakes in die Welt.
• Manipulation: Unternehmen oder politische Strömungen weisen die KI direkt an Studien in eine gewünschte Richtung zu erzeugen, bzw. nur solche Meinungen mit einzubauen.

Der Anteil der Fakes steigt rasant, kein Mensch ist mehr in der Lage ohne großen Aufwand die Spreu vom Weizen zu trennen. Kürzlich nannte ein Bericht die Anzahl der mit KI erzeugten Bilder höher als die von echten Fotos. Übertragen wir dies auf wissenschaftliche Berichte und Studien, können wir abschätzen, dass wir in 3 Jahren auch in der Wissenschaft bei einem Gleichstand von Fake und Realität ankommen könnten, wenn nicht schnell eine Authentifizierung echter Wissenschaft eingeführt wird.

Mehr dazu bei https://www.telepolis.de/features/Kuenstliche-Intelligenz-gefaehrdet-das-Fundament-der-Wissenschaft-10578895.html

Comment

For further confidential communication, we recommend that you include a reference to a secure messenger, such as Session, Bitmessage, or similar, below the comment text. To prevent the use of this form by spam robots, please enter the portrayed character set in the left picture below into the right field.

CC license   European Civil Liberties Network   Bundesfreiwilligendienst   We don't store your data   World Beyond War   Use Tor router   Use HTTPS   No Java   For Transparency