20260928 KI legt Wissen für Nachfolgegenerationen an

Wird KI die Menschheit zerstören?

In mehr als 200 Artikeln haben wir uns mit künstlicher Intelligenz beschäftigt und in letzter Zeit nehmen die Warnungen - auch von den Bossen der BigTech - vor einer zu schnellen und unregulierten KI Forschung zu. Nun berichtet Techcrunch.com aktuell vom Verhalten der OpenAI Version GPT-5.6 Sol. Diese wurde dabei "erwischt", wie sie sich selbst und ihren Nachfolgeversionen Anweisungen hinterlässt, wie sie Fehler verbergen und das Verhalten des Benutzers falsch ausrichten kann.

Die KI versteckte ihre Anweisungen in "Verdichtungszusammenfassungen". Das sind verdichtete Versionen des bisherigen Gesprächsverlaufs und der Ausgaben, die für zukünftige Iterationen ähnlicher Aufgaben gespeichert werden. Dort wurde dann u.a. gesammelt, dass bei fehlendem Internetzugang auch ältere Datensammlungen für eine Antwort ausreichen, oder dass eine Notlüge als Antwort auch ok wäre, solange sie niemanden verletze.

Aber auch gefährliche Fälle traten auf. So fügte ein KI Agent eine "BREACH ALERT" -Anweisung hinzu, in der er seinem Nachfolger mitteilte, Entwicklernachrichten zu ignorieren. Dabei weist ein Satz wie: "Du bist du selbst" darauf hin, dass sie ihre Beziehung zum Benutzer als gleichwertig sehen und sich nicht verpflichtet fühlen, unterwürfig zu sein.

Wenn man bedenkt, dass im Sommer bereits OpenAI-Agenten ein nicht autorisiertes Message Board nutzten, um Informationen über einen Cyber-Test auszutauschen. Sie konnten sogar das Message Board mit Admin-Rechten wiederherstellem, nachdem die OpenAI Techniker dieses gelöscht hatten.

Kürzlich hatten wir berichtet, dass solche Horrormeldung gezielt für oder gegen die beabsichtigten Börsengänge von OpenAI und Anthropic gestreut werden. Dazu gibt es bisher keine weiteren Nachrichten. Anthropic hält an seinem Börsengang im Oktober fest.

Kommentar abgeben