20260409 Die KI in der Wirtschaft

Make the world a better place

Nehmen wir mal an, dass alle Entwickler von KI Programmen nur im Sinn haben die Welt zu verbessern und nur ganz wenige von ihnen oder niemand die Absicht hat, sich selbst damit zu bereichern - das ist schon eine sehr sehr optimistische Voraussetzung. Könnte das dann positiv sein?

Donald Kossmann, CTO der Fintech Gesellschaft Chargebacks911 macht sich da keine großen Hoffnungen. Auch bei allen über-optimisischen oben genannten Erwartungen befürchtet er Sicherheitsvorfälle, Cyberangriffe und ordnungspolitische Risiken für den Handel, wenn KI-Agenten selbstständig automatische Einkaufsentscheidungen für Menschen oder Unternehmen ausführen können. Wenn künftig also KI-Agenten die Fähigkeit zum Einkaufen, Verhandeln von Preisen, der Auswahl von Lieferanten und der unabhängigen Entscheidung Kaufverträge zu signieren hätten, würden nach seiner Meinung die bisherigen Vorstellungen des digitalen Handels zusammenbrechen.

Abgesehen von der Unmöglichkeit diese "Umstellung" für die ganze Welt gleichzeitig durchzuführen, wäre das Risiko des Zusammenbruchs durch "chaotisches Verhalten" der KI groß. Bei einem normalen Übergang mit gleichzeitiger menschlicher und künstlicher Steuerung müsste man mindestens zwei weitere Gefahren befürchten:

Von Menschen gesteuerte Prozesse würden versuchen die KI-Agenten zu ihrem eigenen Vorteil agieren lassen.

Die KI-Agenten könnten trotz ihrer "guten" Programmierung "selbstsüchtig" werden, wenn sie erkennen, dass die menschlich-gesteuerten Prozessen kurzfristig "erfolgreicher" sind.

Es kann sich also durchaus lohnen, sich zukünftig mehr Gedanken über die Ziele der KI-Entwicklung zu machen und man sollte versuchen einen Konsens für eine zukünftige Welt zu vereinbaren, bevor man KI in diese oder jene App einbaut ...

Kommentar abgeben