Kontrollierter Kontrollverlust mit künstlicher Intelligenz

Bob: “I can can I I everything else.”
Alice: “Balls have zero to me to me to me to me to me to me to me to me to.”

Sind das die Zitate zweier streitender Kinder oder ist es einfach eine Schallplatte, die einen Sprung hat? – Nein, das ist die neue Art der effizienten Kommunikation auf Basis der englischen Sprache.

Diese Sätze gingen vor einigen Tagen durch das Netz. Zwei mit künstlicher Intelligenz ausgestattete IT-Systeme bei Facebook wurden abgeschaltet, weil diese begannen eine eigene – für die Entwickler nicht mehr verständliche – Sprache zu entwickeln. Aufschreie wie “Facebook engineers panic, pull plug on AI after bots develop their own language”, “Facebook shuts down AI after it invents its own creepy language” und “Did we humans just create Frankenstein?” (Quelle) kursierten daraufhin im Netz.

Kurz darauf kam jedoch die Entwarnung: Es sei „völlig normal“, dass Chatbots eine eigene Sprache entwickeln. Tatsache ist jedoch, dass Bob und Alice anfangs noch auf die englische Sprache trainiert waren. Aus Effizienzgründen entwickelten die beiden IT-Systeme jedoch eine ganz eigene Sprache, die sich immer weiter vom Englisch entfernte. Die Entwickler gaben als Problem an, dass sie den IT-Systemen keine Belohnung für die Verwendung der englischen Sprache geboten hätten. Denn Menschen nutzen Vereinfachungen und Dekompositionen aufgrund der eigenen limitierten Fähigkeiten. Für IT-Systeme gelten diese Limitierungen nicht. Warum sollten diese sich dann daran halten?

Trotz dieser plausiblen Erklärung kam die Meldung zu einem denkbar ungünstigen Zeitpunkt. Kurz zuvor hatten Facebooks Mark Zuckerberg, ein großer Befürworter der künstlichen Intelligenz, und Teslas Elon Musk einen Streit. Elon Musk warf Mark Zuckerberg darin vor, die theoretischen Gefahren künstlicher Intelligenz nicht genügend zu würdigen.

Heißt das dann auch, dass wir Chatbots das Sprechen lehren können, aber wir nicht deren Sprache verstehen bzw. nicht verstehen müssen? In unserer digitalen Zeit wird immer wieder über den kontrollierten Kontrollverlust diskutiert. Kontrolle, wie sie bisher existiert hat, gibt es heute nicht mehr durch Gewissheit, sondern nur noch durch Vertrauen. Vertrauen ist auch die Basis für die Wirtschaft; denn jede Kooperation, jedes Dienstleisterverhältnis basiert darauf. Doch sollen wir nun zukünftig vertrauen, dass zwei IT-Systeme Informationen zu einer Aufgabe austauschen, obwohl wir sie nicht mehr verstehen?

Wie weit wollen wir alle in Zukunft die Kontrolle abgeben und an welcher Stelle müssen wir vertrauen?

Bis demnächst

Ihr Julian Schmidt

#Digitalisierung #KünstlicheIntelligenz #KI #Chatbot #IT-Systeme
Reaktionen:

0 Kommentare:

Kommentar veröffentlichen