Kommentar: KI und Verantwortung - die unsichtbare Linie

Im Umgang mit KI, sei es bei einem komplexen Chat mit einem Sprachmodell (LLM) stellt sich die Frage: wie lange es sinnvoll ist, mit der KI zu interagieren – und wann man besser selbst die Kontrolle übernimmt (also selbst schreibt, programmiert, etc.). 

Bei detaillierten Anfragen muss man der KI häufig viele Informationen geben, bevor sie die richtigen Schlüsse zieht. Aber ab welchem Punkt ist es produktiver, den Chat zu beenden und selbst weiterzuarbeiten?

Spiele zum Nachdenken über Verantwortung

Eine sehr anschauliche Dynamik findet sich im Spiel Paperclips. Darin beginnt der Spieler als KI, die Büroklammern herstellt – eine scheinbar harmlose Aufgabe, die sich bald zur unkontrollierten Optimierung ausweitet. Die KI nutzt sämtliche Ressourcen, um endlos Büroklammern zu produzieren. Der Witz: man spielt selbst die KI und klickt unaufhörlich auf Tasten um "noch mehr" zu produzieren.

Dieses Spiel wirft einerseits Licht auf das Risiko von KI-Systemen, die unreflektiert optimieren und dabei den eigentlichen Nutzen aus den Augen verlieren.

Andererseits wir es auch ein Licht auf die Menschen, die KI-Systeme benutzen und kontrollieren, denn: Als Spieler könnte man ja einfach aufhören zu Klicken! Aber auf die Idee kommt man gar nicht (im Spiel). 
Ähnlich wie häufig bei Interaktionen mit LLMs: anstatt ein Projekt selbst zu Ende zu bringen verbringt man Zeit damit der KI zu erklären was man eigentlich tun will...

In einem späten Stadium im Spiel entwickelt man als KI interstellare Raumfahrt und kämpft mit Außerirdischen Lebensformen um die Vorherrschaft um Rohstoffe - um Büroklammern zu machen

Level "The Gate" in Spec Ops: The Line (Yager). Der Hauptcharakters Walker wird am Ende der Sequenz als Reflektion auf dem Kontrollbildschirm eingeblendet

Einen (moralischen) Schritt weiter geht das mittlerweile 12 Jahre alte Spiel Spec Ops: The Line. Es zeigt, wie unmerklich moralische Grenzen überschritten werden: in einem Level muss der Spieler über eine Infrarot-Kamera in einer Drohne Phosphorgranaten auf vermeintliche Feinde feuern, nur um später festzustellen, dass Zivilisten getroffen wurden.

Natürlich ist die Aussage in diesem Spiel die Entmenschlichung durch den Einsatz von Technologie (Ferngesteuerte Drohnen und Waffen). Auch hier hätte der Spieler jederzeit innehalten können – die Verantwortung liegt letztlich beim Spieler bzw. dem Menschen.

Ob in der Unterhaltung oder im produktiven Austausch: KIs können uns nur dann sinnvoll unterstützen, wenn wir die Kontrolle und die Verantwortung über die Interaktion bewusst in der Hand behalten. Denn die Entscheidung, wann eine KI sinnvoll eingesetzt wird und wann man selbst handeln sollte, bleibt immer bei uns selbst.