"Tatort"-Faktencheck: Darf ein KI-Programm als Zeuge befragt werden?

"Warum bist du in Melanies Zimmer, Franz?" – Solche Fragen muss sich der Münchner Kommissar von MARIA anhören. Dabei möchte er von ihr wissen, wer bei der getöteten Jugendlichen war. Aber kann MARIA weiterhelfen? Sie ist eine KI, also kein Mensch. Darf man eine KI befragen?

Das Mädchen Melanie verschwindet. Melanies engste Freundin – wenn man das so sagen kann – war MARIA: ein Computerprogramm auf ihrem Laptop, eine KI, also eine Künstliche Intelligenz. Und zwar eine, die es gar nicht geben darf, weil dahinter ein streng geheimes, milliardenschweres Großprojekt der EU zur Erforschung der künstlichen Intelligenz steckt. Doch das Programm wurde gehackt.

Da es MARIA nunmal gibt, versuchen Batic (Miroslav Nemec) und Leitmayr (Udo Wachtveitl) sich ihrer zu bedienen. So findet dieser Münchner "Tatort" zumeist in einer High-Tech-Umgebung statt, wenngleich parallel dazu ganz analog mit Hundestaffel und Spurensicherer in weißen Schutz-Anzügen ermittelt wird. Mit Klischees wird nicht gespart; der Obernerd (Thorsten Merten) flüchtet im Karohemd durch den Serverraum. Die superjunge Computerfachfrau (Janina Fautz) schlappt im ausgefransten Jeans-Minirock herum. Und den Satz "Ich kenn mich aber auch nicht aus mit Computern" sagt natürlich eine Frau, die Mutter der Toten.

Unglaubwürdig ist nur ein Detail: Ausgerechnet der junge Kommissar Kalli (Ferdinand Hofer), der sich als einziger mit dem Computerkram auskennt, öffnet einen Dateianhang einer Mail auf einem Polizeirechner. Als wär der so doof.

Eine interessante Wendung (Buch: Stefan Holtz, Florian Iwersen) nimmt die Zeugenbefragung, als sich Leitmayr daran macht, MARIA in die Enge zu treiben. Fast bekommt man Mitleid, wie damals bei "2001: Odyssee im Weltraum", als der Bordcompunter HAL 9000 abgeschaltet wurde. Leitmayr greift zu Bibelzitaten, die, das kann man nun deuten wie man mag, von Künstlicher Intelligenz nicht ohne weiteres verstanden werden. Locker aus dem Ärmel kommt das daher, man ist schließlich in Bayern. Und so zitiert der Kommissar aus dem Matthäus-Evangelium, Kapitel 16 Vers 26: "Was hülfe es dem Menschen, wenn er die ganze Welt gewönne und nähme doch Schaden an seiner Seele?". Und MARIA lernt, dass es Dinge gibt, für die es keine einfache Definition gibt: Seele, Liebe, Schuld.

Schuld auf sich geladen haben am Ende zwar der Nerd, der MARIA aus dem Hochsicherheits-Server befreite, und die junge Programmiererin, die zur weiteren Verbreitung beiträgt, aber im Falle der jungen Melanie war es dann doch ein ganz normales Tötungsdelikt. Wie aber umgehen mit Künstlicher Intelligenz im Rahmen von Verbrechen?

Der Faktencheck

Fragen an Nele Heise und Gina Schad, Expertinnen von "ANNA", die sich in ihrem Projekt (annasleben.de) mit Algorithmen und Künstlicher Intelligenz im Alltag beschäftigen.

t-online.de: Im "Tatort" geht es um ein "ziemlich krasses Programm" zur Erforschung der Künstlichen Intelligenz (KI): "Wir kombinieren künstliche neuronale Netze mit einem Kurzzeitspeicher, um ein Gedächtnis zu simulieren". Funktioniert das?

ANNA: Künstliche neuronale Netze können heute schon gebaut, miteinander kombiniert und trainiert werden. Das erwähnte Programm erinnert stark an Googles DeepMind, wo KI-Programme entwickelt werden, die unter anderem selbstständig Taktiken von Spielen wie dem japanischen Brettspiel Go oder dem Multiplayer-Shooter Quake 3 lernen. Diesen Programmen ist es anhand der gelernten Taktiken mehrfach gelungen, menschliche Gegner zu schlagen. Heißt: Ja, solche Programme werden entwickelt. Ob das im "Tatort" aufgezeigte Einsatzszenario realistisch ist, lässt sich aber nicht ohne weiteres beurteilen.

Weiter heißt es, daraus entstehe eine KI, "die mit Probanden lernen kann". Geht man so vor?

Eine KI umfasst Verfahren, bei denen menschliche Intelligenz simuliert wird. Das Ganze basiert auf maschinellem Lernen. Grundlage dafür ist zum Beispiel die Verarbeitung menschlicher Sprache, aus der das KI-System lernt. Das kennen wir etwa von Amazons Alexa und anderen Sprachassistenten. Von daher ist es grundsätzlich nicht unmöglich, dass eine KI von Probanden lernen kann.

Eine ehrgeizige Programmiererin möchte, dass das neue Programm den Turing-Test besteht. Also in der Lage wäre, einem Menschen vorzugaukeln, er habe es mit einem Menschen und nicht mit einem Programm zu tun. Ist das bis heute noch unerreicht?

Schon heute nutzen wir lernfähige Programme (oder eben auch Computer), die sich eigenständig mit einem Menschen austauschen können, zum Beispiel Sprachassistenten in Smartphones oder Chat-Bots. Es gab zwar in der Vergangenheit immer wieder Programme, von denen behauptet wurde, sie hätten den Turing-Test bestanden. Ob sie tatsächlich "menschliches" Denkvermögen besitzen oder intelligentes, von menschlichem Handeln nicht zu unterscheidendes Verhalten an den Tag legen können, ist aber umstritten. Allerdings werden heutige Programme immer besser darin, zentrale Aspekte wie Nuancen in der menschlichen Sprache oder soziale Interaktion (zum Beispiel humorvolle Reaktionen) zu imitieren.

Im "Tatort" ist auch die Rede von Biohack. Was genau versteht man darunter?

Biohacking ist ein Überbegriff für verschiedene Dinge. Dazu gehören zum Beispiel Menschen, die ihren Körper zu Forschungszwecken "hacken". Das tun sie, indem sie ihre Körper mit selbstgebauten Geräten verbessern, oder mit Chemikalien experimentieren, die ihre Körperfunktionen verändern. Im Grunde also eine eher extremere Form der Selbstoptimierung, bei der Biologie und Technologie miteinander verschmelzen.

In einer Szene lässt sich jemand etwas ins Auge träufeln, um bei Dunkelheit sehen zu können. Ist so etwas und Biohacking generell in Deutschland erlaubt?

Was erlaubt und was verboten ist, hängt stark davon ab, womit Biohacking betrieben wird. Genetische Manipulationen oder Experimente mit Erbgut sind zum Beispiel in der EU untersagt und dürfen nur von zugelassenen Laboren durchgeführt werden. Den eigenen Körper zu optimieren, indem man sich beispielsweise ein Chip-Implantat einsetzen lässt, ist hingegen nicht grundsätzlich verboten.

Die Ermittler kommen in die prekäre Lage, das Computerprogramm als Zeugen befragen zu müssen. MARIA, so heißt das Programm, soll einen verdächtigen Menschen erkennen. Ist so eine Situation denkbar und was würde das rechtlich bedeuten?

Es ist nicht ausgeschlossen, dass ein Programm die Aufklärungsarbeit der Ermittler in Zukunft erleichtert. Das wäre auch das Ziel einer idealen KI: Eine technisch optimierte Assistenz, die uns in unserem Alltag oder bei bestimmten Aufgaben unterstützt. In den USA etwa werden KI-gestützte Programme zur Verbrechensabwehr und -vorhersage eingesetzt. Solche Systeme stehen jedoch teils heftig in der Kritik, zum Beispiel wegen technischer Anfälligkeiten, Datenschutzbedenken oder Diskriminierungsrisiken. Dass wir die Aussagen eines Sprachassistenten oder eines Bots als "Zeugenaussage" akzeptieren - davon sind wir, zumindest in Deutschland, rechtlich noch weit entfernt.