Diese KI ist die größte Bedrohung: Artificial General Intelligence

Guten Morgen, liebe Leserin, lieber Leser,

wenn Sie den "Tagesanbruch"-Newsletter abonnieren möchten, nutzen Sie bitte diesen Link. Dann bekommen Sie ihn jeden Morgen um 6 Uhr kostenlos per E-Mail geschickt. Und hier ist der Tageskommentar:

Die Welt verändert sich rasant. Nein, ich meine nicht die Konflikte von Osteuropa bis Nahost und auch nicht das Klima. Ich spreche von einer Technologie, die alles in den Schatten stellt, was Gehirne in zwei Millionen Jahren Menschheitsgeschichte ersonnen haben. Gut möglich, dass Sie, liebe Leserin und lieber Leser, beim Stichwort Künstliche Intelligenz mittlerweile abwinken. Vielleicht haben Sie das Modewort in den vergangenen Monaten zu oft gehört, als dass es Sie noch hinterm Ofen hervorlocken könnte. Ich bitte Sie dennoch weiterzulesen. Ich habe eine existenzielle Botschaft für Sie. Sie stammt nicht von mir, sondern von einem 62-jährigen Briten. Aber der Reihe nach.

Wer nicht nur wissen möchte, was heute auf der Welt los ist, sondern sich auch dafür interessiert, wie die Welt morgen aussehen könnte, muss sich mit Künstlicher Intelligenz beschäftigen, kurz: KI. Und wer nicht nur wissen will, was die einfachen KI-Systeme so draufhaben – also etwa die Spracherkennung auf Ihrem Smartphone oder automatisch erzeugte Texte im Sprachgenerator ChatGPT –, sondern auch verstehen möchte, was die nächste Generation intelligenter Maschinen zu leisten vermag, muss ins Silicon Valley nach Kalifornien reisen. Dort basteln Tausende kluge Köpfe an der nächsten Evolutionsstufe der Informatik und bringen Maschinen intelligentes Verhalten bei.

AGI – Artificial General Intelligence – heißt diese automatisierte Superkraft. Zur herkömmlichen KI verhält sie sich wie ein Quantencomputer zu einem Faustkeil: Sie katapultiert die Optionen des Machbaren in eine neue Galaxie. Mit genügend Rechen-Power soll AGI künftig das gesamte Spektrum der kognitiven und intellektuellen Fähigkeiten eines Menschen nachahmen können. Wobei nachahmen das falsche Wort ist, denn anders als ein Mensch verbessert eine künstliche Intelligenz ihre Leistungsfähigkeit von Minute zu Minute: Sie wird rasant schlauer, raffinierter, kreativer. Sie lernt, indem sie rechnet. Abermillionen Kombinationen pro Minute. Lauscht man Forschern (also Menschen aus Fleisch und Blut), die solche Programme schreiben, erfährt man Erstaunliches: So eine Super-KI wäre künftig nicht nur lernfähig, allwissend und universell einsetzbar, sie würde auch eine Art "natürlichen Menschenverstand" entwickeln, in jeder erdenklichen Sprache kommunizieren und komplizierteste Probleme lösen. Und vor allem: Sie wird sich anpassen können. Wenn es ihr vorteilhaft erscheint, kann sie sich dumm stellen. Hat sie hingegen den Eindruck, dass sie besser Bescheid weiß als jeder Zweibeiner auf Erden, dann kann sie auch diese Erkenntnis zur Grundlage ihrer Entscheidungen machen. Auf mindestens 15 Billiarden Dollar schätzen Fachleute das wirtschaftliche Potenzial dieser Technologie. So etwas gab es nie zuvor.

Spätestens jetzt haben Sie, liebe Leserin und lieber Leser, vielleicht den Eindruck, im falschen Film gelandet zu sein. Ich kann Sie einerseits beruhigen: Weder habe ich zu viele Science-Fiction-Filme geguckt noch droht uns morgen die Weltrevolution der Maschinen. Ein bisschen anstupsen möchte ich Sie andererseits aber schon. Kehrt man nämlich mit schwirrendem Kopf aus dem Silicon Valley ins beschauliche Deutschland zurück, kann man den Eindruck bekommen, hierzulande habe man den Schuss noch nicht gehört. Sicher: Auch deutsche Firmen wie Siemens oder Mercedes arbeiten mit Künstlicher Intelligenz, und auch der Kanzler hat irgendwo schon mal irgendwas zu KI gemurmelt.

Aber welche Umwälzungen gerade in der Computerwissenschaft stattfinden, scheinen die meisten Zeitgenossen hierzulande noch nicht verstanden zu haben. Ob Güterproduktion oder Gesundheitswesen, Verkehr oder Handel, Medien oder Waffenentwicklung: Alles wird sich voraussichtlich grundlegend verändern. In Kalifornien kann man die Vorboten sehen. Etwa in Firmen, die an der Besiegung des Krebses arbeiten. In Start-ups, die an Sprachgeneratoren der nächsten Generation feilen. Oder in Googles Entwicklungslabor X, wo sie nach dem Motto tüfteln: Versuche nicht, zehn Prozent besser als der Markt zu sein. Versuche stattdessen, den Markt um das Zehnfache zu übertrumpfen!

Und natürlich im BAIR, dem Berkeley Artificial Intelligence Research. Dieses Institut an der Universität von Berkeley ist nach Google weltweit das zweitgrößte Biotop für KI-Forschung und einer der wesentlichen Gründe für den amerikanischen Vorsprung bei Künstlicher Intelligenz. Hier lernen, forschen und lehren die klügsten Köpfe an Technologien, die die Welt verändern: 70 Professoren, 250 Doktoranden, Tausende Studenten. Die Mission ist simpel und zugleich ambitioniert: Wissen schaffen, Führungskräfte ausbilden, der Gesellschaft dienen. Hier wurden die Grundlagen für ChatGPT, Dall-E, Stable Diffusion und viele weitere Anwendungen entwickelt, von denen Sie in den vergangenen Monaten gehört haben mögen oder die Sie vielleicht schon selbst nutzen. Die Atmosphäre in dem Hochhaus ähnelt einer Mischung aus Großraumbüro, Labor und Kinderzimmer; durch die Fenster reicht der Blick bis zur Golden Gate Bridge in San Francisco.

Dank Spenden und Partnerschaften mit Firmen verfügt das Institut über genügend Geld für unzählige Projekte und bestes Material. Vor einem Raum stehen ausrangierte Supercomputer. "Vor drei Jahren haben die 50.000 Dollar gekostet, heute sind sie veraltet. Also lasst sie uns rauswerfen und neue besorgen!", schmunzelt Direktor Mark Nitzberg. Grundlage des Erfolgs ist Kollaboration – zwischen den Studenten, mit anderen Unis, mit Digitalfirmen. So durchläuft jede Idee, jede Arbeit, jedes Projekt einen Review-Prozess und wird besser.

Und damit sind wir bei dem 62-jährigen Briten. Stuart Russell heißt er und ist der Kopf des Instituts. Wenn man so will: das Superhirn. Eine Vorlesung bei ihm gleicht einer Offenbarung. Man bekommt in einer Stunde mehr Anregungen als sonst in Monaten – und begreift, warum die Menschheit jetzt am Scheideweg steht. Russell sieht in der Entwicklung von AGI, also Künstlicher Allgemeiner Intelligenz, eine grundstürzende Veränderung des menschlichen Lebens und warnt vor existenziellen Gefahren, wenn diese Technologie nicht schnell umfassend reguliert wird.

Er sagt: "Wir haben KI nicht erfunden, sondern entdeckt. Das bedeutet: Wir wissen noch nicht, wie wir sie kontrollieren können. Ich erforsche seit zehn Jahren, wie wir Menschen die nächsten 50 Jahre überleben und mit hochintelligenten Maschinen koexistieren können. Die Antwort haben wir noch nicht gefunden." Und weiter: "Vertrauen genügt nicht, wir brauchen Kontrolle. Es geht nicht darum, vorhandene KI sicher zu machen. Stattdessen sollte jede neue KI von vornherein den Beweis erbringen müssen, dass sie sicher ist und der Menschheit nicht schadet." Dafür brauche es schnell eine globale Regulierung, bei der alle Staaten einbezogen werden.

Russell sieht positive Anzeichen im KI-Gesetz der EU und in den noch strikteren Vorschriften Chinas. Doch Insellösungen werden nicht verhindern, dass irgendjemand – ob in Kalifornien, Israel oder Russland – eine Technologie ins Leben ruft, die alles Leben auf dem Planeten verändern oder gar bedrohen kann. Eine Künstliche Intelligenz, die per E-Mail an Millionen Computer auf der ganzen Welt Anleitungen für die Produktion von Krankheitsviren verschickt, zehntausendmal gefährlicher als Corona: Klingt abenteuerlich, rückt aber in den Bereich des Möglichen. Ebenso wie die Unterwanderung sämtlicher Medien durch Fake News. Oder automatisierte Computerangriffe auf Krankenhäuser, Flughäfen, Atomkraftwerke.

Ich meine daher: Begeisterung für technologischen Fortschritt ist gut und schön, aber wir sollten uns Stuart Russells Appell zu Herzen nehmen. "Wir" meint nicht allein Forscher, sondern alle Menschen mit Entscheidungsgewalt – von Politikern, Investoren und Firmenlenkern über Publizisten, Influencer und Lehrer bis zu Ingenieuren, Programmierern und allen anderen. Die Welt verändert sich rasant. Künstliche Intelligenz kann neue Geschäftsmodelle und enormen Wohlstand schaffen. Sie kann Krankheiten besiegen und den Alltag erleichtern. Oder alles zerstören, was uns lieb und teuer ist. Wir haben es in der Hand. Deshalb sollte jeder sich für die Weiterentwicklung von KI interessieren. Wer es versäumt, könnte es später bitter bereuen.

Was steht an?

Was hat Olaf Scholz auf seiner China-Reise erreicht? Wenig bis nichts. Weder will Präsident Xi Jinping seine Unterstützung für Putin schmälern noch die Subventionen für E-Autos senken. Oberflächlich betrachtet war der Dreitages-Trip des Kanzlers ein Schuss in den Ofen. Dass sich die Reise trotzdem gelohnt hat, ahnt, wer die verschlungenen Wege chinesischer Politik kennt. Schnelle politische Beschlüsse sind in dem 1,4-Milliarden-Einwohner-Land eine Rarität; wer wirklich etwas erreichen will, muss drei Dinge mitbringen: Zeit, Geduld und Hartnäckigkeit.

So gesehen hat Scholz genau das Richtige getan: Höflich, aber deutlich warnte er davor, dass Pekings Hilfe für die russische Waffenindustrie nicht nur den grausamen Krieg in der Ukraine verlängert, sondern auch die Kerninteressen der EU-Staaten verletzt: Die Wirtschaft floriert nur im Frieden und mit transparenten Regeln – und daran müssen die Chinesen als Handelspartner ebenfalls ein großes Interesse haben. Durchaus möglich also, dass der starke Mann in Peking seine Außenpolitik zwar nicht sofort, aber mittelfristig doch behutsam korrigiert.

Erst einmal kehrt der Kanzler heute nach Berlin zurück. Einmal umziehen, dann geht's weiter nach Brüssel: Dort trifft er auf einem informellen EU-Gipfel die anderen Staats- und Regierungschefs. Sie sprechen über die Wettbewerbsfähigkeit der Union und die Beziehungen zum schwierigen Partner Türkei.

Annalena Baerbock jettet zum Treffen der G7-Außenminister auf der italienischen Insel Capri. Dort kann man wunderbare Sonnenuntergänge bestaunen. Viel Zeit dafür wird die deutsche Chefdiplomatin aber nicht haben, die Probleme drängen: die Eskalation in Nahost, Russlands Vormarsch in der Ukraine, die Beziehungen zu China. Unser Reporter Patrick Diekmann ist dabei und wird berichten.

Der FC Bayern hat noch eine letzte Hoffnung auf einen Titelgewinn in dieser Saison: die Champions League. Dafür müssen die Münchner heute Abend erst mal das Viertelfinal-Rückspiel gegen den FC Arsenal gewinnen. Da das Hinspiel 2:2 endete, sollte das zu Hause in München machbar sein.

Bild des Tages

Forscher sprechen von einer "Sensation": Astronomen haben ein gigantisches Schwarzes Loch in der Milchstraße entdeckt – "extrem nah" an unserer Erde.

Ohrenschmaus

Blick ins All? Da habe ich sofort diesen wunderbaren Song im Ohr.

Lesetipps

Bald können Sie selbst entscheiden, ob Sie Peter oder Petra sind. Die Ampelkoalition feiert die freie Wahl des Geschlechtseintrags als gesellschaftspolitischen Fortschritt. Unser Kolumnist Uwe Vorkötter fragt sich hingegen, ob die Regierung den Verstand verloren hat.

Nach dem iranischen Angriff will Israels Regierung militärisch antworten. Es gibt verschiedene Szenarien, berichtet meine Kollegin Frederike Holewik.

Bei der Trainersuche des FC Bayern bahnt sich eine spektakuläre Rückholaktion an. Unser Reporter Julian Buhl kennt die Hintergründe.

Zum Schluss

Ist Ihnen plötzlich auch so kalt?

Ich wünsche Ihnen ein paar Sonnenstrahlen. Morgen schreibt Camilla Kohrs den Tagesanbruch, von mir lesen Sie am Freitag wieder.

Herzliche Grüße

Ihr

Florian Harms
Chefredakteur t-online
E-Mail: t-online-newsletter@stroeer.de

Mit Material von dpa.

Anmerkung: In einer vorherigen Version dieses Artikels stand, der Blick aus dem BAIR-Institut reiche bis zur Oakland Bay Bridge. Tatsächlich ist es die Golden Gate Bridge. Die Passage wurde nachträglich korrigiert.

Den täglichen Tagesanbruch-Newsletter können Sie hier kostenlos abonnieren.
Alle Tagesanbruch-Ausgaben finden Sie hier.
Alle Nachrichten lesen Sie hier.