Sie sind hier: Home > Digital > Computer >

Forscher entwickeln "psychopatische" künstliche Intelligenz

...

Daten aus Reddit  

Forscher entwickeln "psychopatische" künstliche Intelligenz

12.06.2018, 14:58 Uhr | AFP

Forscher entwickeln "psychopatische" künstliche Intelligenz. Szene aus dem Film Psycho: Die KI des MIT ist nach einer Figur im Film von Alfred Hitchcock benannt.  (Quelle: dpa/Courtesy Everett Collection)

Szene aus dem Film Psycho: Die KI des MIT ist nach einer Figur im Film von Alfred Hitchcock benannt. (Quelle: Courtesy Everett Collection/dpa)

Forscher erschaffen eine psychopathische künstliche Intelligenz, die überall nur Mord und Totschlag sieht. Damit wollen sie zeigen, wie gefährlich es sein kann, eine KI mit den falschen Daten zu füttern.

Sie sieht Mord und Totschlag überall: US-Forscher haben die erste psychopathische künstliche Intelligenz vorgestellt. Der Algorithmus namens "Norman", benannt nach Alfred Hitchcocks Filmfigur Norman Bates, wurde von Wissenschaftlern des Massachusetts Institute of Technology (MIT) geschaffen.

Er sei ein Beispiel dafür, was passiere, wenn künstliche Intelligenz mit einseitigen Infos gefüttert werde, erklärten die Forscher. Mit "Norman" wollen sie auf Gefahren hinweisen.

Fotos von sterbenden Menschen

Für das Experiment versorgte das Forscherteam die künstliche Intelligenz ausschließlich mit Inhalten, in denen es um sterbende Menschen geht. Sie bedienten sich aus Beiträgen im Netzwerk Reddit.

Anschließend zeigten sie "Norman" eine Reihe von Tintenklecks-Bildern, angelehnt an den psychodiagnostischen Rorschachtest. Der Algorithmus sollte bennenn, was darauf zu sehen sei. Die Forscher verglichen die Ergebnisse mit der einer anderen künstlichen Intelligenz, die "normal" geschaffen wurde.

Mordende Frau oder Mensch mit Regenschirm?

Die Ergebnisse sind furchteinflößend: Während der "gesunde" Algorithmus auf einem Bild "Menschen, die eng beieinander stehen" sah, antwortete "Norman": "Ein Mann, der aus dem Fenster springt." Einen anderen Tintenklecks identifizierte die künstliche Intelligenz als "Person mit einem Regenschirm", während "Norman" darin einen Mann sah, "der von seiner schreienden Frau erschossen wird".

Der "psychopathische" Algorithmus entdeckte außerdem Menschen, die durch einen Stromschlag getötet, überfahren oder in eine Teigmaschine gezogen werden – während die andere künstliche Intelligenz Vögel und eine Hochzeitstorte erkannte.

Nicht die Maschine ist schuld

Beim maschinellen Lernen seien Daten, mit denen die Maschine gefüttert werde, von zentraler Bedeutung, sie könnten "ihr Verhalten signifikant beeinflussen", fassen die Forscher ihr Experiment zusammen. Ihr Ziel ist es, auf die Gefahren bei künstlicher Intelligenz hinzuweisen und das Bewusstsein dafür zu schärfen.

Wenn ein Algorithmus als ungerecht oder voreingenommen wahrgenommen werde, sei der Übeltäter oftmals nicht die künstliche Intelligenz selbst, sondern die Daten, mit denen sie gefüttert wurde, erklärten die MIT-Forscher. Auf der Internetseite norman-ai.mit.edu haben sie "Normans" Antworten zusammengetragen. Dort bitten sie Nutzer, den Test selbst zu machen und ihre Antworten einzusenden – damit "Norman" repariert werden kann.

Verwendete Quellen:

Leserbrief schreiben

Für Kritik oder Anregungen füllen Sie bitte die nachfolgenden Felder aus. Damit wir antworten können, geben Sie bitte Ihre E-Mail-Adresse an. Vielen Dank für Ihre Mitteilung.

Name
E-Mail
Betreff
Nachricht
Artikel versenden

Empfänger

Absender

Name
Name
E-Mail
E-Mail

Anzeige
Multimedia-Sale: Laptops, Kameras u.m. stark reduziert
gefunden auf otto.de
Klingelbonprix.detchibo.deCECILStreet OneLIDLBabistadouglas.deBAUR
Mehr zum Thema
Sie sind hier: Home > Digital > Computer

shopping-portal
Das Unternehmen
  • Ströer Digital Publishing GmbH
  • Unternehmen
  • Jobs & Karriere
  • Presse
Weiteres
Netzwerk & Partner
  • Stayfriends
  • Erotik
  • Routenplaner
  • Horoskope
  • billiger.de
  • t-online.de Browser
  • Das Örtliche
  • DasTelefonbuch
  • Erotic Lounge
  • giga.de
  • desired.de
  • kino.de
  • Statista
Telekom Tarife
  • DSL
  • Telefonieren
  • Entertain
  • Mobilfunk-Tarife
  • Datentarife
  • Prepaid-Tarife
  • Magenta EINS
Telekom Produkte
  • Kundencenter
  • Magenta SmartHome
  • Telekom Sport
  • Freemail
  • Telekom Mail
  • Sicherheitspaket
  • Vertragsverlängerung Festnetz
  • Vertragsverlängerung Mobilfunk
  • Hilfe
© Ströer Digital Publishing GmbH 2018