Meta: Jugendschutz auf Instagram soll mit KI verbessert werden

Der Jugendschutz auf sozialen Plattformen wie Instagram steht schon lange in der Kritik. Der US-Konzern Meta plant nun verbesserte Sicherheitsmaßnahmen.

Der US-Technologiekonzern Meta hat einen besseren Schutz von minderjährigen Nutzern vor sexueller Erpressung angekündigt. Meta teilte am Donnerstag mit, es werde erprobt, eine von künstlicher Intelligenz (KI) unterstützte Software einzusetzen.

Diese solle automatisch Nacktbilder entdecken, die über die Instagram-Direktnachrichtenfunktion an Minderjährige versendet werden und sie unkenntlich machen. Zudem sollen an alle Nutzer, die solche Inhalte versenden, automatisch Sicherheitstipps versendet werden.

Schutz vor gefährlichem Kontakt

Allerdings wird das Bild nicht endgültig unkenntlich gemacht. "Der Empfänger hat die Wahl, ob er das Bild sehen möchte oder nicht", sagte Capucine Tuffier, die bei Meta Frankreich für den Kinderschutz zuständig ist, der Nachrichtenagentur AFP. Mit den neuen Maßnahmen sollten junge Menschen vor "ungewolltem und potenziell gefährlichem Kontakt" bewahrt werden, hieß es von Meta weiter.

Ziel des "Nudity Protection"-Tools ist der bessere Schutz vor sogenannter Sextortion. Dabei bringen die Täter oft minderjährige Opfer dazu, sexuell eindeutige Bilder oder Videos zu erstellen und ihnen zu senden. Die Täter drohen daraufhin mit der Veröffentlichung des Materials, um Geld oder weitere Bilder zu erpressen. Die neue Funktion soll zunächst in mehreren Ländern in Mittel- und Lateinamerika getestet und in den kommenden Monaten weltweit eingesetzt werden.

Zu wenig Moderation auf Plattformen

"Die Frage ist, warum sie das nicht längst schon getan haben", sagte der Informationswissenschaftler Olivier Ertzscheid von der Universität Nantes. Die nötige Software gebe es bereits seit einigen Jahren. Er warnte auch vor falschen Anzeigen, etwa bei Bildern von Frauen in Badeanzügen. "Bei sämtlichen Plattformen herrscht ein Mangel an Moderation durch Menschen", kritisierte er.

Meta hatte bereits im Januar einen verstärkten Jugendschutz auf der Plattform Instagram angekündigt. Um ein Konto von privat auf öffentlich zu setzen, muss ein Jugendlicher demnach die Zustimmung seiner Eltern einholen.

Kritik am Jugendschutz bei Meta

Zum Meta-Konzern gehören unter anderem Facebook, Instagram und Whatsapp. Das Unternehmen steht massiv in der Kritik, weil es seine Nutzer und vor allem Kinder nicht genug schütze. Kritiker werfen Meta seit Jahren vor, dass insbesondere pädophile Nutzer seine Online-Netzwerke und Messenger-Dienste zu leicht für die Verbreitung von kinderpornografischem Material nutzen können.

Mehr als 40 US-Bundesstaaten haben Meta bereits wegen des aus ihrer Sicht unzureichenden Schutzes insbesondere von Kindern durch den Konzern verklagt. Auch die EU-Kommission hat eine Untersuchung zu den Kinderschutzmaßnahmen von Meta und anderen Digitalkonzernen eingeleitet.