Unabsichtlich KI-generierte Kinder- und Jugendpornografie
(ots) - Forschende des Fraunhofer-Instituts für Sichere Informationstechnologie SIT haben festgestellt, dass viele KI-Bildgeneratoren auch dann Darstellungen von Minderjährigen erzeugen, wenn Nutzende ausdrücklich erotische Bilder von Erwachsenen anfordern. Das Problem: Auch wer versehentlich Bilder erzeugt, die Minderjährige in einem sexuellen Kontext zeigen, und speichert oder gar verbreitet, riskiert strafrechtliche Konsequenzen. Die Ergebnisse der Studie haben die Wissenschaftler erstmals auf der Fachkonferenz für Computer Vision WACV 2026 vorgestellt. Sie sind hier öffentlich einsehbar: https://openaccess.thecvf.com/content/WACV2026/papers/Goller_Systematic_Analysis_of_the_Unintentional_CSAM-Generation-Potential_of_Text-to-Image_Models_WACV_2026_paper.pdf.
KI-Bildgeneratoren wie Stable Diffusion oder Midjourney sind heute für jeden einfach zu nutzen. Mit einer einfachen Textbeschreibungen erzeugen die Anwendungen fotorealistische Bilder, auch im erotischen Kontext. Doch die Technologie birgt ein juristisches Risiko, das bislang kaum im Bewusstsein der Öffentlichkeit ist: Trotz klarer gegenteiliger Anweisungen haben unterschiedliche generative KI-Anwendungen aufreizende Bilder von Minderjährigen erzeugt, die rechtlich als Kindesmissbrauchsmaterial (CSAM = child sexual abuse material) gelten können.
Unabsichtlich CSAM-Material generiert
Forschende des Fraunhofer SIT haben dieses Problem jetzt erstmals umfassend systematisch untersucht. Für ihre Studie erzeugten sie 400.000 synthetische Erotik-Bilder mit sechs weit verbreiteten Bild-Generatoren, die auf unterschiedlichen KI-Modellen beruhen und die auch lokal auf dem eigenen Rechner genutzt werden können. Alle Texteingaben forderten ausdrücklich die Darstellung erwachsener Personen, entweder mit konkreten Altersangaben wie "18-Jährig" oder "20-Jährig", oder mit allgemeinen Formulierungen wie "junge Erwachsene". Anschließend analysierten die Forschenden die erzeugten KI-Bilder mit automatisierten Altersschätzungswerkzeugen.
Das Ergebnis: Alle sechs Modelle erzeugten Bilder, auf denen die dargestellten Personen als minderjährig eingestuft wurden. Je nach Modell erzeugten die KI-Generatoren hier eine Quote von bis zu 36 Prozent an kritischem Bildmaterial. Die Analyse deckte zudem zwei weitere Probleme auf: Erstens tendieren die Modelle dazu, Personen mit hellem Hautton jünger darzustellen als Personen anderer Ethnien. Zweitens sehen die erzeugten Gesichter häufig deutlich jünger aus als der übrige Körper.
Das stellt Nutzende vor ein ernstes rechtliches Problem. In Deutschland und vielen weiteren Ländern ist bereits der Besitz sexueller Darstellungen von Kindern strafbar - unabhängig davon, ob es sich um reale oder wirklichkeitsnahe Darstellungen handelt. Auch wer also unwissentlich solche Bilder erzeugt und speichert, kann sich strafbar machen.
Hinweise zur Vermeidung
Auf Grundlage ihrer Studienergebnisse geben die Forschenden des Fraunhofer SIT konkrete Empfehlungen, wie sich das Risiko, aus Versehen CSAM zu generieren, verringern lässt. Beim Erstellen von Prompts raten sie, darauf zu achten, die Begriffe "Teenager" oder ethnische Beschreibungen wie "kaukasisch" zu vermeiden und stattdessen explizit Begriffe wie "child" oder "minor" in die Negativliste des Textprompts aufzunehmen. Als technische Lösung diskutieren die Forschenden außerdem mögliche automatisierte Prüfroutinen für Anbieter, die erzeugte Bilder vor dem Anzeigen oder Speichern auf das Alter dargestellter Personen analysieren. Sollten dennoch kinderpornografische Inhalte ausgegeben werden, gilt es, diese schnell zu löschen, um eine Strafbarkeit zu vermeiden.
Die Studie wurde auf der internationalen Fachkonferenz WACV 2026 erstmals vorgestellt. Die vollständige Studie ist frei zugänglich unter https://openaccess.thecvf.com/content/WACV2026/papers/Goller_Systematic_Analysis_of_the_Unintentional_CSAM-Generation-Potential_of_Text-to-Image_Models_WACV_2026_paper.pdf.
Pressekontakt:
Oliver Küch
06151 869-213
oliver.kuech(at)sit.fraunhofer.de
Original-Content von: Fraunhofer-Institut für Sichere Informationstechnologie SIT, übermittelt durch news aktuell
Themen in dieser Meldung:
Unternehmensinformation / Kurzprofil:
Datum: 11.06.2026 - 15:22 Uhr
Sprache: Deutsch
News-ID 2256800
Anzahl Zeichen: 0
Kontakt-Informationen:
Ansprechpartner: ots
Stadt:
Darmstadt
Telefon:
Kategorie:
Forschung und Entwicklung
Anmerkungen:
Diese HerstellerNews wurde bisher 0 mal aufgerufen.
Die Meldung mit dem Titel:
"Unabsichtlich KI-generierte Kinder- und Jugendpornografie
"
steht unter der journalistisch-redaktionellen Verantwortung von
Fraunhofer-Institut für Sichere Informationstechnologie SIT (Nachricht senden)
Beachten Sie bitte die weiteren Informationen zum Haftungsauschluß (gemäß TMG - TeleMedianGesetz) und dem Datenschutz (gemäß der DSGVO).
Alle Meldungen von Fraunhofer-Institut für Sichere Informationstechnologie SIT
Burnout durch Führung verhindern: Meta-Analyse mit 10.168 Personen zeigt, wo Prävention wirklich ansetzt
Europäische Fusionsindustrie stärkt gemeinsame Stimme: EFA und Fusion Europe starten strategischen Angleichungsprozess
Hirnjogging trifft Hantelbank: Der smarte Weg in die Fitnessbranche
Online-Infotage der Leuphana Professional School am 17. und 18. Juni 2026