Kriminelle in Großbritannien haben eine neue perfide Masche entwickelt, um Schulen zu erpressen. Sie stehlen Fotos von Schülerinnen und Schülern von den offiziellen Webseiten der Bildungseinrichtungen und nutzen Künstliche Intelligenz, um daraus sexualisierte Deepfakes zu erstellen. Die Täter drohen damit, das manipulierte Material zu veröffentlichen, falls die Schulen nicht zahlen. Mehrere Schulen sind laut einem Bericht der Zeitung "The Guardian" in den vergangenen Monaten bereits Opfer dieser Vorgehensweise geworden.
Keine bekannten Fälle in Deutschland
In Deutschland sind derartige Erpressungsfälle an Schulen bislang nicht bekannt geworden. Dennoch posten auch hierzulande viele Schulen und andere Einrichtungen regelmäßig Fotos auf ihren Webseiten oder in sozialen Medien. Oft handelt es sich um erfreuliche Ereignisse wie Preisverleihungen, sportliche Erfolge oder besonderes Engagement von Schülern. Daniel Grein, Bundesgeschäftsführer des Kinderschutzbundes, betont gegenüber der Katholischen Nachrichten-Agentur (KNA): "Es ist natürlich nachvollziehbar, dass Vereine und Schulen die Erfolge ihrer Mitglieder und Schüler auch online dokumentieren wollen." Jedoch sei das Bewusstsein dafür, was Kriminelle im Netz mit solchen Fotos anstellen können, in der Breite noch nicht ausreichend ausgeprägt.
Risiken durch KI nehmen zu
Stefan Düll, Präsident des Deutschen Lehrerverbandes, sieht das Problem ebenfalls: "Die Risiken rund um manipulierte oder missbräuchlich verwendete Bilder nehmen durch neue Technologien wie KI deutlich zu." Viele Schulen reagieren bereits, indem sie auf ihren Webseiten zunehmend auf Fotos verzichten, auf denen Kinder klar erkennbar sind. Düll weist jedoch darauf hin, dass Schulen das Problem nicht allein lösen können. Er plädiert für einen gesamtgesellschaftlichen Lernprozess über die Risiken digitaler Bilder: "Dabei sollten wir den Blick nicht ausschließlich auf Schulen richten – eine deutlich größere Herausforderung stellen häufig Bilder dar, die über private Accounts von Eltern oder Kindern in sozialen Netzwerken wie Instagram verbreitet werden."
Empfehlungen des Kinderschutzbundes
Aus Sicht des Kinderschutzbundes ist entscheidend: "Auch vermeintlich harmlose Kinderfotos können aus dem Kontext gerissen, weiterverbreitet, sexualisiert kommentiert oder mithilfe von KI manipuliert werden. Sexualisierte Deepfakes oder sogenannte Deep Nudes von Kindern sind keine Bagatelle, sondern eine Form sexualisierter Gewalt gegen Kinder." Geschäftsführer Grein empfiehlt, Kinderfotos im Internet sehr zurückhaltend zu verwenden. "Am sichersten ist es, auf Fotos identifizierbarer Kinder online möglichst zu verzichten und stattdessen Illustrationen, Grafiken, Zeichnungen oder andere Symbolbilder zu nutzen." Wenn Bilder dennoch verwendet werden sollen, sollten Kinder möglichst von hinten, von der Seite, aus größerer Entfernung oder unscharf gezeigt werden. Auch auf Fotos aus dem unmittelbaren Lebensumfeld wie Wohnhaus, Kita oder Schule sollte verzichtet werden.
Einwilligung von Kindern und Eltern
Stefan Düll berichtet vom Umgang an seiner eigenen Schule: "Wir haben dafür ein klares Verfahren etabliert: Beim Eintritt unterschreiben die Eltern eine Einverständniserklärung; ab dem 14. Lebensjahr ist zusätzlich die Unterschrift der Schülerinnen und Schüler selbst erforderlich." Der Kinderschutzbund fordert ebenso, Kinder selbst altersgerecht in die Entscheidung einzubeziehen. "Wichtig ist dabei aus unserer Sicht, dass nicht nur die Eltern um Einwilligung gebeten werden sollten, sondern auch die abgebildeten Kinder. Auch sie haben ein Recht auf ihr eigenes Bild. Sie müssen altersgerecht beteiligt werden, und ihre Ablehnung muss ernst genommen werden", sagt Daniel Grein.
Technische Hilfe gegen Deepfakes
In Großbritannien, wo die Gefahr der Erpressung für einige Schulen bereits real geworden ist, hilft man sich mit einem technischen Hilfsmittel. Die Organisation Internet Watch Foundation, die gegen Missbrauchsdarstellungen im Internet kämpft, hat einen digitalen Fingerabdruck des manipulierten Bildmaterials an die großen Online-Plattformen weitergegeben. Martin Steinebach, Forscher am Fraunhofer-Institut für Sichere Informationstechnologie, erklärt, dass dieses Verfahren eingesetzt wird, um die Verbreitung von Missbrauchsdarstellungen zu unterbinden. Bekannte Missbrauchsbilder werden in eine mathematische Darstellung, einen sogenannten Hash, übersetzt und in einer Datenbank zusammengefasst. Jedes hochgeladene Bild wird automatisch mit dieser Datenbank abgeglichen. "Bei einem Treffer wird die Verbreitung unterbunden", so der Experte. So kann zumindest verhindert werden, dass das Bildmaterial auf den großen Plattformen landet. Webseiten, die ihre Bilder nicht mit den Datenbanken abgleichen, können die Bilder jedoch weiterhin verbreiten. Eine einfache technische Lösung gibt es für das Problem also nicht.
