Fotos vom Schulfest, vom Theaterprojekt oder von der Einschulung gehören für viele Schulen zur Öffentlichkeitsarbeit. Sie zeigen, was die Schulgemeinschaft leistet, vermitteln Eltern einen lebendigen Eindruck vom Schulalltag und/oder präsentieren die besonderen Leistungen der Schülerinnen und Schüler. Leider hat sich aber nun die Risikolage geändert: Öffentlich zugängliche Fotos von Schülerinnen und Schülern können gespeichert, weiterverarbeitet und mithilfe von KI manipuliert werden. Aus gewöhnlichen Aufnahmen lassen sich sexualisierte Darstellungen, sogenannte Deepnudes, täuschend echte Face-Swaps oder andere kompromittierende Inhalte erzeugen.

Dass dieses Risiko nicht nur theoretisch ist, zeigt ein vom Bundesamt für Sicherheit in der Informationstechnik aufgegriffener Fall aus Großbritannien: Cyberkriminelle luden Bilder von der Website einer weiterführenden Schule herunter, veränderten sie mithilfe von KI zu sexualisierten Darstellungen und drohten der Schule mit deren Veröffentlichung, falls sie kein Geld zahle. Das Bundesamt für Sicherheit in der Informationstechnik (BSI) verweist in diesem Zusammenhang auf die Empfehlung, deutlich erkennbare Schülerfotos von Schulwebseiten zu entfernen und durch Motive ohne identifizierbare Personen zu ersetzen (Bundesamt für Sicherheit in der Informationstechnik, „Englische Schulen“).

Nach Angaben des UK Safer Internet Centre und der Internet Watch Foundation stammten die verwendeten Ausgangsbilder von der Website beziehungsweise den Social-Media-Auftritten der Schule. Rund 150 der manipulierten Bilder wurden nach britischem Recht als Darstellungen sexuellen Kindesmissbrauchs eingestuft (UK Safer Internet Centre, „Schools Given Advice“). Auch in Deutschland sind inzwischen konkrete Fälle aus dem schulischen Umfeld bekannt geworden. An einer Schule in Berlin-Weißensee ermittelt die Polizei, nachdem zwei Schüler KI-generierte Nacktbilder von Mitschülerinnen erstellt und verbreitet haben sollen. In Dietzenbach führt die Staatsanwaltschaft ein Ermittlungsverfahren gegen einen Lehrer, der das Gesicht einer 17-jährigen Schülerin mithilfe von KI in eine pornografische Darstellung eingefügt haben soll. Diese Einzelfälle belegen keinen bundesweiten Anstieg, zeigen aber, dass sexualisierte KI-Manipulationen auch deutsche Schulen betreffen (Die Zeit: Deutsche Presse-Agentur)

Für Schulen reicht deshalb die bisherige Leitfrage nicht mehr aus:

Nicht nur: Dürfen wir dieses Foto veröffentlichen?
Sondern auch: Muss dieses Foto öffentlich, identifizierbar und dauerhaft im Internet verfügbar sein?

Eine wirksame Einwilligung bleibt rechtlich notwendig. Sie verhindert jedoch nicht, dass eine öffentlich erreichbare Aufnahme kopiert und missbraucht wird: Der Kinderschutz gewinnt hier also eine größere Bedeutsamkeit und sollte in jedem Fall Priorität haben.

 

Warum Schülerfotos heute anders bewertet werden müssen

      Die Veröffentlichungsampel für Schülerfotos

      Sieben Regeln für eine sichere schulische Bildpraxis

          Die bestehende Homepage systematisch überprüfen

            Prävention beginnt nicht erst beim Fotografieren

              Deepfakes im Unterricht thematisieren

                Kollegium und Eltern sensibilisieren

                  Der Ernstfall: Was ist zu tun?

                        Fazit

                        Quellen und weiterführende Materialien