KI machts möglich – menschliche Gewaltfantasien aus Frust, Zorn und Enttäuschung bildnerisch umzusetzen. Ein Klick, ein kurzer Text – und schon setzt KI die Fantasie in ein Videoclip um, mit täuschend echt aussehenden Horror-Szenarien, die sich ungeprüft per Mausklick im Netz verbreiten lassen.

Dieser Tage berichtete die Boulevard-Zeitung 20’ von brutalen KI-Clips, in denen alte Menschen misshandelt und Menschen mit Behinderungen attackiert werden. Diese KI-generierten Gewalt-Videos, von Privatpersonen über das gratis KI-Tool Sora erstellt, kursieren auf Plattformen wie Facebook und Instagram. Auch wenn sie künstlich erzeugt sind, solche Bilder verletzen die Menschenwürde und hinterlassen Spuren: Sie stossen ab, lassen mit der Zeit unser Mitgefühl abstumpfen und prägen besonders Kinder und Jugendliche, für welche damit solche Gewalt wie zur täglichen Normalität werden könnte.

Eine schleichende Verrohung, die den Zusammenhalt und die sozialen Werte unserer Gesellschaft bedroht – und das «Recht» des Stärkeren über den gegenseitigen Respekt stellt. Dabei bleibt die Verantwortung der Tech-Konzerne unklar: So verzichtet Meta, Eigentümer von Facebook und Instagram, seit diesem Jahr auf die bisher üblichen Faktenchecks und überprüft problematische Inhalte kaum. Die Konsequenz: Gewaltfantasien können ungehindert verbreitet werden.

Dieser Tage nun hat der Bundesrat seinen Entwurf für eine Regulierung von Kommunikationsplattformen präsentiert. Doch der Vorschlag geht zu wenig weit. Zwar werden die Rechte der Userinnen und User und die Melderechte gestärkt, aber es fehlt an klaren Verantwortlichkeiten und lässt Tech-Unternehmen weiterhin ziemlich freie Hand. Selbst bei Anzeigen nach Art. 135 des Strafgesetzbuches, der nur die brutalsten Gewaltdarstellungen unter Strafe stellt. Griffig ist dieser Gesetzesvorschlag nicht. KI-generierte Inhalte müssen stärker reguliert werden, auch weil sie gezielt eingesetzt werden können, um manipulativ gesellschaftliche Spannungen, Hass und Gewalt anheizen können.

Wir dürfen nicht tatenlos zusehen, wie digitale Gewalt unsere Gesellschaft abstumpft. Jede Woche, in der solche Inhalte unreguliert verbreitet werden, trägt dazu bei, den intergenerationellen Zusammenhalt in unserer Gesellschaft zu schwächen.

Die Politik muss konsequent handeln, bevor virtuell simulierte Gewalt zu realen Wunden wird.

Bea Heim, Präsidentin Vereinigung der Aktiven Seniorinnen und Senioren, VASOS