US-Berufungsgericht setzt Gesetz gegen KI-Nacktbilder nach Klage von Musks xAI vorerst aus

Das KI-Unternehmen xAI von Elon Musk hat an einem Freitag vor einem US-Berufungsgericht in St. Louis eine einstweilige Verfügung gegen ein Gesetz im Bundesstaat Minnesota erwirkt. Das Gericht setzte die Regelung gegen die Erstellung von KI-generierten gefälschten Nacktbildern vorerst aus und gab damit einem Antrag des Unternehmens statt. xAI hatte in seiner Klage argumentiert, das Gesetz sei verfassungswidrig, da es die durch die US-Verfassung geschützte Meinungsfreiheit unzulässig einschränke.

Die Regelung in Minnesota gilt als das landesweit erste Gesetz dieser Art in den USA. Es untersagt Betreibern von Webseiten und Softwareentwicklern, ihren Nutzern die Erstellung realistischer Bilder zu ermöglichen, welche intime Körperteile einer identifizierbaren Person darstellen, die auf einem Originalfoto nicht zu sehen sind. Ein untergeordnetes Gericht hatte den Eilantrag des Technologieunternehmens im vergangenen Monat noch zurückgewiesen.

Der Bundesstaat Minnesota hatte das Berufungsgericht zuvor aufgefordert, das Gesetz nicht auszusetzen. Die Behörden begründeten die Bestimmung damit, dass die Verbreitung von Material über sexuellen Kindesmissbrauch bekämpft werden müsse, welches durch KI-Produkte wie Musks Grok Imagine in „erschütterndem Ausmaß“ erzeugt werde. xAI erklärte hingegen, die eigene Anwendung enthalte „strenge Schutzvorkehrungen“ gegen die Erstellung derartiger Bilder von realen Personen. Das Unternehmen habe zudem damit begonnen, Nutzer gerichtlich zu verklagen, welche diese technologischen Hürden umgehen.

Mehrere Länder außerhalb der USA untersuchen derzeit Maßnahmen gegen das KI-Modell von xAI. Die Europäische Kommission kündigte im Jänner eine Untersuchung an, da Bedenken bezüglich der Verbreitung illegaler Inhalte und manipulierter Bilder über Grok bestehen. Die irische Datenschutzkommission eröffnete im Februar eine formelle Untersuchung gegen Grok, woraufhin die französische Polizei wenige Tage später im Rahmen einer separaten Ermittlung die Büros von X durchsuchte. Auch Großbritannien und Kanada planen Schritte gegen sexuelle Bilder und Deepfakes, die mithilfe von Grok generiert werden.