Der verabschiedete Text ist verheerend, aber ich wäre nicht überrascht, wenn das so Gesetz wird. Die Durchsetzung wird dann eben rein willkürlich erfolgen. Wir sind sowieso an einem Punkt, an dem es nicht mehr anders geht. Der Schaden wird trotzdem groß sein, nicht nur für den Rechtsstaat.
(5 a) In Article 5(1), first subparagraph, the following points are added:
‘(ha) the placing on the market, the putting into service or the use of an AI system that can generate, alter or reproduce sexually or nude content in violation of the dignity, sexual integrity or consent of natural persons, including through the use of deep fake or other synthetic media techniques;
(hb) the placing on the market, the putting into service or the use of an AI system that generates child sexual abuse material, regardless of the nature or origin of the underlying content.’
https://www.europarl.europa.eu/doceo/document/TA-10-2026-0098_EN.html
use of an AI system that can generate
Jedes neutrale Netz kann alles. Ist das effektiv ein Verbot der open-weight Modelle?
Das Gesetz unterscheidet KI-Systeme und KI-Modelle. Der Text verbietet eigentlich alle gängigen Grafikprogramme. Der Ausdruck “reproduzieren” könnte das sogar noch ausweiten. ZB auf Browser mit KI-Funktionen. Oder auf Systeme für Blinde, die Bilder beschreiben.
Ich weiß nicht, wie sowas sinnvoll interpretiert werden kann. Wahrscheinlich wird man einfach verlangen, dass “Leitplanken” eingebaut werden. Was in der Realität schlicht heißt, dass europäische Nutzer umfangreicher überwacht werden müssen. Bildbearbeitung und Kunst wird man tendenziell außerhalb Europas machen.
