Was ist echt, was menschen- und was ist computergeneriert? Unter der EU-Verordnung über Künstliche Intelligenz müssen Betreiber von KI-Systemen offenlegen, wenn es sich um KI-generierte Inhalte handelt – zumindest grundsätzlich. Wie das genau aussehen soll, hat die EU-Kommission nun beschlossen.
Der Grundsatz war längst beschlossen: In Artikel 50 der KI-Verordnung sind verschiedene Pflichten festgelegt, für die nun die konkreteren Ausführungsvorschriften beschlossen wurden. Bei einer direkten Interaktion zwischen Menschen und KI-Systemen müssen die Anbieter etwa dafür sorgen, dass Menschen darüber informiert werden, dass die vermeintliche Gegenseite eine trainierte Rechenmaschine ist. Auch wenn Emotions- oder biometrische Erkennungssysteme zum Einsatz kommen, muss darüber informiert werden. Wenn Inhalte wie Bilder, Texte oder Videos KI-generiert sind und als „echt“ gelten könnten, müssen diese maschinenlesbar als KI-generiert gekennzeichnet werden. Die Markierungs- und Erkennungspflichten, die nun angenommen wurden, umfassen einen Ansatz auf zwei Ebenen: sowohl mit Watermarking innerhalb der eigentlichen Inhalte als auch in signierten Metadaten soll die KI-Generierung hinterlegt sein – mit Ausnahme von reinen Texten.
