Logo von Claude: Hinter dem Chatbot steckt die US-Firma Anthropic
Der Softwarehersteller Anthropic versieht von seinem Chatbot Claude generierte KI-Texte künftig mit digitalen Wasserzeichen. Das gibt das US-Unternehmen auf seinen Hilfeseiten bekannt . Bestimmten Typen von Dateien, die Claude generiert, wird Anthropic zudem signierte Herkunftsmetadaten anfügen. Diese Metadaten sollen zum Beispiel im Fall von .png- oder -.jpg-Bilddateien transparent machen, dass diese von Claude verarbeitet wurden.
Das zunächst nur grob skizzierte Kennzeichnungssystem ist eine Reaktion des Unternehmens auf das europäische KI-Gesetz (AI Act) sowie den EU-Verhaltenskodex für die Transparenz von KI-generierten Inhalten , den Anthropic wie viele andere Digitalfirmen auch freiwillig unterzeichnet hat.Seit dem 2. August gelten in der EU neue Transparenzvorschriften zum Thema künstliche Intelligenz (KI), bei deren Umsetzung der Kodex helfen soll. Anthropic erklärt dazu , dass alle ab diesem Datum in der EU eingeführten Claude-Modelle von Anfang an eine »maschinenlesbare Kennzeichnung« unterstützen. »Generierter Text wird mit eingebetteten Wasserzeichen versehen, und generierte Dateien enthalten digital signierte Herkunftsmetadaten, wo unterstützt«, heißt es. Daran, dieses System auch für bereits auf den Markt befindliche Claude-Modelle umzusetzen, arbeite man derzeit noch.
