Von OpenAI generierte Bilder verifizieren

Die Herkunft (Provenienz) hilft Menschen zu verstehen, woher Online-Inhalte stammen und ob KI an ihrer Erstellung oder Bearbeitung beteiligt war. So erhalten Menschen mehr Informationen, wenn sie entscheiden, was sie online vertrauen, teilen oder worüber sie berichten.

Das kann helfen, Verwirrung, Täuschung und Fälle zu verringern, in denen die Herkunft von KI-generierten Inhalten unklar ist. Außerdem erhalten Journalist:innen, Plattformen, Kreative, Forschende und die Öffentlichkeit mehr Kontext zu den Medien, denen sie online begegnen.

Wir glauben, dass klarere Informationen darüber, wie Inhalte erstellt wurden, ein wichtiger Beitrag zum Aufbau eines vertrauenswürdigeren Online-Umfelds sind.

Das Tool stützt sich auf zwei Arten von Signalen: C2PA Content Credentials und SynthID.

Content Credentials⁠(wird in einem neuen Fenster geöffnet) basieren auf einem offenen Standard, der digitalen Medien Herkunftsmetadaten anfügt. Bei unterstützten, von OpenAI generierten Bildern können sie darauf hinweisen, dass ein Bild mit Tools wie ChatGPT oder der API erstellt wurde. Wenn sie vorhanden sind, sind sie ein starkes Signal, aber da sie auf Metadaten beruhen, können sie entfernt werden.

SynthID⁠(wird in einem neuen Fenster geöffnet) ist eine unsichtbare Wasserzeichen-Technologie, die ein Signal direkt in generierte Medien einbettet. Im Gegensatz zu Metadaten ist das Signal Teil des Bildes selbst und so konzipiert, dass es Änderungen wie Zuschneiden, das Hinzufügen von Filtern oder verlustbehaftete Komprimierung übersteht. Weitere technische Details findest du im SynthID-Forschungsbericht⁠(wird in einem neuen Fenster geöffnet).

Nein, ein erkanntes Signal weist darauf hin, dass das Bild aus OpenAI-Tools stammt, bestimmt aber nicht, ob das Bild korrekt ist oder im richtigen Kontext präsentiert wird.

Ein erkanntes Signal weist darauf hin, dass das Bild wahrscheinlich aus OpenAI-Tools stammt. Erkannte Signale sind zuverlässig, und falsch positive Ergebnisse sind selten.

Es bestätigt nicht, wie das Bild nach seiner Erstellung verwendet oder verändert wurde.

Wenn kein Signal erkannt wird, bedeutet das, dass das Tool im hochgeladenen Bild keine unterstützten Signale gefunden hat.

Das Bild könnte trotzdem von OpenAI generiert worden sein, wenn die Metadaten entfernt wurden oder Anzeichen für Manipulation vorliegen, das Wasserzeichen beeinträchtigt wurde, das Bild aus einem älteren Modell für Bildgenerierung stammt oder erstellt wurde, bevor Herkunftssignale verfügbar waren. Der Inhalt könnte außerdem dennoch KI-generiert sein, aber von einem Modell eines anderen Unternehmens stammen, welches das Tool derzeit nicht erkennt.

Wenn das Tool nicht funktioniert, versuche es in einem Moment noch einmal – einige Fehler (wie Ratenlimits oder vorübergehende Probleme) können auftreten.

Wenn das Problem weiterhin besteht, besuche unser Hilfecenter⁠(wird in einem neuen Fenster geöffnet), um Unterstützung zu erhalten.

Das hochgeladene Bild wird verarbeitet, um es auf unterstützte Herkunftssignale zu prüfen, die mit von OpenAI generierten Inhalten verbunden sind. Hochgeladene Bilder werden nicht gespeichert, außer wenn dies gesetzlich vorgeschrieben ist, und nicht zum Trainieren unserer Modelle verwendet.