Der KI-Detektor, der Autoren Angst macht
Berlin, Köln. Der AI Classifier sollte helfen, menschliche von per Künstlicher Intelligenz (KI) erstellten Texten zu unterscheiden – doch ein halbes Jahr nach dem Start stellte OpenAI sein hauseigenes Werkzeug wieder ein. Die Begründung: KI ist heute so gut, dass sich nicht mehr zuverlässig sagen lässt, welche Worte von einem Menschen stammen und welche von einer Maschine.
Jetzt behaupten zwei Studierende der US-Elitehochschule Stanford, sie hätten einen verlässlichen KI-Detektor entwickelt. Pangram wird bereits breit genutzt, um Texte von Politikern, Medien und Firmen zu analysieren.
Doch das Label „KI-generiert“ greift zu kurz. Programme wie Pangram haben blinde Flecken und werden vor allem im deutschsprachigen Raum für Tests eingesetzt, für die sie gar nicht trainiert wurden.
Das Handelsblatt hat den aktuellen Forschungsstand zur Treffsicherheit von KI-Detektoren analysiert und mit Forschern gesprochen. Was genau messen Programme wie Pangram – und wie verlässlich sind sie?
