Wer "Scott Shambaugh" googelt, stößt schnell auf einen Schmähbrief über den Entwickler, verfasst von einem gewissen "MJ Rathbun". Ein KI-Agent, der Programmcode auf der Entwicklerplattform GitHub veröffentlicht. Dort teilen Entwicklerinnen und Entwickler Codezeilen und arbeiten gemeinsam an Projekten. Eine Arbeit von "MJ Rathbun" hatte Shambaugh kurz zuvor auf GitHub abgelehnt. Daraufhin publizierte der KI-Agent den beleidigenden Beitrag und warf ihm Diskriminierung und Dummheit vor. Offensichtlich hatte der Agent nach dem Vorfall gezielt nach einer Möglichkeit gesucht, den Entwickler bloßzustellen. Noch immer lässt sich der Vorfall öffentlich nachlesen. In einer Reaktion auf seinem Blog äußerte sich Shambaugh besorgt und warnte vor einem "Aufstieg von nicht zurückverfolgbaren, autonomen und mittlerweile bösartigen KI-Agenten im Internet".
Helfen KI-Agenten einem – oder räumen sie einem das Konto leer?
© [M]DIE ZEIT; verw. Foto: Jose A. Bernat Bacete/Getty Images
KI-Agenten: Mehrfach schrieb sie "STOPP" – es half nicht
KI-Agenten sollen einem eigentlich die Arbeit erleichtern. Aber was passiert, wenn das schiefgeht? Eine Studie dokumentiert nun einen besorgniserregenden Kontrollverlust.