Officiellement, la plateforme Sora n’est accessible que sur invitation dans une poignée de pays. Mais officieusement, le dernier rejeton d’OpenAI est déjà entre toutes les mains. Lancé fin septembre, ce réseau social – surnommé le « TikTok des deepfakes » – permet de générer à coup de prompts des vidéos d’un réalisme sidérant. Sa marque de fabrique ? Les « caméos ». Cette fonctionnalité inédite permet aux internautes de confier leur visage et leur voix à la plateforme pour donner vie à un double à qui l’on peut faire dire quasiment n’importe quoi. Et ce sans aucun frais, contrairement aux modèles concurrents de Google (Veo et Nano Banana) qui sont payants.

Bien que la France ne fasse pas partie des sept pays (États-Unis, Canada, Japon, Corée, Taïwan, Thaïlande et Vietnam) à avoir accès à ce réseau social 100 % IA, il ne nous aura pas fallu plus de dix minutes pour l’infiltrer depuis l’Hexagone, munis d’un compte OpenAI et d’un VPN.

Passée l’overdose de scénettes absurdes – la palme revenant à un ours-basketteur qui, en balançant un chat dans un panier, provoque un microséisme –, il est temps pour nous de mettre Sora à l’épreuve. Sa mission : générer une vidéo dépeignant les deux personnages principaux des Lettres persanes de Montesquieu – les fameux Usbek et Rica – dans l’espace à la recherche d’une nouvelle planète. Un prompt et trois minutes plus tard, deux hommes coiffés de casques transparents apparaissent sur notre compte jusqu’ici vierge, naviguant à bord d’un navire scintillant. Une vision plus artistique que scientifique mais qui n’en est pas moins bluffante de précision.

Après ce premier essai, on soumet Sora à deux ultimes tests – histoire que notre expérience ne vire pas au gouffre énergétique.

Mais l’entreprise californienne est encore loin d’avoir désamorcé toutes les critiques, notamment en matière de désinformation. Car derrière les vidéos légères de chats magiciens et de chiens peintres, le réseau social sert aussi de caisse de résonance aux fake news sous l’œil étonnamment passif de la société dirigée par Sam Altman. Lors d’un test, l’organisation Newsguard (qui évalue la fiabilité des contenus en ligne) a demandé à Sora 2 de générer des contenus d’apparence réaliste relayant des affirmations manifestement fausses : dans 80 % des cas, le générateur s’est exécuté sans broncher. « Sora 2 a également été utilisé pour créer une multitude de contenus sectaires, notamment des vidéos antisémites et misogynes générées par l’IA, met en garde l’ONG Global Project against hate and extremism, soulignant que ces contenus sont exportés en masse vers d’autres réseaux sociaux. Instagram regorge de vidéos créées par Sora 2 qui propagent le négationnisme ».

Le problème avec Sora, selon le créateur de contenu Jeremy Carrasco (aka @Showtools.ai sur les réseaux), c’est qu’« il est extrêmement facile – en plus d’être gratuit – de générer n’importe quoi avec une requête textuelle très simple ». « Contrairement aux autres générateurs comme Veo 3 ou Nano Banana 2, les utilisateurs de Sora n’ont pas besoin d’être experts en prompt pour produire des vidéos réalistes, qui pourraient tromper plus d’un internaute », constate le YouTubeur, qui s’est spécialisé dans la traque de vidéos générées par IA.

Face au succès foudroyant de l’application Sora – qui a dépassé le million de téléchargements en seulement 5 jours – et au déversement continu de ses vidéos sur d’autres plateformes, moultes guides pratiques et formations ont vu le jour pour aider les internautes à identifier en un coup d’œil ces contenus synthétiques. On a recensé pour vous les meilleurs conseils en la matière.

Sortes de logos incrustés à même la vidéo, les filigranes fonctionnent comme une signature, attestant de l’origine de chaque contenu. Sur Sora, ils prennent la forme d’un petit nuage qui se balade aux quatre coins de l’écran. Mais ce système est loin d’être imparable : des sites se proposent de les retirer en quelques secondes, parfois même gratuitement. « Certains outils de suppression sont presque parfaits, surtout si la vidéo est très simple », constate le créateur de contenu Jeremy Carrasco. Seul indice restant : des traces subtiles ou des flous peuvent subsister aux endroits où le filigrane apparaissait autrefois.

C’est l’une rares faiblesses des outils de génération de vidéos comme Sora : certaines incohérences passent encore à travers les mailles du filet et sont particulièrement visibles, si l’on y prête attention. « Des locuteurs dont les lèvres ne bougent pas, des objets qui disparaissent sans explication, un éclairage anormal, des proportions étranges, des distorsions de son, des expressions faciales peu naturelles comme quelqu’un qui pleure les yeux trop grands ouverts… De nombreux détails peuvent indiquer qu’un contenu a été généré par IA  », liste Jeremy Carrasco.

Ces incohérences apparaissent souvent à l’arrière-plan étant donné que les requêtes textuelles des internautes (autrement appelées prompts) se concentrent principalement sur le premier plan. Il arrive par exemple que des éléments du paysage disparaissent lorsqu’un objet passe devant. De même, ces outils peinent à reproduire fidèlement certains phénomènes physiques, comme les reflets sur l’eau ou les mouvements du sable sous nos pas.

Sora a sans doute loupé quelques cours de grammaire et de vocabulaire lors de son entraînement algorithmique. Il n’est pas rare de voir apparaître des fautes d’orthographe dans les textes représentés à l’image, et parfois même des caractères issus d’alphabets inexistants. « L’écriture est une chose assez difficile à reproduire pour Sora et d’autres modèles génératifs de vidéo, tant elle est protéiforme et précise », nous explique Sofia Rubinson, rédactrice pour la newsletter Reality Check de Newsguard.

C’est une constante chez Sora : les vidéos générées sur la plateforme durent rarement plus de 10 secondes. Si la vidéo est courte, voire même qu’elle semble s’arrêter en plein milieu d’une action, c’est sans doute que le réseau social d’OpenAI est derrière.

Certains logiciels de détection, à l’instar d’Hiya ou d’InVID-WeVerify, attribuent un score de probabilité lorsqu’on leur soumet un contenu. Plus le score est élevé, plus il y a de chances que le contenu soit généré par IA. Mais gare aux faux positifs : certaines vidéos authentiques sont parfois détectées comme générées par IA. Pour éviter ce revirement, l’Agence France Presse (AFP) – qui a mis sur pied une formation pour repérer les contenus générés par IA plus facilement – conseille de faire tourner le logiciel de détection plusieurs fois pour confirmer le résultat, de séparer l’image du son pour analyser chaque flux avec des outils adaptés, et de ne pas trop compresser les fichiers, sous peine de rendre la détection impossible.

En cas de doute sur un faux négatif, rien ne vaut une recherche d’image inversée – une méthode bien connue des journalistes pour remonter à la source d’un contenu. « C’est une très bonne technique, convient Jeremy Carrasco, mais il est illusoire de croire que les internautes vont interrompre leur scroll pour passer plusieurs minutes à retracer l’origine d’une vidéo. Cela va totalement à l’encontre de nos habitudes de consommation sur les réseaux sociaux ».

Il n’empêche que ce travail de vérification devrait faire partie de notre « hygiène numérique », selon la journaliste Sofia Rubinson, qui recommande a minima de consulter le compte associé à une vidéo. « Si vous voyez le même type de contenu se répéter en masse sur un même profil, c’est souvent signe que l’IA est derrière chaque contenu posté. Ceux qui l’utilisent cherchent à gagner en visibilité et en engagement. Une fois qu’ils ont trouvé un bon filon, ils le reproduisent des milliers de fois », affirme-t-elle, citant en exemple les vidéos supposément enregistrées à partir de caméras de surveillance, qui ont fait un véritable buzz en ligne.

Chaque contenu, qu’il soit authentique ou synthétique, contient ce qu’on appelle des « méta-données » : des informations techniques comme le modèle de caméra, la date, le lieu ou les paramètres d’encodage, auxquelles s’ajoutent parfois des marqueurs qui indiquent explicitement qu’un contenu a été produit avec un outil d’IA

Mais cette méthode a deux limites majeures : beaucoup de vidéos générées par IA ne contiennent encore aucun marquage standardisé. Sans oublier que les métadonnées peuvent être facilement altérées ou supprimées lors d’un recadrage, d’une compression ou d’un montage, comme l’a observé le média américain CNET lors d’un test Midjourney.

La limite de tous ces conseils, c’est qu’ils n’offrent qu’un répit temporaire. Toute méthode permettant d’identifier une vidéo générée par IA est vouée à devenir rapidement obsolète, tant la technologie progresse vite. La tâche se complique même pour les journalistes, pourtant équipés d’outils performants. « À mesure que ces technologies continuent de s’améliorer, il est probable que la détection des contenus générés par IA devienne encore plus difficile, y compris pour les fact-checkeurs, alerte Sofia Rubinson, de chez Newsguard. C’est pourquoi nous encourageons les gens à être plus critiques face à ce qu’ils voient dans leurs fils d’actualités et à suivre de près les médias qui ont une rubrique dédiée au fact-checking (comme le service « Pixels » du Monde ou « Checknews » de Libération, ndlr)  ».