OpenAI travaille sur un outil pour détecter les images générées par l’IA DALL-E 3
Un « classificateur de provenance » est en préparation.
OpenAI travaille sur un outil pour vérifier les images créées par DALL-E 3, son générateur d’images AI.
Mardi, lors de l’événement Tech Live du Wall Street Journal, Mira Murati, directrice technique d’OpenAI, a déclaré que la société développait une technologie permettant d’identifier si une image est créée par DALL-E 3. L’outil est « fiable à près de 99 % », a déclaré Murati sur scène. entretien. Mais il est encore en cours de tests internes. Murati n’a partagé aucun détail sur la sortie d’un tel outil, mais la page DALL-E 3 sur le site Web d’OpenAI indique que plus d’informations sur l’outil, appelé « classificateur de provenance », seraient bientôt partagées.
Les progrès de l’imagerie générée par l’IA ont accru les inquiétudes concernant la propagation de la désinformation et des deepfakes. Des outils tels que DALL-E 3 (disponible pour les utilisateurs de ChatGPT Plus), Midjourney, Stable Diffusion, Adobe Firefly et le générateur d’images IA de Shutterstock – même des chatbots gratuits comme Bing Image Creator et SGE de Google – sont, ou seront bientôt, capables de créer des images photoréalistes. Les entreprises qui proposent ces outils se protègent contre les comportements nuisibles en ajoutant des filigranes ou en empêchant les utilisateurs de créer des images avec des personnes célèbres ou d’utiliser des informations personnelles identifiables.
Les deepfakes semblent déjà si réalistes que leur propagation peut avoir de réelles conséquences. Une fausse image du Pentagone en feu a provoqué une baisse momentanée du marché boursier en mai dernier. Début octobre, l’acteur Tom Hanks a posté sur Instagram qu’il n’avait rien à voir avec un deepfake le montrant faisant la promotion d’un régime de soins dentaires. Ce qui était auparavant considéré comme un problème hypothétique est devenu une réalité, et nous avons besoin d’outils et de garanties pour garantir que les deepfakes ne deviennent pas une menace majeure.
