Snapchat va désormais filigraner les images générées par l'IA des utilisateurs
Un spectre sournois d’IA ornera bientôt vos Snaps.
Les utilisateurs de Snapchat verront désormais une image fantomatique survoler leurs images générées par l'IA, alors que Snapchat rejoint d'autres grandes entreprises technologiques utilisant la technologie de filigrane pour lutter contre la désinformation et les deepfakes de l'IA.
Les images créées à l'aide des outils d'IA de Snapchat, comme l'outil d'extension de l'application et sa fonctionnalité Dreams récemment lancée, seront estampillées d'un filigrane transparent (le logo fantôme de Snapchat) une fois exportées ou téléchargées depuis l'application. Les utilisateurs recevant des images générées par l'IA peuvent également voir le logo fantôme et l'icône IA « scintillante » de l'application.
Actuellement, Snapchat marque le contenu généré par l'IA, y compris les conversations textuelles avec son chatbot My AI, de différentes manières. Les images créées à l'aide de Dreams sont accompagnées d'une « carte contextuelle » qui explique la fonctionnalité et l'IA générative. Mes conversations IA et l'outil d'extension utilisent des icônes « contextuelles », comme le symbole scintillant, pour
« Nous prenons également grand soin de contrôler toutes les publicités politiques par le biais d'un processus d'examen humain rigoureux, y compris une vérification approfondie de toute utilisation trompeuse du contenu, y compris l'IA pour créer des images ou du contenu trompeurs », a écrit la plateforme. « L'ajout de ces filigranes aidera à informer ceux qui la regardent que l'image a été réalisée avec l'IA sur Snapchat. »
Parallèlement au nouvel outil de transparence, Snapchat s'est également engagé à poursuivre ses efforts d'alphabétisation en matière d'IA. Jusqu’à présent, cela implique simplement une FAQ générative sur l’IA disponible sur son site d’assistance.
« Bien que tous nos outils d'IA, tant textuels que visuels, soient conçus pour éviter de produire du matériel incorrect, nuisible ou trompeur, des erreurs peuvent toujours se produire », a écrit la société. « Les Snapchatters sont en mesure de signaler du contenu et nous apprécions ces commentaires. »
Les organismes de surveillance de l'IA affirment cependant que la technologie de filigrane n'est pas une solution infaillible, même si les grands acteurs de la technologie y fondent leurs paris côté utilisateur.
En février, OpenAI a annoncé qu'il ajouterait des filigranes de métadonnées aux images générées par DALL-E 3. Google a lancé son SynthID, un outil qui ajoute des filigranes tout aussi invisibles aux images d'IA, en août. Youtube, quant à lui, impose des sanctions aux utilisateurs qui n'utilisent pas son système d'étiquetage pour les contenus modifiés numériquement.
