Google I/O : Google annonce un nouveau cadre de sécurité pour une IA responsable
L'équipe rouge de Google s'attaque à la désinformation et à la cybersécurité.
Alors que Google positionne son IA générative améliorée comme enseignant, assistant et gourou des recommandations, l'entreprise tente également de faire de ses modèles le pire ennemi des mauvais acteurs.
« Il est clair que l'IA aide déjà les gens », a déclaré James Manyika, vice-président senior de la recherche, de la technologie et de la société de Google, devant le public présent à la conférence Google I/O 2024 de l'entreprise. « Pourtant, comme pour toute technologie émergente, il existe toujours des risques, et de nouvelles questions surgiront à mesure que l'IA progresse et que ses utilisations évoluent. »
Manyika a ensuite annoncé la dernière évolution de l'entreprise en matière de red teaming, un processus de test standard de l'industrie pour détecter les vulnérabilités de l'IA générative. La nouvelle « équipe rouge assistée par l'IA » de Google entraîne plusieurs agents d'IA à rivaliser les uns avec les autres pour détecter les menaces potentielles. Ces modèles entraînés peuvent alors identifier plus précisément ce que Google appelle « les incitations contradictoires » et limiter les résultats problématiques.
Ce processus constitue le nouveau plan de l'entreprise visant à créer une IA plus responsable et plus humaine, mais il est également présenté comme un moyen de répondre aux préoccupations croissantes concernant la cybersécurité et la désinformation.
Les nouvelles mesures de sécurité intègrent les commentaires d'une équipe d'experts issus de la technologie, du monde universitaire et de la société civile, a expliqué Google, ainsi que ses sept principes de développement de l'IA : être socialement bénéfique, éviter les préjugés, construire et tester la sécurité, la responsabilité humaine, la confidentialité. conception, maintien de l’excellence scientifique et accessibilité publique. Grâce à ces nouveaux efforts de test et à des engagements à l'échelle de l'industrie, Google tente de mettre le produit là où sont ses paroles.
