Google publie un plan pour vous protéger contre les menaces de l’IA

Le Secure AI Framework de Google s’intéresse aux menaces actuelles, pas à l’apocalypse de l’IA.

Alors que de plus en plus d’organisations se dirigent vers l’adoption de l’IA générative, Google veut que nous soyons tous plus préoccupés par la sécurité. À cette fin, le géant de la technologie a publié jeudi son Secure AI Framework (SAIF), censé être une sorte de feuille de route de sécurité, bien qu’un peu esquissée pour le moment.

Mais si vous imaginez qu’il s’agit d’un plan pour éviter le genre de péril existentiel de l’IA dont Elon Musk parle toujours, pensez plus petit et plus immédiat.

Voici un résumé des six « éléments de base » du cadre :

• Les éléments 1 et 2 concernent l’extension du cadre de sécurité existant d’une organisation pour inclure les menaces d’IA en premier lieu.

• L’élément 3 concerne l’intégration de l’IA dans votre défense contre les menaces de l’IA, ce qui évoque de manière assez inquiétante une course aux armements nucléaires, intentionnelle ou non.

• L’élément 4 concerne les avantages de sécurité de l’uniformité de vos « cadres de contrôle » liés à l’IA.

• Les éléments 5 et 6 consistent à inspecter, évaluer et tester en permanence vos applications d’IA pour s’assurer qu’elles peuvent résister aux attaques et ne vous exposent pas à des risques inutiles.

Il semble que pour l’instant, Google souhaite principalement que les organisations apportent des idées élémentaires de cybersécurité autour de l’IA. Comme l’a dit le responsable de la sécurité des informations de Google Cloud, Phil Venables, à Axios »Même si les gens recherchent des approches plus avancées, les gens doivent vraiment se rappeler que vous devez également avoir les bases. »

Mais il y a déjà des problèmes de sécurité nouveaux et uniques qui surgissent ici et maintenant avec des applications d’IA génératives comme ChatGPT.

Par exemple, les chercheurs en sécurité ont identifié un risque potentiel : les « injections rapides », une forme bizarre d’exploitation de l’IA dans laquelle une commande malveillante dirigée vers un plug-in de chatbot IA sans méfiance attend dans un bloc de texte. Lorsque l’IA scanne l’injection d’invite, elle change la nature de la commande donnée à l’IA. C’est un peu comme cacher un sinistre sort de contrôle mental dans le texte du téléprompteur de Ron Burgundy. Bizarre, non ?

Et les injections rapides ne sont qu’un des nouveaux types de menaces que Google dit spécifiquement qu’il espère aider à freiner. D’autres incluent:

• « Voler le modèle », une manière possible d’inciter un modèle de traduction à livrer ses secrets.

• « Empoisonnement des données », dans lequel un mauvais acteur sabote le processus de formation avec des données intentionnellement erronées.

• Construire des invites qui peuvent extraire le texte textuel potentiellement confidentiel ou sensible qui a été utilisé à l’origine pour former un modèle.

Article de blog de Google à propos de SAIF dit que le cadre est adopté par, eh bien, Google. Quant à ce que la publication d’un « cadre » signifie pour le reste du monde, cela pourrait n’aboutir à rien, mais cela pourrait aussi être adopté comme norme. Par exemple, le National Institute of Standards and Technology (NIST) du gouvernement américain a publié un cadre plus général pour la cybersécurité en 2014. Celui-ci visait à protéger les infrastructures critiques contre les cyberattaques, mais il est également très influent et reconnu comme l’étalon-or. en cybersécurité par la majorité des professionnels de l’informatique interrogés à ce sujet.

Google, cependant, n’est pas le gouvernement américain, qui met en doute l’autorité de son cadre aux yeux des rivaux de l’IA de Google, tels que OpenAI. Mais en matière de sécurité, il semble que Google essaie de mener de front dans l’espace de l’IA, au lieu de courir pour rattraper son retard. Peut-être que regagner une partie de l’influence qu’il a perdue au cours des premières phases de la course à l’IA est la véritable raison d’être de la sortie de SAIF.