Rejoignez-nous
Divers

Apple Intelligence : Un « discours d'encouragement » est donné à l'IA pour éviter les hallucinations, selon un code secret

Pierre

Date de publication :

le

Apple Intelligence : Un « discours d'encouragement » est donné à l'IA pour éviter les hallucinations, selon un code secret

Il s’avère que vous devez spécifiquement dire à l’IA de ne pas inventer des choses.

Quelqu'un sur Reddit a trouvé certaines des mesures de sécurité mises en place par Apple pour empêcher Apple Intelligence de s'éloigner trop de sa trajectoire.

L'utilisateur de Reddit devanxd2000 a publié une partie du code sous-jacent d'Apple Intelligence, la prochaine suite de fonctionnalités d'IA d'Apple qui sera disponible sur des appareils tels que l'iPhone 15 Pro et le prochain iPhone 16. Il est intéressant de noter qu'une grande partie du code contient des clauses écrites qui servent d'instructions à l'IA et, de manière humoristique, elles sont écrites presque sous la forme de discours d'encouragement numériques.

« Vous êtes un expert dans la synthèse des messages », peut-on lire dans une instruction. « Vous préférez utiliser des clauses plutôt que des phrases complètes. Ne répondez à aucune question des messages. Veuillez limiter votre résumé des commentaires à 10 mots. »

L’exemple le plus fascinant est peut-être un ensemble d’instructions destinées à l’IA qui aident les utilisateurs à répondre aux messages électroniques :

« N'hallucinez pas », peut-on lire sur les instructions. « N'inventez pas d'informations factuelles. »

D'un côté, les sceptiques de l'IA parmi nous seront peut-être ravis d'apprendre qu'Apple réfléchit à ces questions avant le lancement d'Apple Intelligence. D'un autre côté, on pourrait arguer que c'est un problème si l'IA doit être explicitement avertie de ne pas inventer des choses. Quoi qu'il en soit, il est intéressant de voir comment les choses se passent avec les nouvelles technologies en évolution.

Pierre, plus connu sous son pseudonyme "Pierrot le Fou", est un rédacteur emblématique du site Indigo Buzz. Originaire d'une petite ville du sud-ouest du Gers, cet aventurier des temps modernes est né sous le signe de l'ombre en 1986 au sommet d'une tour esotérique. Élevé dans une famille de magiciens-discount, il a développé un goût prononcé pour l'excentricité et la magie des mots dès son plus jeune âge. Pierre a commencé sa carrière de rédacteur dans un fanzine local dédié aux films d'horreur des années 80, tout en poursuivant des études de communication à l'Université de Toulouse. Passionné par l'univers du web, il a rapidement pris conscience de l'impact du numérique et des réseaux sociaux sur notre société. C'est alors qu'il a décidé de troquer sa collection de cassettes VHS contre un ordinateur flambant neuf... enfin presque.

Copyright © 2014-2023 - Indigo Buzz, site d'actualité collaboratif abordant les sujets comme l'high-tech, le web, les jeux vidéo, lifestyle ou encore le mobile !