Oups, les employés de Samsung ont accidentellement divulgué des secrets commerciaux via ChatGPT

ChatGPT ne garde pas de secrets.

N’oubliez jamais que tout ce que vous partagez avec ChatGPT est conservé et utilisé pour former davantage le modèle. Les employés de Samsung l’ont appris à leurs dépens après avoir accidentellement divulgué des données Samsung top secrètes.

Les employés de Samsung ont accidentellement partagé des informations confidentielles en utilisant ChatGPT pour obtenir de l’aide au travail. La division des semi-conducteurs de Samsung a permis aux ingénieurs d’utiliser ChatGPT pour vérifier le code source.

Mais The Economist Korea a rapporté trois cas distincts d’employés de Samsung qui divulguent involontairement des informations sensibles à ChatGPT. Dans un cas, un employé a collé le code source confidentiel dans le chat pour vérifier les erreurs. Un autre a utilisé du code partagé avec ChatGPT et « a demandé l’optimisation du code ». Un troisième a partagé un enregistrement d’une réunion à convertir en notes pour une présentation. Ces informations sont maintenant disponibles dans la nature pour que ChatGPT puisse s’en nourrir.

La fuite est un exemple concret de scénarios hypothétiques qui inquiètent les experts en confidentialité. D’autres scénarios incluent le partage de documents juridiques confidentiels ou d’informations médicales dans le but de résumer ou d’analyser de longs textes, qui pourraient ensuite être utilisés pour améliorer le modèle. Les experts avertissent qu’il pourrait violer la conformité GDPR, c’est pourquoi l’Italie a récemment interdit ChatGPT.

Samsung a pris des mesures immédiates en limitant la capacité de téléchargement de ChatGPT à 1024 octets par personne et enquête sur les personnes impliquées dans la fuite. Il envisage également de créer son propre chatbot IA interne pour éviter de futurs accidents embarrassants. Mais il est peu probable que Samsung se souvienne de l’une de ses données divulguées. Politique de données de ChatGPT dit qu’il utilise des données pour former ses modèles, sauf si vous demandez à vous désinscrire. Dans le guide d’utilisation de ChatGPT, il avertit explicitement les utilisateurs de ne pas partager d’informations sensibles dans les conversations.

Considérez ceci comme un récit édifiant à retenir la prochaine fois que vous vous tournerez vers ChatGPT pour obtenir de l’aide. Samsung le fera certainement.