S'il y a une chose que nous devons garder à l'esprit lorsque nous interagissons avec des intelligences artificielles génératives (IA) comme ChatGPT , c'est que tout ce que nous partageons avec elles sera ensuite stocké et utilisé pour former davantage le modèle ( c'est ainsi que Bing Chat fonctionne ). Certains employés de Samsung l'ont découvert à leurs dépens , qui ont partagé des secrets d'entreprise avec le populaire bot, et le géant coréen s'est immédiatement mis à l'abri en interdisant son utilisation . Mais que s'est-il passé exactement ? Jusqu'à il y a quelques jours, Samsung autorisait ses employés à utiliser ChatGPT pour vérifier le code source , mais début avril, certains ingénieurs de la division des semi-conducteurs de Samsung ont divulgué des informations sensibles. Selon The Economist Korea, trois cas ont été détectés. Dans l'un, un employé a collé un code source confidentiel dans le chat pour vérifier les erreurs. Dans un autre, nous avons partagé du code avec ChatGPT pour l' optimiser. Un troisième a partagé un enregistrement de réunion à convertir en notes pour une présentation. Toutes les informations sont maintenant disponibles sur ChatGPT pour la formation.

Bloomberg révèle qu'à la suite de ces incidents, Samsung n'a pas tardé à imposer des limites à l'utilisation de l'IA par les employés. En fait, la crainte est que les données ne soient pas seulement stockées sur des serveurs externes, ce qui les rend difficiles à récupérer et à supprimer, mais qu'elles finissent par être divulguées à d'autres utilisateurs. Les nouvelles règles de Samsung interdisent l'utilisation de systèmes d'IA générative sur les ordinateurs, tablettes et téléphones appartenant à l'entreprise, ainsi que sur ses réseaux internes , mais pas sur les appareils de l'entreprise vendus aux consommateurs. Sanction, licenciement. Le correctif n'est que temporaire, car le géant coréen crée également ses propres outils d'IA internes pour la traduction et la synthèse de documents , ainsi que le développement de logiciels , ainsi que des moyens de bloquer le téléchargement d'informations d'entreprise, selon Bloomberg. prestations extérieures.

Le fait intéressant est que les craintes de Samsung sont partagées non seulement parmi ses employés (une enquête interne de l'entreprise rapporte que 65 % des employés considèrent l'IA générative comme une menace pour la sécurité), mais aussi parmi de nombreuses grandes entreprises. En fait, avant que Samsung , JPMorgan Chase & Co., Bank of America Corp. et Citigroup Inc n'interdisent l'utilisation de l'IA pour leurs employés, une interdiction qui se poursuit malgré le mois dernier ChatGPT a ajouté un mode "incognito" qui permet d'empêcher l' utilisation des chats pour la formation de modèle. En bref, il semble que les grandes entreprises ne soient pas encore prêtes à affronter cette nouvelle ère d'interaction étroite avec l'IA , mais qu'elle nous sert à tous d'avertissement la prochaine fois que nous interagissons avec ChatGPT.