👩💻 Depuis l’annonce de la mise en service de Chat GPT en novembre 2022,et déjà upgradé dans une version améliorée, GPT-4, l’intelligence artificielle fait grand bruit. Tout le monde en parle, l’essaie et s’en amuse. Mais qu’en est-il de la sécurité informatique lors de son utilisation ?
👉 Nous nous sommes penchés sur la question et voici ce qu’il en ressort :
1) les cybercriminels se sont rapidement emparés des agents conversationnels à base d’IA comme ChatGPT pour améliorer leurs attaques, car ils y ont trouvé une aide précieuse auprès des salariés. En effet, ceux-ci auraient la fâcheuse tendance à transmettre des données sensibles ou stratégiques de leur société 😱 dans leurs requêtes. (source LMI https://lnkd.in/eXkxqvh6)
2) En terme de statistiques, l’éditeur a constaté sur un échantillon de 100 000 personnes (du 19 au 25 février 2023) 43 fuites de dossiers sur des projets confidentiels ou réglementés (document de planification d’acquisition d’un terrain pour construire un parc à thème), 130 fuites de données client (contenu d’un document envoyé à un cabinet d’avocats par son client). Il y a aussi 119 fuites de code source (code utilisé dans une application de médias sociaux qui doit être modifié pour changer de fonctionnalité) ou 150 fuites de données confidentielles ☠ (un mémo discutant de la manière de gérer une action réglementaire à venir de la part du gouvernement).
🧐 Imaginez un médecin, qui, dans sa requête, demande à l’IA de rédiger son compte-rendu d’examen en incluant le nom de son patient… N’importe quel quidam pourrait ensuite lancer une recherche sur le nom de ce patient pour connaître ses problèmes de santé. Vous imaginez alors aisément ce que GPT-4 pourrait faire avec les éléments de requêtes de vos salariés ( priorités stratégiques de votre entreprise, procédures, état des finances en cas de demandes de financement…).
🏴☠️ Idem pour les phishings, qui sont de plus en plus élaborés et personnalisés en fonction de leurs cibles, grâces aux AI notamment.
3) Pour remédier à ce risque, certaines entreprises ont décidé d’alerter ou de restreindre l’accès au chatbot à base d’IA. Il sera peut-être nécessaire de sensibiliser vos collaborateurs à cette problématique nouvelle. 🚩
👉 Et vous, avez vous déjà utilisé le nouveau chatbot ?
Si vous avez besoin d’aide pour sécuriser vos systèmes informatiques, pensez à nous 😉