La « shadow IA » menace la sécurité des données des entreprises

17 juillet 2024 | Cybersécurité

Temps de lecture : 2 minutes

Photo : Flickr

La « shadow IA » menace la sécurité des données des entreprises

par | Cybersécurité

Les employés adoptent massivement l’intelligence artificielle générative, mais souvent en dehors de tout cadre établi. Une étude récente alerte sur ce phénomène qui impose une nouvelle approche de gestion des risques

Une révolution en marche ? L’adoption des Intelligences artificielles (IA) génératives progresse à grands pas, en particulier auprès des employés. Réalisée par Arctus, une société spécialisée dans la transformation digitale, la deuxième édition de l’Observatoire du travail hybride et augmenté 2024 met en exergue ce phénomène : 70 % des personnes interrogées (issus de 477 entreprises) utilisent des outils d’IA générative. Problème : seulement 33 % de ces outils sont mis à disposition par les entreprises elles-mêmes, ce qui entraîne des risques significatifs en matière de sécurité des données.

Fragilisation de la sécurité des systèmes, fuite de données…

De fait, cet usage informel des outils d’IA, ou « shadow IA », peut entraîner des fuites de données confidentielles alertent les auteurs de l’étude. En 2023, des employés de Samsung avaient ainsi involontairement divulgué des informations sensibles de la firme coréenne en utilisant ChatGPT sur leur lieu de travail. Ce genre d’incident pourrait se multiplier à l’avenir, facilité par l’accès aisé aux outils, lequel augmente non seulement les risques d’exfiltration de données et les surfaces d’attaques, mais complique également la sécurisation des systèmes. De plus, l’utilisation de divers outils d’IA expose à un risque de ré-identification de personnes à partir de données anonymisées, compromettant là encore la confidentialité de ces données, mais aussi la sécurité des utilisateurs.

Certaines entreprises prennent conscience du problème. L’étude souligne qu’environ une sur deux sensibilise ses collaborateurs à l’utilisation des IA. Cependant, peu d’entre elles ont mis en place des règles d’utilisation claires. L’avenir est donc au développement de politiques d’utilisation robustes pour encadrer l’usage de ces technologies. D’autant plus que si 30 % des répondants n’utilisent pas encore l’IA générative, 63 % anticipent un usage régulier à quotidien d’ici deux ans. Les principales utilisations de l’IA générative incluent les recherches approfondies, les traductions et la production de textes, la génération d’images ou de vidéos restant marginale.

Lire aussi sur L’Essor de la Sécurité : Cybersécurité : l’appétit du fonds américain Thoma Bravo inquiète le Cesin

Pour les auteurs de l’étude, l’enjeu réside au niveau managérial, un échelon qui peine à se transformer malgré l’effet conjugué du télétravail et de la transformation digitale sur le quotidien des organisations. « L’adaptation des managers au télétravail n’est satisfaisante que dans une entreprise sur deux (53 %), traduisant sans doute que les entreprises n’ont pas fini leur évolution vers cette nouvelle organisation. Les managers devront également adopter de nouvelles pratiques avec l’hybridation du travail avec l’IA et l’augmentation des technologies dans le travail. »

Auteur / autrice

La Lettre Conflits

La newsletter de l’Essor de la Sécurité

Voir aussi