L’industrie du commerce de détail est parmi les leaders de l’adoption générative de l’IA, mais un nouveau rapport met en évidence les coûts de sécurité qui l’accompagnent.
Selon la société de cybersécurité, NetSkope, le secteur de la vente au détail a pratiquement adopté la technologie, 95% des organisations utilisant désormais des applications d’IA génératrices. C’est un énorme bond à 73% il y a seulement un an, montrant à quelle vitesse les détaillants se précipitent pour éviter d’être laissé.
Cependant, cette ruée vers l’or AI est livrée avec un côté sombre. Alors que les organisations tissent ces outils dans le tissu de leurs opérations, ils créent une nouvelle surface massive pour les cyberattaques et les fuites de données sensibles.
Les résultats du rapport montrent un secteur en transition, passant de l’adoption précoce chaotique à une approche plus contrôlée et dirigée par l’entreprise. Il y a eu un décalage du personnel utilisant leurs comptes d’IA personnels, ce qui est plus que réduit de 74% à 36% depuis le début de l’année. À sa place, l’utilisation des outils Genai approuvées par l’entreprise a plus que doublé, passant de 21% à 52% dans le même délai. C’est un signe que les entreprises se réveillent aux dangers de «Shadow Ai» et essaient de maîtriser la situation.
Dans la bataille pour le bureau de vente au détail, Chatgpt reste King, utilisé par 81% des organisations. Pourtant, sa domination n’est pas absolue. Google Gemini a fait des percées avec une adoption de 60%, et les outils de copilote de Microsoft sont chauds sur ses talons à 56% et 51% respectivement. La popularité de Chatgpt a récemment connu sa toute première baisse, tandis que l’utilisation de Microsoft 365 Copilot a augmenté, probablement grâce à son intégration profonde avec les outils de productivité que de nombreux employés utilisent tous les jours.
Sous la surface de cette génération d’adoption de l’IA par l’industrie du commerce de détail se trouve un cauchemar de sécurité croissant. La chose même qui rend ces outils utiles – leur capacité à traiter les informations – est également leur plus grande faiblesse. Les détaillants voient des quantités alarmantes de données sensibles qui leur sont introduites.
Le type de données le plus courant exposé est le propre code source de l’entreprise, représentant 47% de toutes les violations de la politique de données dans les applications Genai. Les données réglementées sont clôturées, comme les informations confidentielles des clients et des entreprises, à 39%.
En réponse, un nombre croissant de détaillants interdisent simplement les applications qu’ils jugent trop risquées. L’application qui se trouve le plus fréquemment sur la liste de blocs est Zerogpt, avec 47% des organisations qui l’interdisent au sujet des préoccupations, il stocke le contenu des utilisateurs et a même été surpris à rediriger les données vers des sites tiers.
Cette nouvelle prudence pousse l’industrie du commerce de détail vers des plates-formes d’IA génératrices plus sérieuses et de qualité d’entreprise des principaux fournisseurs de cloud. Ces plateformes offrent un contrôle beaucoup plus important, permettant aux entreprises d’héberger des modèles en privé et de créer leurs propres outils personnalisés.
Openai via Azure et le fondement d’Amazon sont à égalité pour la tête, chacun étant utilisé par 16% des sociétés de vente au détail. Mais ce ne sont pas des balles d’argent; Une mauvaise configuration pourrait connecter par inadvertance une puissante IA directement aux joyaux de la couronne d’une entreprise, créant le potentiel d’une violation catastrophique.
La menace n’est pas seulement des employés utilisant l’IA dans leurs navigateurs. Le rapport révèle que 63% des organisations se connectent désormais directement à l’API d’Openai, en intégrant l’IA profondément dans leurs systèmes backend et leurs flux de travail automatisés.
Ce risque spécifique à l’IA fait partie d’un schéma plus large et troublant d’hygiène de sécurité des nuages. Les attaquants utilisent de plus en plus des noms de confiance pour fournir des logiciels malveillants, sachant qu’un employé est plus susceptible de cliquer sur un lien à partir d’un service familier. Microsoft Onedrive est le coupable le plus courant, avec 11% des détaillants frappés par des logiciels malveillants de la plate-forme chaque mois, tandis que le Hub Github du développeur est utilisé dans 9,7% des attaques.
Le problème de longue date des employés utilisant des applications personnelles au travail continue de verser du carburant sur le feu. Les sites de médias sociaux comme Facebook et LinkedIn sont utilisés dans presque tous les environnements de vente au détail (96% et 94% respectivement), ainsi que des comptes de stockage cloud personnel. C’est sur ces services personnels non approuvés que les pires violations de données se produisent. Lorsque les employés téléchargent des fichiers sur des applications personnelles, 76% des violations de la politique résultantes impliquent des données réglementées.
Pour les leaders de la sécurité dans le commerce de détail, l’expérimentation de l’IA génératrice occasionnelle est terminée. Les conclusions de Netskope sont un avertissement que les organisations doivent agir de manière décisive. Il est temps de gagner entièrement la visibilité de tous les trafics Web, de bloquer les applications à haut risque et d’appliquer des politiques de protection des données strictes pour contrôler les informations qui peuvent être envoyées où.
Sans une gouvernance adéquate, la prochaine innovation pourrait facilement devenir la prochaine violation de fabrication des gros titres.
