Les entreprises sont confrontées au défi de minimiser les risques du Shadow AI tout en exploitant pleinement les outils de GenAI. La solution consiste à utiliser des outils autorisés qui, associés à des mesures de déploiement ciblées, créent un environnement de travail sûr et efficace.
Résumé de l’article
Quels sont les risques du Shadow AI?
- Les employés utilisent de plus en plus des outils de génération d’IA non autorisés (Shadow AI), ce qui met en danger la confidentialité des données, la conformité et la réputation de l’entreprise.
- Ces outils stockent des données sensibles et les utilisent pour l’entraînement.
Quelles sont les raisons de cette utilisation imprudente?
- Les outils de génération d’IA sont facilement accessibles, parfois gratuits et conviviaux.
- L’«empathie» apparente de l’IA favorise la confiance, alors que les outils collectent et stockent des données en continu.
La solution: utiliser des outils de génération d’IA autorisés
- Les entreprises devraient offrir à leurs employés des outils éprouvés et sécurisés comme Microsoft 365 Copilot Chat.
- Ces outils répondent aux exigences de confidentialité et de conformité.
Pourquoi le déploiement réussi de l’IA générative nécessite plus que de la technologie
- Le déploiement technologique seul ne suffit pas – la gestion du changement et le suivi actif des employés sont essentiels.
- La sensibilisation et la formation favorisent l’utilisation sécurisée.
Découvrir l’univers de Microsoft 365 Copilot avec Swisscom
Nous proposons aux entreprises un soutien complet autour de Microsoft 365 Copilot. Nous vous accompagnons lors de l’introduction et élaborons avec vous des scénarios d’utilisation.
L’utilisation d’outils de GenAI sans l’accord du service informatique, que l’on désigne également de «Shadow AI» ou «Bring Your Own AI» (BYOAI), met en danger la sécurité des données et la conformité des entreprises, et donc également leur réputation. En effet, les applications non autorisées n’offrent pas une protection suffisante des données personnelles et d’entreprise sensibles.
Dans de tels cas, le service informatique n’a aucun contrôle sur les données, ce qui peut entraîner une multitude de problèmes. Par exemple, les fournisseurs d’outils de GenAI non autorisés utilisent ces données pour entraîner leurs modèles d’IA sur des plateformes non sécurisées à l’étranger, avec des accords de protection des données insuffisants. Des personnes non autorisées peuvent également accéder aux données.
Forte augmentation du Shadow AI
Avec l’utilisation croissante de l’intelligence artificielle, le risque du Shadow AI augmente également. Selon le Microsoft Work Trend Index 2024, 80% des personnes utilisant la GenAI recourent déjà à leurs propres outils sur leur lieu de travail. Il est important de comprendre que les technologies d’IA sont soumises aux mêmes réglementations que les autres processus de traitement des données, en particulier lorsqu’il s’agit de données à caractère personnel. Cela souligne la nécessité pour les entreprises de renforcer leurs départements informatiques et de s’assurer qu’elles fournissent à leur personnel des outils de GenAI autorisés, c’est-à-dire des outils de GenAI gérés, conformes et sécurisés.
Pourquoi sommes-nous négligents dans notre utilisation des outils de GenAI?
Pourquoi de nombreuses personnes utilisent-elles divers outils de GenAI et ne semblent pas conscientes des dangers? Des facteurs tels que des mesures de commercialisation ciblées, l’indisponibilité d’outils adaptés dans les entreprises et la méconnaissance de thèmes tels que la protection des données, la conformité et l’intelligence artificielle, conduisent à une utilisation négligente de la technologie, et en particulier de la GenAI. En outre, deux autres aspects jouent un rôle important: la facilité d’accès et l’apparente empathie de l’IA.
Accès facile et gratuit: les outils de GenAI sont faciles d’accès sur le web, semblent ne rien coûter et sont extrêmement conviviaux. Bref, ils sont très pratiques. En effet, il est possible d’y saisir rapidement une question et les réponses sont générées tout aussi immédiatement, ce qui conduit à de petites victoires qui nous accompagnent tout au long de notre quotidien professionnel. Dans ces moments-là, on pense avant tout à l’efficacité qui en résulte, et non à la protection des données. Mais lorsque des outils sont offerts gratuitement, il est important de comprendre que les données collectées font partie du modèle commercial des fournisseurs.
L’IA, une assistante amicale et empathique: les outils de GenAI donnent l’impression d’être des assistants patients, extrêmement amicaux et empathiques, dans un contexte parfois stressant de travail au bureau. Ses réussites rapides et l’expérience utilisateur positive renforcent la relation parasociale et la confiance dans les outils de GenAI. Mais nous oublions souvent qu’ils recueillent et stockent continuellement les données que nous saisissons. On a alors le sentiment que nos interactions avec eux resteront sans conséquence. Cette hypothèse conduit à des prises de risque considérables, en particulier dans un contexte commercial.
Outils de GenAI autorisés pour les entreprises suisses
Compte tenu des défis réels posés par l’utilisation non autorisée d’outils d’IA, la solution réside dans des outils dotés de fonctions intégrées de sécurité et de conformité. Les LLM (Large Language Models) gérés par le service informatique offrent une protection fiable au sein de l’environnement de l’entreprise et constituent des contre-mesures efficaces face au Shadow AI. Ils offrent des normes élevées de protection des données et peuvent être contrôlés par le service informatique, qu’il soit interne ou externe, lorsqu’ils sont utilisés correctement, ce qui garantit le respect des politiques de l’entreprise en matière de sécurité des données et de conformité.
Microsoft a identifié ce défi et propose deux solutions: Microsoft 365 Copilot Chat et Microsoft 365 Copilot, une solution intégrée plus profondément dans les données d’entreprise. Les deux variantes sont accessibles aux clients commerciaux disposant d’un abonnement Microsoft 365. Copilot Chat peut même être utilisé sans aucun coût supplémentaire. Les deux options offrent au service informatique interne un contrôle complet sur les données de l’entreprise et réduisent les risques de Shadow AI.
Qu’est-ce que Microsoft 365 Copilot Chat?
Copilot Chat est un chat sécurisé et conforme qui remplace l’utilisation non autorisée de ChatGPT et autres fournisseurs de services d’IA. Il permet au personnel de travailler facilement et efficacement avec la GenAI sans licence supplémentaire payante. Les entreprises bénéficient ainsi d’un chat sécurisé et conforme, sans qu’elles aient besoin d’obtenir d’autres licences. Le personnel peut utiliser le chat via le navigateur web ou l’application Microsoft 365 Copilot en se connectant avec leur compte professionnel.
Fonctions
Copilot Chat offre, en plus des prompts textuels et vocaux, une multitude de fonctions telles que la génération d’images avec le Visual Creator. Il est également possible de télécharger et de rechercher des fichiers dans le contexte de son travail. Si une intégration encore plus poussée dans les produits Office et les données d’entreprise est nécessaire, par exemple pour résumer les réunions tenues sur Teams, il est alors nécessaire de souscrire Microsoft 365 Copilot dans sa version complète, une licence supplémentaire payante qui va au-delà de ce qu’offre la seule solution Microsoft 365 Copilot Chat.
Ce à quoi vous devez faire attention lors de l’introduction d’outils de GenAI
Les avantages de Copilot Chat ou de Copilot dans sa version complète se révèlent entièrement dès lors que leur introduction n’est pas réduite à une mise en œuvre purement technique. Il s’agit plutôt de combler l’écart entre le potentiel technologique et l’utilisation effective, le mot-clé étant le change management. Les entreprises y parviennent lorsqu’elles accompagnent et soutiennent activement leur personnel lors de l’introduction des outils et de leur utilisation.
Promouvoir l’utilisation d’outils autorisés
Pour réduire les risques du Shadow AI et promouvoir l’utilisation d’outils de GenAI autorisés, trois mesures interdépendantes sont essentielles:
1. Un outil adapté
Les applications avec des directives de sécurité et de conformité intégrées réduisent les risques dès leur introduction dans l’entreprise. Le Shadow AI indique que nous devons réapprendre et intérioriser la bonne gestion de la protection des données et de la conformité. Les entreprises doivent considérer cela comme une opportunité et créer un environnement de travail reposant sur une main-d’œuvre bien formée.
2. Accompagnement actif du personnel
Cela comprend la sensibilisation à la sécurité des données et à la conformité ainsi que des formations ciblées sur l’utilisation pratique des outils de GenAI. De telles mesures sont nécessaires pour exploiter pleinement leur potentiel technologique et s’assurer que le personnel utilise la GenAI de manière rentable et responsable.
3. Expertise
Swisscom dispose du degré de spécialisation le plus élevé possible pour Microsoft 365 et l’a acquis grâce à son expérience pratique prouvée par une procédure de certification exigeante. Sa clientèle bénéficie ainsi d’une véritable longueur d’avance en matière d’introduction efficace et d’intégration sécurisée de solutions Microsoft dans leurs processus de travail existants.
Sortir de l’ombre
Dès que des données sensibles sont saisies dans des outils non autorisés, leur sécurité n’est plus garantie et tout retour en arrière est alors impossible. Il est donc d’autant plus important de mettre à la disposition du personnel des outils de GenAI sûrs en plus des mesures de sensibilisation et de formation. Avec les deux variantes Copilot Chat et Microsoft 365 Copilot, les entreprises peuvent utiliser des outils de GenAI adaptés avec des paramètres de sécurité et de conformité intégrés.
Découvrir l’univers de Microsoft 365 Copilot avec Swisscom
Nous proposons aux entreprises un soutien complet autour de Microsoft 365 Copilot. Nous vous accompagnons lors de l’introduction et élaborons avec vous des scénarios d’utilisation.
