La voie vers une organisation axée sur l’IA

L’intelligence artificielle (IA), en particulier la GenAI (IA générative), et l’analyse des données représentent des moteurs décisifs de la transformation numérique. Christof Zogg, Head of Business Transformation, et Anne-Sophie Morand, Data Gouvernance Counsel, employés chez Swisscom, expliquent les facteurs de réussite pour mener la transition vers une organisation axée sur l’IA.

Où en sont les entreprises suisses en matière d’IA et d’analyse de données?

Christof Zogg: Il n’existe pas de tableau homogène, mais on peut dire que la tendance est la suivante, comme nous l’avons notamment constaté dans une étude de marché réalisée conjointement avec la HWZ (PDF en allemand): Les entreprises suisses sont à peu près au même stade dans l’introduction de l’IA générative (38%) que dans l’utilisation systématique de l’analyse des données (35%). Les grandes entreprises sont en moyenne plus avancées que les PME. Et certains secteurs comme les banques, les assurances, l’industrie et le commerce ont plus d’avance que d’autres. Mais le facteur le plus important reste le suivant: les entreprises innovantes, quelles que soient leur taille et leur secteur d’activité, misent de manière plus cohérente et plus rapide sur la data et l’IA et peuvent donc en tirer un plus grand profit en termes de compétitivité.

Comment la compétitivité de la data et de l’IA se manifeste-t-elle actuellement?

Christof Zogg: Jusqu’à présent, les entreprises pouvaient déjà tirer profit d’une analyse de données professionnelle en maîtrisant mieux leurs activités, par exemple, grâce à des tableaux de bord de gestion complets, ce qui leur permettait d’acquérir un avantage concurrentiel décisif en termes de connaissances critiques pour l’entreprise. Les toutes dernières méthodes d’IA permettent d’accroître ces avantages, notamment dans le domaine de la prévision (comme la maintenance prédictive dans l’entretien de l’infrastructure) ou de l’identification de modèles (comme l’apprentissage non supervisé dans la segmentation de la clientèle). Ces applications supposent toutefois un haut degré de maturité des plateformes de données propres à l’entreprise. Cependant, toutes les entreprises peuvent désormais profiter des modèles génératifs linguistiques et multimodaux, car la lourde charge de la fourniture de données a été en grande partie accomplie par les opérateurs de modèles tels qu’OpenAI ou Google.

Dans quelle mesure l’automatisation des processus avec le soutien de GenAI a-t-elle un potentiel de transformation? Quel rôle jouent les agents d’IA à cet égard?

Christof Zogg: Dans l’idéal, la numérisation et l’automatisation conduisent toujours à une amélioration de l’efficacité ou de la qualité, quelle que soit la technologie utilisée. Il suffit de penser à tous les exemples dans le domaine du libre-service, comme l’achat de billets numériques dans les transports publics, la commande de documents auprès de l’administration publique (eGovernment) ou la numérisation manuelle de marchandises dans le commerce de détail.

L’intelligence artificielle générative (GenAI) apporte de nouvelles capacités puissantes qui permettent d’automatiser des processus jusqu’alors réservés aux humains. Il s’agit notamment de compétences rédactionnelles (rédaction de courriels de réponse pour le Service client), de traitement et d’analyse de textes (résumé et structuration des entretiens médicaux d’admission) ou de compréhension des images (catégorisation des documents fiscaux).

«L’intelligence artificielle générative apporte de nouvelles capacités puissantes qui permettent d’automatiser des processus jusqu’alors réservés aux humains.»

Christof Zogg, Head of Business Transformation chez Swisscom

Les agents étendent l’IA générative à des compétences opérationnelles et décisionnelles actives. Outre le traitement de contenu, elle peut ainsi accéder de manière autonome à des environnements (par exemple les systèmes d’entreprise) et réaliser des actions, comme analyser une demande client par e-mail et ouvrir automatiquement un dossier dans le Customer Service Management. Ou, si cette demande est incomplète et peu claire, envoyer automatiquement un e-mail de clarification au client.

Une culture des données forte est indispensable à l’implémentation des technologies d’IA. Comment peut-on la promouvoir dans les entreprises?

Christof Zogg: La promotion d’une culture des données commence par la reconnaissance par une entreprise de la pertinence et de la valeur de ses propres données. Puis, elle doit comprendre que les données ne doivent pas être stockées dans des silos organisationnels, mais qu’elles doivent être mises à la disposition de toute l’entreprise via un catalogue de données, bien sûr assorti d’un système de rôles et d’accès approprié. Pour cela, le soutien de la direction est indispensable, si possible au plus haut niveau.

En fin de compte, l’expérience montre que cela ne fonctionnera que si l’entreprise reconnaît la nécessité d’une plateforme analytique centrale pour les données structurées et non structurées. L’idée que l’application de processus central (ERP) pourrait être ce hub de données ne suffit plus dans la pratique actuelle. Les sources de données pertinentes pour l’entreprise sont trop diversifiées et dispersées (de l’e-commerce aux données de capteurs IoT en passant par les réseaux sociaux).

Quelle est l’importance de la Data Governance dans les entreprises?

Anne-Sophie Morand: La Data Governance est un élément central des organisations modernes et est essentielle à la réussite de la mise en œuvre de la transformation numérique. Elle aide des entreprises comme Swisscom à établir une culture des données responsable et conforme au droit, qui influence les décisions stratégiques et opérationnelles. Les organisations qui ne se sont pas encore concentrées sur cet aspect jusqu’à présent risquent de perdre de précieux avantages concurrentiels et devraient prendre des mesures pour les mettre en œuvre. L’adaptation et la surveillance en continu de la Data Governance sont essentiels pour pouvoir réagir aux nouveaux développements juridiques et technologiques. Enfin, une Data Governance forte contribue à accroître les avantages pour la clientèle et la valeur pour les actionnaires.

Pourquoi faut-il une gouvernance de l’IA en plus de la Data Governance?

Anne-Sophie Morand: La gouvernance de l’IA est une discipline indépendante nécessaire en plus de la Data Governance, car elle se penche sur les défis spécifiques de l’intelligence artificielle. Alors que la Data Governance régit principalement le traitement des données statiques, la nature très dynamique de la technologie de l’IA nécessite une gestion spécialisée. À l’ère des lois complexes, telles que le règlement de l’UE sur l’IA, une gouvernance de l’IA peut aider les entreprises à se conformer de manière efficace aux exigences légales et à gagner la confiance de la clientèle, des partenaires et des collaborateurs.

Il est donc important de ne pas considérer la gouvernance de l’IA en interne comme un obstacle, mais comme un outil permettant d’exploiter pleinement les technologies de l’IA, tout en garantissant le respect des normes de sécurité et des exigences réglementaires.

Quels sont les principes fondamentaux d’une gouvernance solide en matière d’IA?

Anne-Sophie Morand: Lors de la mise en œuvre d’une gouvernance de l’IA, il peut être judicieux de définir des principes qui régissent l’utilisation de l’IA. Comme il n’existe pas d’approche universelle, chaque entreprise doit définir et mettre en œuvre des principes qui lui sont propres et pertinents. Pour sa gouvernance en matière d’IA, Swisscom suit une «approche basée sur les risques», similaire à celle du règlement de l’UE sur l’IA. Pour la catégorie de risque «Systèmes d’IA à haut risque», un examen complet est effectué afin de vérifier le respect des six principes suivants: responsabilité, compliance, transparence, qualité et précision, sécurité et équité.

«Il est important de ne pas considérer la gouvernance de l’IA en interne comme un obstacle, mais comme un outil permettant d’exploiter pleinement les technologies de l’IA.»

Anne-Sophie Morand, Data Governance Counsel, Swisscom

Ces principes ont été sélectionnés en tenant compte des valeurs de Swisscom et des possibilités d’utilisation et de développement de l’IA pertinentes pour l’entreprise. Ils sont ainsi adaptés au contexte de l’entreprise. Par exemple, Swisscom mise depuis 2019 sur un conseil d’éthique des données, qui est désormais intégré dans le contrôle du principe d’équité. Le conseil examine le principe d’équité pour les «systèmes d’IA à haut risque» sur la base de six sous-principes spécifiques, notamment le «respect de la personnalité» et la «non-discrimination».

Dans quelle mesure le règlement de l’UE sur l’IA est-il pertinent pour une entreprise implantée en Suisse qui développe ou utilise la technologie de l’IA?

Anne-Sophie Morand: Bien que la Suisse ne soit pas membre de l’UE, le règlement sur l’IA peut néanmoins, en raison de son effet extraterritorial, être directement applicable aux entreprises domiciliées en Suisse, même si elles n’ont ni leur siège ni aucune succursale dans l’UE. C’est le cas lorsque l’entreprise œuvre en Suisse en tant que fournisseur d’un système d’IA commercialisé ou mis en service dans l’UE, ou lorsqu’elle met sur le marché un modèle GPAI (General Purpose AI Model). Le règlement sur l’IA peut également s’appliquer si l’entreprise est, en Suisse, un fournisseur ou l’exploitant d’un système d’IA dont les résultats (par exemple prévisions, recommandations ou décisions) sont utilisées dans l’UE. Cette règlementation vise à éviter que les entreprises de l’UE délocalisent des systèmes à haut risque vers des fournisseurs de pays tiers, ce qui aurait des répercussions sur les citoyens de l’UE. Enfin, le règlement concerne également les fabricants de produits qui commercialisent ou mettent en service un système d’IA en même temps que leur produit et sous leur propre nom dans l’UE. La Suisse a une économie ouverte. Si nous exportons des technologies d’IA vers l’UE, le règlement sur l’IA est donc tout à fait pertinent.

Quelles mesures les entreprises peuvent-elles prendre pour renforcer et promouvoir la confiance de leur clientèle dans l’utilisation des systèmes d’IA? 

Anne-Sophie Morand: L’utilisation de systèmes d’IA nécessite de la confiance, en particulier lorsqu’ils sont utilisés pour des questions complexes, qui ont des répercussions importantes et qui ne sont ni visibles ni compréhensibles pour les personnes extérieures. La transparence est un principe clé pour instaurer la confiance lors de l’utilisation de systèmes d’IA. Dans ce contexte, la transparence signifie tout d’abord qu’une personne doit être capable de reconnaître qu’elle n’interagit pas avec un autre être humain, mais avec une machine, ou qu’un système d’IA aura généré un contenu (reconnaissabilité). Deuxièmement, cela signifie que les personnes peuvent comprendre correctement comment un système d’IA est parvenu à une certaine prévision, recommandation ou décision, ou comment le système d’IA a créé un certain contenu (traçabilité).

La transparence joue également un rôle important dans le règlement de l’UE sur l’IA. Par exemple, lors du développement de systèmes d’IA à haut risque, le fournisseur doit rédiger un manuel d’utilisation qui doit contenir des informations précises, complètes, exactes et distinctives, telles que les caractéristiques, les capacités et les limites de performance du système d’IA à haut risque, notamment les compétences techniques qui contribuent à la traçabilité de ses résultats.

Qui prend les meilleures décisions: l’humain ou les algorithmes de l’IA?

Christof Zogg: Dans son livre très intéressant intitulé Noise, le prix Nobel d’économie Daniel Kahneman explique que les experts humains, qu’il s’agisse de juges, de médecins légistes ou d’assureurs, surestiment systématiquement leurs capacités à rendre des jugements exacts et cohérents. Il démontre notamment que si leur équipe de sport préférée a perdu le match la veille, les juges rendront des jugements nettement plus sévères le lendemain. De ce point de vue, un support algorithmique pourrait contribuer à réduire les distorsions des décisions humaines et les rendre moins dépendantes des circonstances aléatoires.

Anne-Sophie Morand: La question de savoir qui prend les meilleures décisions (l’être humain ou la machine) dépend fortement du contexte et il n’est donc pas possible de répondre de manière générale. L’utilisation de systèmes décisionnels automatisés offre de nombreux avantages qui en font un outil précieux pour la prise de décision. Les systèmes d’IA sont très efficaces et peuvent analyser de grands volumes de données en très peu de temps pour en tirer des conclusions objectives. Dans l’idéal, ces conclusions ne sont pas influencées par des émotions ou des préjugés personnels, à condition que les données d’entraînement sous-jacentes et l’algorithme lui-même ne contiennent pas de préjugés. En outre, les systèmes d’IA peuvent améliorer en continu leur qualité décisionnelle en apprenant à partir de nouvelles données. Une évolution passionnante se manifeste par exemple dans le domaine médical, où les systèmes décisionnels automatisés prennent de plus en plus d’importance. Grâce à leur capacité à analyser de grands volumes de données et à identifier des schémas complexes, les systèmes d’IA révolutionnent la prise de décision médicale. Je suis convaincue qu’à l’avenir, les compétences décisionnelles des systèmes d’IA en médecine seront telles que les professionnels seront contraints de les utiliser dans certains cas d’utilisation afin d’obtenir des résultats optimaux.

D’un autre côté, les processus décisionnels humains apportent des qualités que les machines ne peuvent offrir, comme l’intuition et une vraie empathie. Les êtres humains sont capables de puiser dans leurs connaissances implicites et leurs aspects émotionnels et de réagir avec souplesse et créativité dans des situations imprévisibles. Ce sont des compétences cruciales pour les considérations éthiques et qui sont plutôt difficiles à appréhender uniquement sur la base de données. Même si l’empathie artificielle existe depuis longtemps et que les systèmes d’IA peuvent simuler des émotions pour favoriser notre bien-être, établir des liens émotionnels authentiques et la capacité à ressentir une profonde compassion restent l’apanage des êtres humains. Cette capacité unique restera un élément indispensable de certains processus décisionnels.

Pour conclure, jetons un œil vers l’avenir: l’informatique quantique fait d’énormes progrès et une combinaison avec l’IA sera possible. Quel impact cette évolution pourrait-elle avoir sur les technologies d’IA et la gouvernance de l’IA?

Christof Zogg: La puissance de calcul est une condition préalable importante pour continuer à améliorer les performances des modèles d’IA, en particulier lors de l’entraînement de nouveaux modèles, mais aussi lors de leur exploitation (inférence). En effet, les besoins en ressources augmentent avec l’utilisation de modèles. Ainsi, OpenAI, l’éditeur de ChatGPT, a récemment annoncé qu’en un mois, 700 millions d’images ont été générées avec le nouveau modèle GPT-4o fortement amélioré.

L’informatique quantique pourrait y contribuer à moyen et long terme et remplacer l’architecture de cartes graphiques (GPU), qui domine jusqu’à présent. Je me risquerai néanmoins à faire le pronostic suivant: la technique quantique jouera un rôle plutôt secondaire dans la disruption de l’IA.

Les puces IA classiques continueront également à gagner en puissance au rythme de Moore jusqu’à nouvel ordre, de sorte que les facteurs limitant la progression vers l’intelligence artificielle générale (AGI) seront plutôt la maturité des algorithmes d’apprentissage et la disponibilité des données d’entraînement.

Anne-Sophie Morand: L’IA se développe à un rythme rapide et, parallèlement, l’informatique quantique fait des progrès spectaculaires. Alors que les systèmes d’IA actuels réalisent des performances impressionnantes en matière d’analyse et de prise de décision, ils atteignent aujourd’hui encore leurs limites avec des volumes de données en croissance exponentielle et des tâches d’optimisation complexes. L’informatique quantique, quant à elle, pourrait résoudre des problèmes qui resteront insolubles pour les ordinateurs classiques, même dans des millions d’années. L’«intelligence artificielle quantique» (Q-AI) peut élargir considérablement la capacité des systèmes d’IA actuels et permettre des analyses de données complexes, des optimisations de premier ordre et des simulations précises. Cela pourrait aussi changer fondamentalement la manière dont les gens vivent et travaillent.

En ce qui concerne la gouvernance de l’IA, cette évolution technologique signifie que nous devons constamment repenser et développer les structures de gouvernance. Compte tenu de la puissance et de la rapidité potentielles de la Q-AI, je pense que l’éthique gagnerait en importance. Ce n’est qu’ainsi que nous pourrons contrôler les limites en constante évolution de ce qui est technologiquement possible et veiller à ce que ces développements soient conformes aux valeurs humaines et au bien-être social. Les structures de gouvernance doivent être suffisamment souples pour gérer des innovations rapides, tout en étant solides pour éviter les utilisations abusives. Dans le contexte de la Q-AI, une gouvernance de l’IA à long terme sera donc indispensable pour gérer les opportunités et les risques de manière proactive et rapide.