IA textuelles génératives et modèles linguistiques

La méthode LSTM (Long Short-Term Memory) est un logiciel existant depuis 1995 qui sert à reconnaître certains modèles dans des données. Le logiciel est ainsi capable de se souvenir d'informations antérieures et de les réutiliser si nécessaire.

Pour que cette technique fonctionne, le LSTM utilise un réseau neuronal spécial, appelé réseau neuronal récurrent (RNN), qui fonctionne avec des processus répétitifs. Cela signifie que le logiciel est capable de traiter les informations étape par étape.

Cependant, le LSTM a aussi ses limites. Comme il traite les informations les unes après les autres, il ne gère pas bien les grandes quantités de données et a tendance à négliger les informations plus éloignées.

En 2017, Google a présenté l'article scientifique «Attention is All You Need»(ouvre une nouvelle fenêtre). Les auteurs y suggèrent que de nouveaux mécanismes d'attention peuvent considérablement améliorer la qualité et l'efficacité des modèles existants pour les réseaux neuronaux :

L'équipe de recherche propose une «architecture réseau simple, le Transformer, qui repose exclusivement sur des mécanismes d'attention […]»(ouvre une nouvelle fenêtre). Ce Transformer utilise des mécanismes innovants pour mieux comprendre le contexte et le traiter plus efficacement. Des expériences ont été menées avec des tâches de traduction automatique.

Le Transformer a considérablement fait progresser le développement de l'IA générative pour le texte. Comme il gère mieux les longues dépendances dans les textes et peut être entraîné plus efficacement, il est idéal pour des tâches telles que la génération de texte, les chatbots et d'autres applications qui doivent produire ou comprendre le langage naturel. Il n'est donc pas surprenant que toutes les IA textuelles connues aujourd'hui soient basées sur l'architecture Transformer.

Que veux-tu savoir exactement? Si tu poses des questions imprécises, l'IA te donnera des réponses vagues. Mais tu veux une réponse concrète et utile pour ton cas particulier, n'est-ce pas?

Dans quel style d'écriture l'IA doit-elle répondre ? Il est préférable de lui attribuer un rôle afin qu'elle adopte le ton souhaité, par exemple : « Réponds comme une enseignante » ou « Explique de manière à ce qu'un enfant de 10 ans comprenne ».  

Conseil pour les tâches d'écriture : demandez à l'IA d'effectuer au préalable une analyse stylistique d'un texte existant afin qu'elle s'entraîne à adopter le style souhaité. Ce n'est qu'ensuite que vous lui confiez la tâche à laquelle vous souhaitez qu'elle réponde, dans le style qu'elle vient d'apprendre.

Sous quelle forme la réponse doit-elle être fournie ? Sous forme de texte continu avec des intertitres ou sous forme de tableau avec les colonnes « Lieux », « Curiosités », « Restaurants » ? Ou peut-être même sous forme de graphique ou de code ? Donnez les consignes à l'IA.

En règle générale, une IA comprend et répond mieux si vous lui donnez une seule tâche claire par invite. Si vous souhaitez en savoir plus, continuez à poser des questions. Au fil de la conversation, l'IA comprend progressivement tout le contexte et vous pouvez obtenir peu à peu des réponses à toutes vos questions.  

Pour des tâches plus complexes, il peut également être utile de demander à l'IA de vous expliquer les choses étape par étape ou de vous présenter son raisonnement.

Si vous souhaitez obtenir des informations selon une structure particulière, des sous-thèmes à un certain niveau ou dans un style prédéfini, fournissez un exemple à l'IA dans votre invite afin qu'elle vous comprenne. Vous éviterez ainsi des explications fastidieuses et obtiendrez plus facilement de meilleurs résultats.

Discuter avec un modèle linguistique signifie toujours recevoir des réponses qui ne sont pas très utiles. Il se peut aussi que l'IA te comprenne mal. Cela peut arriver. Reformule ta question, peut-être peux-tu diviser la tâche en deux étapes ? Discute avec l'IA et dis-lui si elle a mal compris quelque chose et ce qu'elle doit faire à la place.

Un modèle linguistique fonctionne de manière à toujours trouver les mots ou les réponses les plus probables. Cela ne signifie toutefois pas nécessairement que ces informations sont correctes. La plupart des modèles linguistiques affichent donc à juste titre un avertissement (généralement à proximité du champ de saisie): «Je peux faire des erreurs. Veuillez vérifier mes informations.» Respecte cette consigne.

Une IA peut non seulement intégrer des métaphores dans ses réponses, mais aussi varier le ton et le niveau de complexité d'une explication. Utilise cette fonctionnalité pour obtenir des explications sur un sujet sous différents angles.

Exemple: réponds à la question «Les smartphones devraient-ils être autorisés en classe?» du point de vue d'un enseignant, d'un élève de 10 ans et de sa mère.

Une IA peut non seulement intégrer des métaphores dans ses réponses, mais aussi varier le ton et le niveau de complexité d'une explication. Utilise cette fonctionnalité pour obtenir des explications sur un sujet sous différents angles.

Une IA peut également simuler une discussion en adoptant les deux points de vue, en trouvant des arguments et des contre-arguments à une thèse et en les intégrant dans la conversation.

Exemple : simulez une discussion entre deux experts des médias sur la thèse suivante : « Il est plus important d'enseigner l'esprit critique dans les écoles que de transmettre des compétences techniques. » L'expert A estime que la pensée critique constitue la base sur laquelle reposent les compétences techniques. L'expert B argue au contraire que sans connaissances techniques solides, la pensée critique et la compétence médiatique ne sont pas possibles. Organisez la discussion sous forme de dialogue avec 3 à 4 interventions par personne. Tenez compte des défis actuels tels que les contenus générés par l'IA, la désinformation et le filtrage algorithmique. Les deux experts doivent apporter des arguments et des exemples tirés de la pratique éducative.

Certes, une IA n'a pas de sentiments et parfois pas d'opinion propre. Elle peut néanmoins être une excellente partenaire pour un échange d'idées ou une boucle de feedback. Demandez à l'IA un processus itératif et échangez avec elle sur vos thèmes comme vous le feriez avec un membre de votre équipe.

Exemple : préparez l'IA à l'échange en l'informant : « Je vais te présenter une idée. Tu me donneras ensuite ton avis sur la manière dont je peux la développer et l'optimiser. J'améliorerai ensuite mon idée. Nous répéterons ce processus trois fois. »

Une IA peut endosser différents rôles et ainsi te raconter des histoires ou des scènes fictives de manière très vivante. Ce type de prompting est idéal pour donner vie à des personnages historiques ou à des situations passées.

Exemple : simulez une conversation entre Marie Curie et Albert Einstein en 1925 sur l'avenir de la physique. Marie Curie doit défendre ses recherches sur la radioactivité, tandis qu'Einstein affirme l'importance de sa théorie de la relativité. Tenez compte des connaissances de l'époque et du contexte social des scientifiques, en particulier pour une femme dans le domaine scientifique.

Tu peux également demander à l'IA d'évaluer elle-même sa réponse sur une échelle de 1 à 10. Elle doit également t'expliquer ce qu'elle aurait pu améliorer. Cela t'aide à identifier et à classer les points forts et les points faibles de la réponse.

Si tu souhaites par exemple planifier un voyage et que l'IA générative te propose des idées de visites touristiques ou des itinéraires, demande-lui au préalable ce qu'elle doit savoir pour optimiser ta planification. Réponds à toutes les questions de manière structurée et précise, en fournissant tous les détails nécessaires (pas de données personnelles !). Tu pourras ainsi t'assurer que le voyage proposé correspondra au mieux à tes dates, tes envies et ton budget.

Les schémas de prompts (appelés « frameworks ») tels que TIDD-EC facilitent la structuration des prompts. TIDD-EC est l'acronyme anglais des éléments qui le composent : 

• Task Type (type de tâche) : donnez au modèle linguistique une idée claire du type de tâche à effectuer.
• Instructions (instructions) : décrivez les étapes ou les directives spécifiques que le modèle linguistique doit suivre.
• Do (faire) : quelles actions aident l'IA à accomplir la tâche ?
• Don't (à éviter) : quels éléments l'IA doit-elle éviter dans sa réponse à la prompt ?
• Examples (exemples) : fournissez des exemples concrets du type de résultats ou de réponses souhaités.
• Content (contenu) : fournissez des données spécifiques (attention : uniquement des données générales, pas de données personnelles !) que l'IA peut utiliser, utiliser dans la réponse ou auxquelles elle peut se référer.
  

Exemple : « Explique-moi en termes simples les bienfaits du thé vert pour la santé. Réfère-toi à des connaissances scientifiques et aux résultats de recherches récentes. La réponse doit être facile à comprendre et ne pas contenir de termes techniques compliqués. Un exemple serait : « Le thé vert peut aider à renforcer le système immunitaire. »