Dans les arcanes des modèles de langue

Dans le périodique : La Recherche (Paris. 1970), n°577 (04/2024)
• • Benoit Sagot
  • Rachel Bawden
• Pages : p.34-39
  • Langues : Français
• • Nature du document : documentaire Genre : Article de périodique
  • Résumé :

    Décryptage du fonctionnement des algorithmes composant les modèles de langues au coeur de la plupart des systèmes d'intelligence artificielle. Modèle de langue génératif où un texte complet est produit à partir d'une amorce. Technologie basée sur des réseaux de neurones artificiels ayant recours à l'apprentissage automatique. Evolution de l'architecture de réseaux neuronaux, de l'architecture récurrente à l'architecture transformeur pour résoudre le problème de l'oubli. Des modèles entraînés sur des corpus colossaux. Sélection et compilation automatiques d'informations de plus en plus performantes. Encadré : des humains dans la boucle.

• • Descripteurs : algorithme / intelligence artificielle