Après avoir découvert différentes applications des grands modèles de langage, il est important de comprendre leur conception et leur architecture interne. Qu'est-ce qu'un Transformer ? Les Transformers sont des architectures de deep learning conçues pour traiter, comprendre et générer des textes similaires à ceux produits par les êtres humains. La plupart des grands modèles de langage actuels reposent sur cette architecture. Leur principal avantage est leur capacité à traiter des séquences de texte longues en parallèle, plutôt que d'analyser chaque mot successivement. Il existe trois grandes architectures de Transformers : Les modèles à encodeur seul. Les modèles à décodeur seul. Les modèles
La suite de cette leçon est réservée aux abonnés
Créez votre compte gratuit pour tester les exercices d’exemple, puis passez à l'accès complet quand vous le souhaitez.