Modèle neuronal
Architecture Transformer
Architecture fondée sur l’attention devenue centrale dans les modèles de langage modernes.
À propos
Architecture fondée sur l’attention devenue centrale dans les modèles de langage modernes. L’article fondateur porte le titre Attention Is All You Need. Ce jalon a contribué à faire évoluer l’intelligence artificielle de la recherche expérimentale vers des usages concrets.
Pourquoi c’est important :
Architecture Transformer occupe une place importante dans cette collection. Il marque une avancée importante dans l’histoire des systèmes capables de percevoir, raisonner ou générer.
Architecture Transformer occupe une place importante dans cette collection. Il marque une avancée importante dans l’histoire des systèmes capables de percevoir, raisonner ou générer.
Fait marquant :
L’article fondateur porte le titre Attention Is All You Need.
L’article fondateur porte le titre Attention Is All You Need.
Repères
- Domaine : Modèle neuronal
- Première apparition : 2017