Cours 02
Architecture des Transformers
- jeudi 29 octobre 2026
- 12:15 – 13:45
- En ligne
Au programme
- 01Approximation de l'attention
- 02MHA, MQA, GQA
- 03Plongements positionnels, classiques et appris
- 04RoPE et ses applications
- 05Architectures fondées sur le Transformer
- 06BERT et ses dérivés