Pourquoi les modèles lisent par morceaux, et l'impact sur le coût, les langues et les bizarreries.
Les grands modèles de langage (LLM), moteurs des assistants conversationnels actuels, ne lisent ni lettres ni mots comme nous. Ils lisent des tokens : des morceaux de texte qui peuvent être un mot entier, un bout de mot, une espace suivie d'un mot, un nombre ou un seul caractère.