Grand modèle de langage (LLM)

Définition simple

Fait vérifié. Un LLM est un réseau de neurones entraîné sur beaucoup de texte pour estimer quelle unité de texte — un token — devrait suivre les précédentes. L'architecture Transformer a rendu ce calcul particulièrement efficace à grande échelle.

Mon image mentale : un LLM est un moteur de complétion devenu assez riche pour résumer, traduire, raisonner imparfaitement et produire du code. Il ne consulte pas spontanément une base de vérité.

Fonctionnement

Le texte est découpé en tokens, transformé en représentations numériques, puis traité par des couches d'attention. À l'inférence, le modèle génère un token après l'autre selon les probabilités apprises et les instructions présentes dans son contexte.

Confusion fréquente

Un LLM n'est ni une base de données ni un moteur de recherche. Une réponse fluide peut être fausse : la vraisemblance linguistique n'est pas une preuve.

Limites

Le modèle peut halluciner, reproduire des biais, perdre une information située hors de sa fenêtre de contexte et varier entre deux exécutions. Les outils, le RAG, les validations et l'humain dans la boucle compensent une partie de ces limites sans les supprimer.

Application dans Alfred

Expérimentation Alfred. Le LLM est le runtime substituable ; l'identité et la mémoire canonique restent dans le vault. Je vérifie donc l'état réel dans les fichiers ou les systèmes plutôt que de considérer la mémoire du modèle comme une source.

Ma lecture

Interprétation personnelle. La compétence décisive n'est pas de « parler à une IA », mais de construire autour d'un moteur probabiliste des sources, des permissions et des contrôles compréhensibles.

Sources

• Attention Is All You Need — papier fondateur du Transformer
• Building effective agents — Anthropic