Hallucination
Lorsqu'un modèle génère un résultat qui semble sûr de lui mais qui est factuellement erroné ou entièrement inventé.
ex. Citer un article de recherche qui n'existe pas réellement.Fondamentaux de l'IA
Terminologie de base : modèles, tokens, entraînement, inférence, hallucination.
Inference
L'exécution d'un modèle déjà entraîné pour produire un résultat à partir d'une entrée donnée, par opposition à son entraînement.
ex. Envoyer un prompt à une API et recevoir une réponse en retour.Large Language Model (LLM)
Un réseau de neurones entraîné sur d'immenses corpus de texte pour prédire et générer du langage, qui alimente les assistants de chat et les copilotes.
ex. GPT-4, Claude et Llama sont tous des LLM.Parameters
Les poids numériques internes qu'un modèle apprend pendant l'entraînement ; ils indiquent approximativement l'échelle et la capacité du modèle.
ex. Un modèle « 70B » compte environ 70 milliards de paramètres.Token
L'unité de base de texte (un mot, un sous-mot ou un fragment de caractère) qu'un modèle lit et génère. Les limites de contexte et les coûts d'API sont mesurés en tokens.
ex. « unbelievable » peut se découper en « un », « believ », « able ».Training
Le processus d'ajustement des paramètres internes d'un modèle à partir de données afin qu'il apprenne des schémas, généralement réalisé via un pré-entraînement suivi d'un fine-tuning.
ex. Pré-entraîner sur du texte web, puis affiner sur des instructions sélectionnées.