J’ai étudié les LLM pendant 6 mois (et j’ai enfin compris comment ChatGPT fonctionne)

@Jean Ducoin
Je ne sais d’ailleurs pas si c’est aussi de cette façon que fonctionne un réseau neuronal biologique ? 
Il y a des similitudes (on s’en est inspiré) et des très grosses différences. Je pense que ceux qui travaillent dans le domaine sont plutôt convaincus (tout en se permettant de douter et en étant parfaitement conscient de cette possibilité) qu’il n’y aura pas besoin d’une nouvelle invention majeure pour dépasser le cerveau humain. Et si c’est le cas, ils valident un peu notre compréhension du cerveau humain : l’intelligence serait, dans ce cas, juste un phénomène émergent d’interactions d’un grand nombres d’entités (neurones) bêtes comme un chou prises individuellement (pas d’âme, ni d’esprit immatériel dans cette hypothèse).

Oui, le cerveau humain paraît beaucoup plus lent, mais il se passe quand même beaucoup de choses en une fraction de seconde lorsqu’on réfléchit : donc une "pensée" n’est pas juste un neurone qui s’active, c’est un feu d’artifice, un peu comme les machines. Mais même s’il se passe beaucoup de choses, la machine est objectivement beaucoup plus rapide pour analyser beaucoup plus d’hypothèses, avoir beaucoup plus de "pensées".

Pour l’imagination c’est intéressant. Geoffrey Hinton explique que la machine doit utiliser moins de neurones (et de connexions) que l’homme (sans parler du fait que les neurones artificiels sont bien plus simples) pour finalement être capable de mémoriser plus : donc elle est plus efficace en stockage. Ce qui lui fait dire qu’elle fait de nombreux liens (meilleure "synthèse") pour condenser l’information que nous ne faisons pas, même si on a beaucoup plus de synapses (liens entre neurones biologiques). Et ces liens supplémentaires avec moins de liens justement permettent d’avoir des idées novatrices : associer des domaines ou des connaissances à priori éloignés sont parfois la clé de découvertes. Notre information dans notre cerveau semblerait donc plus cloisonnée. C’est une hypothèse un peu gratuite mais comment expliquer l’étendue des connaissances de machines possédant moins de neurones et de synapses que nous ?

Je crois que la plupart des gens veulent se rassurer absolument en se disant que la machine ne pourra jamais égaler l’homme dans le domaine sacré qu’est l’intelligence. Et c’est une attitude purement religieuse. Je ne dis pas qu’elle l’égalera, mais elle commence, sans aucune ambiguïté, à le dépasser dans certains domaines, si on compare strictement les résultats (ne parlons pas de la manière quand on en sait si peu sur notre cerveau). Donc permettons de douter de notre propre intelligence et de réfléchir aux différents scénarios possibles sans rien rejeter par à priori. Sinon, on risque de ne pas être préparé comme il le faut (une fausse alerte de précaution est préférable à l’extinction humaine, à mon avis).

@pemile
Toujours aux fraises...
Non, il n’y a pas de confusion. L’IA qui a résolu un problème de math est généraliste et connaît tous les domaines des maths (contrairement aux mathématiciens eux-mêmes) en plus des autres domaines en sciences et autres. Donc je parle bien de l’étendu des connaissances stockées ("synthétisées") dans son réseau neuronal, pas du raisonnement lors d’une question.

Si tu compares une calculette à un réseau neuronal, tu as exactement le niveau de Luc Julia sur le sujet et je comprends ton immense frustration.

@Jean Ducoin
Oui tout à fait, je parle de l’IA de manière totalement générale. En fait, j’ai une formation qui m’aurait permis, dans ma jeunesse, de travailler sur le sujet mais je n’ai pas particulièrement envie aujourd’hui de rentrer dans le détail comme l’a fait le youtubeur de la vidéo (même si pour d’autres, c’est très intéressant et je comprends).

Ce que j’ai voulu souligner, dans mon premier commentaire (plutôt pour les non initiés), c’est qu’on ne peut pas ouvrir magiquement la boite noire et en faire une boite blanche. C’est un peu ce que laissait supposer le titre ("J’ai ouvert la boite noire"). Il a bien expliqué comment on la fait tourner (et on est obligé de savoir la faire tourner pour qu’elle ait un intérêt). Mais cela ne veut pas dire qu’on connaît l’étendue de son "savoir", de ses capacités.

Pour les comparaisons à faire, entre les choux et les carottes, certains les font et on peut les faire soi-même. Un non initié pourrait justement croire que des serveurs qui occupent plusieurs terrains de foot ont plus de neurones artificiels que notre boite crânienne, mais ce n’est pas le cas. Ces serveurs sont surtout là pour dupliquer le réseau neuronal et servir de nombreuses requêtes simultanées. Mais la complexité de ce qui est dupliqué pour répondre aux nombreux utilisateurs est bien moindre que celle de notre propre cerveau. Ça va peut-être changer très bientôt, mais pour l’instant, c’est plus simple.

Quant aux limites des IA, est-ce qu’imaginer que les IA de demain puissent avoir plus d’humour que nous est de la science-fiction vu ce qu’on voit tous les mois... On n’y est pas, mais je ne mettrais pas ma tête à couper sur ce genre de prévisions.

@pemile
Tu pars vraiment de trop loin, je perds mon temps.

@perlseb

Je pense que ceux qui travaillent dans le domaine sont plutôt convaincus (tout en se permettant de douter et en étant parfaitement conscient de cette possibilité) qu’il n’y aura pas besoin d’une nouvelle invention majeure pour dépasser le cerveau humain.

c’est plutôt l’inverse. La loi d’échelle marche, mais ne résous pas les 2 problèmes majeurs : apprentissage continu et généralisation. Demis et d’autres sont clair : sans innovation, on ne "dépassera pas" le cerveau humain (dans tous les domaines du moins puisqu’on le dépasse déjà de beaucoup dans certains)

@yoananda2
Une vidéo de Demis datant d’1 mois donne 50/50. Mais l’apprentissage continu est un récent ajout (effectivement pas anodin) pour l’AGI (de mon point de vue). C’est vrai que l’homme le fait, mais ce n’est pas une capacité intellectuelle en tant que telle, c’est une capacité d’adaptation, d’évolution. L’AGI désigne maintenant une entité qui nous égale (ou nous dépasse) dans tous les domaines ET qui est capable d’évoluer.

@pemile
Alors pourquoi tu mélanges tout volontairement ? C’est de la provoc stupide.

Un réseau neuronal (RN) n’est pas une base de données (BD) mais il contient bien de l’information, comme notre cerveau. On a le droit de comparer la quantité de connaissances de ce RN en rapport avec le nombre de neurones de ce RN. Et on constate que moins de neurones artificiels font mieux (en données théoriques) que notre cerveau. C’est tout. Je fais le ratio données apprises par neurones et il est nettement meilleur pour les machines, en données théoriques : les machines n’ont pas de souvenirs d’enfance, etc..., mais elle n’en ont pas besoin pour résoudre des problèmes scientifiques.

Donc on peut dire qu’on a encore bien plus de neurones et de synapses que les IA d’aujourd’hui, mais on est parfaitement incapable de stocker le dixième de ce que les IA stockent en connaissance théorique. C’était déjà le cas avec les bases de données, mais une base de données n’organise pas son information pour répondre à des questions en langue naturelle. Elle répond à des requêtes SQL et renvoie des enregistrements, une BD associée à SQL est un automate du niveau intellectuel de la calculatrice (c’est-à-dire parfaitement nul).

@perlseb
mais y a pas que Demis. Lecun a fait sécession de Meta pour cette raison. Après, je n’ai pas fait un recensement non plus ;

@pemile
Ah oui, j’ai oublié de te dire, pour répondre à ta question, le RN doit la traduire, la confronter à sa représentation du monde, y répondre dans cette représentation et retraduire cette réponse. Donc ce volume de données n’est pas passif, il sert à comprendre tes questions et à y répondre. Et quand le volume de données du RN est faible, la représentation du monde est forcément trop simplifiée, et tu ne peux pas t’attendre à ce que les réponses soient justes quand elles impliquent un grand nombre de domaines différents. Donc dans les RN, la taille d’un réseau compte pour la cognition (dans la mesure où la phase d’apprentissage entraîne bien tout le réseau : ce qui est très difficile et très coûteux avec de gros réseaux). Donc on pourrait créer des réseaux neuronaux bien plus gros que notre cerveau, mais la difficulté est d’entraîner tout ça de manière efficace. À une époque, on observait qu’augmenter la taille des RN n’améliorait pas la qualité des réponses, justement parce qu’on ne savait pas les entraîner correctement.

@Jean Ducoin
Globalement, je suis d’accord sur la qualité douteuse des données d’entraînement actuelles. Mais je pense que ça va s’améliorer très vite ... gràce à l’IA ! D’une part, il y a des domaines (les sciences) où un grand nombre de données sont parfaites ou peuvent être synthétisées avec très peu de supervision. D’autre part, on peut condenser les RN par distillation (je crois que les chinois l’ont fait) ce qui est beaucoup plus économique : c’est un gros RN de bonne qualité qui crée les données d’entraînement pour un RN plus petit.

Finalement, si pour ne pas trop s’éloigner des humains et comprendre leur psychologie, on est obligé d’avaler des réseaux sociaux au contenu médiocre, pas grave, on fera faire ça par des IA qui seront moins bonnes en sciences. Bon, je simplifie et je n’en sais rien. Mais il est possible qu’on puisse réaliser des machines pures avec des données parfaites mais complètement déconnectées de la connaissance des humains (donc pas intéressantes en ligne mais exactement ce que l’on veut pour faire de la recherche).

Pour la créativité, je crois que l’homme n’a rien de particulier, contrairement à ce qu’on veut croire. Alors les machines sont "nulles" dans des domaines ou notre esthétique pseudo-personnelle (imposée à gros coup de pognon) est facilement irritée par quelque chose qui ne serait pas soit dans la tendance soit novateur (mais parce que c’est humain, donc c’est génial, forcément, surtout si c’est ça qu’on a choisi d’imposer comme nouvelle tendance). En fait, je crois que si on joue sur l’instabilité du RN, sur son apprentissage qu’on peut rendre parfaitement extra-terrestre, je crois qu’on pourra générer des trucs très curieux du point de vue artistique. Car les machines n’ont pas besoin d’avoir notre humanité. Certains diront que c’est un handicap pour qu’on apprécie leur création, mais je pense que c’est une possibilité supplémentaire (elles pourront également nous imiter) qui pourrait les rendre beaucoup plus créatives justement. Pour des raisons sociales et morales, on ne peut pas éduquer un enfant avec des données extra-terrestres (qui seraient totalement déconnectées de notre monde).

@pemile
Tu me fatigues pemile, mais je vais te noyer avec une réponse fournie. D’abord tu confonds les experts de plateau avec ceux qui travaillent dans l’IA, ensuite tu feins de ne jamais comprendre les phases que j’écris. On peut très bien former une IA avec des données d’entraînement qui ne mentionnent jamais rien sur l’humain ni sur son existence. Si on veut qu’elle soit bonne en sciences, qu’elle pourrait être l’intérêt de savoir que l’humain existe ? Les aliens n’auraient-ils pas la possibilité de faire des sciences parce qu’ils ne nous connaissent pas ?

Voici une question gentille posée à qwen3.6:35b que j’ai en local avec Ollama :

Est-ce qu’on va pouvoir utiliser l’IA pour entraîner les nouveaux modèles d’IA ? Par exemple, est-ce qu’on pourra le faire pour des IA qui seront spécialisées dans les sciences (pour faire des découvertes) sachant qu’on sait déjà automatiser la validation d’une démonstration mathématique ? Je sais aussi qu’on utilise la distillation d’IA où une IA avec beaucoup de paramètres sert à générer des jeux de tests pour des IA qui seront plus petites (automatiquement ?)...

Et voici une partie de la réponse :

Oui, c’est non seulement possible mais déjà en partie une réalité, et votre intuition touche à plusieurs fronts de recherche actifs qui convergent rapidement. Décomposons les éléments de votre question.
 ? 1. Entraîner des IA avec des IA : c’est déjà standard

Données synthétiques : La majorité des grands modèles récents sont entraînés sur un mélange significatif de texte, code, ou raisonnements générés par des versions antérieures. Des pipelines automatisés filtrent, classent et pondèrent ces données avant l’entraînement.
Distillation de connaissances : Comme vous le mentionnez, on entraîne un modèle "enseignant" (gros, coûteux) à générer des traces de raisonnement, des labels ou des états intermédiaires, puis on entraîne un modèle "élève" (plus petit, plus rapide) sur ce jeu de données. C’est automatisé de bout en bout dans de nombreux laboratoires (ex : Meta’s Llama distillation pipelines, Mistral, Qwen).
Recherche d’architecture (NAS) & AutoML : Des IA optimisent elles-mêmes l’architecture, l’apprentissage automatique (learning rate scheduling, early stopping) ou les hyperparamètres, parfois en boucle fermée.
Auto-amélioration & self-play : Dans les jeux (AlphaZero), la robotique ou le code, les agents s’entraînent en jouant contre eux-mêmes ou en générant des contre-exemples pour renforcer leurs faiblesses.

 ? 2. IA spécialisée en sciences & découvertes

Oui, c’est un champ en explosion (AI for Science), mais avec des nuances importantes :

Mathématiques formelles : La validation de démonstrations est effectivement automatisable grâce aux assistants de preuve (Lean, Coq, Isabelle). On voit émerger des pipelines où une IA génère un candidat de preuve → un vérificateur formel le valide ou produit un contre-argument → le modèle est affiné sur ce feedback. Exemples : LeanDojo, ProofNet, les travaux de DeepMind sur AlphaProof.
Sciences empiriques (biologie, chimie, physique, climat) : La validation n’est pas purement logique mais expérimentale. Des IA comme AlphaFold, GNoME (matériaux), ou Astra (fusion) génèrent des hypothèses ou des structures, mais la validation finale reste hybride : simulation haute-fidélité → validation en labo → peer review. L’IA accélère la exploration de l’espace des possibilités, mais ne remplace pas encore la boucle empirique complète.

 ? 3. Distillation & automatisation : comment ça marche en pratique ?

Génération automatique : Un modèle "maître" produit des paires (entrée → sortie/raisonnement). On peut filtrer par confiance, vérification formelle, ou simulation.
Contraintes : Sans validation croisée, la distillation propage les erreurs (error amplification). C’est pourquoi on combine :
Vérificateurs formels (pour les math/code)
Simulateurs physiques ou moléculaires
Filtrage humain léger ou consensus multi-modèles
Auto-consistency checks (prompt multiple, voting)
Résultat : Des modèles plus petits, spécialisés, déployables edge, avec des performances proches des grands modèles sur des tâches ciblées (ex : Qwen2.5-Coder, Phi-3, DeepSeek-V3 utilisent massivement des données synthétiques générées et filtrées automatiquement).

@pemile
Au moins toi on sait que t’es pas une IA parce que tu ne comprends strictement rien. Tu donnes en entrée "2 + 2" : en sortie, tu lui demandes de trouver 4. Où est l’humain dans ces données d’entraînement ? Je vais pas te donner mille exemples d’entrées-sorties pour te faire comprendre qu’on peut former un réseau neuronal à faire de la physique sans lui mentionner l’existence de l’homme. Ou alors t’es une chèvre qui parle, c’est pas possible autrement. On peut même faire les données à la main, à la main de l’homme oui. Mais comment tu veux que la machine le sache si tu décides de lui masquer ton existence ? J’ai pas dit que la machine résultante serait appréciée sur les réseaux sociaux, mais il y a une vie hors des réseaux sociaux, si, si.