perlseb

@Jean Robin
Disons qu’il y a "expert" sans argument et expert avec arguments. Je suis plus sensible à un Maxime Fournes qui explique (en citant des études qu’on peut également lire) que pour prédire le prochain mot de façon correcte, il faut se générer une image du monde en interne (monde qui n’a pas été codé mais qui émerge de la phase d’entrainement) qu’un Luc Julia qui affirme que les LLMs ne sont que des probabilités (il y a bien une phase probabiliste dans l’entrainement pour apprendre à parler sans "comprendre", comme le fait un bébé en répétant, mais il y a d’autres phases qui permettent justement de construire des représentations du monde, des concepts, peu importe les imperfections de ces mondes ou concepts à l’heure actuelle).
On peut également comparer l’IA aux cryptomonnaies, mais ça revient à comparer internet aux bouchons attachés des bouteilles jetables : pas vraiment le même enjeu (si le travail disparaît, ce sont les fondements de notre société qu’il faut revoir).
Mais si on est persuadé qu’une machine restera bête, parce que ... c’est une machine, alors on est persuadé qu’il n’y a pas plus d’enjeu dans l’IA que pour n’importe quelle autre invention. Et la discussion doit s’arrêter là. Essayez cette vidéo sur l’émergence, ou celle-ci sur la pensée artificielle. Attention, je n’ai pas dit que les machines étaient conscientes ou allaient le devenir. Mais la notion de fonctionnalisme (la plus répandue aujourd’hui parmi les chercheurs) est effectivement rejetée catégoriquement par bon nombre de personnes, et à partir de là, les bases mêmes de l’IA qui propose de recréer l’intelligence par mimétisme (non exact) du cerveau. Encore une fois, Je ne suis convaincu par rien, mais j’accepte le doute, je suis ouvert à ce genre de discussions abordées par ces 2 vidéos. Et il faut l’être si on veut discuter sur l’IA. Sinon, il n’y a pas de discussion possible.
On pourra lever les doutes dans un futur plus ou moins proche, il suffira d’analyser froidement les nouveautés dans le domaine de l’IA (expériences à venir : blocage indépassable ou progrès réels continus, voire exponentiels).

@Jean Robin
Je viens d’écouter Ed Zitron : ok sur son point de vue, il est possible que la bulle IA explose en occident mais la Chine n’arrêtera pas, même si elle "perd" de l’argent. Donc que feront les USA si la bulle explose chez eux mais que la Chine continue ? A mon avis, ils injecteront de l’argent public (budget militaire masqué sachant que le militaire privé pourra également travailler dessus avec les guerres semées un peu partout et les commandes d’armes qui en découlent) car les enjeux sont colossaux et c’est là que Ed Zitron se trompe (de mon point de vue : mais j’entends son point de vue sur la faiblesse actuelle des revenus de l’IA). Juste pour argumenter sur les enjeux : quand une entreprise comme Google utilise l’IA pour concevoir les puces qui servent ... à fabriquer les centres de données pour l’IA, il faut se poser quelques questions.

Si vous êtes convaincu que l’IA restera bête pendant 100 ans (pour quelles raisons valables ?), alors Ed Zitron et Luc Julia vous paraissent crédibles. Si vous n’avez aucun à priori, alors il faut quand même se poser des questions : taille gigantesque des investissements (ils sont tous fous ?) et des nouveautés qui sortent toutes les semaines (que du bluff même quand des experts sont surpris et parfois inquiets ?). Car en supposant que l’IA surpasse l’humain d’ici quelques années (n’est-ce pas déjà le cas dans pas mal de domaines puisque l’IA est déjà utilisée pour concevoir les puces IA ?), alors tous ces investissements seront parfaitement justifiés. Mais c’est un pari, une incertitude de plus : mais de mon point de vue, ceux qui font les investissements ne sont plus dans l’incertitude (il est très probable que le niveau de ChatGPT soit ridicule par rapport à ce que Google possède mais si vous aviez un génie dans 1 ou 2 domaines qui vous à coûté un bras, le mettriez-vous en accès libre pour vos concurrents ?).

Même si on est dans une bulle qui explose en occident, les chinois seront irrattrapables sur l’IA qui un jour (peu importe quand), débouchera sur un avantage indiscutable. Mais il y a évidemment d’autres scénarios possibles (perte de contrôle, fin du monde même si je n’y mets pas un gros pourcentage).

Vous avez le droit d’avoir un point de vue opposé à une IA qui surpasse bientôt l’homme, mais pour qu’il soit crédible, vous devez, comme Luc Julia, supposer qu’un très grande nombre de personnes (investisseurs, experts,...) sont folles ou se trompent. D’une certaine façon, c’est assez prétentieux. Mais effectivement, le futur n’est pas écrit, vous avez peut-être raison... Je vous ai donné mon point de vue (préférentiel), mais les possibilités les plus folles (fin du monde) ne me gênent pas outre mesure (pas d’enfants, pas responsable de ces recherches et, sans aucune envie suicidaire, pas particulièrement attaché à ce monde).

@Jean Robin
Si vous voulez être rassuré, écoutez Luc Julia. Si vous cherchez la vérité, essayez de collecter des faits indiscutables et récents (l’IA évoluant très vite). Si vous croyez que j’ai peur parce que je prône la prudence, et bien foncez avec assurance.
Et encore une fois, je n’ai aucune certitude (aucune raison d’être prudent quand on a des certitudes).

@Jean Robin
Je ne m’intéresse pas du tout aux journalistes qui parlent de l’IA sans rien savoir de la technique.
Ce qui m’intéresse, c’est ce que les IA sont capables de faire dès aujourd’hui et qu’elles foiraient lamentablement il y a quelques années voire quelques mois.
Oui, les IA d’aujourd’hui ne sont pas parfaites (contrairement aux humains ), mais elles sont à des années lumières d’il y a 3 ans. Pour le futur, rien n’est encore écrit mas j’ai toujours préféré la prudence à l’assurance.

@Jean Robin
L’IA avec les réseaux neuronaux ne se résume pas du tout aux LLM. Les LLM permettent à une machine de parler avec un humain, et cet objectif est largement atteint. Maintenant, des gens sans aucune connaissance en informatique peuvent créer des applications en discutant avec une IA. Il y a 5 ans, ça paraissait hors de portée.
La seule bulle que je vois, c’est OpenAI, mais quand on regarde Google (ou même xAI) et les moyens colossaux qu’ils mettent (et de manière largement diversifiée pour Google et depuis des années), il n’y aura plus de pause en IA.
Un exemple inquiétant (parmi des centaines d’autres) : l’an dernier l’IA à gagné la médaille d’argent aux Olympiades Internationales de mathématiques avec une machine spécialisée pour les maths, cette année, c’est une machine plus générale (LLM adapté je crois) qui a gagné la médaille d’or. Si on veut pouvoir voir une progression pour l’an prochain, il faudra créer un concours plus difficile.
Un mathématicien a reconnu qu’il ne comprenait pas les problèmes que peuvent résoudre les IA hors de son domaine (même s’il connaît des collègues qui sauront le résoudre). Car les humains sont ultra-spécialisés : en math, les spécialistes ne connaissent parfaitement qu’un domaine très particulier.

Mais finalement, c’est vous qui êtes du camp de Laurent Alexandre : vous ne voulez faire aucune pause en IA pour ne pas perdre la "guerre". Renseignez-vous, il y a plein d’IA open source (et open weight) téléchargeables librement, et elles n’ont pas trop de retard par rapport aux IA propriétaires (merci les chinois au passage). Donc ça ne sert peut-être à rien de perdre plein d’argent pour faire moins bien que ces IA libres...

Je vous laisse à vos certitudes, quant à moi, j’accepte volontiers une grande incertitude sur l’avenir (mur infranchissable pendant 100 ans ou AGI dans 2 ans). Et dans l’éventualité d’une AGI dans 2 ans, il faut vraiment se retrousser les manches dès aujourd’hui si on veut éviter une (ou d’innombrables) catastrophe. Que proposez-vous ? Rien, car vous connaissez le futur mieux qu’une part non négligeable de spécialistes du domaine (mais ils sont tous fous, c’est tellement commode).