perlseb

@pemile
Alors tu juges la vérité de vidéos selon leur nombre d’abonnés ? As-tu imaginé une seconde que l’algorithme de Youtube (Google) essaie d’éviter de mettre en avant des vidéos qui alertent sur le danger des IA ? Il n’est pas officiellement censuré, mais Google peut s’arranger pour que ce soit le cas plus ou moins. Pareil sur X (avec Grok) ou Facebook (Llama). Bref, les vidéos qui alertent sur l’IA n’auront pas de succès sur les réseaux sociaux, c’est évident...

@pemile
Alors d’après toi il raconte n’importe quoi pour faire le buzz et se faire griller à tout jamais dans le monde du travail ? Ecoute Geoffrey Hinton si Fournes t’agace. Et il y en a plein d’autres. Pourquoi ? Tous des fous qui veulent faire le buzz ? Et à l’inverse, que font ceux qui dédramatisent ? Mais s’il n’y a aucun danger, tant mieux, dans 10 ans, la terre est un paradis où l’IA répondra à tous nos besoins de manière ultra-efficace...

@pemile
Ben voyons, et c’est Julia qui serait arrogant et suffisant ! 
Sans parler des commentaires (faudrait pas toucher à notre monstre sacré français qu’est Yann Le Cun : je m’en fous), comment expliques-tu que Yann Le Cun ne soit pas du tout à jour sur tout un tas de ses affirmations ? Donc ça paraît arrogant, oui, mais il le fait pour la bonne cause là où Yann Le Cun n’a pas l’air très franc dans son attitude d’expert. Fournes veut qu’on fasse une pause, compte tenu des comportements surprenant et difficiles à maîtriser des IA.

Plus que lire les commentaires, il faudrait vérifier tous les derniers papiers auxquels Fournes se réfère pour démonter Yann. Je m’intéresse à l’IA mais pas assez pour faire ce travail ou lire tous les commentaires de toutes les vidéos. Si ces papiers sont valides (et honnêtement, s’il racontait des conneries aussi jeune, il foutrait sa carrière en l’air), alors on se moque complètement des commentaires. Mais mon intuition, c’est que comme Geoffrey Hinton (qui a démissionné pour être libre de parler) est sur la même longueur d’onde que lui, alors Fournes et Hinton sont dans le vrai. L’IA commence à être hors de contrôle et il y a bien lieu de s’inquiéter. Donc Yann Le Cun ne fait pas du bon travail et l’arrogance de Fournes passe pour moi pour du courage (car Fournes a effectivement bien moins de notoriété). Hinton sera peut-être écouté ... mais certains diront qu’il est vieux. Mais il y en a plein d’autres qui alertent. Seuls ceux qui en vivent sont confiants (par intérêt ?, à mon avis, évidemment, ils seraient d’ailleurs peut-être tout simplement virés s’ils parlaient de leurs inquiétudes, mais ils mettent un paquet de pognon de côté : après moi, le déluge).

@pemile
Conclusion, Maxime Fournes ne raconte aucune connerie et connaît très bien son sujet. La vidéo que tu m’as donné où il démonte Yann Le Cun est excellente. Soit Yann Le Cun n’est pas à jour des derniers papiers de recherche en IA, soit (c’est plutôt mon avis), comme il travaille dans l’IA, il ne dit pas du tout ce qu’il pense ou sait. Il joue sur sa notoriété (comme, dans une moindre mesure, Luc Julia), pour permettre aux boites qui développent l’AGI de ne pas être emmerdées (par des lois, des obligations sécuritaires, une conscience populaire ... non, pour le dernier, je blague).

@pemile
Etonnant, ter repetita, aucun besoin d’une IA "consciente" pour alerter des dangers !
C’est ce que je te dis depuis le début. Si on pose une question à Fournes sur la conscience, il répond, mais il n’aime pas beaucoup le sujet. Lui il veut une pause à cause des dangers qu’on ne maîtrise pas du tout, indépendamment de la conscience qui n’est qu’un terme mal défini, c’est plutôt sage.

Oui, avec des milliards d’exemples de déplacements dans une matrice de 8x8, difficile de se perdre !
Bien joli de dire ça mais on ne sait pas le faire nous (ou on n’a pas assez de temps pour ça). Et les LLM qui font ça apprennent un million d’autres sujets (avec un milliard d’exemples pour chacun) et doivent "mémoriser / représenter" tout ça pour "prédire" (discuter, jouer) de manière la plus juste possible. Alors si tu trouves ça nul, sache que dans 2 ans, elles feront bien mieux. Et dans 4 ans, je ne sais pas si on les comprendra encore...