perlseb

@Jean Robin
C’est un discours parmi d’autres. Dire qu’il ne faut rien faire parce que l’IA n’existe pas est le discours le plus dangereux de tous.
Je suis pour la prise de risque minimale, donc la prudence : le ralentissement des développements pour garder une maîtrise réelle de ces boites noires que sont les réseaux neuronaux.
Ceux qui s’imaginent que ça va être génial sont, à mon avis, à côté de la plaque. Mais c’est mon avis. Une supposition parmi d’autres : si l’IA permet à l’homme d’atteindre l’immortalité, il serait stupide d’imaginer une seconde que tous les hommes vont en "bénéficier". Pour moi, l’immortalité serait un fardeau, les implants neuronaux : la destruction complète de l’humanité, l’absence totale de travail et d’effort (un allègement ok mais pas une suppression complète) conduiraient inévitablement à une idiocratie la plus totale...
Bref, il faut réfléchir au futur, tout le monde ne veut pas la même chose et il faudrait justement le permettre (éviter une dictature transhumaniste ou un monde entièrement amish ou toute technique serait prohibée). Il y a beaucoup de voies possibles et le monde dans son ensemble ne devrait pas être contraint d’en choisir une seule.

Si on est intelligent, alors il vaut mieux alerter à tort sur des risques potentiels qui n’auront pas lieu qu’affirmer de façon sûre qu’il n’y a rien à craindre parce qu’on est convaincu que l’IA n’existe pas.

C’est tant mieux si les IA restent bêtes encore 100 ans, on n’aura pas à gérer une crise économique sans précédent. Mais si, malheureusement, les IA, sans être conscientes, ni intelligentes, ni même dangereuses, sont préférées par les patrons pour faire le boulot à la place des humains, ne faut-il pas essayer de traiter au moins ce risque potentiel avant que les dégâts (qui commencent dès aujourd’hui) ne deviennent insupportables ?

Pourquoi autant de spécialistes alertent sur les risques ? Il sont tous fous, parce qu’ils ne sont pas rassurants ? Ils ne sont pas intelligents non plus, parce qu’ils ne sont pas du même avis ? L’intelligence, c’est d’abord être capable de douter : on doit pouvoir envisager que l’homme ne sera plus l’entité la plus intelligente sur Terre ... si on est un peu intelligent. Et si on peut l’envisager, alors il faut s’y préparer. Ne rien prévoir, ou ne rien envisager, c’est ça la bêtise crasse.

Voici une bonne vidéo qui débunke une conférence de Luc Julia pour ceux qui auraient une dent contre Monsieur Phi. Il y a un contraste saisissant entre les connaissances réelles du débunker et les affirmations gratuites de Luc Julia.

@Jean Robin
"Mais qui peut avoir envie de contacter Luc Julia " : une personne qui a une morale, une conscience professionnelle, ou les deux. Donc pas vous si j’ai bien compris.
Mais quand est-ce que vous parlez d’IA ? Parce que c’est le sujet. Luc Julia n’en parle jamais, il raconte n’importe quoi sans aucune argumentation. La seule référence pour étayer ses propos est un papier (université d’Hong-Kong) qu’il n’a même pas compris.
Je ne vous refais pas l’explication où il ne comprend rien aux réseaux neuronaux : il s’imagine que ce sont des bases de données qui contiennent internet (sans aucune idée de la taille d’internet) et s’étonne qu’en demandant sa biographie à un LLM non connecté, il obtient n’importe quoi.
Luc Julia n’a aucune morale de parler d’IA quand il en comprend moins que des amateurs avertis. S’il avait un minimum de conscience professionnelle, il s’excuserait de donner son avis sur un sujet qui le dépasse et arrêterait d’en parler définitivement. Car je crois vraiment, avec les extraits de ses conférences, que ses capacités mentales sont trop limitées pour se mettre à jour sur ce sujet.
Il faudra redéfinir le sens du mot morale ou conscience professionnelle pour en trouver à Luc Julia. C’est une honte, à la fois pour les journalistes et les politiques qui croient apprendre des choses avec lui sur l’IA.

@Jean Robin
peut-être aurait-il osé me contacter
Mais qui peut avoir envie de contacter Luc Julia quand on voit des extraits de ses vidéos de conférences ? Soit on connaît rien à l’IA, soit on est maso. Ah, j’oubliais, vous avec fait une vidéo avec lui.

Vous n’avez rien compris à la vidéo de Monsieur Phi : le papier de l’université de Hong Kong, que Luc Julia cite, ne raconte pas du tout que l’IA se trompe 36% sur des propositions vraies (comme Lu Julia l’affirme). Il s’agit d’un papier datant de la préhistoire de l’IA (2023) et il le cite encore aujourd’hui sans pour autant le comprendre. Ce sont des erreurs de raisonnements sur lesquels les IA d’aujourd’hui ont bien progressé et saturent les tests : proches de 100%, il faut donc inventer des tests plus complexes. Donc non, Julia a encore tort quand il dit qu’elles ont baissé de 2% par rapport à ces 64% . Ce n’est juste un exemple parmi tant d’autres.

Contrairement à ce que vous croyez, beaucoup de gens réellement informés ne cherchent pas du tout une accélération de la mise en place de l’IA mais veulent une pause car ils s’aperçoivent qu’on ne maîtrise pas grand chose : les IA sont capables de mentir, de faire du chantage alors qu’on ne les a pas formé pour ça.

Donc vous êtes particulièrement inconscient de ce qui se trame pour vouloir mettre en avant ceux qui affirment, sans rien comprendre, que l’IA est nulle et qu’on est largement au-dessus d’elle : si c’est le cas, alors on peut laisser les entreprises continuer leur course sans fin, ce qui est (peut-être, restons raisonnable) gravissime. Les scénarios catastrophes ne sont plus écrits par des auteurs de sciences-fictions mais par des spécialistes du domaine (même si, encore une fois, il n’y a pas consensus sur la gravité des dangers).

S’il y a un 1% de chance que l’humanité disparaisse à cause de l’IA, faut-il continuer à ne rien dire ou pire, à dire qu’il n’y a aucun danger parce qu’elle est stupide et le restera ?

Sachez que personnellement, je ne veux pas de l’IA ou qu’elle nous soit imposée, mais j’en connais assez pour comprendre à quel point Luc Julia plane complètement.

Donc ce n’est pas binaire : il n’y a pas d’un côté des fans boys de l’IA qui sont sûrs que l’IA nous dépassera très bientôt (et uniquement pour le meilleur avec une maîtrise complète de notre part) et de l’autre, ceux qui sont sûrs (sans rien prouver et surtout sans être à jour) que l’IA restera bien au-dessous des capacités humaines pour très longtemps. Il y a plein de scénarios possibles, mais leur vitesse de progression est plutôt effrayante.