perlseb

@Jean Robin
Si vous voulez être rassuré, écoutez Luc Julia. Si vous cherchez la vérité, essayez de collecter des faits indiscutables et récents (l’IA évoluant très vite). Si vous croyez que j’ai peur parce que je prône la prudence, et bien foncez avec assurance.
Et encore une fois, je n’ai aucune certitude (aucune raison d’être prudent quand on a des certitudes).

@Jean Robin
Je ne m’intéresse pas du tout aux journalistes qui parlent de l’IA sans rien savoir de la technique.
Ce qui m’intéresse, c’est ce que les IA sont capables de faire dès aujourd’hui et qu’elles foiraient lamentablement il y a quelques années voire quelques mois.
Oui, les IA d’aujourd’hui ne sont pas parfaites (contrairement aux humains ), mais elles sont à des années lumières d’il y a 3 ans. Pour le futur, rien n’est encore écrit mas j’ai toujours préféré la prudence à l’assurance.

@Jean Robin
L’IA avec les réseaux neuronaux ne se résume pas du tout aux LLM. Les LLM permettent à une machine de parler avec un humain, et cet objectif est largement atteint. Maintenant, des gens sans aucune connaissance en informatique peuvent créer des applications en discutant avec une IA. Il y a 5 ans, ça paraissait hors de portée.
La seule bulle que je vois, c’est OpenAI, mais quand on regarde Google (ou même xAI) et les moyens colossaux qu’ils mettent (et de manière largement diversifiée pour Google et depuis des années), il n’y aura plus de pause en IA.
Un exemple inquiétant (parmi des centaines d’autres) : l’an dernier l’IA à gagné la médaille d’argent aux Olympiades Internationales de mathématiques avec une machine spécialisée pour les maths, cette année, c’est une machine plus générale (LLM adapté je crois) qui a gagné la médaille d’or. Si on veut pouvoir voir une progression pour l’an prochain, il faudra créer un concours plus difficile.
Un mathématicien a reconnu qu’il ne comprenait pas les problèmes que peuvent résoudre les IA hors de son domaine (même s’il connaît des collègues qui sauront le résoudre). Car les humains sont ultra-spécialisés : en math, les spécialistes ne connaissent parfaitement qu’un domaine très particulier.

Mais finalement, c’est vous qui êtes du camp de Laurent Alexandre : vous ne voulez faire aucune pause en IA pour ne pas perdre la "guerre". Renseignez-vous, il y a plein d’IA open source (et open weight) téléchargeables librement, et elles n’ont pas trop de retard par rapport aux IA propriétaires (merci les chinois au passage). Donc ça ne sert peut-être à rien de perdre plein d’argent pour faire moins bien que ces IA libres...

Je vous laisse à vos certitudes, quant à moi, j’accepte volontiers une grande incertitude sur l’avenir (mur infranchissable pendant 100 ans ou AGI dans 2 ans). Et dans l’éventualité d’une AGI dans 2 ans, il faut vraiment se retrousser les manches dès aujourd’hui si on veut éviter une (ou d’innombrables) catastrophe. Que proposez-vous ? Rien, car vous connaissez le futur mieux qu’une part non négligeable de spécialistes du domaine (mais ils sont tous fous, c’est tellement commode).

@Jean Robin
C’est un discours parmi d’autres. Dire qu’il ne faut rien faire parce que l’IA n’existe pas est le discours le plus dangereux de tous.
Je suis pour la prise de risque minimale, donc la prudence : le ralentissement des développements pour garder une maîtrise réelle de ces boites noires que sont les réseaux neuronaux.
Ceux qui s’imaginent que ça va être génial sont, à mon avis, à côté de la plaque. Mais c’est mon avis. Une supposition parmi d’autres : si l’IA permet à l’homme d’atteindre l’immortalité, il serait stupide d’imaginer une seconde que tous les hommes vont en "bénéficier". Pour moi, l’immortalité serait un fardeau, les implants neuronaux : la destruction complète de l’humanité, l’absence totale de travail et d’effort (un allègement ok mais pas une suppression complète) conduiraient inévitablement à une idiocratie la plus totale...
Bref, il faut réfléchir au futur, tout le monde ne veut pas la même chose et il faudrait justement le permettre (éviter une dictature transhumaniste ou un monde entièrement amish ou toute technique serait prohibée). Il y a beaucoup de voies possibles et le monde dans son ensemble ne devrait pas être contraint d’en choisir une seule.

Si on est intelligent, alors il vaut mieux alerter à tort sur des risques potentiels qui n’auront pas lieu qu’affirmer de façon sûre qu’il n’y a rien à craindre parce qu’on est convaincu que l’IA n’existe pas.

C’est tant mieux si les IA restent bêtes encore 100 ans, on n’aura pas à gérer une crise économique sans précédent. Mais si, malheureusement, les IA, sans être conscientes, ni intelligentes, ni même dangereuses, sont préférées par les patrons pour faire le boulot à la place des humains, ne faut-il pas essayer de traiter au moins ce risque potentiel avant que les dégâts (qui commencent dès aujourd’hui) ne deviennent insupportables ?

Pourquoi autant de spécialistes alertent sur les risques ? Il sont tous fous, parce qu’ils ne sont pas rassurants ? Ils ne sont pas intelligents non plus, parce qu’ils ne sont pas du même avis ? L’intelligence, c’est d’abord être capable de douter : on doit pouvoir envisager que l’homme ne sera plus l’entité la plus intelligente sur Terre ... si on est un peu intelligent. Et si on peut l’envisager, alors il faut s’y préparer. Ne rien prévoir, ou ne rien envisager, c’est ça la bêtise crasse.