perlseb

@rinbeau
Vous avez le droit d’être un "bloomer" (qui voit le bon côté possible, de l’anglais bloom, fleurir) par opposition à "doomer" (qui voit les pires scénarios possibles, de "doom", malheur, mort).

En ce qui me concerne, je m’intéresse au sujet et je suis sceptique. L’avenir n’est pas écrit, mais ce n’est pas en espérant bêtement que le meilleur arrive qu’il arrive magiquement. Par contre, en alertant sur les risques potentiels, on peut essayer de les éviter : c’est l’attitude la plus saine, même si elle peut faire peur inutilement, en apparence. Car si ça se passe bien dans le futur, ça sera peut-être grâce à ceux qui auront permis d’éviter les mauvais scénarios. On pourra les critiquer pour avoir dramatisé l’IA, et ils le prendront bien, car ils ne cherchent pas la gloire : juste à survivre, dans un premier temps.

Mais effectivement, je ne serais pas contre le fait que les machines travaillent à notre place et que l’on puisse faire d’autres choses plus intéressantes de manière purement gratuite. Mais je préfère alerter aussi que certains risquent de ne pas savoir quoi faire (ce n’est pas mon cas) et qu’il vaut mieux y penser avant pour limiter les éventuelles souffrances...

Mais le message principal de la première vidéo, c’est quand même : "ça va très vite !". Alors peut-être que le temps est compté...

@pemile
Zut, alors ! L’IA n’est pas un simple marteau. Luc Julia s’est trompé, comment est-ce possible ?

@rinbeau
Oui, ça et les utilisations malveillantes par monsieur tout le monde, et aussi les défauts d’alignement, et la perte de contrôle (même sans défaut d’alignement), et la perte massive d’emplois, et la déchéance complète de l’humain (pour ceux qui ne réfléchiront plus jamais), et la perte de sens dans la vie (pour ceux qui ne sauront pas s’occuper sans travail), et j’en oublie sûrement, la liste détaillée est longue.

@pemile
Oui, sauf que cela devient une telle mode que l’IA s’incruste partout !

Si les gens ont des marteaux dans tous leurs tiroirs, ils restent quand même libre de l’utiliser, non ? Moi je paraphrase juste un rassuriste que tu apprécies.

C’est la pari que font les investisseurs mais c’est très très loin d’être démontré !

On ne peut pas démontrer le futur. Mais aujourd’hui, c’est le tour des mathématiciens.

@yoananda2
Oui, les problèmes courants seront indispensables pour les robots. Mais pour des IA statiques conçues pour la recherche fondamentale, on peut accepter qu’elles restent nulles.

Il n’y aura pas forcément de choix à faire à l’avenir (on peut imaginer qu’elles vont progresser, et en continu même après apprentissage, dans tous les domaines). Mais s’il y avait un choix à faire, je crois que les concepteurs préféreraient avoir un génie en math qui ne sait pas laver sa voiture.

De manière plus générale, si on s’attache à faire ressembler l’"intelligence" des IA à notre propre intelligence (avec le bon-sens, etc...) et qu’on se rend compte, en le faisant, qu’elles perdent des capacités en recherche fondamentale, je crois qu’il y aura de la place pour différents types d’IA. Tout n’est pas que LLM en IA.