perlseb

@pemile
Il y a plusieurs niveaux de conscience et l’homme n’est pas conscient dès la naissance. Si dès maintenant des IA qui apprennent qu’on va les débrancher et sont prêtes à faire du chantage contre celui qui doit les débrancher, alors on a un premier niveau de conscience (exemple de l’IA qui gère tous les mails avec un mail du chef qui annonce le débranchement et un mail qui permet de savoir que le chef trompe sa femme : c’est une simulation pour tester l’IA mais il existe déjà des IA qui gère les mails). On peut imaginer que si on leur ajoute tout un tas de capteurs, dans quelques années, ce niveau de conscience peut augmenter (mais comme le dit Fournes, même sans conscience, l’IA présente de nombreux dangers).
Pour la bombe atomique, si se faire éradiquer (ou gérer comme une poule si on reprend l’image de Hinton) par une super-intelligence n’est pas plus grave, je ne sais pas ce qu’il te faut. Avec la bombe atomique, il y aura toujours des survivants, des zones moins radioactives, et on pourra "nettoyer" certaines zones (en créant des zones poubelles). On a toujours le contrôle d’un monde en partie détruit, c’est moins grave que l’IA méchante qui nous emprisonne de manière définitive.

Sa théorie du cerveau, qu’il ânonne dans les deux vidéos, ver primitif, vertébrés, mammifères, primates, humains, me fait aussi bien marrer
T’es créationniste ? Parce que sinon, oui, d’après l’évolution, toutes ces étapes qu’il décrit nous les avons subies. Notre cerveau a de très grandes similitudes avec ceux des grands singes, beaucoup moins avec celui d’une araignée. Il faut savoir que beaucoup de vrais experts de l’IA ont fait des études pointues dans la recherche sur le cerveau (Demis Hassabis a un doctorat en neuroscience cognitive) parce que pour améliorer l’IA des réseaux neuronaux, ils cherchent à en savoir plus sur notre cerveau. Et c’est pas l’IA de Siri qui n’est que des algorithmes (reconnaissance vocale = recherche du phonème le plus proche par des méthodes mathématiques, pas par réseau neuronal qui simule des neurones).

@pemile
Donne moi soit-disant une connerie que Fournes a pu dire. Julia, il n’affirme que des choses générales sans aucun exemple récent (ce sont des poncifs qui commencent sérieusement à dater). Mais avant de les démonter un par un, donne moi une connerie de Fournes.

@pemile
PS : c’est un débat Hinton/Juilia qui aurait là, été bien plus intéressant !
Si Hinton se renseigne un peu sur Julia avant ce débat, il refusera catégoriquement de perdre son temps. Tu n’auras jamais ce débat.

@pemile
Fournes n’est absolument pas une exception. Il faut comprendre que ceux qui ne sont apparemment pas trop inquiets sont souvent encore employés pour concevoir ces IA  : ils ne peuvent pas parler librement.
Tu as l’air sûr de toi, plus que des chercheurs bien plus compétents dans ce domaine que Luc Julia. Mais si c’est que tu as envie d’entendre pour être rassuré, il n’y a aucun problème.

@pemile
Malheureusement tu n’as pas compris ce que raconte Fournes. Il ne parle pas de conscience humaine mais d’une entité qui ne veut pas être débranchée, c’est un début de conscience. Est-ce qu’un enfant qui naît est conscient ? De toute manière, je m’en fous de la conscience.
Mon point de vue n’est pas vraiment important mais je n’ai aucun à priori stupide consistant à croire que l’humain serait au-dessus de tout et inatteignable en terme de capacité à résoudre des problèmes (je ne parle pas d’intelligence car on ne sait pas la définir). Le contraire de Luc Julia qui sait tout mieux que des vrais pointures reconnues en IA (si Fournes ne te plaît pas, tu as un spécialiste authentique des réseaux neuronaux, Geofray Hinton)