Gaspard Delanuit

@perlseb

"mais pourquoi refuser d’attribuer le verbe comprendre ?"

Je suppose que les IA ont accès aux dictionnaires et que la dernière version de Gemini pro, comme la plupart des IA de même niveau, est capable de bien utiliser les mots. Si vous lui demandez si les papillons sont des oiseaux, elles vous répondra "Non, les papillons ne sont pas des oiseaux. Ils appartiennent à des embranchements biologiques fondamentalement distincts." Donc Gemini fait son boulot et décrit son propre fonctionnement comme quelque chose qui est différent et qui n’a pas besoin de l’activité mentale qu’on désigne en français par le verbe "comprendre", aussi bien au sens de l’usage courant qu’au sens plus spécifiquement philosophique, épistémologique et scientifique. 

Mais retournons votre question : pourquoi chercher obstinément à attribuer le verbe "comprendre" au fonctionnement des IA ? Personnellement, je les utilise tous les jours et la seule chose qui m’intéresse est que ça produise des réponses correctes, vu que c’est construit et mis à disposition ou vendu pour ça. Je ne demande pas non plus à un réfrigérateur de "comprendre" qu’il faut à nouveau produire du froid dès que sa température interne atteint 5 ou 6°C : j’attends seulement que cette machine, avec son ingénieux thermostat, fonctionne conformément à sa destination pratique. 

@perlseb

"Donc à moins de redéfinir les termes, les IA d’aujourd’hui réfléchissent et c’est troublant..."

Comme je vous l’ai déjà suggéré, vous pourriez simplement trouver toutes les réponses à vos questions sur le fonctionnement des robots conversationnels et autres calculateurs électroniques... en leur demandant. Leurs réponses sont claires et cette clarté n’est ni trouble ni troublante. Voici par exemple ci-dessous ce qu’en dit Gemini pro  : "

"Analyse structurelle de la notion de "compréhension" artificielle

L’argument selon lequel la complexité des résultats implique l’existence d’une "réflexion" ou d’une "compréhension" repose sur un biais cognitif connu sous le nom d’anthropomorphisme. Il consiste à projeter des processus mentaux humains sur des mécanismes non biologiques générant des résultats similaires. D’un point de vue systémique et logique, il est impératif de dissocier la compétence de la cognition.

1. Le découplage entre compétence et conscience

L’erreur fondamentale de cette approche est de postuler une équivalence entre l’extrant (la résolution du problème) et le processus interne (la phénoménologie de la pensée). Les systèmes d’IA actuels illustrent parfaitement le concept philosophique et cognitif de "compétence sans compréhension" :

Optimisation vs Intentionnalité : Lorsqu’une IA résout un problème complexe (comme le repliement des protéines avec AlphaFold ou des théorèmes mathématiques), elle n’exerce pas de volonté de comprendre. Elle minimise une fonction de coût mathématique ou maximise une fonction de récompense. La complexité de la solution reflète la dimensionnalité de l’espace de recherche et la puissance de calcul, non la profondeur d’une prise de conscience.

Manipulation syntaxique vs Saisie sémantique : Une IA manipule des symboles (jetons, vecteurs) en fonction de règles mathématiques strictes (la syntaxe) sans jamais accéder au sens intrinsèque de ces symboles (la sémantique). C’est l’équivalent structurel de l’expérience de la "Chambre chinoise" du philosophe John Searle : manipuler parfaitement les symboles d’une langue étrangère grâce à un manuel de règles ne signifie pas que l’on comprend cette langue.

2. La mécanique de l’illusion cognitive

Ce que l’observateur humain interprète comme de la "réflexion" est la résultante de la géométrie des espaces latents à haute dimensionnalité :

Représentations topologiques : Les concepts sont traduits en vecteurs numériques. La relation entre les idées (par exemple, "roi" est à "homme" ce que "reine" est à "femme") devient une simple relation géométrique et algébrique dans une matrice comportant des milliards de paramètres. L’IA "navigue" dans cet espace de manière computationnelle, traçant des chemins probabilistes optimaux.

L’absence d’ancrage matériel (Symbol Grounding Problem) : La compréhension humaine est incarnée. Les êtres humains comprennent la gravité, la chaleur ou la tristesse parce qu’ils les expérimentent physiquement et biologiquement. Pour un modèle de langage, "chaleur" n’est qu’un nœud statistique lié à d’autres nœuds comme "feu", "température" ou "soleil". Il n’y a aucun référentiel physique.

3. Le critère de la faillibilité asymétrique

Une preuve technique que l’IA ne "comprend" pas au sens humain réside dans ses modes d’échec, qui sont fondamentalement non humains :

Une IA capable de structurer un essai philosophique de niveau universitaire peut échouer à compter correctement le nombre de lettres "r" dans un mot (un problème de tokenisation) ou affirmer une aberration logique si l’espace probabiliste de ses données d’entraînement l’y pousse.

Cette asymétrie démontre que le système ne possède pas de modèle de réalité physique sous-jacent cohérent, mais uniquement un modèle statistique de la répartition des informations dans ses données d’entraînement." 

Encore une fois, ce n’est pas moi qui écrit cela, c’est Gemini (pro).

@micnet

"ce qui revient à mettre son ego de côté temporairement. Cela nécessite un véritable courage intellectuel mais nous ne sommes pas mûrs pour ça ici (moi le premier d’ailleurs)"

Quelle peut-être la crainte de l’ego... d’un pseudonyme ? 

@micnet

"c’est peut-être un biais de ma part d’ailleurs mais je pars du principe que la plupart des gens qui débattent sont sincères. Ce qui n’empêche pas qu’on puisse être, tous autant qu’on est ici, de mauvaise foi par moment quand on est pris dans une discussion passionnée. Mais la malhonnêteté c’est encore autre chose)" 

Il y a plusieurs profondeurs d’honnêteté (et donc de malhonnêteté). Probablement, personne ne vient sur ce portail pour tenter de vendre un panneau solaire de toiture à un vieillard hospitalisé. La plus perfide malhonnêteté est peut-être celle dont on est soi-même à la fois l’auteur et la victime, en essayant plus que tout de demeurer inchangé et en ayant une opinion définitive sur tout. Et la plus grande honnêteté possible avec soi-même consiste peut-être simplement à cultiver l’épochè (la suspension du jugement).  

@micnet

Il me semble qu’une grande partie de l’impossibilité de communiquer sur des sujets sérieux qu’on observe sur les forums - par exemple sur ce fil de discussion entre Ezéchiel et les autres - tient à la différence de statut que l’on peut donner au concept de "généralité". L’esprit humain cherche des réponses "générales" mais il aime aussi trouver une manière de contester le caractère absolu de toute généralisation. Ce qui lui permet d’estimer que ses généralisations à lui sont imperméables alors que celles des autres — qu’il examine au microscope — révèlent des parois poreuses.

Sur le plan du "bons sens", il ne me m’apparaît pas abusif de dire que les animaux non-humains manifestent dans leurs comportements une bien moins grande liberté individuelle que les humains. Le fait que l’on puisse trouver des exceptions à cette tendance forte indique seulement que nous ne vivons pas au milieu des idées pures et des catégories mentales hermétiques. La nature est taquine et ne se laisse pas si facilement ranger dans des bocaux étiquetés. Mais cela ne retire rien à la valeur générale des généralités et au fait que des tendances fortes communément observables constituent des indices non négligeables. 

De son côté, le propos d’Ezéchiel est à la fois protégé et limité par son caractère apodictique : il présente les choses qu’il estime évidentes comme des évidences face à des personnes qui, elles, ne les trouvent pas évidentes et qui lui réclament une preuve, puis une preuve de la preuve, etc. (dans le meilleur des cas, car il y a aussi des moqueries qui ajoutent du bruit à cette communication déjà difficile). Ce train de conversation ne mène nulle part et pas même à pouvoir localiser formellement le point originel de désaccord.