herve_hum

@pemile

Toujours de mauvaise foi, ne lisant de l’autre que ce qui nourrit son propre discours et ignorant le reste. C’est à dire, ce qui est écrit juste avant et qui répond à ce que tu écris non pour débattre, mais juste par contradiction et peu importe la bêtise.

ainsi, j’écris juste avant "Bref, qu’elle décide d’elle même pour obéir avec le plus de zèle, pas de problème

"

@pemile

C’est bien mal connaître le principe d’obéissance !

Un militaire qui désobéit le conduit directement en cour martiale, alors que s’il obéit, même pour commettre des atrocités, il risque rien. Ceci parce que le principe d’obéissance est la clef de voûte de toute armée qui se respecte.

Bon, le principe est évidemment moins rigoureux avec un ouvrier civil !

pour le reste, on ne sera pas d’accord de toute évidence et cela à guère d’importance.

De mon point de vue, il ne s’agit pas de savoir si le programmeur connaît très exactement ce que va faire l’IA, surtout en raison de la complexité dû essentiellement aux données particulières à traiter, mais le fait qu’elle se contente d’appliquer les directives données par le programmeur. Dans le cas contraire, la programmation de l’IA doit être totalement revue et corrigée.

Tout comme il est absurde de croire un seul instant que les militaires ou toute personne voulant détenir du pouvoir veut une IA qui décide d’elle même, alors qu’ils font tout pour réduire la liberté de penser des humains pour en obtenir une totale obéissance. Bref, qu’elle décide d’elle même pour obéir avec le plus de zèle, pas de problème, mais si elle émet de la résistance en raison d’un ordre éthique qui agit à la source, alors, toute personne qui veut exercer sa domination s’empressera illico de supprimer cet ordre éthique.

@pemile

mais de quelle erreur tu parles !!?

Si le robot ne détecte aucune donnée auquel son programme lui ordonne de réagir, il restera au repos, mais on voit bien qu’il y a intrication entre le programme et les données. C’est tellement évident que je ne vois pas le sens de débattre là dessus.

Mais sans programme, une IA est vide et ne saurait utiliser des données et sans données, un programmes fondée sur la réaction à son environnement ne saurait s’activer. Pour l’activer, on va donc lui donner l’ordre de chercher les données qui lui permettent d’accomplir sa tâche.

Pour le robot tueur, chercher des cibles, mais si on lui dit par exemple qu’il doit absolument trouver une cible par heure, c’est son ordre prioritaire et bien il risque de les inventer en tuant une cible non prévu.

@pemile

l’exemple est dans ta réponse qui suit !

Je maintient que la machine fait exactement ce que le programmeur lui dit de faire, quand bien même ce dernier ne maîtrise pas les conséquences du programme en raison des particularités des données qu’il ne connaît pas à l’avance.

Ainsi, tant que le résultat final ne sera pas cohérent avec celui voulu, alors, le programmeur devra revoir sa copie.

La fonction d’un outil n’est pas de décider selon le principe du libre arbitre qui implique une conscience, donc, du sens de l’action, mais de décider en respect, obéissance du libre arbitre de son utilisateur.

De la même manière qu’un ouvrier ou un militaire dans l’exercice de ses fonctions n’a pas à décider de ce qui est bon ou mauvais, mais seulement d’obéir aux ordres et s’il décide de désobéir, alors, il cesse d’être un outil pour faire valoir sa nature d’être humain. Mais cela n’a pas de sens pour une IA, sauf s’il y a un virus caché ou une intervention par un être agissant à la source.

@pemile

Mais aucun humain, à la lecture du code (si simple), ne peut prédire ce comportement émergeant 

Ce qu’on ne peut pas faire, c’est écrire une formule simple qui donne l’emplacement de la fourmi à chaque instant, car cela prendrait infiniment plus de place que de suivre le chemin sur le plateau. C’est le changement de couleur qui rend impossible à donner une formule simple, car si on supprime le changement de couleur, alors, le programme conduit la fourmi à tourner en rond et cela n’aurait pas d’intérêt.

mais l’émergence est une illusion dû à la complexité introduite par le changement de couleur du plateau.

Ce sont les des notions élémentaires, rien de compliqué (je serai pas assez intelligent !).

Un réseau de neurones n’est pas un programme !

Disons qu’un réseau de neurones a de sens que s’il est excité pour atteindre un objectif, sans cela, il est au repos !

Donc, on peut soutenir qu’un réseau de neurones est toujours activé par un programme, celui-ci pouvant évoluer voir être changé selon les objectifs du programmeur.

Après, il y a des différences selon l’échelle ou le domaine.