L’autonomie des IA expliquée aux humains
Quelques sources dont il était question dans la vidéo
- L'étude de METR sur la progression exponentielle de la capacité à résoudre des tâches longues : https://metr.org/blog/2025-03-19-meas...
- Interview d'@Underscore_ sur le benchmark GAIA :- • En fait, les LLMs ne stagnent pas du tout
- Des détails sur le concours AtCoder 2025 par le gagnant de cette année : https://github.com/FakePsyho/cpcontes...
- L'article sur l'émergence de désalignement quand on entraîne un modèle sur du code vulnérable : https://www.emergent-misalignment.com/
- L'article sur la falsification d'alignement et Claude soucieux du bien-être animal : https://www.anthropic.com/research/al...
Sommaire
0:00 - Sponso
1:54 - Le paradigme du micro-trottoir
11:36 - Autonomie absolue
13:57 - Autonomie vis-à-vis des moyens
15:39 - Etude METR, benchmark GAIA, olympiades de mathématiques
20:42 - Le concours AtCoder, expliqué par @PasseScience
27:06 - Pourquoi ces gains en autonomie peuvent être problématiques
29:30 - Autonomie vis-à-vis des objectifs
34:48 - Autonomie morale
37:25 - L'article "Emergent misalignement"
41:38 - Quand Claude forge ses propres valeurs
46:42 - Conclusion et outro (je parle un peu de mon livre)
Tags : France Informatique Prospective et futur Intelligence artificielle
4 réactions à cet article
-
Ton copié/collé du texte de la vidéo de Mr Phi qui pète tous les liens est juste pitoyable !
-
-
@pemile
Tu ferais mieux de t’en tenir à ce créneaux-là. Ça te fait passer pour moins débile. Et même que je te plusse. -
@juanyves
« Ah non, touche-moi pas ! Tu me salis ! ».
-
-
Ajouter une réaction
Pour réagir, identifiez-vous avec votre login / mot de passe, en haut à droite de cette page
Si vous n'avez pas de login / mot de passe, vous devez vous inscrire ici.
FAIRE UN DON
