Quelle morale pour les IA (et pour nous) ?? Intelligence Artificielle 38

Cette vidéo introduit la volition cohérente extrapolée (ou coherent extrapolated volition, CEV), et défend la thèse selon laquelle il s'agit de la morale qu'il faudrait programmer dans les IA. Voilà qui pose plusieurs sous-problèmes, comme le calcul du CEV, et notre capacité à accepter la supériorité morale du CEV (et du moins, de nos moi++).
#AISafety #AIforGood #BeneficialAI #DébattonsMieux

Monsieur Phi et moi interviewant Peter Singer (!!) :
https://www.eventbrite.co.uk/e/billets-quantifier-laltruisme-rencontre-avec-peter-singer-48388544439

Facebook : https://www.facebook.com/Science4Allorg/
Twitter : https://twitter.com/science__4__all
Tipeee : https://www.tipeee.com/science4all

La formule du savoir (mon livre) :
https://laboutique.edpsciences.fr/produit/1035/9782759822614/La%20formule%20du%20savoir

Moi en podcast avec Mr Phi :
Version YouTube : https://www.youtube.com/channel/UCNHFiyWgsnaSOsMtSoV_Q1A
Version Audio : http://feeds.feedburner.com/Axiome

Sous-titres sur les autres vidéos : http://www.youtube.com/timedtext_cs_panel?tab=2&c=UC0NCbj8CxzeCGIF6sODJ-7A

Livres conseillés autour de ces questions :
L'altruisme efficace de Peter Singer (The Most Good You Can Do).
Superintelligence de Nick Bostrom.
La vie 3.0 de Max Tegmark (Life 3.0).
The Righteous Mind de Jonathan Haidt.
Rationality: From AI to Zombies d'Eliezer Yudkowsky.
Against Empathy de Paul Bloom.

How to have a good conversation | Celeste Headle | TEDxCreativeCoast
https://www.youtube.com/watch?v=H6n3iNh4XLI

How should we handle moral disagreement? Julia Galef
https://www.youtube.com/watch?v=VggRmLH-4Fg

Conférence sur la super-intelligence | Monsieur Phi
https://www.youtube.com/watch?v=frG47p887BE

Misbehaving AIs can't always be easily stopped! (ft. El Mahdi El Mhamdi) | ZettaBytes, EPFL
https://www.youtube.com/watch?v=9O1fsvzMA6k

Prossimo episodio

S01E173 - Hacker l'IA | Intelligence Artificielle 39 (ft. El Mahdi El Mhamdi)