L'IA hackera sa morale !! Intelligence Artificielle 40

Et si l'IA était la plus grosse menace à son propre bon fonctionnement ? On parle là de reward hacking, et même de wireheading, qui correspond à une IA qui parviendrait à court-circuiter son circuit de la récompense !
#AISafety #AIforGood #BeneficialAI

Je vous invite aussi vivement à lire l'article "A Roadmap for the Value-Loading Problem" que j'ai mis sur ArXiV :
https://arxiv.org/abs/1809.01036

Facebook : https://www.facebook.com/Science4Allorg/
Twitter : https://twitter.com/science__4__all
Tipeee : https://www.tipeee.com/science4all

La formule du savoir (mon livre) :
https://laboutique.edpsciences.fr/produit/1035/9782759822614/La%20formule%20du%20savoir

Moi en podcast avec Mr Phi :
Version YouTube : https://www.youtube.com/channel/UCNHFiyWgsnaSOsMtSoV_Q1A
Version Audio : http://feeds.feedburner.com/Axiome

Sous-titres sur les autres vidéos : http://www.youtube.com/timedtext_cs_panel?tab=2&c=UC0NCbj8CxzeCGIF6sODJ-7A

Next episode

S01E175 - Les réseaux de neurones | Intelligence artificielle 41