Pourquoi nous devrions programmer des machines qui souffrent

Dans une scène des « Ailes du délire », un célèbre épisode des Simpson, un androïde en feu s'échappe d'un laboratoire en se lamentant de sa lancinante voix robotique : « Pourquoi ? Pourquoi m'a-t-on programmé pour que je sente la douleur ? »

Video: FOX/apala734/YouTube

La question peut prêter à rire, et pourtant, elle cache un problème plus profond en relation directe avec l'avenir de notre civilisation.

La douleur est phénomène central chez de nombreux organismes, puisqu'elle permet d'identifier quels types de comportements menacent leur intégrité physique et mentale. Au fur et à mesure que les robots deviennent plus sophistiqués et plus interactifs, ne devraient-ils pas, eux aussi, être programmés pour éprouver de la douleur ? Cela leur permettrait-il de prévenir les blessures causées à eux-mêmes ou à autrui, et si oui, dans quelle mesure ?

« Pain in the Machine », un documentaire de 12 minutes publié par l'Université de Cambridge, entreprend d'analyser ce problème controversé sous différents angles. Il évoque les points de vue d'experts en intelligence artificielle, de médecins et d'universitaires issus de discipline variées, avant de les confronter à la culture populaire qui elle-même soulève à sa façon des questions philosophiques fondamentales.

Le documentaire « Pain in the Machine ».Video: University of Cambridge/YouTube/Little Dragon Films

Comme tant d'objets de recherche en IA, évaluer l'utilité et les bénéfices de la douleur pour des robots nous renvoie inévitablement à notre compréhension du rôle de la souffrance dans nos vies bien humaines.

« La douleur fascine les philosophes depuis des siècles », explique Ben Seymour, expert en neurosciences computationnelles. « Certains la considèrent comme l'expérience suprême de la conscience. Bien sûr, elle ne procure pas de plaisir (sauf circonstances exceptionnelles), mais nous permet de nous sentir pleinement humains en nous rappelant que nous sommes mortels. »

L'idée que la souffrance humanise notre expérience du monde, en défit de l'inconfort plus ou moins intense que nous ressentons lorsqu'elle s'exprime, est répandue dans de nombreuses cultures. Comme le dit d'ailleurs James Baldwin : « Les choses qui m'ont le plus tourmenté étaient aussi celles qui m'ont le plus rapprochés de mes pairs, vivants ou morts. »

Reste à savoir si le réflexe qui suit la douleur, qui a déjà été programmé chez certaines IA, pourrait évoluer vers des émotions plus complexes comme l'empathie, la compassion, ou le sentiment d'être ensemble décrit par Baldwin. Peut-être même que les robots pourraient dépasser les limites cognitives et conceptuelles de leurs concepteurs humains, et devenir les pionniers de nouvelles approches pour interagir avec le monde et ses habitants.

« Les humains ne sont peut-être que des machines biologiques particulièrement complexes, » explique Marta Halina, maitre de conférences en philosophie des sciences cognitives à l'Université de Cambridge, dans « Pain in the Machine. »

« Ce débat aura des implications énormes sur l'avenir de l'IA, dans le sens où nous pourrions de construire des machines aussi complexes que nous, aussi capables que nous. Capables de ressentir la douleur, par exemple » poursuit Halina. « Si cette complexité pouvait outrepasser celle des humains, alors les machines pourraient acquérir des expériences et des capacités que nous n'imaginons même pas. »

Les ruminations artistiques sur ces thèmes, que présente entre autres la nouvelle série de HBO, Westworld, ont propulsé ce genre de spéculations dans la culture mainstream. « Pain in the machine » nous donne un aperçu intéressant des méthodes qui permettent d'émuler la douleur chez les robots, tout en considérant les questions éthiques, philosophiques et sociales que la programmation de la souffrance soulèveront dans l'avenir.