Vous connaissez certainement le dilemme moral qui se posera aux intelligences artificielles lorsqu’elles seront en situation de faire un choix de vie ou de mort vis à vis de plusieurs individus. Que doit faire une voiture autonome si elle DOIT écraser SOIT un enfant SOIT une personne âgée ? Pour anticiper ces questions, des chercheurs ont mis en ligne le site http://moralmachine.mit.edu/hl/fr : un simulateur de situations qui évalue les choix moraux de la population mondiale, et qui permettra de définir la morale des I.A. que nous concevons. Les grandes idées qui ressortent de ce sondage, c’est :
- La majorité des personnes souhaitent minimiser le nombre de morts
- …mais elle préfèrent aussi acheter un véhicule qui va les protéger eux plutôt que les piétons. Les deux points ne sont pas compatibles… faites ce que je dis, mais pas ce que je fais.
- La majorité des personnes accordent un bonus au nombre d’années restant à vivre : La vie des enfants est toujours privilégiée par rapport aux personnes plus âgées. Ce choix, comme tous les autres est discutable : comment évaluer la valeur d’un enfant par rapport à celle d’un adulte, en terme de contribution à notre société par exemple ? Quid d’un enfant gravement malade vs. un chirurgien cinquantenaire qui sauve des vies ?
Faites le test afin de vous confronter aux multiples dilemmes ! Rappelons pour finir, que de toutes façons, les voitures autonomes sauveront plus de vie que ne le ferait un humain. Le bénéfice sera toujours présent, même en cas de dilemme cornélien. Et pourquoi « Cornélien » ? Ces quelques vers du Cid, de Pierre Corneille, devraient illustrer l’origine de l’expression :
Que je sens de rudes combats! Contre mon propre honneur mon amour s’intéresse: Il faut venger un père, et perdre une maîtresse; L’un m’anime le cœur, l’autre retient mon bras. Réduit au triste choix, ou de trahir ma flamme, Ou de vivre en infâme, Des deux côtés mon mal est infini. O Dieu! l’étrange peine! Faut-il laisser un affront impuni? Faut-il punir le père de Chimène?
[Le Cid, Acte I. sc. VI]