Éthique artificielle

par Laurent St-Pierre

Vaut-il mieux tuer une femme ou un homme ? À cette question, une voiture sans conducteur, comme celles naviguant déjà certaines routes, devra avoir réponse. Et cette réponse, ce sont les futurs acheteurs de ces voitures, les compagnies les produisant et les législateurs qui doivent la donner.

View fullsize

Figure 1 : Les personnages sauvés en ordre de préférence au niveau mondial

Un site construit par une équipe du MIT présentant au visiteur des dilemmes auxquels seront exposées les voitures autonomes nous permet de tirer des conclusions préliminaires sur la pensée éthique des masses. À partir de 40 millions de décisions prises par des visiteurs de 233 pays différents, il ressort que la majorité désire sauver : le plus de vies possibles, les jeunes plus que les vieux et les humains plus que les animaux (figure 1 et figure 2). Notre monde, sans grande surprise, en est donc un d’utilitarisme. Le consensus s’arrête cependant là.

View fullsize

Figure 2 : Grands principes éthiques étant ressortis de l’analyse des réponses au niveau mondial

Effectivement, les différences culturelles sont frappantes (figure 3). La préférence des pays d’Asie pour la vie des jeunes est beaucoup moins forte, témoignant de l’importance accordée par ces cultures aux aînés. De son côté, l’Amérique Latine présente une forte préférence pour les femmes et pour les gens en bonne forme physique. Que faire alors de ces données ? Les algorithmes décidant des issues des accidents devraient-ils prendre en compte les préférences régionales ? Les législateurs devraient-ils baser leurs décisions sur les préférences de la population ou sur les recommandations d’éthiciens de formation ?

Toutes ces questions méritent d’être réfléchies maintenant pour être prêts demain.

View fullsize

Figure 3 : Diagrammes de préférence selon le groupe de pays