Mon auto conduit, mais qui commande ?

La voiture autonome – Google Car ou autre – est en route. Problème : si la machine tient le volant, jusqu’où peut-elle prendre des décisions impliquant un choix moral, un risque d’accident mortel, par exemple ?

Les chanceux qui ont pu se rendre au dernier Consumer Electronics Show (CES), à Las Vegas, en janvier, les ont forcément repérés : sur le stand bleu électrique de Toyota, huit véhicules miniatures tournent sur un circuit. Accélération, coup de frein brutal, marche arrière ; les bolides aux allures de voitures téléguidées semblent totalement désorientés. Après quelques heures, pourtant, et sans aucune intervention humaine, les trajectoires se font plus précises, les accrocs, moins fréquents. En une simple démonstration, le constructeur japonais a résumé ce sur quoi Google planche depuis des années dans la Silicon Valley, en avalant les kilomètres et les informations : doter la voiture d’une capacité d’apprentissage autonome lui permettant d’élaborer ses propres règles.

Aujourd’hui, l’intelligence artificielle se trouve au coeur des préoccupations des constructeurs et des géants du numérique, lancés dans une course effrénée à l’autonomisation. Toyota, BMW, Mercedes, Google, Apple, ou encore Uber, tous ont massivement investi pour capter ce marché qui s’annonce colossal : 500 milliards d’euros à l’horizon 2035, selon les prévisions du cabinet AT Kearney. Le défi n’est pas seulement technologique.  » Pour la première fois, l’être humain va confier sa vie à une machine, ce qui ne manquera pas de susciter tout un tas de questions juridiques, sociétales, et même philosophiques « , estime l’avocat français Olivier Piton, passionné d’intelligence artificielle.

Une question focalise l’attention : comment la machine réagira-t-elle lorsqu’elle devra prendre des décisions mettant en cause la vie humaine ? Face à un obstacle inévitable, par exemple, devra-t-elle foncer dans le mur, au risque de tuer son passager, ou faucher des enfants stationnant sur la chaussée ? Ce dilemme, macabre, n’est pas si irréaliste. Ultrarationnelle, la machine pourrait prendre en un millième de seconde une décision que l’esprit humain n’aurait même pas le temps d’envisager : estimer que la vie de 10 enfants vaut plus que celle d’un conducteur. En France, le chercheur en psychologie cognitive Jean-François Bonnefon, de la Toulouse School of Economics, a cherché à savoir ce que les gens étaient prêts à accepter d’un véhicule intelligent. Ses conclusions sont plutôt déroutantes : la majorité des personnes interrogées estime qu’il est normal que l’algorithme choisisse de sauver un maximum de vies… à condition qu’elles ne se trouvent pas elles-mêmes à l’intérieur de la voiture sacrifiée !

Face à ces apories, les industriels, eux, bottent en touche.  » Ces questions ne sont pas à l’ordre du jour pour les prochaines années, réplique Franck Cazenave, directeur marketing et business développement de Bosch. Technologiquement, nous sommes incapables d’estimer les dommages corporels d’un possible accident. Actuellement, nous créons des « briques technologiques », comme le freinage automatique, la détection des véhicules et des piétons sur la chaussée, ou encore le correcteur de trajectoire, qui, additionnées les unes aux autres, rendent la voiture plus autonome et plus sûre.  » Si les véhicules commercialisés n’en sont pas là, qu’en est-il de tous ces prototypes qui circulent en Californie et, depuis peu, sur quelques routes françaises? Pour l’heure, ils sont programmés pour prendre le minimum de risques. Un excès de prudence qui peut même se révéler paradoxalement dangereux : aux Etats-Unis, la lenteur excessive de la Google Car ou ses coups de frein brutaux seraient, selon les experts, à l’origine de la plupart des accrochages.

A l’inverse, lorsqu’ils sont confrontés à des environnements complexes, même les prototypes les plus avancés sont incapables de s’orienter.  » Grâce aux informations dont il dispose, le véhicule comprend qu’il ne peut pas piloter en mode autonome. Il laisse alors la main au conducteur « , explique Vincent Costet, chef du projet Connected Drive de BMW. Faire de la route l’endroit le plus sûr de la terre… Voilà en effet le principal objectif des constructeurs, qui rappellent que 80 % des accidents sont dus à des erreurs de pilotage.

Un groupe de travail sur l’éthique mis en place

Il n’empêche. Que se passera-t-il le jour où l’erreur, justement, ne sera pas humaine ?  » La faute de la machine sera inacceptable. C’est pourquoi nous n’avons d’autre choix que d’offrir une technologie qui devra être au niveau de fiabilité maximal « , estime Vincent Abadie, responsable du projet voiture autonome de PSA.  » In fine, on considérera peut-être que, dans certaines situations de conduite très complexes, les coûts de développement et les défis techniques sont trop importants par rapport au bénéfice. La voiture 100 % autonome commencera probablement dans des chemins totalement balisés ou des voies dédiées avant d’évoluer vers des environnements de conduite plus classiques « , anticipe Jean-François Belorgey, expert d’Ernst & Young.

D’ici là, un autre aspect, plus urgent, reste à éclaircir : celui de la réglementation en vigueur. La convention de Vienne, vieille d’un demi-siècle, oblige le conducteur à conserver en permanence le contrôle de son véhicule. Des discussions sont en cours à l’ONU pour la faire évoluer. Autant dire que les débats promettent d’être animés. En cas de dommage, qui du conducteur ou du constructeur est responsable ?  » A quel moment la voiture se conduit toute seule, et à quel moment le conducteur la contrôle ? Les phases de transition, surtout, risquent de poser des problèmes « , explique Rémi Bastien, directeur de la recherche et de l’innovation de Renault. Pour les assureurs, qui s’interrogent sur la manière de quantifier les risques, la réponse sera cruciale. Mais certains voient déjà plus loin.  » Imaginons qu’un jour une voiture prenne une décision totalement indépendante de la volonté humaine, anticipe l’avocat Olivier Piton. Ne faudra-t-il pas alors créer une nouvelle catégorie juridique, entre l’humain et l’objet ?  »

Par Julie de la Brosse

Vous avez repéré une erreur ou disposez de plus d’infos? Signalez-le ici

Partner Content