Aller à la navigation Aller au contenu

Faut-il laisser les algorithmes gérer les risques ?

Le 11 octobre 2019, le Tribunal pour les Générations Futures de FM Global s’est demandé s’il fallait, ou non, laisser les algorithmes gérer les risques. Faites-vous votre propre opinion en découvrant les arguments de la cour.

 

Lors de son réquisitoire, l’avocat Lluis Pino a tenté d’inciter les jurés à voter « non ». Voici le résumé de ses arguments.

 

Tommy dessine©

 

« Un monde dans lequel les algorithmes gèrent les risques, c’est […] un monde dans lequel il n’y a plus d’humains »

 

Il ne faut pas laisser les algorithmes gérer les risques car, malgré ce que l’on veut nous faire croire, demain, même pas la magie du machine learning, la robotique et l’algorithmique ne sauront pas effectuer mieux et plus vite que les humains des tâches de plus en plus complexes.

En effet, ce qui fait qu’une tâche peut être effectuée ou non par un robot, ce n’est pas son degré de « complexité » mais la possibilité ou non de standardiser la tâche en question. Et par “possibilité”, il s’agit en réalité de “rentabilité”.

Pour savoir si une tâche va être réalisée ou non par un robot, la seule question à se poser est la suivante : est-il rentable d’investir beaucoup de temps et d’argent dans la décomposition de cette tâche en une série d’arborescences de choix compréhensibles par une machine, sachant que ladite machine fera le travail plus vite mais avec moins d’application qu’un humain et qu’elle fera toujours la même chose ?

Pour parier en bourse, la réponse est oui. Pour réparer des éviers en revanche, la réponse est non. La seule chose qui pourrait rendre un robot plombier rentable dès à présent, ce ne sont pas les progrès de l’algorithmique moderne mais que tous les éviers du monde soient construits de la même manière. Dans des cuisines identiques, elles aussi.

Le réel problème qu’implique de confier la gestion des risques à des algorithmes, c’est que cela impliquerait de tenir compte d’une telle somme de de facteurs, qu’à moins d’en standardiser quelques-uns, ça ne sera jamais rentable. Et comme on ne contrôle pas le vent, ni la grêle et encore moins les attaques terroristes, qu’est-ce qu’il reste à standardiser ? Et bien ce que l’on cherche à assurer. Pour pouvoir être protégé des risques par des algorithmes, il faudrait que nos maisons et nos usines soient toutes les mêmes, dans des villes toutes les mêmes. Que nous nous comportions tous de la même façon.

Un monde dans lequel les algorithmes gèrent les risques, c’est possible. Mais c’est un monde dans lequel il n’y a plus d’humains.

 

Lors de sa plaidoirie, l’avocat Vincent Edin a tenté d’inciter les jurés à voter « oui ». Voici le résumé de ses arguments.

 

 

Tommy dessine©

 

« L’homme a trop à faire avec les risques qu’il peut lui-même maîtriser »

 

Le risque zéro n’existe pas, n’existera jamais, mais le progrès, la limitation des accidents, est possible, à condition de ne se servir des nouveaux outils plutôt que de s’opposer à eux. Le risque se définit par la possibilité de survenue d’un événement indésirable, mais il n’est pas toujours négatif : on pense au risque de l’entrepreneur, dont on parle beaucoup en ce moment. Ou même le risque que représente l’engagement amoureux. Ces risques sont le propre de l’homme. Et c’est précisément parce que l’humain ne sait pas toujours repérer les dangers et qu’il peut lui-même être finalement très imprévisible que les machines vont l’aider. Par exemple, quand on dit que l’avion est le moyen de transport le plus sûr au monde, on oublie trop souvent de dire que c’est précisément grâce à une automatisation très forte et une gestion de la majorité des risques de pilotages délégués que l’on a réduit l’accidentologie. Et il en ira de même pour les voitures. Alors que depuis 10 ans, nous en sommes à un pallier incompressible de 4 000 morts par an, nous devrions nous attarder sur les ordres de grandeur des voitures autonomes qui ont déjà 10 fois moins d’accident par km parcourus, plutôt que de parler de « perte de l’humain », de « diminution des libertés »…

Concernant les risques climatiques, rendez-vous compte que le nombre de morts de typhons, d’ouragans et autres inondations baisse car les prévisions informatiques progressent. Si nous entraînons nos outils avec les données les plus précises, les machines deviendront nos meilleures alliées dans cette guerre nouvelle que l’homme doit affronter contre le dérèglement climatique. Alors jouons fair-play avec elles et innocentons ces machines en regardant la réalité en face : nous déciderons toujours de ce que nous leur confierons et cela sera toujours réversible. Parce que l’homme a justement trop à faire avec les risques qu’il peut lui-même maîtriser – fermeture démocratique, effondrement économique, inégalités sans précédents – il doit déléguer pour ne pas imploser.

 

 

Pour découvrir le réquisitoire de Lluis Pino dans son entièreté, cliquez ici et la plaidoirie de Vincent Edin, ici.

 

La résilience, c’est un choix.

FM Global est le spécialiste mondial de la prévention, la gestion et l'assurance des risques industriels. Un seul but: garantir aux entreprises la continuité de leurs activités partout dans le monde.

Découvrir