Le 24 juin, lors d’une visite au Centre national d’ingénierie robotique de l’université Carnegie Mellon, le président Barack Obama a annoncé que l’État américain allait doter la National Robotics Initiative (Initiative robotique nationale) d’un budget de 70 millions de dollars.
Dans son intervention, Obama s’est autorisé une plaisanterie:
«Vous l’ignorez peut-être, mais une de mes responsabilités en tant que commandant en chef est de surveiller les robots. Et je suis heureux de pouvoir dire que les robots que vous fabriquez ici n’ont pas l’air méchant, du moins pour l’instant.»
Boutades robotiques
Les plaisanteries sur les robots déclenchant la fin du monde marchent toujours. Après que l’ordinateur Watson d’IBM a battu les champions en titre de Jeopardy, Fox News a écrit: «Notre maître-robot ne s’appelle pas HAL ou Skynet. Il s’appelle Watson».
On avait déjà eu droit à ce type de boutade en 2007 quand des robots avaient commencé à jongler, à faire la manche, à acheter des viennoiseries et à remplacer les enfants jockeys lors de courses à dos de chameau.
En réalité, peu de gens y voient une véritable menace. Aussi sophistiqués soient-ils, les robots ne sont capables que d’exécuter les tâches pour lesquelles ils ont été programmés.
Mais les progrès en robotique s’accélérant (et avec la National Robotics Initiative, Barack Obama espère des avancées encore plus rapides), il faut commencer à discuter sérieusement des problèmes de sécurité posés par les robots. Non pas au cas où ils fonctionneraient si bien qu’ils finissent par asservir notre civilisation, mais au cas où ils connaîtraient des ratés.
Un problème mécanique n'est pas une blague
Le mythe de la révolte des robots est si ancré en nous qu’il occulte les véritables questions de sécurité. Ainsi, cet exemple venu de Suède. Selon un article du Local, «une société suédoise a écopé d’une amende de 25.000 couronnes (2.750 euros) suite à l’attaque, qui aurait pu être mortelle, d’un robot sur un ouvrier dans usine au nord de Stockholm». L’ouvrier était en train de réparer un robot en panne et pensait avoir coupé l’alimentation de la machine. Mais le robot «s’est soudainement mis en marche et a agrippé la tête de la victime».
Ce robot était programmé pour soulever de grosses pierres, et il a apparemment pris la tête de l’ouvrier pour l’une d’elles. Il ne s’agissait en aucun cas d’un acte de malveillance ou d’une «attaque», mais d’un banal problème mécanique. Ce type de mésaventure représente un danger réel. Mais quand, même sur un blog scientifique, un problème de sécurité est présenté comme une agression ou sur un ton humoristique, le débat tourne vite court.
Ce n’est pas la première fois qu’un être humain est blessé à cause du dysfonctionnement ou de la mauvaise utilisation d’un robot. Dans un article de 2004 consacré aux accidents de robot, Jeff Fryman, de la Robotics Industries Association, cite un ouvrier:
«J’étais en train de désenrayer les cames. Quand j’ai réussi, le robot s’est tout de suite mis en marche et m’a coincé contre la machine. Je ne savais pas qu’il fallait l’éteindre.»
Sécuriser les robots
Mais il n’y a pas que les robots d’usines qui pourraient présenter un danger. «Que se passerait-il si un robot rencontrait une erreur système, ou si ses moteurs tombaient en panne, pendant qu’il vous opère du cœur ou qu’il vous tend un café brûlant?», s’interrogeait The Economist en 2006.
Comment être certain que les robots censés nous aider dans notre vie quotidienne, dont le nombre est en train d’exploser au Japon, ne blesseront pas quelqu’un si leur batterie se décharge? Comment programmer les robots mobiles pour qu’ils ne roulent pas sur les pieds des gens? Si on doit les laisser prendre soin de nos personnes âgées (même si celles-ci semblent encore loin d’être convaincues), la question vaut la peine d’être posée.
Dans cette présentation de l’université de Stanford, les critères mis en avant pour obtenir des «robots soucieux des humains» (à ne pas confondre avec une intelligence artificielle bienveillante destinée à empêcher les robots de nous remplacer) étaient: «fiables et sûrs», ayant «une peau amortissant les chocs», «une faible inertie» et «des zones de détection étendues».
Le mythe du méchant robot
Même pour les spécialistes de la robotique, le fantasme de l’apocalypse causée par les machines est attirant. Prenez Daniel H. Wilson, ancien élève de Carnegie Mellon, titulaire d’une thèse en robotique et auteur du récent Robopocalypse.
Dans ce livre, qui devrait être adapté au cinéma par Steven Spielberg en 2013, Wilson dépeint un futur proche dans lequel des robots de la vie quotidienne, des voitures sans chauffeur jusqu’aux jouets électroniques, se soulèvent pour asservir les humains.
Qu’est-ce qui a poussé cet expert en robotique à imaginer une révolte cybernétique? Réponse: sa frustration vis-à-vis du mythe du méchant robot. Robopocalypse fait suite à How To Survive a Robot Uprising:Tips on Defending Yourself Against the Coming Rebellion («Comment survivre à un soulèvement de robots: savoir se défendre contre la rébellion à venir»), un guide de survie publié en 2005 qu’il avait commencé à écrire, dit-il, «pour rire» alors qu’il préparait sa thèse.
«J’étais entouré de roboticiens dont le seul but était de faciliter et d’améliorer la vie des gens, et pourtant, les robots étaient systématiquement présentés comme méchants. Du coup, je me suis dit que j’allais partir très sérieusement de ce postulat… pour le tourner en ridicule. Rétrospectivement, je réalise l’ironie de la chose.»
À la fin de son discours, Barack Obama a déclaré:
«Aussi futuristes et, disons-le clairement, aussi cool que puissent être certains de ces robots, et bien que ce partenariat prépare l’avenir de l’Amérique, il a avant tout pour but de développer des idées de pointe, de permettre de nouvelles avancées, de créer des emplois et de redynamiser l’industrie américaine dès aujourd’hui. Pas demain. Dès aujourd’hui.»
Et il a raison: il se passe des choses passionnantes dans la robotique. Mais ces avancées soulèvent d’importantes questions de sécurité et d’éthique.
Quand on voit qu’un robot chante même des chansons pop, on a envie de dire, à la manière de Kent Brockman dans Les Simpson: «Pour ma part, je fais allégeance aux pop-stars androïdes».
Cela a l’air ridicule, pourtant il faut bien que quelqu’un veille à ce que ce robot bubble-gum ne tombe pas dans la foule s’il était débranché accidentellement. Si on néglige cette banale précaution, les robots nous écraseront plus tôt qu’on ne le pense.
Torie Bosch
Traduit par Florence Curet
slate.fr
Aucun commentaire:
Enregistrer un commentaire