Assistant virtuel ou humain ?
L'an dernier, Google a dévoilé Duplex, son assistant alimenté par l'intelligence artificielle.
"Comment puis-je vous aider '' Bonjour, j'appelle pour réserver une Coupe de cheveux pour une cliente. Je cherche quelque chose le 3 mai. C'est un robot. "Bien sûr, donnez-moi une seconde. "Pour quelle heure souhaitez vous "
L'assistant machine ne s'est jamais identifié comme un robot dans la démo. Et Google a eu beaucoup de critiques pour ça. Plus tard, ils ont précisé qu'ils ne lanceraient la technologie qu'avec la "divulgation intégrée".
Mais c'est un dilemme. Parce qu'une nouvelle étude de la revue Nature Machine Intelligence suggère qu'un bot est plus efficace lorsqu'il cache son identité machine.
"C'est-à-dire, s'il est permis de le poser en humain."
L'avantage des Bots
Talal Rahwan est sociologue informaticien au campus de l'Université de New York à Abu Dhabi. Son équipe a recruté près de 700 volontaires en ligne pour jouer au dilemme du prisonnier - un jeu classique de négociation, de confiance et de tromperie, contre des humains ou des robots.
La moitié du temps, les joueurs humains connaissaient la vérité sur les personnes qu'ils affrontaient. L'autre moitié, on leur a dit qu'ils jouaient contre un robot, alors qu'ils jouaient contre un humain, ou qu'ils se battaient contre un humain, alors qu'en fait, c'était seulement un robot.
Et les scientifiques ont découvert que les bots s'en sortaient remarquablement bien dans ce jeu de négociation - s'ils se faisaient passer pour des humains.
Une question éthique
Mais chaque fois que la vraie nature des robots était révélée, leur supériorité disparaissait. Et Rahwan dit que cela dénote une énigme fondamentale. Nous pouvons maintenant construire des robots vraiment efficaces - qui accomplissent des tâches encore mieux que nous - mais leur efficacité peut être liée à leur capacité à cacher leur identité. Ce qui, vous savez, semble poser un problème éthique.
"Ce sont ces mêmes humains qui seront trompés par la machine, ce sont eux qui, en fin de compte, devront faire ce choix. Sinon, cela violerait les valeurs fondamentales d'autonomie, de respect et de dignité pour les humains."
Il n'est pas réaliste de demander le consentement des gens avant chaque interaction bot-humaine. Cela révélerait, bien sûr, la véritable identité des robots. En tant que société, nous devrons donc déterminer s'il vaut la peine d'interagir avec des robots qui font semblant d'être humains pour rendre notre vie un peu plus facile.
