L'assistant vocal de Google fait des vagues

Hyper réaliste, la dernière version de l'assistant vocal de Google, qui peut passer un coup de fil à votre place, ressemble à s'y méprendre à un humain. Un peu trop réaliste, au goût de certains.

En présentant fièrement son nouveau Google Assistant, le patron de Google Sundar Pichai a fait sensation, déclenchant des cris d'admiration, mais aussi des froncements de sourcils parmi les milliers d'informaticiens, journalistes et spécialistes des médias venus cette semaine à la conférence annuelle des développeurs en Californie (IO18).

Il venait de diffuser une conversation entre le logiciel d'intelligence artificielle et une employée de salon de coiffure. Chargé de prendre un rendez-vous, Google Assistant est criant de réalisme et marmonne même « mmhhhh... mmmhh » lorsque son interlocutrice lui dit d'attendre, le temps de consulter la planification.

S'ensuit une conversation étonnamment des plus naturelles entre l'assistant vocal et l'employée, qui ne se rend visiblement pas compte qu'elle parle à une machine.

Cette technologie baptisée Duplex permet au logiciel de converser de « façon naturelle », ont expliqué les responsables de Google. L'assistant virtuel, qui équipe de nombreux appareils électroniques, est aussi, dans cette nouvelle version à venir, en mesure de comprendre quand il convient de répondre rapidement : lorsqu'on lui dit simplement «bonjour» par exemple.

Selon le géant technologique, ce système est à la fois utile aux clients, car il leur fait gagner du temps, et aux petits commerces qui n'ont pas de sites internet de prise de rendez-vous.

« Le but de notre assistant, est d'aider à accomplir vos tâches », a dit Sundar Pichai. Ces nouvelles fonctionnalités vont être testées dans les mois qui viennent, a précisé le groupe de Mountain View.

Rapidement, l'étonnement a fait place à un débat éthico-moral sur les réseaux sociaux, certains estimant que les interlocuteurs devaient être prévenus quand ils parlaient à une machine plutôt qu'à un humain, d'autres s'interrogeant sur la façon dont ces robots très convaincants pourraient être un peu trop utiles aux démarchages commerciaux ou politiques.

Star Trek «Google Duplex est le truc le plus incroyable et le plus terrifiant de IO18», a tweeté Chris Messina, designer produit qui a travaillé chez Google et revendique la paternité du concept du hashtag sur Twitter.

C'est un développement important et il signale le besoin urgent qu'il y a à mettre au point un contrôle adéquat des machines, qui peuvent tromper les gens en se faisant passer pour des humains, estime Kay Firth-Butterfield, chargée du dossier « intelligence artificielle et apprentissage des machines » pour le Centre pour la quatrième révolution industrielle du Forum économique mondial.

Ces machines pourraient passer des coups de fil de la part de partis politiques et donner des consignes de vote bien plus convaincantes

Autre interrogation : qui est responsable pour des erreurs, si par exemple le client ne se présente pas à un rendez-vous et doit payer une pénalité ?

En ces temps d'inquiétude autour de la confidentialité des données sur internet, certains s'inquiètent aussi de savoir quelle sorte de données les assistants numériques peuvent collecter et qui y a accès.

« Je pense que de façon générale, les humains sont d'accord pour parler à des machines à condition de le savoir », a commenté Lauren Weinstein, spécialiste de la confidentialité sur internet, sur un forum de discussion consacré à Duplex sur le site de Google.

Sur Twitter, de très nombreux internautes ont débattu sur le fait de savoir s'il était contraire à l'éthique de ne pas prévenir les gens qu'ils parlent à un logiciel.

« Si comme moi vous avez grandi en regardant Star Trek : Next Generation, alors sans doute vous avez déjà envisagé un avenir où l'on converse naturellement avec les ordinateurs », dit Andreas Schäfer, ingénieur informatique chez Google, sur le forum Duplex. « Et bien, on dirait que le futur est arrivé », ajoute-t-il.