Amazon Alexa présente une nouvelle technologie qui peut imiter les voix, y compris les morts - cytotecnsaid

Amazon Alexa présente une nouvelle technologie qui peut imiter les voix, y compris les morts

Remplissage lors du chargement d’actions avec un article

S’appuyant sur le P. lit Cette semaine, lors du sommet technique Amazon Echo Dot, on m’a demandé de terminer le devoir : “Alex, grand-mère peut-elle me lire ?” Le magicien d’Oz? “

La voix généralement joyeuse d’Alex jaillit du haut-parleur intelligent conçu par un panda pour enfant : “Bien !” Puis, alors que l’appareil commençait à raconter la scène du Lion lâche implorant du courage, le son robotique d’Alexa a été remplacé par un narrateur plus humain.

“Au lieu de la voix d’Alex lisant un livre, c’est la voix de la grand-mère d’un enfant”, a déclaré Rohit Prasad, vice-président senior et scientifique en chef de l’intelligence artificielle chez Alexa, lors d’un discours liminaire à Las Vegas. (Le fondateur d’Amazon, Jeff Bezos, est propriétaire du Washington Post.)

Manifestation c’était le premier regard sur la dernière fonctionnalité d’Alexa, qui, bien qu’en cours de développement, permettra à un assistant vocal de reproduire la voix des gens à partir de courts clips audio. L’objectif, a déclaré Prasad, est de renforcer la confiance des utilisateurs en remplissant l’intelligence artificielle d'”attributs humains d’empathie et d’affect”.

La nouvelle fonctionnalité peut “faire [loved ones’] les derniers souvenirs », a déclaré Prasad. Mais si la perspective d’entendre la voix d’un parent décédé peut combler les lacunes, elle pose également de nombreux problèmes de sécurité et d’éthique, selon les experts.

“Je n’ai pas l’impression que notre monde soit prêt pour une technologie pratique de clonage de la voix”, a déclaré Rachel Tobacco, directrice exécutive de la sécurité sociale à San Francisco, au Washington Post. Une telle technologie, a-t-elle ajouté, pourrait être utilisée pour manipuler le public à travers de faux clips audio ou vidéo.

“Si un cybercriminel peut reproduire facilement et de manière fiable la voix d’une autre personne avec un petit échantillon de voix, il peut utiliser cet échantillon de voix pour se faire passer pour d’autres personnes”, a ajouté Tobacco, un expert en cybersécurité. “Ce mauvais acteur peut tromper les autres en leur faisant croire qu’ils sont la personne qu’ils prétendent être, ce qui peut entraîner des fraudes, des pertes de données, des détournements de compte, etc.”

Ensuite, il y a le risque de brouiller la frontière entre ce qui est humain et ce qui est mécanique, explique Tama Liver, professeur de recherche en ligne à l’Université Curtin en Australie.

“Vous ne vous souviendrez pas d’avoir parlé dans les profondeurs de l’Amazonie… et ses services de collecte de données s’il parle à la voix de votre grand-mère, de votre grand-père ou à la voix d’un être cher perdu. ”

“D’une certaine manière, c’est comme un épisode de Black Mirror”, a déclaré Liver, faisant référence à une série de science-fiction qui envisage un avenir sur des sujets techniques.

Un ingénieur de Google qui pense que l’IA de l’entreprise a pris vie

La nouvelle fonctionnalité d’Alexa soulève également des questions sur le consentement, a ajouté Liver – en particulier pour les personnes qui n’auraient jamais imaginé que leur voix serait bloquée par un robot assistant personnel après leur mort.

“Il y a une vraie pente glissante à utiliser les données des personnes décédées d’une manière qui, d’une part, est tout simplement horrible, mais d’autre part, c’est très contraire à l’éthique car ils n’ont jamais considéré que ces traces étaient utilisées de cette façon, ” dit Foie.

Ayant récemment perdu son grand-père, Liver a déclaré qu’il sympathisait avec la “tentation” de vouloir entendre la voix d’un être cher. Mais cette opportunité ouvre la porte à des conséquences que la société n’est peut-être pas prête à assumer, a-t-il déclaré. qui a les droits sur les petits fragments que les gens laissent sur le World Wide Web ?

« Si mon grand-père m’a envoyé 100 messages, aurais-je le droit de le soumettre au système ? Et si je le suis, alors à qui appartient-il ? Amazon a-t-il ce record ? » Il a demandé. « Ai-je renoncé au vote de mon grand-père ? »

Prasad n’a pas parlé de ces détails lors du discours de mercredi. Cependant, il a fait valoir que la capacité d’imiter les voix était le produit de “la vie inconditionnelle à l’âge d’or de l’IA, lorsque nos rêves et la science-fiction deviennent réalité”.

Ce modèle d’intelligence artificielle tente de restaurer la conscience de Ruth Bader Ginzburg

Si la démo d’Amazon devient une véritable fonctionnalité, Liver a déclaré que les gens pourraient avoir besoin de réfléchir à la façon dont leurs voix et leurs similitudes peuvent être utilisées à leur mort.

« Dois-je penser dans mon testament que je dois dire : « Ma voix et mon histoire visuelle sur les réseaux sociaux sont la propriété de mes enfants et ils peuvent décider s’ils veulent la faire revivre en discutant avec moi ou non ? ” Le foie a été surpris.

“C’est bizarre de parler maintenant. Mais c’est probablement une question à laquelle nous devons répondre avant qu’Alex ne commence à parler comme moi demain », a-t-il ajouté.

Leave a Reply

Your email address will not be published.

%d bloggers like this: