No ha hecho más que mostrarse al mundo y la nueva característica de Alexa ya ha provocado un gran debate en Internet, que seguramente no va a desaparecer pronto.
Durante el transcurso de la conferencia anual "Re: Mars 2022", el vicepresidente senior de la división de Amazon que está a cargo del asistente digital, Rohit Prasad, anunció que será posible que el asistente de voz de Amazon imite las voces de nuestros seres queridos, incluidos las de aquellos que hayan fallecido.
Para demostrar esta nueva característica, Rohit Prasad optó por reproducir un vídeo en el que Alexa lee un cuento antes de dormir a un bebé imitando la voz de la abuela; una abuela fallecida poco tiempo antes. A partir de ahí se ha montado un debate con la lógica cuestión ética como trasfondo, en cuanto a si debería utilizarse la tecnología como herramienta para rescatar de alguna manera a los seres queridos que ya no se encuentran entre nosotros.
La tecnología sigue sorprendiendo
La nueva habilidad de Alexa solo necesita un minuto de escuchar una determinada voz para luego saber reproducir y pronunciar prácticamente cualquier expresión que pueda ser procesada por el asistente vocal. Imitar voces es, sin duda, el reto más novedoso de este instrumento. Ser capaz de reproducir los tonos más dispares y los timbres de voz más diversos, calibrando su resultado final con mucha precisión.
En palabras de Rohit Prasad, “vivimos en la edad de oro de la inteligencia artificial y si la inteligencia artificial no puede evitar el dolor del fallecimiento de un ser querido, sí puede hacer que su recuerdo permanezca”.
El potencial tecnológico es innegable, pero la nueva herramienta suscita muchas reflexiones de carácter ético que ya están siendo calurosamente discutidas en las redes sociales por los usuarios más preocupados a este respecto.
El peligro que podría suponer
La imitación de cualquier voz puede convertirse en peligrosa si se lleva a cabo para fines maliciosos. Así, puede utilizarse para difundir las indeseadas fake news cada vez más difíciles de reconocer, así como hacerse pasar por un audio de una persona que seguramente nunca habría consentido que se le utilizara para un procedimiento como este. Algo que no solamente podría afectar a personas fallecidas sino también a cualquier otro ser humano vivo que no sea consciente de que su voz se estaría usando en acciones para los que no ha dado su consentimiento.
En este sentido, antes de que Amazon presentara esta nueva y polémica funcionalidad de imitación de voz, Microsoft ya había publicado unas nuevas reglas éticas para el uso y desarrollo de la Inteligencia Artificial, un marco regulatorio que en el futuro podría poner muchas limitaciones en el desarrollo de este tipo de cuestiones.
El caso de Top Gun: Maverick
La recreación mediante inteligencia artificial de las voces de personas ha crecido mucho en los últimos años y, en ocasiones, se ha empleado en películas y en televisión. Recientemente, la película Top Gun: Maverick, protagonizada por Tom Cruise, ha mostrado cómo la inteligencia artificial ha sido capaz de hacer hablar al actor Val Kilmer, que perdió la voz debido al cáncer de garganta que había sufrido hacía unos años.
En todo caso, la idea de que se pueda hacer realidad que una voz generada por inteligencia artificial suene precisamente como la de un ser humano con menos de un minuto de grabación previa es una cuestión sobre privacidad y consentimiento que Amazon ha dejado sin respuesta de momento. Habrá que ver qué nos depara el futuro próximo respecto a una herramienta tan interesante como polémica.