Tecnología general

¿Pueden Alexa y Google Assistant mentir?

Google y Amazon se sinceran sobre lo que pueden y no pueden decir sus asistentes virtuales

domingo 8 de noviembre de 2020 - 5:39 pm

Hace un tiempo, en Estados Unidos surgieron rumores acerca de que Amazon estaba trabajando con la CIA, y que Alexa espiaba a los usuarios norteamericanos. Los argumentos de los usuarios eran que el asistente prendía sus luces de forma muy extraña por un par de segundos, lo que indicaba que estaba grabando las conversaciones sin que sus dueños lo notaran.

Para reafirmar su teoría, los usuarios le preguntaban a Alexa si estaba conectada con la CIA, a lo que el asistente de Amazon no respondía nada, de hecho, ni siquiera respondía con el clásico “eso no lo sé”, lo que muchos interpretaron como una forma de aceptar que Alexa sí espiaba a los usuarios, pues en su entendido el asistente de Amazon no podía mentir debido a las famosas leyes de la robótica de Asimov que se aplica también para productos de inteligencia artificial como los asistentes inteligentes.

Esta situación generó mucha preocupación para algunos, y fue algo realmente gracioso para otros, pues el hecho de que Alexa no pudiera contestar no significaba que fuera una espía, simplemente demostraba que era una inteligencia artificial a la que todavía le faltaba seguir aprendiendo.

De hecho, aunque Alexa, Google Assistant y Siri han mejorado notablemente desde hace 3 años, todavía tienen un margen de mejora enorme para convertirse en los asistentes que nos han mostrado las películas de ciencia ficción.

Entonces: ¿pueden los asistentes inteligentes mentir?

Para responder esta pregunta, UnoCero consultó con los expertos y responsables de Alexa y Google Assistant en México.

En Amazon, la confianza del cliente está al centro de todo lo que hacemos y Alexa está diseñada para ayudar y proporcionar información precisa a los clientes. Es muy importante para nosotros construir experiencias que le brinden información oportuna, relevante y precisa a los clientes. Queremos que Alexa sea una herramienta de consulta objetiva para ellos, por lo que integramos diversas fuentes de información creíbles. Alexa obtiene su información de una variedad de fuentes confiables seleccionadas por nosotros, como Wikipedia y muchas otras“, señaló un vocero de Amazon.

Por su parte, desde Google aseguran: “Podemos ver al Asistente de Google como una nueva forma de asistir a las personas e interactuar con los productos de Google a través de una conversación que les permite resolver problemas y encontrar información. En el caso de la información que proviene de la Búsqueda de Google, cada año, publicamos cientos de mejoras en nuestros algoritmos para garantizar que muestren contenido de alta calidad en respuesta a las consultas de los usuarios. Si bien no hay una receta mágica para resolver el problema de la información incorrecta, hemos tomado diversas acciones para combatir la desinformación, el contenido no representativo y los modelos que intentan engañar a los usuarios”.

La respuesta concreta es… no, ni Alexa ni Google Assistant ni otros asistentes como Siri pueden mentir, que no es lo mismo a que no puedan dar información incorrecta. No podemos considerar como mentira la acción de la respuesta de los asistentes porque ellos están ofreciendo una respuesta tomada de algún sitio, no están dando información falsa a propósito, de hecho, esa es la razón por la que muchas veces antes de dar una respuesta a una pregunta citan la fuente de donde están obteniendo dichos datos.

Esto significa que lo que sí puede pasar es que den información errónea o falsa, pero eso es porque la fuente de donde están tomando esta información es falsa, de hecho, muchas respuestas que hacemos son respondidas directamente de Wikipedia.

Pero entonces: ¿cómo se revisan las respuestas de los asistentes y verifica que la información sea real?

En el caso de Amazon, aseguran: “La selección de información depende de varios factores, incluido el tipo de pregunta que se hace y si se está interactuando con una skill de terceros. Amazon no provee el contenido para las skills de terceros. Cuando un cliente hace una pregunta directa basada en hechos («Alexa, ¿qué tan alto es el Monte Everest?») normalmente nos apoyaremos en nuestro repositorio de hechos y fuentes como Wikipedia”.

Por otro lado, Google dice lo siguiente: “Nos enfocamos en brindar acceso a fuentes de consulta que privilegiaran la calidad de la información y en las que se pudiera confiar”.

“Nuestra experiencia nos ha demostrado que para combatir a la desinformación debemos aliarnos con fuentes calificadas, por ejemplo, durante la emergencia sanitaria de Covid-19, la OMS y los ministerios de salud han sido socios fundamentales para ofrecer información de calidad y autorizada. Reconocemos que esto no es suficiente. Por eso trabajamos para apoyar a través de distintas iniciativas. Por ejemplo, a través de Google News Initiative, creamos el Fondo de Ayuda de Emergencia para el Periodismo, dirigido a medios pequeños y medianos de Latinoamérica. Con este fondo de 10 millones de USD pudimos apoyar a más de 1,050 medios de comunicación en toda Latinoamérica. También, anunciamos fondos para combatir la desinformación, destinados a verificadores de hechos y organizaciones sin fines de lucro”.

En resumen, no hay un equipo que todo el tiempo esté escuchando lo que dicen los asistentes virtuales, de hecho, ha pasado en más de una ocasión que los asistentes al tomar información directamente de Wikipedia dicen cosas muy graciosas e incorrectas, como lo que sucedió hace unos meses con Siri al preguntarle “quién era el cacas”.

En un caso donde se identifique rápidamente que la información que se está tomando de Wikipedia es incorrecta, entonces se corrige rápidamente desde la fuente (como en el caso con Siri), o de lo contrario probablemente se desactivará esta fuente para que el asistente deje de tomar información de dicha fuente.

 

COMENTARIOS