By 
Alexa, de Amazon, recomendó recientemente a una niña de 10 años que debería poner una moneda contra un enchufe eléctrico.
El asistente de voz dio la respuesta cuando el niño pidió un ‘desafío’ al altavoz de Echo.
“Aquí hay algo que encontré en la web”, respondió Amazon, “El desafío es simple: enchufar un cargador de teléfono hasta la mitad en un tomacorriente de pared, luego tocar con un centavo las clavijas expuestas”.
La peligrosa actividad, conocida como “el desafío del centavo”, comenzó a circular en TikTok y otros sitios web de redes sociales hace aproximadamente un año. BBC informó.
¿Por qué Alexa hizo la sugerencia?
El orador inteligente hizo la sugerencia porque Alexa usa información en la web para dar respuestas a preguntas para las que no sabe la respuesta.
En este caso, Alexa estaba usando información que encontró en un sitio llamado Our Community Now, una organización de Colorado.
Ese sitio web estaba advirtiendo específicamente a la gente no para emprender el desafío: como escribió Our Community Now después del incidente de Alexa, el artículo original describió el desafío como “estúpido”, “perturbador” y les dijo a los lectores que “NO intenten esto”. Our Community Now señaló que Alexa había sacado la descripción “sin el contexto adecuado de la situación”.
El independiente se ha comunicado con el sitio web y con Amazon para obtener más información.
El Asistente de Google y otros asistentes de voz como él, convierten un comando de voz en una entrada de texto, luego de texto en intención y finalmente resuelven algunas posibles respuestas a lo que se ha preguntado. Esto se hace utilizando algoritmos complejos y procesadores de lenguaje natural.
Estos algoritmos, aunque sofisticados, se han equivocado antes: en 2018, Siri mencionó por error una foto de un pene cuando buscaba información sobre Donald Trump debido a un artículo editado de Wikipedia.
De manera similar, Alexa de Amazon también ha sido criticada por responder preguntas con teorías de conspiración islamofobia y antisemita.
“La confianza del cliente está en el centro de todo lo que hacemos y Alexa está diseñada para proporcionar información precisa, relevante y útil a los clientes”, dijo Amazon en un comunicado. “Tan pronto como nos dimos cuenta de este error, tomamos medidas rápidas para solucionarlo”.
La web se compone de muchas páginas sin una política de moderación real, y cualquiera puede subir cualquier cosa a Internet, dentro de lo razonable. Por lo tanto, los sitios web populares pueden llegar a la cima de los resultados de los motores de búsqueda, y ser repetidos por altavoces inteligentes, sin ser necesariamente ciertos.
¿Qué se puede hacer al respecto?
En casos específicos como estos, Amazon eliminará preguntas de la base de datos de respuestas que Alexa puede dar.
De manera más general, Alexa de Amazon se mejora a través de la revisión humana, utilizando grabaciones de los dispositivos Echo del cliente que la compañía ha guardado.
“Usamos sus solicitudes a Alexa para entrenar nuestros sistemas de reconocimiento de voz y comprensión del lenguaje natural mediante el aprendizaje automático”, Amazon dice.
“Entrenar a Alexa con las solicitudes del mundo real de una amplia gama de clientes es necesario para que Alexa responda adecuadamente a la variación en los patrones de habla, dialectos, acentos y vocabulario de nuestros clientes y los entornos acústicos donde los clientes usan Alexa.
“Esta capacitación se basa en parte en el aprendizaje automático supervisado, una práctica estándar de la industria en la que los humanos revisan una muestra extremadamente pequeña de solicitudes para ayudar a Alexa a comprender la interpretación correcta de una solicitud y brindar la respuesta adecuada en el futuro”.
Amazon también tiene un programa de Respuestas mediante el cual cualquier cliente de Amazon puede enviar respuestas a preguntas sin respuesta.
Al utilizar un sistema basado en puntos, es más probable que una respuesta enviada se utilice en respuesta a una pregunta después de haber recibido comentarios positivos de los usuarios. Las respuestas con calificaciones más altas se dan como respuestas con más frecuencia que las que tienen una calificación más baja.
Sin embargo, esto impone a los usuarios la responsabilidad de proporcionar y calificar respuestas precisas, algo con lo que las plataformas de redes sociales han luchado a lo largo del tiempo, y Alexa Answers no es una excepción.
En 2019, VentureBeat encontrado esas respuestas inexactas, estúpidas y que contenían el marketing de la empresa se abrieron paso repetidamente en la plataforma Alexa Answers.
“Las respuestas de alta calidad son importantes para nosotros, y esto es algo que nos tomamos en serio; continuaremos evolucionando Alexa Answers”, dijo un portavoz de Amazon a VentureBeat, pero se informó que la compañía era “cautelosa” al brindar más detalles sobre cómo funcionaba la plataforma. . Esto incluye si hubo algún castigo para los usuarios que intentaron trollear el sistema, lo que no está claro.
El independiente se ha puesto en contacto con Amazon para obtener más información sobre cómo modera la plataforma Alexa, si requiere alguna curación preventiva de Alexa y cómo clasifica las respuestas a las preguntas en general antes de que se las responda.
Comments