¿Cómo se investiga cuando un robot provoca un accidente?

Ros robots están cada vez más presentes en nuestra vida cotidiana. Pueden ser increíblemente útiles (extremidades biónicas, cortacéspedes robóticos o los robots que reparten comidas a personas en cuarentena), o simplemente entretenidos (perros robóticos, juguetes bailarines y drones acrobáticos). La imaginación es quizá el único límite de lo que los robots podrán hacer en el futuro.

¿Qué ocurre, sin embargo, cuando los robots no hacen lo que queremos que hagan, o lo hacen de forma que causan daño? Por ejemplo, ¿qué pasa si un brazo biónico está involucrado en un accidente de tráfico?

Los accidentes con robots se están convirtiendo en una preocupación por dos razones. En primer lugar, el aumento del número de robots hará que aumente el número de accidentes en los que se ven involucrados. En segundo lugar, cada vez somos mejores construyendo robots más complejos. Cuando un robot es más complejo, es más difícil entender por qué algo salió mal.

La mayoría de los robots funcionan con varias formas de inteligencia artificial (IA). Las IA son capaces de tomar decisiones similares a las de los humanos (aunque pueden tomar decisiones objetivamente buenas o malas). Estas decisiones pueden ser de todo tipo, desde identificar un objeto hasta interpretar el habla.

Las IAs se entrenan para tomar estas decisiones por el robot, basándose en la información de vastos conjuntos de datos. A continuación, se comprueba la precisión de las IAs (lo bien que hacen lo que queremos que hagan) antes de asignarles la tarea.

Las IAs pueden diseñarse de diferentes maneras. Por ejemplo, el robot aspirador. Podría diseñarse para que cada vez que choque con una superficie se dirija en una dirección aleatoria. A la inversa, podría diseñarse para mapear su entorno para encontrar obstáculos, cubrir todas las superficies y volver a su base de carga. Mientras que la primera aspiradora recibe información de sus sensores, la segunda la registra en un sistema de mapeo interno. En ambos casos, la IA recibe información y toma una decisión al respecto.

Aunque puede ser un inconveniente que el robot se dañe cuando algo va mal, nos preocupa mucho más cuando el robot causa daño a una persona o no consigue mitigarlo

Cuanto más complejo sea un robot, más tipos de información tendrá que interpretar. También puede evaluar múltiples fuentes de un mismo tipo de datos, como, en el caso de los datos auditivos, una voz en directo, una radio y el viento.

A medida que los robots se vuelven más complejos y son capaces de actuar sobre una variedad de información, se vuelve aún más importante determinar sobre qué información actuó el robot, particularmente cuando se causa daño.

Los accidentes ocurren

Como ocurre con cualquier producto, los robots pueden fallar, y de hecho lo hacen. A veces se trata de un problema interno, como que el robot no reconozca una orden de voz. Otras veces es un problema externo, como que el sensor del robot se haya dañado. Y a veces pueden ser ambas cosas, como que el robot no esté diseñado para trabajar en alfombras y “tropiece”. Investigación de accidentes con robots deben examinar todas las causas potenciales.

Aunque puede ser un inconveniente que el robot sufra daños cuando algo va mal, nos preocupa mucho más cuando el robot causa daños a una persona o no consigue mitigarlos. Por ejemplo, si un brazo biónico no agarra una bebida caliente y la deja caer sobre el propietario, o si un robot de asistencia no registra una llamada de socorro cuando el frágil usuario se ha caído.

¿Por qué la investigación de los accidentes de los robots es diferente a la de los accidentes humanos? En particular, los robots no tienen motivos. Queremos saber por qué un robot tomó la decisión que tomó basándose en el conjunto particular de entradas que tenía.

En el ejemplo del brazo biónico, ¿fue un error de comunicación entre el usuario y la mano? ¿El robot confundió varias señales? ¿Se bloqueó inesperadamente? En el ejemplo de la persona que se cae, ¿el robot no pudo “oír” la petición de ayuda por encima de un fuerte ventilador? ¿O tuvo problemas para interpretar el discurso del usuario?

La caja negra

La investigación de accidentes con robots tiene una ventaja clave sobre la investigación de accidentes con humanos: existe la posibilidad de tener un testigo incorporado. Los aviones comerciales tienen un testigo similar: la caja negra, construida para resistir los accidentes de avión y proporcionar información sobre el motivo del accidente. Esta información es increíblemente valiosa no sólo para entender los incidentes, sino para evitar que vuelvan a ocurrir.

Como parte de RoboTIPS, un proyecto que se centra en la innovación responsable de los robots sociales (robots que interactúan con las personas), hemos creado lo que llamamos el caja negra ética: un registro interno de las entradas del robot y las acciones correspondientes. La caja negra ética está diseñada para cadatipo de robot que habita y está construido para registrar toda la información sobre la que actúa el robot. Ésta puede ser de voz, visual o incluso actividad de las ondas cerebrales.

Estamos probando la caja negra ética en una variedad de robots tanto en condiciones de laboratorio como de accidente simulado. El objetivo es que la caja negra ética se convierta en un estándar en los robots de todas las marcas y aplicaciones.

Aunque los datos registrados por la caja negra ética aún deben ser interpretados en caso de accidente, disponer de estos datos en primera instancia es crucial para poder investigar.

El proceso de investigación ofrece la posibilidad de garantizar que los mismos errores no se repitan. La caja negra ética es una forma no sólo de construir mejores robots, sino de innovar responsablemente en un campo apasionante y dinámico.

Keri Grieman es investigadora asociada en el departamento de informática de la Universidad de Oxford. Este artículo apareció por primera vez en The Conversation