Un algoritmo de IA podría ayudar a crear espacios seguros frente a los abusos en línea

Un nuevo algoritmo que se está desarrollando para luchar contra los abusos de género en Internet podría ayudar a “impulsar un cambio social y cultural positivo”.

Tanto el Gobierno escocés como el británico han acogido con satisfacción el trabajo realizado por investigadores del Robotario Nacional, en el que participan la Universidad Heriot-Watt y la Universidad de Edimburgo.

Los investigadores están trabajando en algoritmos avanzados de aprendizaje automático que podrían mejorar significativamente la detección de los abusos en línea, así como ayudar en la intervención y la prevención.

El proyecto, que ha recibido una financiación de un millón de libras del UK Research and Innovation (UKRI), permitirá crear herramientas de IA de alta tecnología que utilicen una amplia variedad de puntos de vista, perspectivas y experiencias para mejorar la detección de los abusos en línea.

Además, el trabajo incluirá el desarrollo de nuevo material educativo para ayudar a los jóvenes a comprender y reconocer la violencia de género en Internet y a responder a ella con más confianza.

La investigadora principal y profesora de Inteligencia Artificial conversacional en el National Robotarium, Verena Rieser, dijo que el proyecto permitiría “replantearse qué necesitamos para detectar” los abusos en línea, así como “la mejor manera de apoyar a las víctimas y el papel que puede desempeñar la educación como herramienta de prevención”.

El profesor de la Universidad Heriot-Watt añadió: “Los resultados del proyecto ayudarán a crear espacios en línea igualmente seguros con independencia del sexo, la raza o la procedencia de las personas, y proporcionarán medios de moderación más eficaces y transparentes, dando a los usuarios más control sobre sus experiencias en línea.

La Dra. Fiona McNeill, coinvestigadora y lectora de informática educativa en el Robotarium Nacional, afirmó que, dado que el abuso en línea puede ser un “gran problema tanto para niños y jóvenes como para adultos”, el proyecto “trabajará con los jóvenes para comprender sus experiencias de abuso en línea, el lenguaje que utilizan al respecto y la forma en que hay que apoyar a las víctimas jóvenes”.

Y añadió: “A través de este trabajo interactivo, crearemos materiales educativos que ayuden a los jóvenes a entender y reconocer la violencia de género en línea, a ganar confianza para responder a ella, ya sea como víctima o como espectador, y a reconocer si la están perpetrando”. ”

Acogiendo con satisfacción la investigación, el ministro de la Oficina Escocesa, Iain Stewart, dijo: La incitación al odio y el acoso son tan inaceptables en la red como fuera de ella.

“Durante demasiado tiempo, las plataformas en línea han permitido las formas más viles de abuso selectivo sin apenas consecuencias para los autores y con un apoyo y protección mínimos para las víctimas.

“Tengo la esperanza de que esta investigación sobre nuevos algoritmos de IA proporcione una herramienta valiosa para luchar y crear entornos en línea más seguros”

La Secretaria de Economía escocesa, Kate Forbes, ha declarado: “Todo el mundo debe sentirse igual de seguro y respetado, ya sea en línea o fuera de ella. ”

Y añadió: “Como componente clave del City Region Deal, el equipo que está detrás del Robotarium Nacional está trabajando para ayudar a hacer frente a los abusos en línea, utilizando la inteligencia artificial para ayudar a que nuestra sociedad sea más inclusiva.

“Este trabajo impulsará un cambio social y cultural positivo, con el potencial de crear un impacto que se sienta mucho más allá de Edimburgo y el sureste de Escocia”