By 
Un alto ejecutivo del gigante de las redes sociales Pinterest se ha disculpado al admitir que el sitio “no era seguro” cuando la colegiala Molly Russell lo utilizó.
El jefe de operaciones de la comunidad de la compañía, Judson Hoffman, dijo al Tribunal Correccional del Norte de Londres que el contenido de autolesión o suicidio que viola sus políticas “todavía existe en nuestra plataforma” y admitió que no es tan seguro como podría ser.
El Sr. Hoffman dijo que “lamenta profundamente” las publicaciones vistas por Molly en Pinterest antes de su muerte, diciendo que era material que “no mostraría a mis hijos”.
Judson Hoffman es el jefe global de operaciones de la comunidad en Pinterest (James Manning/PA)
(PA Wire)
La joven de 14 años, de Harrow, al noroeste de Londres, acabó con su vida en noviembre de 2017, lo que llevó a su familia a hacer una campaña para mejorar la seguridad en Internet.
El jueves, el Sr. Hoffman fue llevado a través de correos electrónicos enviados a Molly como “10 pines de depresión que te podrían gustar”, que el testigo dijo que contenía “el tipo de contenido con el que no nos gustaría que nadie pasara mucho tiempo”.
Pinterest se describe a sí mismo como un “motor de descubrimiento visual para encontrar ideas” en el que los usuarios pueden guardar los “pines” que ven en sus propios “tableros”, lo que, según el tribunal, es similar a crear un collage.
El Sr. Hoffman dijo que la plataforma es “segura pero imperfecta”, ya que admitió que el contenido dañino todavía “probablemente existe” en el sitio.
El alto ejecutivo dijo que las búsquedas recientes de “citas suicidas”, que era un término utilizado por Molly, mostraban contenido que él estaba de acuerdo en que debería haber sido eliminado.
Dijo al tribunal que era un “error” que el material no se hubiera retirado, ya que la frase debería haber formado parte de los términos de búsqueda prohibidos.
El padre de Molly Russell, Ian Russell, llega al tribunal de instrucción de Barnet (Kirsty O’Connor/PA)
(PA Wire)
El Sr. Hoffman dijo: “Es probable que el contenido que viola nuestras políticas siga existiendo en nuestra plataforma.
“Es segura pero imperfecta y nos esforzamos cada día por hacerla más segura”.
Preguntó el forense Andrew Walker: “¿No es tan seguro como podría ser?”
El Sr. Hoffman respondió: “Sí, porque podría ser perfecto”.
Oliver Sanders KC, que representa a la familia de la adolescente, preguntó: “¿Pinterest acepta que su plataforma debe ser segura para los niños?”
El Sr. Hoffman respondió: “Debería ser segura para todos en la plataforma”.
El Sr. Sanders continuó: “¿Y acepta que en 2017, cuando Molly estaba en él, no era seguro?”
El Sr. Hoffman respondió: “Eso es correcto, había contenido que debería haber sido eliminado y que no fue eliminado”.
Declarando desde el estrado, el alto ejecutivo fue llevado a través de un gran número de imágenes “perturbadoras” con las que Molly había interactuado en el sitio en relación con la autolesión, el suicidio y la depresión.
Al tribunal se le mostraron dos flujos de contenido que la adolescente vio, comparando el material que vio al principio de su uso de la plataforma y en los meses más cercanos a su muerte.
Mientras que el contenido anterior incluía una amplia variedad de material, el último se centraba en la depresión, la autolesión y el suicidio.
Preguntado por el Sr. Sanders si estaba de acuerdo en que el tipo de contenido había cambiado, el Sr. Hoffman dijo: “Sí estoy de acuerdo y es importante tenerlo en cuenta, y lamento profundamente que ella haya podido acceder a algunos de los contenidos mostrados”.
El Sr. Sanders preguntó: “¿Lamentas que haya sucedido?”
El Sr. Hoffman respondió: “Lamento que haya sucedido”.
El testigo insistió en que la plataforma no había tomado la opción “arriesgada” de permitir que los niños la utilizaran a pesar de la posibilidad de que pudieran encontrar contenidos nocivos.
El tribunal escuchó cómo Pinterest utiliza inteligencia artificial y moderadores humanos para ocultar o eliminar contenidos relacionados con la autolesión y el suicidio.
El sistema ha tenido un gran éxito, pero los usuarios pueden seguir encontrando este tipo de contenidos, se dijo en la investigación.
Diré que este es el tipo de contenido con el que no nos gustaría que nadie pasara mucho tiempo
Judson Hoffman
El Sr. Sanders sugirió al Sr. Hoffman que el sitio había “elegido correr riesgos” cuando había una “opción sin riesgo” de no permitir a los niños en Pinterest.
El Sr. Hoffman respondió: “Diría que se ha elegido una opción distinta a la de no correr ningún riesgo, no diría que una opción arriesgada… obviamente nuestra intención es reducir el riesgo”.
El alto ejecutivo dijo que la tecnología de la que dispone la empresa ahora “no estaba a nuestra disposición” antes de la muerte de Molly.
El tribunal escuchó que Pinterest envió otros correos electrónicos a Molly con títulos como “depresiónrecuperación, chica deprimida y más pines que son tendencia en Pinterest” y “nuevas ideas para ti en la depresión”.
El Sr. Hoffman fue preguntado por el Sr. Sanders si creía que las imágenes de los correos electrónicos enviados por la empresa eran “seguras para que las vieran los niños”.
Respondió: “Quiero ser cuidadoso aquí debido a la orientación que hemos visto.
“Diré que este es el tipo de contenido con el que no nos gustaría que nadie pasara mucho tiempo”.
Se dijo a la investigación que Molly hizo una serie de tableros en Pinterest, incluyendo dos de interés para los procedimientos.
El Sr. Sanders dijo que uno de los tableros se llamaba “mantente fuerte”, que tendía a “tener material más positivo” fijado en él, mientras que el otro tablero, con “contenido mucho más deprimente y negativo”, se llamaba “nada de qué preocuparse”.
La investigación, que durará hasta dos semanas, continúa.
Comments