BeTech: noticias de tecnología

REDES SOCIALES

‘Eso es acoso’: cómo Instagram detecta mensajes bullying antes de ser enviados

Facebook implementa una herramienta IA que permite avisar a alguien de que su mensaje es ofensivo mientras lo escribe.

‘Eso es acoso’: cómo Instagram detecta mensajes bullying antes de ser enviados

Lo que han conseguido las redes sociales es simple y llanamente conectar el mundo entero. Pero toda consecución puede tener su lado oscuro, y en este caso las redes se han convertido en un terreno abonado para el acoso, el bullying y demás prácticas deleznables. En redes como Facebook e Instagram, la tolerancia es cero con el bullying y el acoso. Y estas son las medidas y herramientas que la compañía de Mark Zuckerberg toma para evitarlos:

Detectar un mensaje de acoso mientras se escribe

Tratar el acoso de manera preventiva y no paliativa es una de las medidas de Facebook en servicios como Instagram, al que ha dotado de una herramienta que usa Inteligencia Artificial para detectar que un mensaje es potencialmente ofensivo. Lo más curioso es que lo hace mientras el usuario/a está escribiéndolo.

¿Cómo funciona esto? Si alguien escribe un comentario o un texto “para publicar en Instagram que nuestra Inteligencia Artificial detecta como potencialmente ofensivo, recibirá una advertencia indicando que ese texto es similar a un contenido previamente denunciado por bullying”. Las personas tendrán la oportunidad de editar el contenido antes de publicarlo. Y según Facebook, han descubierto “que este tipo de intervenciones ayudan a las personas a reconsiderar una publicación potencialmente ofensiva o dañina”.

Restringir las Notificaciones

El bloqueo directo ante alguien que acosa o intimida es la mejor opción, pero a veces para alguien es difícil reportar o bloquear a compañeros que los/as intimidan. Para ayudarlos a lidiar con estos casos, el año pasado Facebook creó una nueva función en Instagram llamada Restringir, que “una vez activada, limita la recepción de notificaciones desde la cuenta en cuestión".

Los comentarios de una cuenta restringida sólo serán visibles para ti y para la persona que los envió. Y estos se moverán automáticamente a Solicitud de mensaje. La cuenta restringida no podrá ver:

- Si se han leído sus mensajes directos

- Cuando estás activo en Instagram

Si necesitas ayuda para tener más control sobre tu cuenta, en el Centro de Ayuda de Facebook se explica cómo puedes controlar el acceso a tu bandeja de entrada o a tu carpeta de solicitudes de mensajes en Messenger. También puedes usar herramientas como bloquear y reportar para frenar las interacciones no deseadas o reportar un problema en Messenger.