Facebook usa inteligencia artificial para detectar posibles mensajes de suicidio

La red social ya cuenta con mecanismos para reportar mensajes publicados por gente que está considerando lastimarse a sí misma y la nueva función tiene como fin detectar tales mensajes publicados antes de que alguien lo reporte.

La plataforma lleva más de diez años trabajando en la prevención del suicidio, pero esta mejora en el servicio escaneará mensajes y videos en vivo usando una técnica llamada "reconocimiento de patrones".

Ejemplo de ello son comentarios como "¿Estás bien?" y "¿Puedo ayudarte?", los cuales pueden indicar pensamientos suicidas.

Si el software detecta un posible suicido, alerta a un grupo de funcionarios de Facebook que se especializan en manejar ese tipo de reportes.

El sistema sugiere recursos para que el usuario o a amigos de la persona, como un número telefónico de ayuda, incluso los empleados de la red social a veces llaman a autoridades locales para que intervengan.

Durante el mes pasado, personal entrenado había examinado el estatus de personas más de 100 veces después de que el software detectó intenciones suicidas. La plataforma ya estuvo probando la función en Estados Unidos y la está llevando a otros países.

También está usando inteligencia artificial para establecer la prioridad de la lista de los mensajes reportados que son enviados a personas moderadoras para que alerten rápidamente a las autoridades.

La empresa intenta atajar casos como el ocurrido el pasado abril, cuando un tailandés retransmitió en directo a través de la red social cómo mataba a su hija de 11 meses y posteriormente se suicidaba, un video que después fue eliminado por la plataforma. El año pasado, cuando Facebook lanzó la transmisión de videos en vivo, proliferaron algunos con actos violentos, incluyendo suicidios y asesinatos, presentando una amenaza a la imagen de la compañía.

En mayo, Facebook dijo que contrataría a 3 mil personas para observar videos y otros contenidos.

No Comments Yet.

Leave a comment