Facebook se ha transformado en una herramienta donde sus usuarios se encuentran constantemente expresándose de diferentes formas y publicando cualquier cantidad de contenido, esta exposición constante suele ser para personas con tendencias suicidas algo no muy bueno que digamos y resulta que se han publicado varios suicidios en vivo utilizando esta plataforma y el CEO de Facebook Mark Zuckerberg y si equipo se han puesto manos a la obra para desarrollar una herramienta del tipo de inteligencia artificial que se encarga de escanear las publicaciones de los usuarios y las compara con otras realizadas anteriormente por suicidas en el caso de que estas publicaciones puedan dar a entender que hay una seria posibilidad de que el usuario pueda llegar a amenazar su propia vida.
Este tipo de contenido será enviado a una comunidad especial para su revisión en el caso que sea marcada como “urgente” y así poder asistir a esta persona de alguna forma. La product manager Vanessa Callison-Burch dio una pequeña explicación sobre la efectividad de la herramienta.
Esta IA es actualmente más precisa que los reportes que nos llegan de personas marcadas como suicidas enviados por los propios usuarios de la red. Los usuarios que han publicado contenido suicida y/o de algún daño para consigo mismos y son reportados por esta IA, son más propensos a recibir ayuda que los que son reportados por los usuarios comunes de la red.
Adicionalmente, Facebook se encuentra creando un sistema que se encargará de proveer enlaces directos a salas de chat o lineas de prevención mientras una persona se encuentra en riesgo mientras transmite.