I do sada je facebook imao mehanizme za obilježavanje objava (postova) korisnika koji razmišljaju da naude sebi, a novi alat ima za cilj pronaći takve objave prije nego što ih bilo ko prijavi.
Sistem će skenirati objave i video klipove koji se uživo emitiraju na Facebooku tehnikom “prepoznavanja obrazaca”, a komentari prijatelja kao što je “jesi li dobro?” mogu ukazati na postojanje suicidalnih misli.
Facebook već testira novi sistem u SAD i postupno ga uvodi i u većini drugih zemalja, ali ne i u Europskoj uniji, a kompanija ne želi reći razloge.
Kompanija koristi umjetnu inteligenciju i da odredi prioritet, odnosno redoslijed slanja obilježenih, prijavljenih objava ljudima moderatorima, kako bi oni brzo mogli obavijestiti lokalne vlasti, prenosi Fena.