Facebook prévoit de mettre à jour ses algorithmes afin de mieux “écouter” les personnes suicidaires, et ce pour un déploiement initialement prévu aux États-Unis. L’idée sera de rechercher certaines phrases clés et ensuite remonter l’information auprès des équipes de Facebook, qui vont ensuite se demander si l’auteur est OK.
Cette initiative fait suite à une tentative similaire par The Samaritains en 2014, sur Twitter. Cette dernière avait reçu des critiques pour sa conception et son organisation, qui a conduit à son abandon pure et simple du fait des préoccupations concernant le respect de la vie privée. Elle avait été accusée de favoriser le harcèlement car les utilisateurs ne pouvaient pas se désinscrire.
Le fondateur de Facebook Mark Zuckerberg avait déjà annoncé que l’entreprise utiliserait l’intelligence artificielle pour supprimer des publications de terroristes dans la page d’accueil de son blog très médiatisé le mois dernier, mais il semble que ce soit la première fois que l’entreprise ait utilisé l’AI de cette manière soudaine depuis qu’elle avait écrit ceci.
Stephen Buckley, chef de l’information chez mental health charity Mind, a donné à cette initiative un accueil prudent :
Les personnes en situation de crise peuvent demander de l’aide à des endroits où l’aide dont elles ont besoin n’est pas facilement disponible. La signalisation des personnes suicidaires auprès des structures de soutien appropriées peut être une étape vraiment importante pour aider les gens à avoir accès à l’aide dont ils ont besoin.
Le principe de fonctionnement est relativement simple. Pour le moment du moins, l’idée couvre généralement les zones visibles et non pas (par exemple) Facebook Messenger, donc si vous avez défini des informations comme étant privées, elles devraient le rester.
Les conseils et astuces qui seront offerts ont été développés en collaboration avec des organismes professionnels et cliniques, y compris The Samaritains et bien d’autres, et le personnel Facebook traitant ces questions ne sera pas coupé du monde.
L’entreprise reconnaît la difficulté de ce genre de travail et offrira un soutien psychologique et des ressources en bien être à ces employés, et proposera d’effectuer des revues annuelle de cette initiative.
L’entreprise fait également équipe avec des organisations externes pour gérer les comportements suicidaires sur son système de diffusion Facebook Live aux États-Unis.
Follow @ SophosFrance //platform.twitter.com/widgets.js
Billet inspiré de Facebook to listen out for posts from people vulnerable to suicide, par Guy Clapperton, Sophos NakedSecurity.