Facebook sta cercando di utilizzare l’intelligenza artificiale per aiutare a rilevare pensieri e sentimenti suicidi. La ricerca è parte del continuo sforzo del gigante dei social media di “aiutare a costruire una comunità sicura dentro e fuori Facebook“.

Facebook ha dichiarato in un post ufficiale sul blog di stare adottando “sforzi di rilevamento proattivo” per aiutare le persone che stanno esprimendo pensieri suicidi sulla piattaforma, compreso l’uso del riconoscimento di pattern per rilevare post o video live in cui vengono espressi pensieri suicidi.

Facebook ha dichiarato che il lavoro aggiuntivo che sta conducendo includev:

  • Utilizzare il riconoscimento di pattern per rilevare post o video live in cui qualcuno potrebbe esprimere pensieri di suicidio e aiutare a rispondere alle segnalazioni più velocemente;
  • Migliorare il modo in cui Facebook identifica i primi soccorritori appropriati;
  • Dedicare più revisori del team di Community Operations, che include un team di specialisti con formazione specifica sulla salute mentale, per esaminare i rapporti di suicidio e autolesionismo.

Lo sviluppo arriva dopo diversi suicidi e tentativi di suicidio trasmessi proprio su Facebook Live. Molteplici piattaforme di social media sono state utilizzate anche per livestream suicidi o per esprimere pensieri negativi.

Facebook ha in precedenza chiesto ai suoi utenti di riferire e segnalare qualsiasi contenuto suicida trovato, ma gli ultimi sforzi vanno molto oltre. Questi usano l’intelligenza artificiale per individuare i pensieri suicidi prima che gli utenti debbano segnalare proattivamente le loro preoccupazioni alla società tecnologica.

Commentando il lavoro, Guy Rosen, vice presidente di gestione prodotti di Facebook, ha affermato che “quando qualcuno esprime pensieri negativi, è importante aiutarli il prima possibile. Facebook è un luogo in cui amici e familiari sono già connessi e siamo in grado di aiutare a mettere in contatto una persona in difficoltà con persone che possono sostenerli. Fa parte del nostro impegno continuo per aiutare a costruire una comunità sicura dentro e fuori Facebook“.