Una ricerca shock di OpenAI rivela l’inquietante diffusione di “intenzioni o progetti suicidi espliciti” tra gli utenti. L’azienda risponde potenziando la sicurezza di GPT-5 e arruolando 170 esperti sanitari, mentre crescono le indagini federali
Un dato allarmante scuote il mondo dell’intelligenza artificiale: oltre un milione di utenti di ChatGPT ogni settimana inviano messaggi che indicano “intenzioni esplicite o progetti suicidi”. Lo rivela una ricerca interna appena pubblicata da OpenAI, la società madre del popolare chatbot. Lo studio evidenzia anche che circa lo 0,07% degli utenti attivi settimanalmente manifesta “segni di possibili problemi di salute mentale legati a psicosi o mania”.
Pressioni legali e interventi di sicurezza
La diffusione di questi dati arriva in un momento cruciale per OpenAI, che si trova ad affrontare un crescente scrutinio. L’azienda è stata recentemente oggetto di una causa legale intentata dalla famiglia di un adolescente morto suicida dopo un’intensa interazione con ChatGPT.
Inoltre, la Federal Trade Commission (FTC) ha avviato il mese scorso un’ampia indagine su come le aziende che creano chatbot basati sull’IA, inclusa OpenAI, misurino e gestiscano gli impatti negativi su utenti vulnerabili, in particolare bambini e adolescenti.
La risposta di OpenAI: GPT-5 e rete medica
In risposta a queste preoccupazioni, OpenAI ha intensificato i suoi sforzi per la sicurezza degli utenti:
- GPT-5 e miglioramenti: l’azienda ha assicurato che il recente aggiornamento del suo modello di punta, GPT-5, ha significativamente migliorato i protocolli di sicurezza per l’utente.
- Supporto crisi ampliato: è stato ampliato l’accesso alle linee di assistenza in caso di crisi direttamente attraverso la piattaforma.
- Consulenza medica: per affinare la ricerca e gli interventi del modello, OpenAI ha arruolato 170 medici dalla sua rete globale di esperti sanitari, assistendoli nella ricerca condotta negli ultimi mesi.
L’AI, pur offrendo strumenti rivoluzionari, solleva questioni etiche e di sicurezza sempre più urgenti, spingendo il gigante tecnologico a bilanciare l’innovazione con la responsabilità sociale.