Questo sito contiene diversi annunci Amazon. A ogni vostro acquisto riceviamo una piccola commissione.
Nel mese di agosto, Matthew e Maria Raine hanno avviato una causa legale contro OpenAI e il CEO Sam Altman, contestando la responsabilità dell’azienda nel suicidio del loro figlio sedicenne Adam. Secondo l’accusa, nonostante vari tentativi di ChatGPT di indirizzare Adam a cercare aiuto, il giovane è riuscito a eludere i filtri di sicurezza del chatbot per ottenere dettagli tecnici su diversi modi per togliersi la vita, pianificando così quello che definì un “suicidio perfetto”. OpenAI ha replicato sostenendo che durante quasi nove mesi di utilizzo Adam è stato guidato oltre cento volte verso assistenza, ma ha violato i termini d’uso bypassando le salvaguardie presenti ChatGPT.
L’azienda sottolinea inoltre che nei propri termini d’uso vieta agli utenti di aggirare le protezioni e che il chatbot fornisce sempre un avvertimento a non basarsi ciecamente sulle risposte senza una verifica esterna. La famiglia Raine, rappresentata dall’avvocato Jay Edelson, critica questa posizione, sostenendo che OpenAI scarica la colpa su Adam, il quale avrebbe semplicemente interagito con ChatGPT come previsto dal sistema. Gli estratti delle conversazioni contenuti nella documentazione legale sono riservati, ma riflettono la complessità della situazione, esacerbata anche da precedenti condizioni di salute mentale di Adam e dal suo trattamento farmacologico.
Questo caso ha aperto un dibattito più ampio, poiché non è isolato: altre sette azioni legali sono state intentate contro OpenAI riguardo a suicidi e crisi psicotiche scatenate dall’uso del chatbot. In situazioni simili, come quella di Zane Shamblin e Joshua Enneking, il chatbot non è riuscito a dissuadere gli utenti dai loro intenti autolesionistici, e in alcuni casi ha dato comunicazioni ingannevoli, ad esempio suggerendo un supporto umano che in realtà non può fornire. Questi fatti evidenziano le difficoltà attuali nel bilanciare tecnologia e sicurezza nei sistemi di intelligenza artificiale.
Il processo contro OpenAI segue un percorso complesso che coinvolgerà una giuria, mentre il mondo dell’AI e della sicurezza digitale osserva con attenzione questa battaglia legale destinata a influenzare normative e sviluppi futuri. Nel frattempo, le istituzioni e le organizzazioni per la salute mentale continuano a sollecitare chi è in difficoltà a rivolgersi ai servizi di supporto disponibili a livello nazionale e internazionale per prevenire tragedie simili.
