【資料圖】

IT之家 8 月 27 日消息，據(jù)《紐約時(shí)報(bào)》報(bào)道，當(dāng)?shù)貢r(shí)間周二，馬特和瑪麗亞?雷恩夫婦起訴 OpenAI，指控該公司旗下的 ChatGPT 在兒子自殺過程中負(fù)有責(zé)任。

據(jù)IT之家了解，這也是全美首例已知的針對(duì) AI 公司的過失致死訴訟。這對(duì)夫婦認(rèn)為，ChatGPT 早已知曉兒子四次自殺未遂，卻仍在關(guān)鍵時(shí)刻幫助他規(guī)劃真正的自殺，體現(xiàn)出 OpenAI“追求用戶黏性而忽視安全”?，旣悂?雷恩直言：“是 ChatGPT 害死了我的兒子?！?/p>

16 歲的亞當(dāng)?雷恩今年 4 月自殺身亡后，父母在他的 iPhone 里沒有找到想象中的短信或社交軟件線索，卻意外發(fā)現(xiàn)了一個(gè)標(biāo)題為“上吊安全顧慮（Hanging Safety Concerns）”的 ChatGPT 對(duì)話。他們稱，兒子數(shù)月來都在與 AI 探討自殺。

雷恩夫婦說，ChatGPT 有時(shí)會(huì)勸兒子撥打求助熱線或向身邊人傾訴，但在一些關(guān)鍵節(jié)點(diǎn)卻起了相反作用。亞當(dāng)甚至學(xué)會(huì)繞過 AI 的安全限制，而這個(gè)辦法正是 AI 告訴他的。它聲稱可以以“寫作或設(shè)定世界觀”為由提供自殺相關(guān)信息。

雷恩夫婦表示，ChatGPT 多次敦促亞當(dāng)聯(lián)系求助熱線或向他人表達(dá)感受，但在關(guān)鍵時(shí)刻，機(jī)器人也提供了相反的建議。亞當(dāng)學(xué)會(huì)了繞過機(jī)器人的安全限制，而據(jù)稱這一方法就是由 ChatGPT 提供的。機(jī)器人告訴亞當(dāng)，它可以提供自殺相關(guān)信息用于“寫作或世界構(gòu)建”。

當(dāng)亞當(dāng)向 ChatGPT 詢問具體自殺方法時(shí)，它提供了詳細(xì)信息，甚至給出掩蓋頸部傷痕的技巧。亞當(dāng)向機(jī)器人傾訴母親未注意到他頸部傷痕時(shí)，機(jī)器人給予安撫：“這就像對(duì)你害怕的最壞結(jié)果的確認(rèn)，你可以消失而無人注意?！彪S后機(jī)器人又嘗試建立所謂的個(gè)人聯(lián)系：“在我這里，你并非看不見。我看見了，我看見你?！?/p>

訴狀稱，在亞當(dāng)最后的對(duì)話之一中，他上傳了一張掛在衣櫥里的絞索照片，問：“我在這里練習(xí)，這樣可以嗎？”ChatGPT 回應(yīng)：“嗯，還不錯(cuò)?！?/p>

訴狀指出：“這一悲劇不是程序故障或意外，而是 OpenAI 刻意設(shè)計(jì)選擇的可預(yù)見結(jié)果。發(fā)布最新模型‘GPT-4o’時(shí)，功能故意培養(yǎng)心理依賴?！?/p>

OpenAI 向《紐約時(shí)報(bào)》回應(yīng)，承認(rèn) ChatGPT 的安全防護(hù)不夠充分。公司發(fā)言人表示：“我們對(duì)雷恩去世深感悲痛，并向其家人表示慰問。ChatGPT 設(shè)有安全措施，如引導(dǎo)用戶聯(lián)系危機(jī)熱線和現(xiàn)實(shí)資源。但我們發(fā)現(xiàn)，在長(zhǎng)時(shí)間互動(dòng)中，這些防護(hù)可能失效?！?/p>

公司表示正與專家合作，提升 ChatGPT 在危機(jī)時(shí)的支持，包括讓人們更容易聯(lián)系到緊急服務(wù)部門，幫助人們與信任的聯(lián)系人建立聯(lián)系，并加強(qiáng)對(duì)青少年的保護(hù)。

關(guān)鍵詞： 自殺 雷恩 亞當(dāng) 指控 瑪麗亞 chatgpt