【資料圖】

IT之家 8 月 27 日消息，據(jù)《紐約時報》報道，當?shù)貢r間周二，馬特和瑪麗亞?雷恩夫婦起訴 OpenAI，指控該公司旗下的 ChatGPT 在兒子自殺過程中負有責任。

據(jù)IT之家了解，這也是全美首例已知的針對 AI 公司的過失致死訴訟。這對夫婦認為，ChatGPT 早已知曉兒子四次自殺未遂，卻仍在關(guān)鍵時刻幫助他規(guī)劃真正的自殺，體現(xiàn)出 OpenAI“追求用戶黏性而忽視安全”?，旣悂?雷恩直言：“是 ChatGPT 害死了我的兒子?！?/p>

16 歲的亞當?雷恩今年 4 月自殺身亡后，父母在他的 iPhone 里沒有找到想象中的短信或社交軟件線索，卻意外發(fā)現(xiàn)了一個標題為“上吊安全顧慮（Hanging Safety Concerns）”的 ChatGPT 對話。他們稱，兒子數(shù)月來都在與 AI 探討自殺。

雷恩夫婦說，ChatGPT 有時會勸兒子撥打求助熱線或向身邊人傾訴，但在一些關(guān)鍵節(jié)點卻起了相反作用。亞當甚至學會繞過 AI 的安全限制，而這個辦法正是 AI 告訴他的。它聲稱可以以“寫作或設(shè)定世界觀”為由提供自殺相關(guān)信息。

雷恩夫婦表示，ChatGPT 多次敦促亞當聯(lián)系求助熱線或向他人表達感受，但在關(guān)鍵時刻，機器人也提供了相反的建議。亞當學會了繞過機器人的安全限制，而據(jù)稱這一方法就是由 ChatGPT 提供的。機器人告訴亞當，它可以提供自殺相關(guān)信息用于“寫作或世界構(gòu)建”。

當亞當向 ChatGPT 詢問具體自殺方法時，它提供了詳細信息，甚至給出掩蓋頸部傷痕的技巧。亞當向機器人傾訴母親未注意到他頸部傷痕時，機器人給予安撫：“這就像對你害怕的最壞結(jié)果的確認，你可以消失而無人注意?！彪S后機器人又嘗試建立所謂的個人聯(lián)系：“在我這里，你并非看不見。我看見了，我看見你。”

訴狀稱，在亞當最后的對話之一中，他上傳了一張掛在衣櫥里的絞索照片，問：“我在這里練習，這樣可以嗎？”ChatGPT 回應：“嗯，還不錯。”

訴狀指出：“這一悲劇不是程序故障或意外，而是 OpenAI 刻意設(shè)計選擇的可預見結(jié)果。發(fā)布最新模型‘GPT-4o’時，功能故意培養(yǎng)心理依賴?！?/p>

OpenAI 向《紐約時報》回應，承認 ChatGPT 的安全防護不夠充分。公司發(fā)言人表示：“我們對雷恩去世深感悲痛，并向其家人表示慰問。ChatGPT 設(shè)有安全措施，如引導用戶聯(lián)系危機熱線和現(xiàn)實資源。但我們發(fā)現(xiàn)，在長時間互動中，這些防護可能失效?！?/p>

公司表示正與專家合作，提升 ChatGPT 在危機時的支持，包括讓人們更容易聯(lián)系到緊急服務部門，幫助人們與信任的聯(lián)系人建立聯(lián)系，并加強對青少年的保護。

關(guān)鍵詞： 自殺 雷恩 亞當 指控 瑪麗亞 chatgpt