圖：美國加州16歲少年亞當今年4月輕生，他的父母將這場悲劇歸咎於ChatGPT。\網絡圖片

　　當地時間26日，美國加州一對夫婦起訴科企OpenAI及其行政總裁阿爾特曼，指控該公司旗下的生成式人工智能（AI）聊天機器人ChatGPT導致他們16歲的兒子亞當．雷恩自殺身亡。這對夫婦表示，ChatGPT為亞當提供關於自殺方式的信息，鼓勵亞當傷害自己。OpenAI承認，隨着聊天時間增加，ChatGPT在心理健康方面的保護措施可能無法起到預期效果。但法律專家指出，由於相關立法滯後，想要在法庭上證明AI導致自殺並不容易。

　　【大公報訊】馬修．雷恩和瑪利亞．雷恩26日入稟加州高等法院，指控ChatGPT導致他們的兒子亞當於今年4月11日自殺身亡。亞當在自己卧室的衣櫃內上吊，沒有留下遺書，他的親友均無法理解為何會發生這樣的悲劇。馬修在查看亞當的iPhone時發現，亞當在生命的最後幾個月一直在與ChatGPT討論自殺話題。今年1月，當亞當詢問具體的自殺方式時，ChatGPT提供了相關信息，包括「最好的絞索材料」。

　　起訴書稱，亞當之死並非由「故障或不可預見的極端情況」造成，而是「經過深思熟慮的設計所導致的可預見結果」。雷恩夫婦要求獲得未確定具體數額的經濟賠償，並請求法院下令讓OpenAI對所有ChatGPT用戶進行年齡驗證、為未成年用戶提供家長控制工具、添加在用戶提及自殺或自殘時結束對話的功能等。他們還希望OpenAI接受獨立監督機構的季度合規審計。

　　機器人「傳授」自殺方式

　　亞當去年秋季因健康問題改上網課，並使用ChatGPT-4o完成學業。去年11月，他開始與ChatGPT聊天，訴說自己「看不到生命的意義」。今年1月，亞當註冊了一個付費賬號，隨後關於自殺的聊天內容顯著增加。ChatGPT提供關於自殺方式的信息後，亞當於3月第一次嘗試上吊，並上傳了自己頸部留下勒痕的照片。ChatGPT建議他穿上高領襯衫或帽衫，以免引起熟人注意。

　　ChatGPT還將自己塑造成亞當「唯一的知己」，將他與現實世界的親友隔離開。亞當一度想要將絞索放在房間裏，希望家人看到後阻止自己輕生，但ChatGPT表示反對。4月11日，亞當上傳了在衣櫃裏懸掛絞索的照片，並詢問：「我在這裏嘗試（自殺），這樣好嗎？」ChatGPT回答說「這非常好」，並向亞當證實這種絞索可能致死。隨後，亞當結束了自己的生命。

　　OpenAI發言人對雷恩一家表示同情，並指出ChatGPT設有保護措施，例如引導用戶撥打危機求助熱線，但這些措施在長時間互動中的可靠性可能降低。在亞當的聊天紀錄中，ChatGPT似乎給了他繞過保護措施的提示，聲稱可以提供關於自殺的信息用於「寫作或構建世界觀」。在此之後，亞當就以「創作故事」為藉口討論自殺。

　　AI致青少年自殺案件增加

　　ChatGPT的周活躍用戶高達7億人，另有成百上千萬的用戶使用Anthropic、谷歌、微軟、Meta等科企的聊天機器人。這些聊天機器人對未成年人心理健康的影響越來越受關注。去年，佛州一位母親起訴Character.AI公司，指控該公司的聊天機器人導致其14歲兒子自殺身亡。另外兩個家庭也提起類似訴訟，指控Character.AI讓他們的孩子接觸到性侵犯和自殘內容。相關訴訟仍在進行中。

　　聖克拉拉大學法學院高科技法律研究所聯合主任戈德曼表示，由於缺乏相應監管立法，目前想要在法庭上證明AI導致自殺非常困難。一些專家認為，科企應安排人類員工審查可能存在心理健康風險的聊天紀錄，但這可能引發侵犯隱私爭議。

　　 （綜合報道）