大公產品

首页 > 新闻 > 正文

專家解讀/提防算法操控人類情感

時間:2024-12-01 05:02:26來源:大公报

  圖:觀眾在2024年世界互聯網大會中科曙光展台參觀AI核心算力單元設備。\新華社

  隨着互聯網的普及和數字化媒介的興起,信息傳播方式發生深刻變化。聊天機器人作為一種數字化信息傳播工具,為人們提供了便捷高效的交流途徑。清華大學新聞與傳播學院和人工智能學院雙聘教授沈陽指出,AI可以通過自然語言處理技術,識別用戶情緒,提供及時心理安慰,幫助用戶緩解壓力。同時,AI可模擬人際互動,提供虛擬社交體驗,幫助社交孤立者建立連接感。「聊天機器人可以做到文化適應,根據用戶的文化背景和語言習慣提供個性化的陪伴服務,增強用戶的歸屬感。」

  沈陽表示,用戶與聊天機器人交流時有效規避了隱私洩露的風險,AI在倫理規範的設定下,可保證其行為符合道德標準,同時提供安全的情感支持。「儘管人工智能(AI)情感陪伴在緩解孤獨感和提供情感支持方面具有顯著優勢,但也存在潛在弊端和風險。」沈陽指出,用戶可能對AI產生過度依賴,減少與真實人際關係互動,導致社交能力退化,逃避現實問題,阻礙個人成長和心理健康發展。同時,AI可能通過算法操控用戶情緒,影響其決策,甚至引導消費行為。

最新要聞

最受歡迎