大公產品

首页 > 新闻 > 正文

「AI教父」憂AI反客為主

時間:2024-10-09 05:02:23來源:大公报

  【大公報訊】綜合BBC、《紐約時報》報道:2024年諾貝爾物理學獎得主之一的欣頓雖有「AI教父」之稱,但多次公開表達對AI技術潛在風險的擔憂。他2013年加入谷歌,但去年宣布辭職,以便「自由地談論AI的風險」。

  去年5月1日,欣頓證實自己已辭去谷歌副總裁的職位。他警告說,AI系統學習速度驚人,會變得越來越危險,「目前它們不比我們聰明,但我認為很快就會」。他認為,短期內,生成式AI可能引發假資訊狂潮。去年5月30日,包括欣頓在內的350多名AI領域的行業高管、專家和教授在非營利組織人工智能安全中心(CAIS)的網站上發表聯署公開信,信中說:「減輕AI帶來的滅絕風險,應該與流行病和核戰爭等其他社會規模的風險一起,成為全球優先事項。」CAIS列出幾種AI可能引發的災難,包括AI被用來製造生化武器、AI生成的錯誤信息破壞社會穩定等。

  今年3月,欣頓重申對AI的擔憂。他說,AI的危險之處在於其可能採用對人類有害的手段來實現被設定的目標,並且AI之間還可能出現競爭。「面對通過競爭變得更聰明的AI,我們人類將會落後。很多人主張,要防止AI失控,只要關掉電源開關即可。但超越人類智慧的AI可以用語言操縱我們,或許會試圖說服我們不要關掉開關。」

最新要聞

最受歡迎