您正在瀏覽的是香港網站,香港證監會BJA907號,投資有風險,交易需謹慎
“AI大神”戴文淵談AI進化隱憂:利用技術搞破壞,是眼前最大的風險
格隆匯 06-02 21:10

近日,“AI大神”、第四範式公司創始人、CEO戴文淵做客格隆匯高端訪談《格隆博士會客廳》。

在與格隆的對話中,戴文淵在談到AI的進化隱憂時指出,在一個可預見的時間內,還是可控的。

碳基生命利用 AI 去毀滅碳基生命離我們更近

他擔心大家花過多時間擔憂短期不會發生的事,反而不太關注更近可能會發生的事情。

隨着AI的進化,AI會否產生自主意識控制或奴役人類的擔憂愈來愈多。

不過戴文淵認為,在一個可預見的時間內,還是可控的。

首先,這樣的能力不是很多人能做的到,現在極少人能做到這樣,並且要做到這樣的效果需要消耗大量的資源。

如果我們發現,當 AI 有了這方面能力以後,我們可以及時的切斷這些資源。

第二個,以這一代的AI基本理論基礎,它需要人類去設置目標,而後面 AI 做的所有的事情都是基於人類設置的目標產生的結果。

如果發現 AI 發生了一些意想不到的事情,那我們可以召集一些最頂尖的科學家去研究是不是目標設置的有問題。

如何去修正目標、如何通過修正目標讓 AI 不要去做這些事情,這些在他看來,至少可預見的時間內,都還是可控的。 戴文淵表示,作為 AI 從業者,他更擔心的不是AI 有了自主的意識去替代人類或者去奴役人類,而是大家花了過多的時間去擔憂一些短期不會發生的事情,而更近可能會發生的事情反倒不太關注。 在他看來,這一代的 AI 取決於人類設置的目標。設置一個好的目標, AI 就在做好的事情;設置不好的目標, AI 就會幹不好的事情。

另外一個方面, AI 所獲取的成本其實在降低。當這個成本降低到一定的程度後,最需要擔心的不是 AI 本身,而是我們人類當中不好的那部分人。 因為每個人的想法都會有不一樣且又很難控制,這裏面就會產生很多不可控因素。

這個不可控因素如果沒有 AI 疊加,在過去每一個人的破壞力是有限的,社會總體是可控的。

但如果由於 AI 門檻不斷下降,人破壞力得到提升,這個時候 AI 對社會的影響就是我們不可忽視的地方。

戴文淵也提出了自己的的擔心和焦慮。他希望讓公眾更多的關注到這個點上,不過戴文淵也表示,現在整個社會形態下,沒有一個特別好的解法。所以在 AI 成本進一步下降之前,可能需要一種新的社會組織形態,才能控制住這些不可控因素的影響。

關注uSMART
FacebookTwitterInstagramYouTube 追蹤我們,查閱更多實時財經市場資訊。想和全球志同道合的人交流和發現投資的樂趣?加入 uSMART投資群 並分享您的獨特觀點!立刻掃碼下載uSMART APP!
重要提示及免責聲明
盈立證券有限公司(「盈立」)在撰冩這篇文章時是基於盈立的內部研究和公開第三方資訊來源。儘管盈立在準備這篇文章時已經盡力確保內容為準確,但盈立不保證文章資訊的準確性、及時性或完整性,並對本文中的任何觀點不承擔責任。觀點、預測和估計反映了盈立在文章發佈日期的評估,並可能發生變化。盈立無義務通知您或任何人有關任何此類變化。您必須對本文中涉及的任何事項做出獨立分析及判斷。盈立及盈立的董事、高級人員、僱員或代理人將不對任何人因依賴本文中的任何陳述或文章內容中的任何遺漏而遭受的任何損失或損害承擔責任。文章內容只供參考,並不構成任何證券、金融產品或工具的要約、招攬、建議、意見或保證。
投資涉及風險,證券的價值和收益可能會上升或下降。往績數字並非預測未來表現的指標。
uSMART
輕鬆入門 投資財富增值
開戶