近期,OpenAI CEO Sam Altman最新做客Lex Friedman的播客節目,在對談中,Altman談及了OpenAI的內鬥、馬斯克的起訴、Sora、GPT-5和AGI。
對談之初,Altman被問及OpenAI內鬥的事件,他表示,這絕對是我一生中最痛苦的職業經歷,混亂、可恥、令人不安,還有很多其他負面的東西。
他稱,有時,我確實認為這將是人工智能安全史上發生的最糟糕的事情之一。我很高興這件事發生得相對較早。我認為在OpenAI創立到創建AGI之間的某個時刻,將會發生一些瘋狂和爆炸性的事情,未來可能還會有更多瘋狂和爆炸性的事情發生。
Altman認為,此次內鬥仍然幫助OpenAI建立了一定的韌性,併為未來的更多挑戰做好了準備。
心裏層面上,Altman透露,內鬥後回到了工作崗位,事情非常忙碌和緊張,自己沒有花很多時間去思考它。 之後有一段時間,自己處於神遊狀態,心情非常低落。
他表示,很難繼續運行OpenAI,我只想爬進山洞裏恢復一下,但當時又好像剛剛回到任務中。
對於新董事會,Altman表示,感覺很好。就OpenAI的結構而言,董事會的任務之一就是研究它,看可以在哪些方面讓它變得更加強大。
他稱,上次內鬥是一次瘋狂、非常痛苦的經歷,是一場完美的怪異風暴。這對我來説是一個預演,風險越來越大,以及我們需要擁有健全的治理結構、流程和人員,將會發生什麼。
此外,ALtman表示,我仍然不希望對 OpenAI 擁有超級投票權,我從未擁有過,也從未想要過。即使經歷了所有這些瘋狂,我仍然不想要它。我仍然認為任何公司都不應該做出這些決定,我們確實需要政府制定規則。
對於Ilya Sutskever,Altman表示,我愛他,也非常尊重他。我現在對他的計劃無可奉吿,這是他的問題,但我真的希望我們在餘下的職業生涯中一起工作。他比我年輕一點。 也許他工作的時間長一點。
Altman還對內鬥是因為Ilya擔憂AGI風險的傳聞做出迴應,Ilya沒有見過 AGI,我們沒有人見過AGI,我們還沒有構建AGI。我真正喜歡Ilya的眾多原因之一是,他非常認真地對待AGI和安全問題。
他還透露,此次權力鬥爭將使自己在信任他人方面變得更加猶豫。
對於廣受關注的Q*項目,Altman表示,沒有祕密核設施。我們還沒有準備好談論這個。
Altman還表示,人們以各種不同的方式定義AGI。對我來説,真正重大的轉變應該是其中的一部分。
我認為,當一個系統能夠顯著提高世界科學發現的速度時,那就是一件了不起的事情。最現實的經濟增長來自於科技進步。
此前,馬斯克曾起訴OpenAI,指責其忘了初心,還要求其開源。
對此,Altman介紹,七八年前,當時只想嘗試研究AI技術,並不知道真正要用它做什麼。
一開始,我們只是認為將成為一個研究實驗室,並且不知道這項技術將如何發展。因為那是七八年前的事,所以很難回去真正記住當時的情況,但當時語言模型還沒有成為大事,我們對API或銷售聊天機器人的訪問權沒有任何想法,完全不知道我們要產品化。
他稱,很明顯,我們需要做不同的事情,且還需要大量的資本。所以我們就一次修補(公司架構),我們逐漸走到了這一步,在這個過程中的每一點上都做出了合理的決定。
Altman強調,是馬斯克選擇和OpenAI分道揚鑣的。他認為OpenAI將會失敗,他想要完全控制來扭轉局面,他還希望特斯拉能夠打造AGI。
馬斯克曾多次希望將OpenAI打造成一家他可以控制或與特斯拉合併的營利性公司,但我們不想這樣做,他決定離開。
Altman回憶,馬斯克當時的提案是,被特斯拉收購,並讓特斯拉完全控制OpenAI。
他表示,我真的很尊重埃隆,我希望在未來的歲月裏我們能保持友好的關係。
他稱,OepnAI將免費或低成本的AI工具提供給人們,對完成使命意義重大。不管這是否是開源的,我們應該開源一些東西而不是其他的東西,這之間有一些細微的差別。
OpenAI正在做的最重要的事情之一就是,將強大的技術免費提供給人們,作為一項公共利益。我們不會在我們的網站上投放廣吿,免費版本不會投放廣吿,我們不會以其他方式將其貨幣化。 OpenAI希望將日益強大的工具免費提供給人們,並讓他們使用它們。這種開放對我們的使命非常重要。如果你為人們提供出色的工具並教他們使用它們,或甚至不教他們,他們就會弄清楚,並讓他們以此為彼此建立一個令人難以置信的未來,這是一件大事。
Altman指出,Grok沒有開源任何東西,直到人們認為這有點虛偽,然後馬斯克宣佈Grok將在本週開源。我認為開源與非開源對他來説並不是真正的意義所在。
他認為,開源模型肯定有一席之地,特別是人們可以在本地運行的小型模型,需求巨大。會有一些開源模型,也會有一些閉源模型,在這方面它與其他生態系統沒有什麼不同。
Altman表示,任何考慮以非營利組織開始,並隨後增加營利性部門的初創公司,我強烈勸阻他們不要這樣做。
他認為,儘管這樣做會税收優惠或其他政策,但有些法律會讓其變得相當困難。
年初,OpenAI推出AI視頻生成工具Sora,引發行業轟動。
Altman透露,訓練Sora不僅使用了互聯網數據,還使用了大量的人類數據。有超過三個人致力於為這些模型標記數據。
對於AI訓練資料的版權問題,他認為這背後的問題是,創造有價值數據的人是否應該獲得使用數據的補償,答案是肯定的。
對於Sora帶來的威脅,Altman舉例稱,當攝影出現時,藝術家們也非常擔心,然後攝影成為一種新的藝術形式,人們通過拍照賺了很多錢。類似的事情還會繼續發生,人們將以新的方式使用新工具。
他認為,未來許多視頻,也許是大多數視頻,都會在製作中使用AI,但從根本上來説,它們仍然是由一個人思考、組合、完成其中的一部分來驅動的,有點像指導、運行它。
對於接下來要推出的GPT-5,Altman表示,也許GPT-5將是關鍵時刻。他預計GPT-5和GPT-4之間的差距將與GPT-4和GPT-3之間的差距相同。
關於今年是否會推出GPT-5,他透露,今年將發佈一款令人驚歎的新型號。我不知道我們會怎麼稱呼它。
我們將在未來幾個月內發佈許多不同的內容。我認為那會非常酷。 我認為,在我們討論一個類似GPT-5的模型之前,我們有很多其他重要的事情要先發布。
此外,他表示,我不認為GPT-3.5改變了世界,它可能改變了世界對未來的期望,這實際上非常重要。它確實讓更多的人認真對待AGI問題,並使我們走上新的軌道。
針對7萬億美元半導體計劃,Altman表示,算力(Compute)將成為未來的貨幣,這可能是世界上最珍貴的商品,我我們應該大力投資以進行更多的計算。
他表示,世界將需要大量的計算,其中有很多部分都很困難,能源是最難的部分,建設數據中心也很難,供應鏈也很難,製造足夠的芯片也很難。我們需要大量的計算量,但目前還很難推理。
他認為,核裂變能解決解決能源難題。
對於Google和Gemini,Altman認為,很多人試圖打造一個比谷歌更好的搜索引擎,這是一個困難的技術問題、品牌問題、生態系統問題,世界不需要一個谷歌副本。
Altman表示,自己討厭廣吿,很喜歡現在的用户付費的商業模式。
我有點討厭廣吿,因為它只是一種審美選擇。我認為出於多種原因,廣吿需要在互聯網上進行,以使其發展起來,但它是一個短暫的行業。現在世界更加富裕了,我喜歡人們為ChatGPT付費,並且知道他們得到的答案不會受到廣吿商的影響。
我們有一個非常簡單的商業模式,我喜歡它。我知道我在付錢,這就是商業模式的運作方式。當我使用Twitter、FacebookGoogle 或任何其他偉大的產品但有廣吿支持時,我不喜歡這樣,而且我認為在人工智能的世界中,情況會變得更糟,而不是更好。
他認為,如果問題是我們是否可以擁有一項偉大的業務來滿足計算需求而無需廣吿,那麼答案是肯定的。
Altman表示,會在某個時刻看到OpenAI的人形機器人或人形機器人大腦。
他認為,如果我們擁有AGI,而在物理世界中完成任務的唯一方法就是讓人類去做,那會令人沮喪。所以我真的希望,作為這個轉變的一部分,我們也能得到人形機器人或某種物理世界機器人。
他介紹,OpenAI是一家小公司,必須真正集中注意力。此前積累機器人技術時,機器人因為錯誤的原因而變得困難,但我們會在某個時候以某種方式迴歸機器人。OpenAI將重新投入機器人開發工作。
英文原文全版已附在文末的文檔中,歡迎取閲