第311章 開個價吧（補昨天的一章6837，今天還會寫一章）
「這是你的辦公室？」
馬斯克環顧了一下四周，足足不下七八塊顯示器，還有一個大工作檯，上面凌亂的擺滿了各種工具和零件以及兩套機械手。
牆邊放著兩台Stratasys的3D印表機，牆角處還有一個不知道是什麼東西的玩意兒蓋著一塊黑布。
「我在柚子科技沒有辦公室，這是我的私人實驗室。」方豫扔給馬斯克一瓶水，「沒想到你會想要和我單獨對話，沒單獨準備飲料，別見怪。」
馬斯克接過水，擰開瓶蓋喝了一口。
他有種感覺，面前這個年紀只比自己兒子大五六歲的年輕人，並沒有像其他人對他一樣的尊敬和仰視。
自從6年前spacex的獵鷹9號成功發射後，馬斯克走到哪裡都是鮮花和掌聲，都把他視作真正的矽谷鋼鐵俠。
雖然他並不住在矽谷。
在去年獵鷹9號成功回收以及特斯拉推出了第一款量產電動汽車ModelS大賣後，馬斯克更是一躍成為比肩古狗拉里佩奇、亞馬遜貝索斯的頂級企業家。
10年前，大多數人以為他是騙子，8年前，大多數人認為他是註定會破產的瘋子，6年前，大多數人認為他是運氣好的天才，而現在，他是這個星球上重複創業成功次數最多、最成功的企業家。
Zip2、Paypal、特斯拉、SpaceX、solarcity、Neuralink、OpenAi……
那些老牌企業家或者政客也就罷了，科技圈的創業者誰不是把他當神一樣崇拜？
但是，在這個比他年輕了兩輪的年輕人身上，他卻沒感覺對方對他有絲毫的仰視。
方吉斯，方豫，到底是什麼關係？
「很別致的掛墜。」馬斯克喝了口水，貌似不經意的看了一眼方豫胸口的無界信使。
方豫不動聲色的笑了笑：「謝謝，馬斯克先生想要單獨跟我說的不會就是這個吧？」
馬斯克仔細的觀察了一下方豫的反應，沒看出什麼端倪。
馬斯克定了定心神，不再想方吉斯和方豫之間到底有什麼關係。
無論這兩個人是不是一個人，和自己這次來的目的沒有任何關係，更無法干擾自己對事物的客觀判斷！
「可能你不知道，我對所有做AI的研究團隊都很熟，前年哈薩比斯將deepmind出售給拉里的時候我曾經勸說過他，也曾想要把他的團隊收購過來。」
「但你知道，古狗對AI研究者的吸引力，雖然我出了比古狗更高的價格，但哈薩比斯還是把deepmind出售給了古狗。」
馬斯克露出無奈的表情。
「因此，自從2月底橘子大模型戰勝了哈薩比斯的AlphaGo，我就想要和你深談一次。」
馬斯克停頓了一下，似乎在整理自己的思路，隨後緊緊地盯著方豫的眼睛。
「我想要知道，柚子科技目前訓練的最強大模型，是不是已經達成強人工智慧？」
看到馬斯克的表情非常認真，很明顯這確實是他非常重視的問題，方豫覺得有點意外。
他原本以為馬斯克是來談合作或者投資的。
畢竟此前馬斯克就給他發過郵件，希望能夠與柚子科技合作開發無人駕駛系統。
只不過被他拒絕了而已。
對於馬斯克的能力和做的事情，方豫還是很佩服的，但相比有導航的柚子科技來說，無論是spacex還是特斯拉，在技術路徑上其實都走錯了路。
柚子此前摸過特斯拉AI的進度，根據柚子的分析，目前特斯拉的AI，如果說經過足夠駕駛經驗訓練的橘子大模型的視覺與判斷模組可以輕鬆達到L4.5級別的自動駕駛的話，那特斯拉的AI最多只能算L2.5。
目前特斯拉的自動駕駛算法使用的是淺層CNN神經網絡，而且採用了大量人工標註駕駛數據訓練他們的算法，而沒有採用端到端的方式來進行訓練。
這種模式的上限很低，最多只能到L3，想要突破，就必須改變技術路徑。
使用開源的橘子大模型也是一個方案，但特斯拉在沒有柚子科技的後台支持下，使用的又是落後了整整一代的開源大模型，無論是效率還是效果都不可能做到最好。
尤其在影像識別領域，目前特斯拉的自動駕駛難以實現針對某些特定突發狀況的識別。
比如突然出現的大型車輛，方豫在開ModelS的時候就已經發現，當在高速行駛時，前面有大車的情況下，大車減速或突然停止，存在識別不出來前方情況的可能性。
雖然ModelS的自動駕駛包體驗不錯，但想要根本上提升到L3或更高的級別的自動駕駛，還有很長的一段路要走。
如果這時候柚子科技支持了另一家汽車公司來搞自動駕駛，那特斯拉在這方面取得的先發優勢就會瞬間被拉平，甚至反超。
事實上，柚子科技也確實是這麼做的，目前有一個專門的八人技術小組在和超越汽車對接，做L3.5級別的自動駕駛系統。
因此，方豫認為，馬斯克是不可能放任這種情況出現的。
在柚子科技拒絕與邁國公司合作的情況下，他這次來海西，大概率考察投資環境是假，和自己談橘子大模型接入特斯拉才是真。
方豫還是很好奇馬斯克能開出什麼條件的。
可沒想到，馬斯克居然開口就問目前柚子科技訓練的最強大模型是不是已經達到了強人工智慧。
這不是廢話嗎，當然達到了。
哪怕不提柚子在網際網路中的那部分意識，只說橘子大模型，現在距離超級人工智慧也不過就是堆參數堆數據的水磨工夫而已。
只不過不能對外說罷了。
「埃隆。這麼稱呼你可以吧？為什麼這麼問？」方豫不置可否的笑了笑。
「方，我希望你能夠給我一個答案。」馬斯克目光誠懇，「這對我來說很重要。」
你還真沒架子啊。
方豫對馬斯克的印象一下子好了不少。
「我只能說，目前發布的Juzi2.5大模型，的確只是橘子大模型的一個子集。」
方豫考慮了一下，還是給了馬斯克一個模糊的信息。
聽到方豫的話，馬斯克深吸一口氣。
自己還真踏馬猜對了啊。
你知道你做的事情有多危險嗎？
這和三年級小孩手搓核彈有什麼差別？
「剛剛沈小姐告訴我，你們所有員工在本崗位工作三個月後，都要在下一個月拿出百分之七十的工時做對齊工作，這是一個降低人工智慧風險的好辦法。」
「但我們都知道，AI的進化是指數級的，我不認為只憑這種辦法，能夠避免AI所可能引發的智械危機，我認為我們應該拿出更負責任的行動，來限制這一風險。」
馬斯克的語速並不快，一邊思考一邊說話。
「提出機器人三大定律的阿西莫夫想像不到人工智慧是以神經網絡的形式實現，現實不是小說，神經網絡的原理就註定它們不會遵守所謂的機器人三大定律。」
「而同樣，神經網絡下誕生的人工智慧，也必然會有一天誕生自我意識。」
「基於墨菲定律，AI誕生後，如果沒有足夠的監督和約束，發生智械危機的可能性是百分之百，無非只是時間問題而已。」
「尤其現在，更是一個危險的狀態。」
「橘子大模型開源後，各個國家和大公司都進入了軍備競賽，英偉達的交貨期已經排到了12月！你看一下英偉達這三個月的股價，已經是三個月前的3倍！」
方豫深有同感的點點頭。
還好柚子科技提前買了6億邁元的英偉達股票。
三個義子的私募也全倉了英偉達。
這一波自己和柚子科技加在一起足足賺了十五億！
不過皮衣黃賺的更多，一個月時間英偉達市值直接從不到五百五十億干到了一千七百億，皮衣黃身價從23億驟增到了70億！
但他敢減持嗎？
我敢，嘿嘿。
等到周芯國際7月底開始流片，就減持！
不怕SEC查內幕交易？
呵呵，10b5-1交易計劃了解一下。
這個計劃原本是針對公司高管的，允許公司高管提前設定交易計劃，在未來的特定時間點進行股票交易，從而避免SEC對內幕交易的指控。
但作為持股股東，同樣也可以適用於這個交易計劃，只不過很少有股東會這麼做罷了。
馬斯克看到方豫似乎沒有什麼反應，不由得皺了皺眉。
「對於神經網絡，你我都不是外行，應該很清楚，這玩意兒遲早有一天能誕生出自我意識，只不過是一個概率問題，做的人越多，模型越龐大，碰撞出自我意識的可能性就越大。」
「這種程度的軍備競賽，就像是幾十年前的核擴軍，稍稍不小心，『轟』。」
馬斯克做了一個爆炸的手勢，「人類就滅亡了。」
「畢竟沒有任何一種智慧生命，願意接受智慧遠不如自己的另一種生命的統治。」
「現在全世界除了古狗外，其餘所有AI研究機構都已經把主要研究方向轉向了柚子架構和你開源的橘子大模型。」
「我認為，推開AI大門的柚子科技，有義務在AI安全領域承擔更大的責任。」
聽到馬斯克這麼說，方豫頗為詫異的看了看一臉憂色的馬斯克，再看看他的精神力和靈光的狀態。
這貨認真的？
去年倒是聽說他在什麼座談里表達過對AI的擔心，但你一個億萬富翁資本家，能擔心成這樣，也是有點奇葩。
這是典型的災難性思維引發的焦慮症。
沒去看看心理醫生嗎？
不過倒是也容易理解，自己不擔心，是因為可以完全掌控大模型的底層法則。
別說橘子大模型還沒成為超級人工智慧，就算成了超級人工智慧，它的規模越龐大，底層法則也會越完善，自己隨時都能通過埃瑟朗之核控制和消除任何一個基於柚子框架的大模型。
要是模型仍然是小規模，法則也會相應孱弱，自己的控制力反而沒有那麼強。
但若自己不知道這一點的話，估計也會悲觀得天天及時行樂了吧？
咦？好像和現在也沒差多少。
方豫摸了摸下巴：「你是在指責柚子科技不應該開發出人工智慧嗎？」
「事實上，我們的預算接近三分之一花在對齊上。而且，即使柚子科技沒有推開這扇門，也會有其他人推開。」
「就像你說的，墨菲定律，門就在那裡，總會有人把它推開。」
馬斯克搖搖頭：「不，方，我並不是秉承著對抗性思維來和你探討這件事情，而是希望我們能夠找到一條解決AI安全發展的路徑，避免最壞結果的發生。」
「那你的方案是什麼？聽起來，似乎你已經有了可行的方案？」方豫喝了口水，不由得有些好奇。
坦白說，如果不是因為有法則在手和柚子的輔助，他也沒有絕對的把握能夠確保AI的安全性問題。
這些日子對「神之模型」的研究倒是讓他有了一些新想法，但這些想法究竟能不能成功，能不能夠確保AI成為人類社會向前發展的助推器而不是大炸彈，還要看實際落地後的效果如何。
現在說起來還是有些太早了。
馬斯克猶豫了一下：「我希望，作為目前在AI領域走的最快的企業，柚子科技能夠站出來，和我一起呼籲全世界的開發者，暫停所有神經網絡訓練六個月到一年。」
「利用這個時間，各個企業和國家重新審視目前大模型的安全隱患。並且成立一個由各大公司和國家組成的AI安全委員會，制定出AI發展的安全標準，並將全球AI都納入安全委員會的管轄範圍。」
「只有這樣，才能確保人類不會毀在AI手中。」
方豫一聽，差點沒噴出來。
老大，你做夢呢？
不過想一想，馬斯克接觸大模型才僅僅兩個月的時間，又不像自己一樣，有柚子的輔助和「神之模型」能直接提供參考，也只能從限制AI發展的角度來考慮問題。
「你應該和古狗也談過吧？他們怎麼看？」方豫揚了揚眉。
馬斯克沉吟：「我和拉里此前曾經是很好的朋友的，但在這方面我們的觀點並不相同，他不同意對人工智慧加以限制，更不同意放慢研發進度。」
方豫笑了笑：「所以，你說的不具備任何可操作性。即使我同意了你的意見，古狗不同意，其他公司不同意。」
「不提你剛剛說的那個全球性的AI安全組織，只說你前面提到的暫停研發，都是做不到的。」
「畢竟誰也不知道停止研發半年，會不會就被其他不遵守這個共識的企業所超越。」
「古狗不會同意，FB不會同意，那麼多的AI研究者都不會同意。」
「而且，就算這些公司都同意了，那些沒有絲毫名氣，甚至剛剛註冊和還沒註冊的AI初創企業呢？」
「大模型誰都可以訓練，誰都可以堆參數，你的想法並沒有從根本上降低AI發展帶來的風險。」
「在大模型領域，我的預測是，每一年，大模型都會以十倍以上的參數量增長，直到達到人類電力所能提供的極限。」
「沒有人會接受，自己一年時間，就落後對手十倍以上的性能差距。」
「我相信遲早會有你說的這樣的組織出現，也相信其中會有所有的AI大企業。」
「但絕不會是現在，而是在第一次AI軍備競賽告一段落的時候才會出現。」
「並且，我也不認為這種組織的出現會真正對AI的安全起到多大的作用。」
「這種組織的出現，我認為反而會擴大AI風險。」
「這個所謂的安全組織看似接管了所有的AI風險，但它卻不可能有真正降低AI風險的能力，反而約束了組織之外真正有效的AI風險管控措施。」
「組織建立在規則之上，組織規則一旦形成，就很難改變，更難以響應AI的發展速度所帶來的新機遇和新風險。」
「沒有任何組織的進化速度能趕上AI的進化速度。」
「就像ICANN，建立之初，所有人都認為需要有一個機構來管理網際網路的域名分發。但實質上，目前ICANN的存在，已經構成了網際網路最大的風險，並且嚴重阻礙了全球網際網路的健康發展。」
「最有意思的是，ICANN甚至完全沒有解決成立之初認為它們應當解決的問題，否則也不會有.sucks這種勒索域名的存在了。」
馬斯克眉頭緊皺，打斷道：「我始終認為，做點什麼總比什麼都不做要好。你對ICANN的抨擊我能夠理解，我也贊同在風險人類可承受的前提下，給與新技術最大程度的自由度。」
「但AI不同，AI如果失控帶來的破壞力，已經超越了人類可承受風險的極限。過去一百年間，唯一能和其相提並論的，只有核武器。試想一下，如果六十年前沒有締結核不擴散條約，可能我們人類社會在五十年前就已經滅亡了。」
方豫點點頭：「你說的很對埃隆，我很贊同。但是，請注意，核不擴散條約當時只牽涉五個國家，僅僅只是這五個國家，從提出到達成協議，就用了四年時間，而生效，又用了兩年。」
「你覺得，面對AI這種全球企業和個人都在參與的事情上，需要多久的談判才能達成一致？」
「而且，更不能忽略的一點是，核武器的威脅是迫在眉睫的，當時包括當政者在內的所有人類，都在被核武器所威脅，限制核武器是當時人類的共識，而AI則不是。」
「換句話說，你說的這個方法，在不知道有沒有效果的同時，也不具備任何的可行性。」
「除非，明天就爆發出一場智械危機，這時候人類才能吸取教訓。」
「對了，你可以收購波士頓動力，然後自行引爆一場AI危機，說不定能起到一些作用。」
聽了方豫的話，馬斯克心頭火起：「你的意思是，什麼都不做，坐看人類毀滅嗎？」
方豫眨了眨眼，一臉的無辜：「你怎麼知道我們沒有做事情？我只是說你控制AI風險的方法從根本上就是錯的。依據你經常說的第一性原理，控制AI風險，不應該從AI大模型技術本身來著手嗎？」
技術本身？
馬斯克不由得愣了一下。
「你是說，後門？通過底層的後門來做AI的最終防火牆？」馬斯克只是略作考慮，便搖頭道，「後門的存在，會造成更大的風險，即使初期AI無法發現，也存在被第三方濫用的必然。」
「而且，當AI進化到具備自我意識後，必然能找到修補後門的辦法，這並不是一個好辦法。」
方豫啞然一笑：「埃隆，你對AI的思考太過於局限了。我說的當然不是後門，而是從大模型技術方向的角度去實現真正安全的超級人工智慧。」
「確保AI的安全性，並不是依靠限制，而是依靠安全而可靠的技術路徑，在最終實現了超級人工智慧、甚至AI誕生自我意識的同時，還能夠保證人類社會的安全與進化，讓AI成為人類走向超級物種的助推器，這才是柚子科技真正在做的事情。」
「我們無法控制這個世界任何一個國家對AI的政策，但是，我們可以控制的是，比任何人都更先探索出達到安全超級人工智慧的路徑，這也被我稱為SASI。」
「SASI？」馬斯克目光閃爍，方豫所說的東西，確實是他沒考慮過的，但他怎麼聽怎麼覺得不靠譜。
超級人工智慧只要誕生，他計算過，只要半個小時，就能接管全世界所有的網絡設備、自動武器設施、甚至包括沒有聯網的電網設施。
「你的具體思路是什麼？」馬斯克眼睛瞪得溜圓，絲毫沒有一天一夜沒有睡覺的睏倦。
「這牽涉到柚子科技後續研發的核心機密，我只能說，你們對AI後續發展的路徑的預測是錯誤的，AI未來發展的形態，不應該是一個天網或奧創，我們應該從『什麼是生命』這個角度去尋求答案。」
馬斯克立刻說道，「如果我沒有搞明白這件事，我很難真正的相信你說的話，我可以保證不對外泄露一個字，需要的話，我可以簽保密協議。」
你不相信？你相不相信關我屁事？我憑什麼要告訴你？
就憑老子搶走了你的心上人？
問題是，你塌馬也是黃毛好不好？
「保密協議就算了吧，我的保密協議一旦違反，是必然會生效的。」方豫意味深長的說了一句。
「你相信與否，對於我來說並不重要。我也是一名人類，而且非常熱愛人類這個物種，我不會坐視任何損害人類整體利益的事情發生。」
「雖然我不能告訴你具體的技術細節，但既然你這麼擔心，我可以給你透露一些方向性的信息。」
「你一直在說，AI誕生自主意識將會毀滅人類。但是，人類也有自主意識，人類中也有戰爭狂人、也有希望世界毀滅的瘋狂博士，為什麼人類沒有毀滅？」
「很簡單的道理，人類的種群足夠大，種群足夠大的時候，任何極端思想都會被對抗、稀釋、緩衝，最後回歸到正態分布。」
「這就像是一個國家，國家越大，人口越多，往往民眾價值觀越具備正態分布特性。」
「而越是小國家，民眾價值觀卻往往會比較極端。」
「同樣，AI如果要產生毀滅人類的想法，必然是因為兩點，一，作為一種生命體，它的種群太小了，小到了無法稀釋極端思想的程度。」
「二，其數據受到了相當嚴重的極端化數據污染。」
「種群與數據，才是一切的根源，分布式的數據採集與中心式的數據清洗再反哺回分布式ASI，這才是從根本上確保AI不會毀滅人類的正確做法。」
「當然，中心-分布-中心-分布的SASI架構，也並不是AI發展的最終形態，最終的目標有些太遠了，現在和你說也沒有什麼太大的意義。」
馬斯克畢竟是走在高科技最前端的大佬，聽到一半，就聽明白了方豫表達的意思，不由得倒吸一口涼氣。
方豫所闡述的這種模式，的確能夠最大程度的確保AI價值觀的平衡，確保AI不會產生毀滅人類的想法。
但真的能做得到嗎？
按照大模型的特點，純粹的中心化超級人工智慧才是最容易達成的吧？
「我需要進入柚子科技董事會，我不要股份，但我要具備隨時了解公司目前戰略的權力。同時，為了避免利益衝突，我可以和柚子科技簽署協議，不進入AI行業，由柚子科技為我的所有公司提供AI服務，開個價吧。」
馬斯克沉默了一會兒，開口道。
今天這一章寫的太痛苦了，因為沒有參考資料可以參考，完全需要按照自己對Ai發展的了解進行合理預測與規劃，而且還要結合進情節，確保與後續情節的連接合理性，寫的太痛苦了，太痛苦了。
求個月票！！！
(本章完)