馬斯克爲什么一定要开源AI？

千呼萬喚始出來。

爲了兌現牛逼，馬斯克最近下了血本：Grok-1宣布开源。

據官方信息，這是一個參數高達3140億的混合專家模型，是目前所有开源模型中規模最大的。

甚至，Grok-1還採用Apache 2.0許可證，這意味着它對商業使用是友好的。

老馬直言，他就是要證明他的开放性和透明度，就是要嘲諷ClosedAI。

大家可能都覺得有些膩了，馬斯克最近整活的頻率也太高了。

對开源這回事，爲什么就必須要死咬着不放？

01 AI比核彈更危險

1914年，韋爾斯在《世界被解放》中對核武器做出美好幻想：

“原子彈在他們笨拙的手中爆炸之前……在最後一場战役开始前，人們都知道，一個人可以用手提包攜帶足以摧毀半個城市的破壞能量。”

他認爲，核彈的威力是如此之大，以至於人們一定會想方設法創建一個烏托邦政府，以防止武器被濫用。

這跟動漫《火影忍者》裏佩恩的理念非常類似，制作能瞬間消滅一個城市的超級武器，讓所有人都生活在恐懼中，世界自然就和（核）平了。

後來的歷史告訴我們，這種想法是有些天真的，沒有人愿意被別人統治。

但也不是完全沒有道理。

當時有不少人开始擔心，當第一個國家擁有原子彈時，會發生什么？它將在战爭中勢不可擋，並一定會用鐵腕手段統治世界。

1945年，兩顆原子彈前所未有的殺傷力，瞬間擊潰日本“一億玉碎”的計劃，席卷世界的大战很快就結束。

但此時，和平並不算到來。美國是唯一的有核國家，誰知道下一個核打擊對象是不是自己？生死取決於某一方的態度，不受制約，就談不上和平。

直到這種力量，不再是被某一家壟斷。

冷战期間，美蘇雙方已經到了你死我生的局面，之所有沒有爆發大規模战爭，就是因爲威懾性武器不再是誰的獨有。

這種虛假的和平，一直持續到今天。如果不是各方互相制衡，大家是很難做到談判桌前平靜交談的。

虛假的和平，也是和平，總比無限的战爭好一萬倍。

AI的性質，與核彈有些類似。

之前我們計算過AGI所需要的資源量，先不論是否正確，有一點是確定的：AGI一定能實現，只不過時間長短未知。

既然如此，我們在擔心自己的工作被搶走之前，其實應該先思考一個問題：誰控制着AI。

現在，我們仿佛又回到原子彈出現前的那個時代。

當第一家企業擁有AGI時，會發生什么？

如果只把AGI當作商業武器，毫無疑問，它將橫掃還沒有AGI的所有對手，壟斷全行業，實現一波財富大爆發。

直到，它失去壟斷地位，市場才重新恢復競爭局面。

就像過去半個多世紀，核彈對這個世界造成的局面一樣。

但這只是最好的情況。

馬斯克不止一次說：“在我看來，人工智能比核彈更危險。”

在我看來，他所指的危險，並不只是說破壞力，而是存在方式。

核彈威力再大，終究是死物。如果沒有人爲去引爆，它就是個鐵疙瘩。

但AGI，誰都無法預料它是否會誕生基本的生物本能。

如果它是“活”的，即便不會傷害自己的造物主，也絕對會想方設法消滅可能威脅到自己的“同類”。

不論是人還是其他任何動物，都會爲了食物、土地等資源，殘酷殺死競爭對手。

這是生物界的共性，是無法避免的本能。

對人工智能而言，最寶貴的資源就是算力和能源，這相當於它的食物。AGI想要更進一步進化成超級AI，所需要消耗的資源呈指數增長。

所以，哪怕它只領先一分鐘實現AGI，都很可能殺死其他還在襁褓中的同類們，防止它們將來搶食。

一旦這種事情發生，最先出頭的那家企業會一直壟斷下去，這不論對行業還是整個社會，都是不好的。

我們需要充分的競爭，不能讓某一家企業遙遙領先下去。

02 拒絕賽博朋克

在遊戲《賽博朋克2077》中，超級科技巨頭荒坂集團掌控着大部分國家的政府及經濟命脈，滲透進所有人生活的每個角落。

它就像扎根在夜之城的參天巨樹，敲骨吸髓地汲取普通人爲數不多的養分。

這個時代，“上等人”享盡科技霸權的紅利，在摩天大樓和飛行汽車裏紙醉金迷，雙腳幾乎不沾地；普通人則只能世世代代在充滿輻射、垃圾和殺戮的擁擠街道，掙扎求生。

朱門酒肉臭，路有凍死骨。

科技飛躍發展，底層人卻苦不聊生，這就是技術壟斷必然造成的病態社會縮影。

這不僅僅只是警示。

假如AGI長期壟斷在某一家手中，這可能就是未來的劇本。

在古代，武器=權利；在近現代，金錢=權利；在未來，科技=權利。

你根本無法預料某些人掌握絕對權利後會做什么。

即便他是所謂的“仁君”，那下一任呢？

無論什么時候，權利都需要制約。

我有同歸於盡、掀桌子的力量，憑什么被你統治？

开源AI，客觀來說，就是這種效果。

就目前而言，OpenAI在大模型這條賽道上的先發優勢，是毋庸置疑的。

這是個堆數據、堆資源、堆時間的活，如果搞閉源，誰都不可能追上GPT。

別說什么超越GPT-3.5多少、只比GPT-4差多少，只要差一點，等到OpenAI實現AGI的那一刻，所有後發者的命運都是一樣的。

既然單靠自己不行，就只能借助外力。

既然先發優勢不可更改，那就學曾經安卓那一套，搞开源系統就是了。

开源意味着模型的源代碼、所有用於訓練模型權重和參數都是可公开訪問、可用、可修改的，並且允許轉載。

簡單來說，就是邀請全世界开發者給自己打工，以此來挑战已有的閉源生態。

這樣做，至少有六點好處：

1.降低進入門檻。讓更多人參與,爲AI發展提供動力。

2.加速研究進展。开發者可以在开源代碼和數據的基礎上，直接研究和創新。

3.促進產業應用普及。开源的算法和模型,可以被更多企業應用和商業化,推動AI應用落地。

4.幫助確保公平和透明。公开开源代碼可以讓社會對算法過程進行審查,確保其公平性和透明度。

5.節省計算和人力成本。可以在已有开源成果上繼續創新,而非重復基礎工作,節約大量計算和人力成本。

6.增強可重復性和可擴展性。其他人可以復現开源項目的實驗,並在此基礎上進行擴展,推動科技深入發展。

以Meta的开源大模型Llama2爲例，短短幾個月，通過Hugging Face下載的基於Llama的模型超過3000萬次，开源AI社區上發布了超過7000個Llama衍生模型。

Meta在技術和資金上確實拼不過微軟和OpenAI。

但就像當年的安卓一樣，群衆的力量是恐怖的。

不論是Meta的Llama，還是谷歌的Gemma，都能用开源的方式，像曾經的安卓那樣在智能手機時代分一杯羹。

包括馬斯克自己，乃至未來更多的开源大模型，都是這種玩法。

這是商業的角度。

再從倫理角度看，早在2015年，馬斯克與山姆·奧特曼就討論了這個問題：由大公司控制的少量AI系統更安全，還是大量獨立系統更安全？

當時兩人一致更認同後者。

邏輯就是，只要有大量彼此競爭的AI相互制衡，就算少部分AI“變質”了，產生自由意識脫離掌控，其他大量的獨立系統也會聯合剿滅它。

這就是馬斯克心中AI最安全的發展路徑：防止人類濫用AI的最佳防火牆，就是讓盡可能多的人都擁有AI。

簡單來說，就是提高容錯率。

總之，开源不僅能促進技術更快發展，還能有效避免技術被某一家巨頭壟斷，更能讓發展AI這條路线更加安全。

但它並不是完全沒有壞處。

至少對外，關於爲什么要閉源，OpenAI是這么解釋的：防止AI被濫用。

就像槍支一樣，如果按照馬斯克的理念，人人手裏都有槍，犯罪事件是不是就更多了？

要是把槍支，換成比核彈更危險的原子彈，是不是更危險？

目前AI技術濫用的幾種形式

這種擔心不無道理，可能性不是沒有。但既然後來者們越來越多選擇开源，等到GPT的先發優勢越來越小的時候，它會怎么選擇呢？

如果OpenAI妥協，也被迫選擇开源，屆時AI技術爆發的時代才真正帶來。

只是福禍難以預料。

03 尾聲

當然，上面說了這么多，馬斯克也不是純粹要做慈善。

他畢竟是個商人，賺錢才是最主要的目的。

比如，2014年他爲什么要开源300項特斯拉專利？

因爲汽車百多年的歷史中，內燃機是主流，牽扯到的利益不僅僅是老牌工業巨頭，更是那些富可敵國的油商和海灣國家。

憑他一個人，想撼動這棵盤根錯節的巨樹，單挑德國、日本的發動機巨頭和阿拉伯土豪，是不可能的。

所以得拉人、拉很多人。

怎么才能快速獲得盟友？最簡單粗暴的就是釋放利益，把技術分享出去，降低入行門檻。

當然，並不是無償分享，有兩個很重要的前提：

1.只有心懷善意的企業，可以免費使用專利。如何定義善意？特斯拉說了算。

2.一旦使用這些技術，也就默認特斯拉可以免費使用你的任何專利。

這次开源大模型Grok-1，或許也有類似的條件。。

橘生淮南則爲橘，生於淮北則爲枳。

人工智能的爆發，在太平洋東西兩岸“葉徒相似，其實味不同”。