今年上半年，可謂是 AI 屆最波瀾壯闊的半年。

在急速發展的各類 GPT 甚至 AGI 的雛形背后，是持不同觀點的兩大陣營的人們。

一派認為，以 ChatGPT 為首的生成式 AI 非常強大，能帶動一大波革命性的風潮，繼續推進沒有問題。

另一派認為，咱發展的有點太快了。不說禁止，也得停一停。而且道德方面，相匹配的約束也太少了。

而作為 AI 屆的一位大拿，Yann LeCun 對此卻有不同看法。

徹底禁止？不可行

LeCun 表示，他對 ChatGPT 的表現并不感到驚訝，也不贊成暫停人工智能的研究。

「這可能會產生和預期相反的結果?！?/p>

他表示，人工智能作為人類智能的放大器，可能是新文藝復興的起源。

ChatGPT 這種大語言模型是「自回歸」。AI 接受訓練，從一個包含多達 14000 億個單詞的語料庫中提取單詞，預測給定句子序列中的最后一個單詞，也就是下一個必須出現的單詞。

Claude Shannon 在上個世紀 50 年代開展的相關研究就是基于這一原則。

原則沒變，變得是語料庫的規模，以及模型本身的計算能力。

LeCun 表示，「目前，我們無法靠這類模型生成長而連貫的文本，這些系統不是可控的。比如說，我們不能直接要求 ChatGPT 生成一段目標人群是 13 歲兒童的文本。

而且，我們今天所熟知的自回歸語言模型的壽命都非常短，五年算是一個周期，五年以后，過去的模型就沒有人再會用了。

而我們的研究重點，就應該集中在找到一種是這些模型可控的辦法上。換句話說，我們要研究的 AI，是能根據給定目標進行推理和計劃的 AI，并且得能保證其安全性和可靠性的標準是一致的。這種 AI 能感受到情緒?！?/p>

要知道，人類情緒的很大一部分和目標的實現與否有關，也就是和某種形式的預期有關。

而有了這樣的可控模型，我們就能生成出長而連貫的文本。

LeCun 的想法是，未來設計出能混合來自不同工具的數據的增強版模型，比如計算器或者搜索引擎。

像 ChatGPT 這樣的模型只接受文本訓練，因此 ChatGPT 對現實世界的認識并不完整。而想要在此基礎上進一步發展，就需要學習一些和整個世界的感官知覺、世界結構有關的內容。

而這些更復雜的內容并不是簡單地通過閱讀文本就能實現的，這才是未來幾年的最大挑戰之一。

開源才是盡頭

對權力的渴望，是人類特有的。而 AI 并不會因為變得越來越強大就會具備這種渴望。

只有人類這個物種才知道如何制定法律，保障個體的行為不會過多損害共同利益。

OpenAI 最初是一個開放的研究項目，現在已經關閉了。而 OpenAI 對其工作只字未提，這種情況的逆轉在研究領域并不常見。

問題在于訓練一個語言模型很昂貴，要花費幾千萬歐元，所以初創企業負擔不起。

這也是微軟與 OpenAI 合并的主要原因，需要集團共同的計算能力來改進其未來的模型。這也是為什么 DeepMind 和谷歌大腦最終還是合并了。

LeCun 表示，最終在市場方面，開發者會走向一個開放平臺的共同生態。如果只有少部分公司控制著這類技術，就糟糕了。

從歷史上來看，不管是 Facebook 還是改完名的 Meta，都在積極推動開放性的基礎研究，比如 LlaMa 這個開源項目。

90 年代初期，Sun Microsystems 和 Microsoft 大打出手，爭奪操作服務器的權力。要記住，所有能一直站穩腳跟的互聯網技術都是開源的。

LeCun 最后表示，目前，阻止這類開放的開源 AI 平臺的關鍵，是法律上的問題。如果未來歐盟想要推動 AI 產業的結構化，那么這種類似的開源平臺是必不可少的。

參考資料:

鄭重聲明：此文內容為本網站轉載企業宣傳資訊，目的在于傳播更多信息，與本站立場無關。僅供讀者參考，并請自行核實相關內容。