微軟在西雅圖召开一年一度的Build开發者大會，微軟CEO薩提亞納德拉宣布，在Windows11中加入一個名爲Copilot的AI助手。此前微軟已經公布的產品在此次开發者大會上獲得升級，新版本的Microsoft 365 Copilot將支持插件功能，以滿足不同用戶的需求。這不是唯一一個支持插件的應用，本月早些時候，微軟宣布插件將出現在Bing AI聊天中，OpenAI最近也爲ChatGPT添加了對插件的支持，並且這些插件將支持互通。

“开源標准的好處是，作爲开發者，你只需开發一次，這個插件就可以被任何AI調用，”OpenAI總裁格雷格布羅克曼（Greg Brockman）在現場表示，通過插件，ChatGPT可以將能力拓展到各個領域。這位被稱爲ChatGPT背後的男人，也出現在微軟Build开發者大會現場，和微軟CTO Kevin Scott進行了現場對話。

在對話中，他們探討了Brockman开發GPT過程中的Aha時刻、遇到的困難與挑战、以及對於構建插件生態的看法。在對談的最後，Brockman還特別提出了，即使微軟這樣的大公司，都很難深入特定的領域，比如法律，研究如何讓技術賦能這個行業的發展，所以每個人都將使人工智能變得更偉大。

以下爲對話實錄：

Kevin Scott：我們先從ChatGPT的體驗开始談起。它讓我們都感到驚訝，它的用戶增長令人驚嘆，構建ChatGPT是一個非常大的工程挑战，你能分享一下相關的經歷嗎？

Greg Brockman：構建ChatGPT的過程十分有趣。我們嘗試構建一套AI聊天系統其實已經很多年了。實際上，我們曾經進行過一個名爲Web GPT的早期版本的演示，這個演示非常酷，引起了很大興趣。那時我們有幾百個合作夥伴，實際上他們必須付費才能使用這個系統。他們表示這非常有用，可以幫助他們完成編碼任務。

但是對我來說，真正讓我印象深刻的時刻是當我們有了GPT-4，而我們之前用的是GPT-3，我們只是部署了基礎模型，所以我們只是預訓練了它，但是沒有真正地往任何方向調整它，只是通過API進行了一些數據接入。對於GPT-3.5，我們實際上已經達到了能夠做指令跟隨的程度，我們有外包商，系統被人工給予“這指令你應該如何完成它”的任務。而我們就是在GPT-4上延續了這樣的訓練。

讓我感興趣的是，只是作爲一個小實驗，我當時設想，“如果你在它已經生成了一些東西之後，再跟上第二個指令，會發生什么？”模型回答了一個完美的回應，包含了之前的所有內容。所以意識到這個模型已經足夠強大了，它真的概括了這樣一個想法，“如果你真的想讓我跟隨指令，而你給我一個新的指令，也許你真的想讓我和你對話。”所以對我來說，那是讓我恍然大悟的時刻，“好吧，我們已經有了這個基於早期模型的基礎設施”，而這個新模型，即使只是使用這種本來不是爲聊天而設計的技術，它也想聊天，它能行的。所以這是一個真正的“aha”時刻。從那時起，我們就只想着“我們必須把它拿出來。它會成功的。”

Kevin Scott：是的，這令人喫驚。我記得當Sam打電話給我說，“嘿，你知道嗎，我們想發布ChatGPT，我們覺得把其中一個模型調整一下，可能只需要幾個星期的工作”，我就說，“好啊，爲什么不呢？”而我根本不知道它在技術上會工作得這么好，而且會是這么一個瘋狂的成功。所以，也許跟這個有關，我知道你是GPT-4所有訓練基礎設施的主要架構師之一，所以GPT-4爲ChatGPT的部分功能提供了支持，而且它對於所有從事人工智能領域的人來說都是一個啓示。我想知道你能不能分享一下，你對GPT-4的开發有什么有趣的發現？

Greg Brockman：

是的，GPT-4確實是一件用心的作品。作爲一家公司，在GPT-3之後，我們實際上嘗試了多次超越那個模型的性能，這不是一件容易的事情。

我們花了幾周的時間來調整其中一個模型，這導致了令人難以置信的成功。作爲GPT4訓練中的主要基礎設施架構師之一，對於每個在人工智能領域工作的人來說，這真的是一個啓示，這是一項充滿愛的勞動。

對於GPT4，我們實際上回到了繪圖板，重建了整個基礎設施。我們對每個細節進行了深入分析和調整，但我相信仍然可能存在一些錯誤。我認爲還有更多細節可以繼續優化，雅各布給出了一個很好的類比，他是我非常喜歡的項目負責人之一，他說這就像建造一枚火箭，我們希望每個工程公差都盡可能小，並且有很多微小的細節要處理。

比如說，以前如果我們在檢查點有一個數據BUG，如果你在恰好錯誤的時刻殺死了任務，你可能會在任務重新啓動時得到一個混合物，換句話說，如果我們在保存模型參數的過程中有一個數據錯誤，如果你在這個過程中剛好終止了任務，你可能會在任務重新开始時得到一個混合的模型參數，也就是說，一部分是新訓練出來的參數，一部分是舊的參數。

盡管機器學習很善於從中恢復，但這也是我們需要關注的一個問題。我們需要回過頭來，仔細檢查每一個細節，做一些乏味的工作，但也正是這些乏味的工作使得我們最終獲得了成功。

Kevin Scott：Satya（微軟CEO）在他的演講中提到了我們正在开發的這種插件的共享方法，這個想法是我們要賦予在座的所有人寫軟件的能力，可以擴展像ChatGPT和我們正在構建的所有這些東西Copilot之類的功能。我知道這也是一個有趣的技術挑战，而且我們還沒有解決所有的技術問題，還有很多工作要做，才能把它變成我們最終想要的狀態。所以我想知道你有沒有一些想法要分享一下？

Greg Brockman：我同意你的看法。插件的概念非常迷人，特別是對於开發人員來說，他們可以利用這項技術來改善系統，使其對每個人都更好。而這就是我覺得非常令人興奮的地方，也是我們把它設計成一個开放標准的部分原因，因爲這樣一來，作爲一個开發者，你只需要構建一次之後任何AI都可以使用。這是多么美妙的想法，對吧？我覺得互聯網發展真正的推動力是任何人都可以建立一個網站，然後每個人都可以訪問它，开發者建立一個API，突然之間任何人都可以使用它。而我覺得這種核心設計原則，真的讓任何想要插件能力的开發者都能夠接入並獲得系統的能力，並能夠把任何領域的所有力量帶入ChatGPT，真的非常了不起。

Kevin Scott：

是的，我真正喜歡插件的地方是它在概念上是如此簡單。它讓我有點想起了我寫過的第一個HTTP服務器。如果你理解了核心概念，你可以很快地建立一些可以做一些非常強大的事情的東西，我覺得這對於一個工程師來說是一件了不起的事情。所以你知道，在OpenAI，你一直在思考如何突破技術的極限。而且，我覺得我們合作的一件非常了不起的事情是和你們一起工作。感覺我們可以看到比我們原本能夠看到的更遠的未來。所以我想知道你對哪些突破極限的事情感到興奮，例如說某種應用或者模型？

Greg Brockman：

是的。我覺得有意思的是，我們好像處在一種類似於時鐘滴答的快速迭代周期中，衆所周知，在特拉維夫古代時期，人們會不斷地創造新東西，並且大力推廣它們。而我認爲，對於GPT-4來說，我們現在正處於一個初期階段，正在全力發揮它的潛力，我們已經公布了一些視覺能力，但還沒有完全實現。

而我認爲這將改變這些系統的運行方式和用戶體驗，以及可以基於它們开發的應用種類。所以我非常激動，如果你回顧一下過去幾年的歷史，你會發現我們兩年前實現了降價70%，而去年我們又實現了90%的成本降低，相當於10倍的成本下降，這簡直太瘋狂了，而且我相信我們可以用新模型不斷重復這樣的成就。所以GPT-4雖然現在很貴，還沒有完全普及，但我相信這種情況會發生變化。我希望每個人都能意識到這一點。

Kevin Scott：是的。我認爲這是一個我想要和在座的每個人分享的重要信息，你們要知道——這也是我們告訴微軟內部所有使用這些技術的开發者的，今天看起來很貴的東西明天就會變得便宜，因爲技術進步太快了。所以我想我們還能擠出一點時間來談談最後一個話題。你已經給在座的开發者提供了很多非常棒的建議，但是也許你還有最後一點想要對大家說的。

Greg Brockman：

我認爲，在這個領域，技術明顯在不斷進步。但是我覺得每個开發者都能做到一件事，對我們或者微軟這樣的大公司來說可能很難做到，那就是深入特定的領域，探索如何讓這項技術在那裏發揮效果。

所以我非常欣賞那些專注於特定領域的公司，比如說法律領域，他們真的有專業知識，和很多律師溝通，了解他們對這項技術有什么需求和困難。所以我覺得每個人的付出都會對科技的發展帶來更多的附加價值。

Kevin Scott：這太棒了，就如Greg所說，你們都是將來會讓人工智能變得偉大的人。所以非常感謝Greg今天和我們在一起，感謝所做的一切，謝謝！

$微軟(NASDAQ|MSFT)$#AI之战愈演愈烈，微軟、谷歌財報有哪些看點？#

本文作者可以追加內容哦 !