來源：極客公園 

　　黃仁勛說：“如果你去任何一個云，你會看到NVIDIA GPU是其中最昂貴的計算實體。但是，如果你把一個工作負載放在上面，你會發現我們做得非常快。就好像你得到了一個95%的折扣。我們是最昂貴的計算實體，但我們是最具成本效益的TCO。”

　　身穿皮夾克的黃仁勛，站在藍色沖浪板上，擺了幾個沖浪的姿勢。

　　這不是美國‘網紅節’VidCon，而是美國知名數據平臺 Snowflake 的開發者大會上的一景。

　　當地時間 6 月 26 日，英偉達創始人黃仁勛和 Snowflake 公司 CEO Frank Slootman 就‘如何把生成式 AI 帶給企業用戶’展開探討。主持人則是前 Greylock 的 GP，現在是投資機構 Conviction 的創始人。

　　在會上，相較于‘東道主’Frank 職業經理人式的老成持重，‘皮衣教父’一如既往地語出驚人，不僅稱雙方的合作是‘要相愛，不要戰斗’（We are Lovers，not Fighters），更開玩笑說，為 Snowflake 提供的經過訓練的模型，相當于給客戶‘打了 1 折’。

　　當天，英偉達與 Snowflake 又共同放出大招：世界第一芯片公司與風頭最勁的云數據平臺合作，推出共同合作。Snowflake 的用戶可以在數據不離開平臺的前提下，直接利用英偉達的預訓練 AI 模型，在云平臺上對自己公司的數據進行分析，開發針對自己數據的‘AI 應用’。

　　‘目前的重大變革來自數據+AI 算法+計算引擎。通過我們的合作，我們的能夠將這三點帶到一起。’黃仁勛講道。

　　Talking Points：

• 大語言模型+企業專屬數據庫=針對特定問題的 AI 應用；
• 以前是 Data going to Work，現在是 Work going to Data，讓計算去到數據所在之地，避免數據孤島；
• 英偉達提供的預訓練模型，已經是花費數千萬美元、在英偉達 AI 工廠中訓練出來的，所以在 Snowflake 上調用計算引擎已經‘打了 0.5 折’；
• 軟件 3.0 時代，基于模型、數據庫，企業能夠在幾天內搭建自己的專屬應用；
• 未來企業能夠生產許多智能代理，并運行它們；
• 對于企業來說，真正的難題是混合結構的、非結構化的數據，如何被調動。這或許能夠帶來商業模式的更新。

　　以下為雙方對話主要內容，經極客公園整理編輯：

　　01 談合作：把最好的計算引擎，帶給最有價值的數據

　　Frank：

　　NVIDIA 目前在歷史上發揮著重要的作用。對于我們來說，能夠帶來數據和大型企業的關系。我們需要啟用這項技術，以及讓整個服務堆棧來有效地使用它。我不想使用‘天作之合’來形容，但是對于一個門外漢，是一個很好的機會，進入到這扇機會的大門里。

　　黃仁勛：

　　我們是 lovers，而不是對手。我們要把世界上最好的計算引擎帶到世界上最有價值的數據。回想過去，我已經工作了很長時間，但是還沒有那么老。Frank，你更老一些（笑）。

　　最近，由于眾所周知的原因，數據是巨大的，數據是寶貴的。它必須是安全的。移動數據很困難，數據的引力真實存在。因此，對我們來說，把我們的計算引擎帶到 Snowflake 上要容易得多。我們的伙伴關系是加速 Snowflake，但它也是關于將人工智能帶到 Snowflake。

　　最核心的是，數據+人工智能算法+計算引擎的組合，我們的伙伴關系將所有這三件事結合在一起。令人難以置信的有價值的數據，令人難以置信的偉大的人工智能，令人難以置信的偉大的計算引擎。

　　我們可以一起做的事情，是幫助客戶使用他們的專有數據，并用它來編寫 AI 應用程序。你知道，這里的重大突破是，你第一次可以開發一個大型語言模型。你把它放在你的數據前面，然后你與你的數據交談，就像你與一個人交談一樣，而這些數據將被增強到一個大型語言模型中。

　　大型語言模型加知識庫的組合等于一個人工智能應用。這一點很簡單，一個大型的語言模型將任何數據知識庫變成一個應用程序。

　　想想人們所寫的一切驚人的應用程序。它的核心始終是一些有價值的數據。現在你有一個查詢引擎通用查詢引擎在前面，它超級智能，你可以讓它回應你，但你也可以把它連接到一個代理，這是 Langchain 和向量數據庫帶來的突破。將數據和大語言模型疊加的突破性的東西正在到處發生，每個人都想做。而 Frank 和我將幫助大家做到這一點。

　　02 軟件 3.0：建立 AI 應用，解決一個特定問題

　　主持人：

　　作為投資者來看這種變化，軟件 1.0 是非常確定的代碼，由工程師按照功能寫出來；軟件 2.0 是用仔細收集的標記的訓練數據優化一個神經網絡。

　　你們在幫助人們撬動軟件 3.0，這套基礎模型本身有令人難以置信的能力，但它們仍然需要與企業數據和自定義數據集合作。只是針對它們去開發那些應用程序要便宜得多。

　　對于那些深入關注這個領域的人來說有一個問題，基礎模型是非常泛化，它可以做所有事情嗎？為什么我們需要自定義模型和企業數據呢？

　　Frank：

　　所以我們有非常泛化的模型，可以做詩，處理《了不起的蓋茨比》的做摘要，做數學問題。

　　但是在商業中，我們不需要這些，我們需要的是一個 Copilot，在一個非常狹窄，但是非常復雜的數據集上獲得非凡的洞見。

　　我們需要了解商業模式和商業動態。這樣的計算上不需要那么昂貴，因為一個模型并不需要在一百萬件事情上接受訓練，只需要知道非常少的、但很深入的主題。

　　舉個例子。我是 Instacart 的董事會成員，我們一個大客戶，像 DoorDash 和所有其他企業常面臨的問題是，他們不斷增加營銷費用，來了一個客戶，客戶下了一個訂單，客戶要么不回來，要么 90 天后回來，這非常不穩定。他們把這稱為流失客戶。

　　這是復雜問題的分析，因為客戶不回來的原因可能有很多。人們想找到這些問題的答案，它在數據中，不在一般的互聯網中，而且可以通過人工智能找出來。這就是可能產生巨大價值的例子。

　　主持人：

　　這些模型應該如何與企業數據互動？

　　黃仁勛：

　　我們的戰略和產品是各種尺寸、最先進的預訓練模型，有時你需要創建一個非常大的預訓練模型，以便它可以產生 prompt，來教更小的模型。

　　而較小的模型幾乎可以在任何設備運行，也許延遲非常低。然而它的泛化能力并不高，zero shot（零樣本學習）能力可能更有限。

　　因此，你可能有幾種不同類型不同大小的模型，但在每一種情況下，你必須做監督的微調，你必須做 RLHF（人類反饋的強化學習），以便它與你的目標和原則保持一致，你需要用矢量數據庫之類的東西來增強它，所以所有這些都匯集在一個平臺上。我們有技能、知識和基本平臺，幫助他們創建自己的人工智能，然后將其與 Snowflake 中的數據連接起來。

　　現在，每個企業客戶的目標不應該是思考我如何建立一個大型的語言模型，他們的目標應該是，我如何建立一個人工智能應用程序來解決特定的問題？那個應用可能需要 17 個問題來做 prompt，最終得出正確的答案。然后你可能會說，我想寫一個程序，它可能是一個 SQL 程序，可能是一個 Python 程序，這樣我就可以在未來自動做這個。

　　你還是要引導這個人工智能，讓他最終能給你正確的答案。但在那之后，你可以創建一個應用程序，可以作為一個代理（Agent）24/7 不間斷地運行，尋找相關情況，并提前向你匯報。所以我們的工作就是幫助客戶建立這些人工智能的應用，這些應用是有安全護欄的、具體的、定制的。

　　最終，我們在未來都將成為智能制造商，當然雇用員工，但我們將創建一大堆代理，它們可以用 Lang Chain 類似的東西來創建，連接模型、知識庫、其他 API，在云中部署，并將其連接到所有的 Snowflake 數據。

　　你可以規模化地操作這些 AI，并不斷地完善這些 AI。因此，我們每個人都將制造 AI、運行 AI 工廠。我們將把基礎設施放在 Snowflake 的數據庫，客戶可以在那里使用他們的數據，訓練和開發他們的模型，操作他們的 AI，因此，Snowflake 將是你的數據存儲庫和銀行。

　　有了自己的數據金礦，所有人都將在 Snowflake 上運行 AI 工廠。這是目標。

　　03 ‘核彈’雖貴，直接用模型相當于‘打 1 折’

　　黃仁勛：

　　我們在 NVIDIA 建立了有五個 AI 工廠，其中四個是世界前 500 名的超級計算機，另一個正在上線。我們使用這些超級計算機來做預訓練模型。因此，當你在 Snowflake 中使用我們的 Nemo AI 基礎服務時，你將得到一個最先進的預訓練模型，已經有幾千萬美元的費用投入其中，更不用說研發投入了。所以它是預先訓練好的。

　　然后有一大堆其他的模型圍繞著它，這些模型用于微調、RLHF。所有這些模型的訓練成本都要高得多。

　　因此，現在你已經將預訓練模型適應于你的功能，適應于你的護欄，優化你希望它具有的技能或功能類型，用你的數據增強。因此，這將是一個更具成本效益的方法。

　　更重要的是，在幾天內，而不是幾個月。你可以在 Snowflake 開發與你的數據連接的人工智能應用程序。

　　你應該能夠在未來快速建立人工智能應用程序。

　　因為我們現在看到它正在實時發生。已經有一些應用能夠讓你和數據聊天，比如 ChatPDF。

　　主持人：

　　是的，在軟件 3.0 時代，95% 的培訓費用已經由別人承擔了。

　　黃仁勛：

　　（笑）是的，95% 的折扣，我無法想象一個更好的交易。

　　主持人：

　　這是真正的動力，作為投資人，我看到在分析、自動化、法律等領域的非常年輕的公司，他們的應用已經在六個月或更短的時間內實現了真正的商業價值。其中一部分原因是他們從這些預先訓練好的模型開始，這對企業來說是一個巨大的機會。

　　黃仁勛：

　　每家公司都會有數百個，甚至 1000 個人工智能應用程序，只是與你公司的各種數據相連。所以，我們所有人都必須善于構建這些東西。

　　04 原來是數據找業務，現在是業務找數據

　　主持人：

　　我一直從大企業參與者聽到的一個問題是，我們必須去投資人工智能，我們需要一個新的堆棧（Stack）嗎？應該如何考慮與我們現有的數據堆棧相連？

　　Frank：

　　我認為它在不斷發展。模型們正逐漸變得更簡潔、安全、更好地被管理。所以，我們沒有一個真正明確的觀點，這就是每個人都會使用的參考架構？有些人將有一些中央服務的設置。微軟有 Azure 中的人工智能版本，它們的很多客戶正在與 Azure 進行互動。

　　但我們不清楚什么模型將主導，我們認為市場將在使用難易、成本這些事上進行自我排序。現在僅僅是開始，不是最終的狀態。

　　安全部門也會參與進來，關于版權的問題會被革新。現在我們對技術很著迷，現實中的問題也會被同時處理。

　　黃仁勛：

　　我們現在正經歷 60 年來第一次根本性的計算平臺變革。如果你剛剛讀了 IBM System 360 的新聞稿，你會聽到關于中央處理單元、IO 子系統、DMA 控制器、虛擬內存、多任務、可擴展計算向前和向后端兼容，而這些概念，實際都是 1964 年的東西，而這些概念幫助我們在過去六十年來，不斷進行 CPU 擴展。

　　這樣的擴展已經進行了 60 年了，但這已經走到了盡頭。現在大家都明白，我們無法再擴展 CPU 了，突然之間，軟件變化了。軟件的編寫方式，軟件的操作方式，以及軟件能做的事情都與以前有很大的不同。我們稱之前的軟件為軟件 2.0。現在是軟件 3.0。

　　事實就是，計算已經從根本上改變了。我們看到兩個基本的動力在同時發生，這也是為什么現在事情正在發生劇烈震蕩。

　　一方面，你不能再不斷地購買 CPU。如果你明年再買一大堆 CPU，你的計算吞吐量將不會增加。因為 CPU 擴展的終點已經到來了。你會多花一大堆錢，你不會得到更多的吞吐量。因此，答案是你必須去加速（英偉達加速計算平臺）。圖靈獎獲得者談到了加速，英偉達開創了加速，加速計算現在已經到來。

　　另一方面是，計算機的整個操作系統發生了深刻的改變。我們有一個叫 NVIDIA AI Enterprise 的層，而其中的數據處理、訓練、推理部署，整個現在已經整合到或正在整合到 Snowflake 中，因此，從開始數據處理，一直到最后的大模型部署，整個背后的計算引擎都被加速了。我們將賦能 Snowflake，在這里你將能夠做得更多，而且你將能夠用更少的資源做到更多。

　　如果你去任何一個云，你會看到 NVIDIA GPU 是其中最昂貴的計算實體。但是，如果你把一個工作負載放在上面，你會發現我們做得非常快。就好像你得到了一個 95% 的折扣。我們是最昂貴的計算實體，但我們是最具成本效益的 TCO。

　　所以，如果你的工作是運行工作負載，可能是訓練大型語言模型，可能是微調大型語言模型，如果你想這樣做，一定要進行加速。

　　加速每一個工作負載，這就是整個棧的重塑。處理器因此發生變化，操作系統因此不同，大的語言模型是不同的，你寫 AI 應用程序的方式是不同的。

　　未來，我們都要寫應用。我們都要把我們的 prompt 和我們的上下文，和少數幾個 Python 命令連接起來，連接到大語言模型和自己的數據庫或者公司的數據庫中，開發自己的應用程序。每個人都將成為一個應用程序的開發者。

　　主持人：

　　但不變的是，它仍然是你的數據。你仍然需要對它進行微調。

　　Frank：

　　原來我們都覺得更快的總是更貴的。實際上突然之間，更快的是更便宜的，這是一種反直覺的東西。因此，有時人們想減少供應，以為這樣更便宜，結果卻更貴。

　　另一個與之前矛盾的是，原來都是數據去找業務（data going to work），而現在，業務去找數據 （work going to data）。過去的六十年，或者更多年，我們一直在讓數據去找業務，這導致了大規模的信息孤島。而如果你想擁有一個 AI 工廠，用之前的做法將是非常困難的。我們必須把計算帶到數據所在的地方。我認為我們現在正在做的就是正確的方式。

　　05 企業如何獲得最快和最大的價值

　　Frank：

　　最快和獲得最大價值其實是兩個很不一樣的問題。

　　最快的話，你很快能夠看到，數據庫各處都上線了人工智能增強的搜索方式，因為這是最容易增加的功能。現在，甚至一個文盲都能從數據中獲取有價值的信息，這真非常不可思議，這是終極的交互民主化。搜索功能極大增強，你就向主界面提一個問題，它們可以把這些問題帶到數據自己進行查詢。這是掛在低處的果實，最容易的，我們認為這是階段一。

　　接下來，我們就開始真正關注真正的難題，就是專有的企業數據，混合結構化的、非結構化的，所有這些，我們如何調動這些數據？

　　我前面已經提到了 to C 企業面臨的流失率問題，供應鏈管理方面的問題。當供應鏈特別復雜的時候，如果有一個事件發生了，我們如何重新調整一個供應鏈，使其運轉？我現在該怎么做？供應鏈是由很多不同的實體組成的，不是單一的企業。歷史上，這是一個從未被計算解決過的問題。供應鏈管理從來沒有形成過一個平臺，它幾乎是一個電子郵件，電子表格形成的體系，除了一些小的例外。因此，這是極其令人興奮的。

　　或者我們可以重新計算大型的呼叫中心的投資，優化零售的定價，像我說的，這是一個大企業的 CEO 們一直期待的重新定義商業模式，是真正的潛力。

　　06 對企業的建議：

　　黃仁勛：

　　我會問自己，第一，什么是我唯一最有價值的數據庫？第二件事，我會問自己，如果我有一個超級、超級、超級聰明的人，而企業的一切數據都經過那個超級智能，我會問那個人什么？

　　根據每個人的公司，這是不同的。Frank 的公司客戶數據庫非常重要，因為他有很多客戶。而我自己的公司，沒有那么多客戶，但對我的公司而言，我的供應鏈超級復雜，而且我的設計數據庫也超級復雜。

　　對 NVIDIA 來說，沒有人工智能我們已經無法建造出GPU。因為我們的工程師都不可能像AI那樣，為我們進行大量的迭代和探索。因此，當我們提出人工智能的時候，第一個應用在我們自己的公司。而且，所以 Hopper（英偉達超算產品）不可能沒有人工智能的設計。

　　我們也會將我們自己的 AI 應用于我們自己的數據中。我們的錯誤數據庫就是一個完美的應用場景。如果你看一下 NVIDIA AI 的代碼量，我們有幾百個軟件包，結合在一起，支持一個應用程序能夠跑起來。我們現在正在努力的一些事情，就是如何使用 AI 去弄清楚如何給它打安全補丁，如何最好地維護它，這樣我們就可以不必干擾整個上層應用層的同時，能夠向后端兼容。

　　這都是 AI 能夠為你提供答案的。我們可以用一個大語言模型去回答這些問題，為我們找到答案，或者向我們揭示一些問題，然后工程師就可以再將其修好。或者 AI 可以推薦一個修復方法，人類工程師再去確認這是不是一個好的修復方法。

　　我覺得不是所有人都認識到了他們每天都在處理的數據里面，其實蘊含著多少智能、洞見和影響力沒有被發掘。這就是為什么我們所有人都要參與進來，幫助帶來這樣的未來。

　　現在，你儲存在數據倉庫的數據，第一次可以被連接進人工智能工廠。你將能夠生產信息情報，這是世界上最有價值的商品。你坐在一個自然資源的金礦上——你公司的專有數據，而我們現在把它連接到一個人工智能引擎上，另一端每天直接產生信息情報，以難以置信的情報量從另一端涌出，甚至在你睡覺時也在源源不斷地產出。這是有史以來最好的事情。

　　本文作者凌梓郡、Li Yuan，來自極客公園，原文標題：《黃仁勛：英偉達的 AI 算力，已經‘1 折’出售》

　　風險提示及免責條款

　　市場有風險，投資需謹慎。本文不構成個人投資建議，也未考慮到個別用戶特殊的投資目標、財務狀況或需要。用戶應考慮本文中的任何意見、觀點或結論是否符合其特定狀況。據此投資，責任自負。

炒股開戶享福利，送投顧服務60天體驗權，一對一指導服務！

海量資訊、精準解讀，盡在新浪財經APP

責任編輯：周唯