男女房事视频在线,精品99在线视频观看,亚洲天堂影片在线

黃仁勛：英偉達的 AI 算力已經「1 折」出售

發(fā)布日期： 2023-06-28 06:07:15 來源：極客公園

身穿皮夾克的黃仁勛，站在藍色沖浪板上，擺了幾個沖浪的姿勢。

(資料圖片)

這不是美國「網紅節(jié)」VidCon，而是美國知名數據平臺 Snowflake 的開發(fā)者大會上的一景。

當地時間 6 月 26 日，英偉達創(chuàng)始人黃仁勛和 Snowflake 公司 CEO Frank Slootman 就「如何把生成式 AI 帶給企業(yè)用戶」展開探討。主持人則是前 Greylock 的 GP，現在是投資機構 Conviction 的創(chuàng)始人。

在會上，相較于「東道主」Frank 職業(yè)經理人式的老成持重，「皮衣教父」一如既往地語出驚人，不僅稱雙方的合作是「要相愛，不要戰(zhàn)斗」（We are Lovers，not Fighters），更開玩笑說，為 Snowflake 提供的經過訓練的模型，相當于給客戶「打了 1 折」。

當天，英偉達與 Snowflake 又共同放出大招：世界第一芯片公司與風頭最勁的云數據平臺合作，推出共同合作。Snowflake 的用戶可以在數據不離開平臺的前提下，直接利用英偉達的預訓練 AI 模型，在云平臺上對自己公司的數據進行分析，開發(fā)針對自己數據的「AI 應用」。

「目前的重大變革來自數據+AI 算法+計算引擎。通過我們的合作，我們的能夠將這三點帶到一起?！裹S仁勛講道。

Talking Points：

大語言模型+企業(yè)專屬數據庫=針對特定問題的 AI 應用；

以前是 Data going to Work，現在是 Work going to Data，讓計算去到數據所在之地，避免數據孤島；

英偉達提供的預訓練模型，已經是花費數千萬美元、在英偉達 AI 工廠中訓練出來的，所以在 Snowflake 上調用計算引擎已經「打了 0.5 折」；

軟件 3.0 時代，基于模型、數據庫，企業(yè)能夠在幾天內搭建自己的專屬應用；

未來企業(yè)能夠生產許多智能代理，并運行它們；

對于企業(yè)來說，真正的難題是混合結構的、非結構化的數據，如何被調動。這或許能夠帶來商業(yè)模式的更新。

以下為雙方對話主要內容，經極客公園整理編輯：

01 談合作：把最好的計算引擎，帶給最有價值的數據

Frank：

NVIDIA 目前在歷史上發(fā)揮著重要的作用。對于我們來說，能夠帶來數據和大型企業(yè)的關系。我們需要啟用這項技術，以及讓整個服務堆棧來有效地使用它。我不想使用「天作之合」來形容，但是對于一個門外漢，是一個很好的機會，進入到這扇機會的大門里。

黃仁勛：

我們是 lovers，而不是對手。我們要把世界上最好的計算引擎帶到世界上最有價值的數據。回想過去，我已經工作了很長時間，但是還沒有那么老。Frank，你更老一些（笑）。

最近，由于眾所周知的原因，數據是巨大的，數據是寶貴的。它必須是安全的。移動數據很困難，數據的引力真實存在。因此，對我們來說，把我們的計算引擎帶到 Snowflake 上要容易得多。我們的伙伴關系是加速 Snowflake，但它也是關于將人工智能帶到 Snowflake。

最核心的是，數據+人工智能算法+計算引擎的組合，我們的伙伴關系將所有這三件事結合在一起。令人難以置信的有價值的數據，令人難以置信的偉大的人工智能，令人難以置信的偉大的計算引擎。

我們可以一起做的事情，是幫助客戶使用他們的專有數據，并用它來編寫 AI 應用程序。你知道，這里的重大突破是，你第一次可以開發(fā)一個大型語言模型。你把它放在你的數據前面，然后你與你的數據交談，就像你與一個人交談一樣，而這些數據將被增強到一個大型語言模型中。

大型語言模型加知識庫的組合等于一個人工智能應用。這一點很簡單，一個大型的語言模型將任何數據知識庫變成一個應用程序。

想想人們所寫的一切驚人的應用程序。它的核心始終是一些有價值的數據?，F在你有一個查詢引擎通用查詢引擎在前面，它超級智能，你可以讓它回應你，但你也可以把它連接到一個代理，這是 Langchain 和向量數據庫帶來的突破。將數據和大語言模型疊加的突破性的東西正在到處發(fā)生，每個人都想做。而 Frank 和我將幫助大家做到這一點。

02 軟件 3.0：建立 AI 應用，解決一個特定問題

主持人：

作為投資者來看這種變化，軟件 1.0 是非常確定的代碼，由工程師按照功能寫出來；軟件 2.0 是用仔細收集的標記的訓練數據優(yōu)化一個神經網絡。

你們在幫助人們撬動軟件 3.0，這套基礎模型本身有令人難以置信的能力，但它們仍然需要與企業(yè)數據和自定義數據集合作。只是針對它們去開發(fā)那些應用程序要便宜得多。

對于那些深入關注這個領域的人來說有一個問題，基礎模型是非常泛化，它可以做所有事情嗎？為什么我們需要自定義模型和企業(yè)數據呢？

Frank：

所以我們有非常泛化的模型，可以做詩，處理《了不起的蓋茨比》的做摘要，做數學問題。

但是在商業(yè)中，我們不需要這些，我們需要的是一個 Copilot，在一個非常狹窄，但是非常復雜的數據集上獲得非凡的洞見。

我們需要了解商業(yè)模式和商業(yè)動態(tài)。這樣的計算上不需要那么昂貴，因為一個模型并不需要在一百萬件事情上接受訓練，只需要知道非常少的、但很深入的主題。

舉個例子。我是 Instacart 的董事會成員，我們一個大客戶，像 DoorDash 和所有其他企業(yè)常面臨的問題是，他們不斷增加營銷費用，來了一個客戶，客戶下了一個訂單，客戶要么不回來，要么 90 天后回來，這非常不穩(wěn)定。他們把這稱為流失客戶。

這是復雜問題的分析，因為客戶不回來的原因可能有很多。人們想找到這些問題的答案，它在數據中，不在一般的互聯網中，而且可以通過人工智能找出來。這就是可能產生巨大價值的例子。

主持人：

這些模型應該如何與企業(yè)數據互動？

黃仁勛：

我們的戰(zhàn)略和產品是各種尺寸、最先進的預訓練模型，有時你需要創(chuàng)建一個非常大的預訓練模型，以便它可以產生 prompt，來教更小的模型。

而較小的模型幾乎可以在任何設備運行，也許延遲非常低。然而它的泛化能力并不高，zero shot（零樣本學習）能力可能更有限。

因此，你可能有幾種不同類型不同大小的模型，但在每一種情況下，你必須做監(jiān)督的微調，你必須做 RLHF（人類反饋的強化學習），以便它與你的目標和原則保持一致，你需要用矢量數據庫之類的東西來增強它，所以所有這些都匯集在一個平臺上。我們有技能、知識和基本平臺，幫助他們創(chuàng)建自己的人工智能，然后將其與 Snowflake 中的數據連接起來。

現在，每個企業(yè)客戶的目標不應該是思考我如何建立一個大型的語言模型，他們的目標應該是，我如何建立一個人工智能應用程序來解決特定的問題？那個應用可能需要 17 個問題來做 prompt，最終得出正確的答案。然后你可能會說，我想寫一個程序，它可能是一個 SQL 程序，可能是一個 Python 程序，這樣我就可以在未來自動做這個。

你還是要引導這個人工智能，讓他最終能給你正確的答案。但在那之后，你可以創(chuàng)建一個應用程序，可以作為一個代理（Agent）24/7 不間斷地運行，尋找相關情況，并提前向你匯報。所以我們的工作就是幫助客戶建立這些人工智能的應用，這些應用是有安全護欄的、具體的、定制的。

最終，我們在未來都將成為智能制造商，當然雇用員工，但我們將創(chuàng)建一大堆代理，它們可以用 Lang Chain 類似的東西來創(chuàng)建，連接模型、知識庫、其他 API，在云中部署，并將其連接到所有的 Snowflake 數據。

你可以規(guī)?；夭僮鬟@些 AI，并不斷地完善這些 AI。因此，我們每個人都將制造 AI、運行 AI 工廠。我們將把基礎設施放在 Snowflake 的數據庫，客戶可以在那里使用他們的數據，訓練和開發(fā)他們的模型，操作他們的 AI，因此，Snowflake 將是你的數據存儲庫和銀行。

有了自己的數據金礦，所有人都將在 Snowflake 上運行 AI 工廠。這是目標。

03 「核彈」雖貴，直接用模型相當于「打 1 折」

黃仁勛：

我們在 NVIDIA 建立了有五個 AI 工廠，其中四個是世界前 500 名的超級計算機，另一個正在上線。我們使用這些超級計算機來做預訓練模型。因此，當你在 Snowflake 中使用我們的 Nemo AI 基礎服務時，你將得到一個最先進的預訓練模型，已經有幾千萬美元的費用投入其中，更不用說研發(fā)投入了。所以它是預先訓練好的。

然后有一大堆其他的模型圍繞著它，這些模型用于微調、RLHF。所有這些模型的訓練成本都要高得多。

因此，現在你已經將預訓練模型適應于你的功能，適應于你的護欄，優(yōu)化你希望它具有的技能或功能類型，用你的數據增強。因此，這將是一個更具成本效益的方法。

更重要的是，在幾天內，而不是幾個月。你可以在 Snowflake 開發(fā)與你的數據連接的人工智能應用程序。

你應該能夠在未來快速建立人工智能應用程序。

因為我們現在看到它正在實時發(fā)生。已經有一些應用能夠讓你和數據聊天，比如 ChatPDF。

主持人：

是的，在軟件 3.0 時代，95% 的培訓費用已經由別人承擔了。

黃仁勛：

（笑）是的，95％的折扣，我無法想象一個更好的交易。

主持人：

這是真正的動力，作為投資人，我看到在分析、自動化、法律等領域的非常年輕的公司，他們的應用已經在六個月或更短的時間內實現了真正的商業(yè)價值。其中一部分原因是他們從這些預先訓練好的模型開始，這對企業(yè)來說是一個巨大的機會。

黃仁勛：

每家公司都會有數百個，甚至 1000 個人工智能應用程序，只是與你公司的各種數據相連。所以，我們所有人都必須善于構建這些東西。

04 原來是數據找業(yè)務，現在是業(yè)務找數據

主持人：

我一直從大企業(yè)參與者聽到的一個問題是，我們必須去投資人工智能，我們需要一個新的堆棧（Stack）嗎？應該如何考慮與我們現有的數據堆棧相連？

Frank：

我認為它在不斷發(fā)展。模型們正逐漸變得更簡潔、安全、更好地被管理。所以，我們沒有一個真正明確的觀點，這就是每個人都會使用的參考架構？有些人將有一些中央服務的設置。微軟有 Azure 中的人工智能版本，它們的很多客戶正在與 Azure 進行互動。

但我們不清楚什么模型將主導，我們認為市場將在使用難易、成本這些事上進行自我排序?，F在僅僅是開始，不是最終的狀態(tài)。

安全部門也會參與進來，關于版權的問題會被革新?，F在我們對技術很著迷，現實中的問題也會被同時處理。

黃仁勛：

我們現在正經歷 60 年來第一次根本性的計算平臺變革。如果你剛剛讀了 IBM System 360 的新聞稿，你會聽到關于中央處理單元、IO 子系統(tǒng)、DMA 控制器、虛擬內存、多任務、可擴展計算向前和向后端兼容，而這些概念，實際都是 1964 年的東西，而這些概念幫助我們在過去六十年來，不斷進行 CPU 擴展。

這樣的擴展已經進行了 60 年了，但這已經走到了盡頭?，F在大家都明白，我們無法再擴展 CPU 了，突然之間，軟件變化了。軟件的編寫方式，軟件的操作方式，以及軟件能做的事情都與以前有很大的不同。我們稱之前的軟件為軟件 2.0。現在是軟件 3.0。

事實就是，計算已經從根本上改變了。我們看到兩個基本的動力在同時發(fā)生，這也是為什么現在事情正在發(fā)生劇烈震蕩。

一方面，你不能再不斷地購買 CPU。如果你明年再買一大堆 CPU，你的計算吞吐量將不會增加。因為 CPU 擴展的終點已經到來了。你會多花一大堆錢，你不會得到更多的吞吐量。因此，答案是你必須去加速（英偉達加速計算平臺）。圖靈獎獲得者談到了加速，英偉達開創(chuàng)了加速，加速計算現在已經到來。

另一方面是，計算機的整個操作系統(tǒng)發(fā)生了深刻的改變。我們有一個叫 NVIDIA AI Enterprise 的層，而其中的數據處理、訓練、推理部署，整個現在已經整合到或正在整合到 Snowflake 中，因此，從開始數據處理，一直到最后的大模型部署，整個背后的計算引擎都被加速了。我們將賦能 Snowflake，在這里你將能夠做得更多，而且你將能夠用更少的資源做到更多。

如果你去任何一個云，你會看到 NVIDIA GPU 是其中最昂貴的計算實體。但是，如果你把一個工作負載放在上面，你會發(fā)現我們做得非?？?。就好像你得到了一個 95% 的折扣。我們是最昂貴的計算實體，但我們是最具成本效益的 TCO。

所以，如果你的工作是運行工作負載，可能是訓練大型語言模型，可能是微調大型語言模型，如果你想這樣做，一定要進行加速。

加速每一個工作負載，這就是整個棧的重塑。處理器因此發(fā)生變化，操作系統(tǒng)因此不同，大的語言模型是不同的，你寫 AI 應用程序的方式是不同的。

未來，我們都要寫應用。我們都要把我們的 prompt 和我們的上下文，和少數幾個 Python 命令連接起來，連接到大語言模型和自己的數據庫或者公司的數據庫中，開發(fā)自己的應用程序。每個人都將成為一個應用程序的開發(fā)者。

主持人：

但不變的是，它仍然是你的數據。你仍然需要對它進行微調。

Frank：

原來我們都覺得更快的總是更貴的。實際上突然之間，更快的是更便宜的，這是一種反直覺的東西。因此，有時人們想減少供應，以為這樣更便宜，結果卻更貴。

另一個與之前矛盾的是，原來都是數據去找業(yè)務（data going to work)，而現在，業(yè)務去找數據 (work going to data)。過去的六十年，或者更多年，我們一直在讓數據去找業(yè)務，這導致了大規(guī)模的信息孤島。而如果你想擁有一個 AI 工廠，用之前的做法將是非常困難的。我們必須把計算帶到數據所在的地方。我認為我們現在正在做的就是正確的方式。

05 企業(yè)如何獲得最快和最大的價值

Frank：

最快和獲得最大價值其實是兩個很不一樣的問題。

最快的話，你很快能夠看到，數據庫各處都上線了人工智能增強的搜索方式，因為這是最容易增加的功能?，F在，甚至一個文盲都能從數據中獲取有價值的信息，這真非常不可思議，這是終極的交互民主化。搜索功能極大增強，你就向主界面提一個問題，它們可以把這些問題帶到數據自己進行查詢。這是掛在低處的果實，最容易的，我們認為這是階段一。

接下來，我們就開始真正關注真正的難題，就是專有的企業(yè)數據，混合結構化的、非結構化的，所有這些，我們如何調動這些數據？

我前面已經提到了 to C 企業(yè)面臨的流失率問題，供應鏈管理方面的問題。當供應鏈特別復雜的時候，如果有一個事件發(fā)生了，我們如何重新調整一個供應鏈，使其運轉？我現在該怎么做？供應鏈是由很多不同的實體組成的，不是單一的企業(yè)。歷史上，這是一個從未被計算解決過的問題。供應鏈管理從來沒有形成過一個平臺，它幾乎是一個電子郵件，電子表格形成的體系，除了一些小的例外。因此，這是極其令人興奮的。

或者我們可以重新計算大型的呼叫中心的投資，優(yōu)化零售的定價，像我說的，這是一個大企業(yè)的 CEO 們一直期待的重新定義商業(yè)模式，是真正的潛力。

06 對企業(yè)的建議：

黃仁勛：

我會問自己，第一，什么是我唯一最有價值的數據庫？第二件事，我會問自己，如果我有一個超級、超級、超級聰明的人，而企業(yè)的一切數據都經過那個超級智能，我會問那個人什么？

根據每個人的公司，這是不同的。Frank 的公司客戶數據庫非常重要，因為他有很多客戶。而我自己的公司，沒有那么多客戶，但對我的公司而言，我的供應鏈超級復雜，而且我的設計數據庫也超級復雜。

對 NVIDIA 來說，沒有人工智能我們已經無法建造出GPU。因為我們的工程師都不可能像AI那樣，為我們進行大量的迭代和探索。因此，當我們提出人工智能的時候，第一個應用在我們自己的公司。而且，所以 Hopper（英偉達超算產品）不可能沒有人工智能的設計。

我們也會將我們自己的 AI 應用于我們自己的數據中。我們的錯誤數據庫就是一個完美的應用場景。如果你看一下 NVIDIA AI 的代碼量，我們有幾百個軟件包，結合在一起，支持一個應用程序能夠跑起來。我們現在正在努力的一些事情，就是如何使用 AI 去弄清楚如何給它打安全補丁，如何最好地維護它，這樣我們就可以不必干擾整個上層應用層的同時，能夠向后端兼容。

這都是 AI 能夠為你提供答案的。我們可以用一個大語言模型去回答這些問題，為我們找到答案，或者向我們揭示一些問題，然后工程師就可以再將其修好?；蛘?AI 可以推薦一個修復方法，人類工程師再去確認這是不是一個好的修復方法。

我覺得不是所有人都認識到了他們每天都在處理的數據里面，其實蘊含著多少智能、洞見和影響力沒有被發(fā)掘。這就是為什么我們所有人都要參與進來，幫助帶來這樣的未來。

現在，你儲存在數據倉庫的數據，第一次可以被連接進人工智能工廠。你將能夠生產信息情報，這是世界上最有價值的商品。你坐在一個自然資源的金礦上——你公司的專有數據，而我們現在把它連接到一個人工智能引擎上，另一端每天直接產生信息情報，以難以置信的情報量從另一端涌出，甚至在你睡覺時也在源源不斷地產出。這是有史以來最好的事情。

（文章來源：極客公園）

關鍵詞：