Z Talk 是真格分享認(rèn)知的欄目。

今年 4 月，在新一輪千萬(wàn)美元融資之后，Perplexity AI 的估值超過(guò) 10 億美元，躋身獨(dú)角獸。這家創(chuàng)立于 2022 年的 AI 知識(shí)發(fā)現(xiàn)引擎公司，月活用戶已超千萬(wàn)，黃仁勛曾在采訪中表示，「幾乎每天都在用 Perplexity」。

CEO Aravind Srinivas 1994 年出生于印度，博士畢業(yè)于加州大學(xué)伯克利分校，曾在 OpenAI、Google、DeepMind 實(shí)習(xí)，后從 OpenAI 離職創(chuàng)立 Perplexity AI。在 20VC 近期一次與 Aravind Srinivas 的深度對(duì)談中，他分享了對(duì)于基礎(chǔ)模型性能邊界、商品化的看法，以及 Perplexity AI 建立商業(yè)模式的經(jīng)驗(yàn)。

真格基金積極關(guān)注前沿科技創(chuàng)新動(dòng)向，我們將在未來(lái)持續(xù)帶來(lái)全球頂尖創(chuàng)業(yè)者認(rèn)知與深度內(nèi)容，敬請(qǐng)關(guān)注。以下是編譯全文。

核心內(nèi)容

• 模型性能收益遞減：純粹擴(kuò)大模型規(guī)模所帶來(lái)的性能收益將變得有限，我們需要在數(shù)據(jù)管理（Data Curation）上付出更多努力。

• 基礎(chǔ)模型的商品化：處于第二梯隊(duì)且足夠便宜的模型將會(huì)成為可替代的通用商品，但創(chuàng)造前沿模型的人才和團(tuán)隊(duì)將保持極高的價(jià)值。基礎(chǔ)模型商品化的最大受益者是應(yīng)用層公司。

• AI是廣告：月付 20 美元的訂閱制模式不夠好，Perplexity AI 未來(lái)的主導(dǎo)盈利引擎會(huì)是廣告。這是過(guò)去 50 年里最偉大的商業(yè)模式，利潤(rùn)率高達(dá) 80%。

01

從一次機(jī)器學(xué)習(xí)比賽開(kāi)始投身 AI

Harry Stebbings：Aravind，我真的很期待這次訪談。首先，非常感謝你今天能來(lái)。

Aravind Srinivas：謝謝你邀請(qǐng)我，Harry。我看過(guò)你很多節(jié)目，非常期待這次訪談。

Harry Stebbings：我想先從你的經(jīng)歷開(kāi)始聊起，你是怎么愛(ài)上 AI 的？你是怎么意識(shí)到這就是你想做的事情，并打算將你的職業(yè)生涯都投身于此的？

Aravind Srinivas：這更像是一場(chǎng)意外，我只是一個(gè)普通的學(xué)習(xí)電子工程和計(jì)算機(jī)科學(xué)的本科生。有一次一個(gè)朋友告訴我說(shuō)「有個(gè)比賽，如果你能贏的話就能獲得獎(jiǎng)金。」我記得我當(dāng)時(shí)需要錢(qián)，因?yàn)槲也淮_定自己是否能找到實(shí)習(xí)，所以我試著參加了這個(gè)比賽。

這是一個(gè)機(jī)器學(xué)習(xí)比賽，但我當(dāng)時(shí)甚至不知道機(jī)器學(xué)習(xí)是什么。我只知道你會(huì)拿到一些數(shù)據(jù)，你可以利用已知數(shù)據(jù)中的一些模式來(lái)對(duì)你未見(jiàn)過(guò)的數(shù)據(jù)進(jìn)行預(yù)測(cè)，這些數(shù)據(jù)在服務(wù)器中，無(wú)法訪問(wèn)。你提交算法，它會(huì)根據(jù)正確答案和你的預(yù)測(cè)進(jìn)行評(píng)分，預(yù)測(cè)得最準(zhǔn)確的人贏得比賽，獲得獎(jiǎng)金。然后我去看了看一個(gè)非常流行的機(jī)器學(xué)習(xí)庫(kù) Scikit-learn。

我真的不知道這些詞是什么意思，比如決策樹(shù)和隨機(jī)森林，這些對(duì)我來(lái)說(shuō)沒(méi)有什么意義，我就像 AI 那樣進(jìn)行了暴力隨機(jī)搜索。最后我完成了所有任務(wù)，贏得了比賽。

我打敗了那些真正懂機(jī)器學(xué)習(xí)的人，這讓我非常有信心，我覺(jué)得這可能是我很擅長(zhǎng)的事情。我記得Sam Altman 曾告訴我，兩三年前我曾經(jīng)問(wèn)他，怎么判斷自己天生擅長(zhǎng)的事情？他說(shuō)「任何對(duì)你來(lái)說(shuō)很容易，但對(duì)其他人來(lái)說(shuō)很難的事情。」

這是一個(gè)很好的啟發(fā)式方法，可以用來(lái)判斷你在哪些方面可能比其他人強(qiáng)得多。我覺(jué)得機(jī)器學(xué)習(xí)是個(gè)好東西，當(dāng)時(shí)它還不叫 AI，所以我開(kāi)始研究它。我修了所有的課程，讀了 Christopher Bishop 寫(xiě)的《模式識(shí)別與機(jī)器學(xué)習(xí)》。我在印度買(mǎi)了一本二手的，好像只花了兩三美元。閱讀后我真的很喜歡它，它很有數(shù)學(xué)的嚴(yán)謹(jǐn)性，又很直觀。

這讓我有機(jī)會(huì)接觸到一位教授。他在我的本科學(xué)校教書(shū)，研究強(qiáng)化學(xué)習(xí)，我請(qǐng)他指導(dǎo)我。所以當(dāng)我真正進(jìn)入 AI 領(lǐng)域時(shí)，就是在研究強(qiáng)化學(xué)習(xí)。因?yàn)槲覀兌紴樘寤蚓钟螒蝾?lèi)似的東西寫(xiě)過(guò) AI。當(dāng)你小時(shí)候和電腦下棋對(duì)戰(zhàn)時(shí)，你總是會(huì)問(wèn)，電腦是怎么下棋的？然后別人就會(huì)說(shuō)，它就像 AI 一樣，你不用管它。他們很寬泛地使用「AI」這個(gè)詞，但 AI 的真正定義是什么？它是智能體 agent，它接收獎(jiǎng)勵(lì)信號(hào)（reward signal）并針對(duì)目標(biāo)進(jìn)行優(yōu)化的環(huán)境。

當(dāng)我開(kāi)始研究強(qiáng)化學(xué)習(xí)（RL）時(shí)，所有這些框架在數(shù)學(xué)上對(duì)我來(lái)說(shuō)都變得有意義了。然后我的導(dǎo)師在課程結(jié)束時(shí)告訴我，他有一個(gè)從讀博士的時(shí)候就認(rèn)識(shí)的朋友，叫 David Silver。他的創(chuàng)業(yè)公司當(dāng)時(shí)剛剛被谷歌以大約 5 億美元收購(gòu)，因?yàn)樗麄儗?xiě)了一篇論文，論文中模型通過(guò)學(xué)習(xí)屏幕上的像素來(lái)玩 Atari 游戲。

「他們已經(jīng)開(kāi)源了代碼，你為什么不把它拿過(guò)來(lái)，研究如何同時(shí)玩所有的游戲，而非單個(gè)游戲。」如果你已經(jīng)學(xué)會(huì)了玩 Pong，那么當(dāng)你去學(xué)習(xí)玩 Breakout 時(shí)，你會(huì)學(xué)得比從零開(kāi)始學(xué)快得多。這就是遷移學(xué)習(xí)，我工作的第一個(gè)項(xiàng)目就是這個(gè)。我很喜歡 DeepMind 里所有論文的想法，我就想一直在實(shí)驗(yàn)室里，不停地閱讀論文，并試著去實(shí)現(xiàn)它們。

02

想要獲得最大的收益

需要確保數(shù)據(jù)質(zhì)量

Harry Stebbings：第一個(gè)浮現(xiàn)在我腦海中的問(wèn)題是，當(dāng)我上線訪談時(shí)很多人給我發(fā)消息，他們問(wèn)的第一個(gè)問(wèn)題總是關(guān)于收益遞減的，你往里投入更多計(jì)算能力，就能得到更好的模型性能。你認(rèn)為我們現(xiàn)在已經(jīng)達(dá)到了一個(gè)收益遞減的階段了嗎？

Aravind Srinivas：我覺(jué)得這是一個(gè)復(fù)雜的答案。我可以簡(jiǎn)單地說(shuō)不是，然后你就會(huì)覺(jué)得可能使用蠻力仍然有效，但現(xiàn)實(shí)也并非如此。這也不是我突然來(lái)找你說(shuō)：「嘿 Harry，拿我的 5 億美元去建一個(gè)大型計(jì)算集群，處理數(shù)萬(wàn)億 token，得到一個(gè)比 OpenAI 更好的模型」，事情也不是這樣的。

讓現(xiàn)在這些模型變得更大、用更多的 token 來(lái)訓(xùn)練它們?nèi)匀贿€是有價(jià)值的，但如果你想要獲得最大的收益，你就需要付出很多努力確保數(shù)據(jù)質(zhì)量等事情，否則就不值得了。

就好像我知道的很多研究實(shí)驗(yàn)室，它們用大量數(shù)據(jù)訓(xùn)練了非常大的模型，但最終一無(wú)所獲。這很大程度上取決于你用什么數(shù)據(jù)來(lái)訓(xùn)練，如何混合英語(yǔ)和其他語(yǔ)言、代碼和比如數(shù)學(xué)及所有的思維鏈推理，它是如何在 Scaling Law 中起作用的，以及接著如何讓混合專(zhuān)家模型更加計(jì)算高效，所有這些都很重要。

我認(rèn)為，那些把所有細(xì)節(jié)都做對(duì)的人，才能從更大的規(guī)模中獲益更多。而現(xiàn)在只有三到四個(gè)實(shí)驗(yàn)室能做到這一點(diǎn)。我舉個(gè)例子，當(dāng) xAI 發(fā)布 Grok-1 時(shí)，這個(gè)開(kāi)源模型第一次亮相，Arthur 發(fā)推特說(shuō)，這個(gè)模型有很多多余的參數(shù)，因?yàn)樽鳛橐粋€(gè)參數(shù)量 300B 的模型甚至還不如 Mistral 56B 參數(shù)量的模型效果。

你可能會(huì)訓(xùn)練一個(gè)比原來(lái)大六倍的模型，但最終得到一個(gè)更差的模型；你可能會(huì)花更多的錢(qián)，但最終得到一個(gè)更差的模型。

Harry Stebbings：所以如果你談到數(shù)據(jù)管理（Data Curation）作為決定模型性能的中心因素。本周早些時(shí)候 Reid Hoffman 參加了我的節(jié)目，他說(shuō)我們將會(huì)看到模型的垂直化，你會(huì)使用不同的模型來(lái)做不同的任務(wù)。這是你指的意思嗎？

Aravind Srinivas：實(shí)際上我認(rèn)為這個(gè)觀點(diǎn)也是有缺陷的。我以前也認(rèn)為會(huì)發(fā)生這種情況，但我可以再舉一個(gè)例子來(lái)反駁這個(gè)觀點(diǎn)。彭博（Bloomberg）花了很多錢(qián)來(lái)訓(xùn)練 Bloomberg GPT，他們甚至寫(xiě)了一篇論文來(lái)說(shuō)他們訓(xùn)練了自己的基礎(chǔ)模型，但這個(gè)模型在所有金融基準(zhǔn)測(cè)試中都被 GPT-4 打敗了。

Harry Stebbings：我們?cè)趺粗肋@不是特定案例呢？可能是他們采取的方式不對(duì)，或者團(tuán)隊(duì)不夠厲害，等等。這不一定能反駁模型的垂直化，對(duì)吧？

Aravind Srinivas：我想問(wèn)的是，這些模型的魔法何在？它源自哪里？你在測(cè)試它們時(shí)使用的方式并不是你訓(xùn)練它們的方式，你在聊天窗口中像與真人互動(dòng)一樣去 prompt、去使用模型的方式，并不是它們被訓(xùn)練時(shí)在做的事情，訓(xùn)練過(guò)程中它們只是被訓(xùn)練來(lái)預(yù)測(cè)互聯(lián)網(wǎng)上的下一個(gè) token。當(dāng)然，它們也進(jìn)行了一些微調(diào)，變得擅長(zhǎng)聊天、擅長(zhǎng)遵循指令等等，但這只是應(yīng)用的一小部分計(jì)算能力。

所以，讓這些模型具有魔法的是它們通用的自發(fā)能力。它們可以在沒(méi)有專(zhuān)門(mén)訓(xùn)練的情況下完成任務(wù)，或者通過(guò)簡(jiǎn)單的提示迅速理解并執(zhí)行任務(wù)。這并不源于任何特定的領(lǐng)域，而是大量神經(jīng)網(wǎng)絡(luò)訓(xùn)練后的涌現(xiàn)。

這些神經(jīng)網(wǎng)絡(luò)非常神奇，你只用向它們輸入一組非常多樣的數(shù)據(jù)，就能夠識(shí)別出在處理所有這些數(shù)據(jù)時(shí)所需的抽象技能。正是這種抽象技能，這種抽象的「智力」，讓這些模型在實(shí)際生產(chǎn)用例中如此出色。

所以，當(dāng)你說(shuō)要去做一個(gè)特定領(lǐng)域的模型時(shí)，你可以想想在這個(gè)領(lǐng)域里有多少 token？代碼可能是唯一實(shí)際擁有大量 token 的領(lǐng)域。你可以向模型輸入大量企業(yè)數(shù)據(jù)，說(shuō)我有很多其他人沒(méi)有的內(nèi)部數(shù)據(jù)。但這并不意味著這些模型會(huì)因此獲得一種全新的、無(wú)法從互聯(lián)網(wǎng)上獲取的推理能力。

很少有人能理解，為什么這些模型如此擅長(zhǎng)推理？目前對(duì)這個(gè)問(wèn)題的理解仍然很有限，是因?yàn)槟Ｐ徒邮芰藬?shù)學(xué)或代碼的訓(xùn)練嗎？如果模型僅僅通過(guò)教科書(shū)的內(nèi)容進(jìn)行訓(xùn)練，是否還能獲得推理能力？這些問(wèn)題目前還沒(méi)有很好的答案。

03

當(dāng)模型推理達(dá)到一定高度

將會(huì)打破月付 20 美金的商業(yè)模式

Harry Stebbings：你認(rèn)為模型擅長(zhǎng)推理嗎？我認(rèn)為，推理方面的一個(gè)突破將是下一波浪潮中最大的突破時(shí)刻之一。你覺(jué)得我們今天在推理質(zhì)量方面處于什么水平？要在下一波推理質(zhì)量上取得突破需要什么？

Aravind Srinivas：這取決于你所說(shuō)的「擅長(zhǎng)推理」是什么意思：比八年級(jí)學(xué)生更好嗎？我認(rèn)為是。它們比 75% 的 12 年級(jí)學(xué)生更好嗎？很可能。它們能在國(guó)際數(shù)學(xué)或信息學(xué)奧林匹克競(jìng)賽中獲勝嗎？不，肯定不能。

所以這是一個(gè)范圍。即使在人類(lèi)中，也有很多人擅長(zhǎng)推理。我肯定 AI 現(xiàn)在就像高中生的中位數(shù)一樣。它能達(dá)到本科生中位數(shù)的水平嗎？當(dāng)然，看起來(lái)我們正在朝這個(gè)方向前進(jìn)。與 AI 對(duì)話是否會(huì)像與法拉第或愛(ài)因斯坦這樣的偉大科學(xué)家對(duì)話一樣嗎？短期內(nèi)還無(wú)法達(dá)到這樣的高度。有人稱這種 AI 叫人工超級(jí)智能。

我認(rèn)為，當(dāng)我們達(dá)到這一點(diǎn)時(shí)，它將打破所有這種每月 20 美元的商業(yè)模式。你看過(guò)諾蘭的《致命魔術(shù)》嗎？里面的魔術(shù)師相互競(jìng)爭(zhēng)，就好比有一個(gè)魔術(shù)師想從特斯拉那里偷學(xué)一個(gè)讓東西消失的技巧。他愿意花重金，只為了學(xué)那一個(gè)技巧。

我認(rèn)為，如果模型變得非常擅長(zhǎng)推理，你就會(huì)得到這樣的結(jié)果。為了輸出，你甚至不付月費(fèi)，你會(huì)為單獨(dú)一次的會(huì)話、聊天、輸出付費(fèi)，你會(huì)付很多錢(qián)。Harry 你是投資者，如果我來(lái)告訴你，即便我沒(méi)有任何內(nèi)幕消息，如果我是如此擅長(zhǎng)推理，我告訴你，Harry，兩年后這將是一家真正重要的公司。這個(gè)信息你可能得花兩個(gè)月時(shí)間與一百個(gè)人交談才能得到。你會(huì)為這個(gè)答案付 1 萬(wàn)美元嗎？

Harry Stebbings：可能會(huì)付 1000 萬(wàn)美元。

Aravind Srinivas：沒(méi)錯(cuò)。所以即使你只支付回報(bào)的 1%，那也是值得的。像 Demis Hassabis 這樣的人，他們非常聰明，誰(shuí)能給 Demis 提建議？能數(shù)得出這樣的人有幾個(gè)？那么如果 Demis 覺(jué)得有一個(gè)人工智能可以給他建議，那這個(gè)人工智能的價(jià)值是多少？它會(huì)打破你所有關(guān)于每月 20 美元的思維模式。我認(rèn)為這是現(xiàn)在我們?cè)谄诖摹?/p>

如果推理能力的基準(zhǔn)是一個(gè)給 Demis 提供建議的 AI，我們今天還沒(méi)有這樣的東西。但有現(xiàn)在的 AI 可以給英國(guó)一個(gè)年薪 12 萬(wàn)英鎊的人提供建議。我認(rèn)為我們可以做到這一點(diǎn)。你必須清楚地界定什么是好的推理。

Harry Stebbings：我理解你對(duì)好的推理的精確界定。當(dāng)你考慮推理能力的軌跡時(shí)，你怎么看待它發(fā)展的時(shí)間線？你認(rèn)為它是上升、平穩(wěn)、再上升嗎，還是一個(gè)持續(xù)逐漸增？你怎么看待推理改進(jìn)速度的軌跡和斜率？

Aravind Srinivas：我認(rèn)為我們還沒(méi)有找到秘訣。至少根據(jù)媒體的說(shuō)法，他們聲稱 OpenAI 有一個(gè)叫 Q* 的新東西，努力利用自身的數(shù)據(jù)進(jìn)行自我學(xué)習(xí)和優(yōu)化，進(jìn)而提升其智能水平。xAI 最近聘請(qǐng)了斯坦福大學(xué)的 Eric Zelikman，他寫(xiě)過(guò)一些關(guān)于 STaR 的論文，即自學(xué)的自動(dòng)推理器。基本上是讓模型本身來(lái)解釋自己的輸出。你取正確的輸出，讓模型解釋為什么那是正確的，并用它來(lái)訓(xùn)練。

你不僅是在訓(xùn)練輸出，還在訓(xùn)練用來(lái)推導(dǎo)輸出的過(guò)程。如果你能做到這一點(diǎn)，你基本上就是在訓(xùn)練一個(gè)模型，它可以思考、推理、得到輸出，檢查輸出是否正確，然后再回去，再次推理，并且迭代。這是現(xiàn)在模型所缺乏的，它們只會(huì)給你輸出。未來(lái)的模型將從一個(gè)輸出開(kāi)始，進(jìn)行推理，從世界中獲得反饋，再改進(jìn)推理，直到它們收斂。它們會(huì)一直試圖改進(jìn)輸出。

我不知道什么時(shí)候會(huì)實(shí)現(xiàn)。也許會(huì)在一年或兩年內(nèi)，也許需要三到四年。但我認(rèn)為，當(dāng)實(shí)現(xiàn)這一點(diǎn)時(shí)，那將是真正的推理時(shí)代的開(kāi)始。我們讓所有事情都更高效，我們將會(huì)投入很多資源。

唯一的問(wèn)題是，這場(chǎng)比賽不會(huì)像以前那樣由學(xué)術(shù)界來(lái)玩。為了推理，為了輸出，再回去推理，構(gòu)建一個(gè)邏輯，得到另一個(gè)輸出，僅僅這個(gè)過(guò)程就需要大量的推理算力。

為此你得付很多錢(qián)。即使是單一的實(shí)驗(yàn)也會(huì)花你很多錢(qián)，直到你找到算法的真相，運(yùn)行這個(gè)算法也會(huì)花費(fèi)你很多錢(qián)，因?yàn)槟阈枰玫剿械暮铣蓴?shù)據(jù)來(lái)進(jìn)行訓(xùn)練。

擁有大量資本的公司將更有優(yōu)勢(shì)。如果最終只有四五個(gè)競(jìng)爭(zhēng)者來(lái)做這件事，并且不管是誰(shuí)最終得到了這個(gè)算法，第一個(gè)得到的人將有巨大的優(yōu)勢(shì)，一旦你破解了它，你就可以繼續(xù)投入更多的計(jì)算能力，獲得巨大的領(lǐng)先。

Harry Stebbings：我們后面肯定會(huì)談到所需的資金，但我想先繼續(xù)聊聊性能和功能。為什么有記憶能力的模型這么難實(shí)現(xiàn)？大家都說(shuō)記憶能力是個(gè)挑戰(zhàn)。我不明白為什么，可以解釋一下嗎？

Aravind Srinivas：這里要思考兩件事。記憶是什么意思？是指對(duì)大多數(shù)用例都實(shí)用的足夠長(zhǎng)的上下文，還是指無(wú)限長(zhǎng)的上下文？比如說(shuō)有一個(gè)人工智能，它能記住你的一生、記住每一個(gè)細(xì)節(jié)，那就是無(wú)限記憶，我們甚至還沒(méi)有這樣的算法。還有另一種人工智能，就像 Gmail 一樣，開(kāi)始時(shí)就有足夠大的存儲(chǔ)空間，既實(shí)用又會(huì)隨著時(shí)間不斷擴(kuò)展。到一定程度后，你可能需要每月支付 10 美元，這更像我們現(xiàn)在的趨勢(shì)。

上下文長(zhǎng)度從 32K 開(kāi)始，正在擴(kuò)展到一百萬(wàn)，然后 DeepMind 發(fā)布了兩百萬(wàn)。我覺(jué)得這已經(jīng)足夠好了。至少我們可以選擇優(yōu)先處理的部分，拋棄不相關(guān)的部分，繼續(xù)使用記憶。這并不難做到。

不過(guò)這里有一個(gè)小挑戰(zhàn)，還沒(méi)有完全解決。我們實(shí)現(xiàn)了長(zhǎng)上下文，但是遵循指令的能力還不夠好。因?yàn)槟阌杏洃浌δ埽憧梢栽?prompt 里輸入很多內(nèi)容，但由于信息太多，模型可能會(huì)產(chǎn)生幻覺(jué)或混淆。因此，你需要確保在增加了所有這些長(zhǎng)上下文功能后，遵循指令的能力沒(méi)有下降。

我認(rèn)為現(xiàn)在還沒(méi)有做到，這就是為什么這些模型還不夠好。比如它們還不能寫(xiě)出一個(gè)完整的代碼庫(kù)。但我想這一切都會(huì)到來(lái)，只是時(shí)間問(wèn)題。

04

在基礎(chǔ)模型領(lǐng)域競(jìng)爭(zhēng)

幾乎是一場(chǎng)必輸?shù)挠螒?/strong>

Harry Stebbings：大家都在說(shuō)，我們正在看到基礎(chǔ)模型的商品化，我很想聽(tīng)聽(tīng)你的看法。你如何看待基礎(chǔ)模型層的最終狀態(tài)？它們真的像人們說(shuō)的那樣被商品化了嗎？

Aravind Srinivas：我認(rèn)為今天，「商品化」這個(gè)詞在某種程度上是真實(shí)的。像 GPT-3.75 級(jí)別的模型已經(jīng)被商品化了，今天市場(chǎng)上有太多這樣的模型了，一些是開(kāi)源的，一些是閉源的。

我認(rèn)為像 GPT-4 質(zhì)量的模型還沒(méi)有被商品化，今天人們可能只有一兩個(gè)選擇，比如 Claude 3 Opus 或 Gemini。所以如果只有兩三個(gè)選擇，我還不會(huì)稱之為商品。但將來(lái)會(huì)被商品化嗎？我想是的。但是，當(dāng)它被商品化的時(shí)候，會(huì)不會(huì)有 4.5 或 5 的版本，那會(huì)更好？這還有待觀察，訓(xùn)練正在進(jìn)行中。

我的預(yù)測(cè)是，在 4 之后還會(huì)有一個(gè)很棒的模型。我不會(huì)說(shuō) GPT-4 比 GPT-4 turbo 聰明很多。它更可靠、更好、更快、更便宜，但它并不像 4 比 3.5 那樣有質(zhì)的飛躍。5 是否能對(duì) 4 做到那種程度的提升，將回答你的問(wèn)題，即是否這些模型正在被商品化。

Harry Stebbings：這并不像以前糟糕的商業(yè)模式那樣，在那種模式下，核心產(chǎn)品每六個(gè)月就會(huì)被淘汰。

Aravind Srinivas：但這是真的嗎？我是說(shuō)，我看過(guò)你對(duì) Altman 和 Brad Lightcap 的采訪，但一個(gè)產(chǎn)品真的會(huì)因?yàn)槟Ｐ偷纳?jí)而變得多余嗎？

Harry Stebbings：我認(rèn)為是這樣的。現(xiàn)在有了 GPT-4，GPT-3 不是已經(jīng)變得不再被需要了嗎？

Aravind Srinivas：但你的產(chǎn)品從來(lái)都不是模型。也許我們應(yīng)該把這兩者分開(kāi)，如果有公司正在開(kāi)發(fā)能與 OpenAI 競(jìng)爭(zhēng)的基礎(chǔ)模型，那么這絕對(duì)是最糟糕的領(lǐng)域之一。

我?guī)缀跽J(rèn)為，現(xiàn)在有五家公司站在這個(gè)領(lǐng)域。Google、Anthropic、Meta、Mistral，也許在 xAI 的新一輪融資后，你也可以把它們包括進(jìn)來(lái)。但這是一場(chǎng)非常難打的游戲。我很佩服 Mistral，盡管它的資本比其他公司少 10 倍，但它仍然在這個(gè)領(lǐng)域里。

Harry Stebbings：你不是也在同一個(gè)領(lǐng)域嗎？

Aravind Srinivas：我們后期訓(xùn)練模型，我們不訓(xùn)練基礎(chǔ)模型。我們可以使用當(dāng)今市場(chǎng)上的任何模型，塑造它們，讓它們擅長(zhǎng)我們的產(chǎn)品功能。當(dāng)你說(shuō)有一個(gè) Llama 3-70B 時(shí)，那只是一個(gè)基礎(chǔ)模型，第一部分只是訓(xùn)練來(lái)預(yù)測(cè)下一個(gè) token；然后是監(jiān)督式的微調(diào)和 RLHF 這一部分，把它們訓(xùn)練得非常擅長(zhǎng)聊天、指令遵循、總結(jié)和翻譯等所有這些技能。

第二部分是給產(chǎn)品增添魔法的部分，如果沒(méi)有這一部分，你就不會(huì)有這么好的聊天機(jī)器人。但第一部分為這些模型建立了基本的智力。

我們不做第一部分，因?yàn)橥娴谝徊糠謳缀跏且粓?chǎng)必輸?shù)挠螒颉Ｃ看文阃瓿梢淮未笮偷挠?xùn)練后，你要燒掉很多錢(qián)，你有了一個(gè)很棒的模型，接著你就看著它在排行榜上被下一個(gè)新版本摧毀。然后你又得趕上去，你又得花更多的錢(qián)。

那么你如何收回所有的錢(qián)呢？你可能會(huì)通過(guò) API。如果其他人只是以更便宜的價(jià)格和更快的速度提供更好的模型，那么沒(méi)有人會(huì)想使用你的 API。這就是為什么我認(rèn)為這是一場(chǎng)艱難的游戲。它之所以艱難，并不是因?yàn)橛?xùn)練這些模型很難。當(dāng)然，背后的科學(xué)和人才是很難聚集的。但從投資回報(bào)率（ROI）和商業(yè)角度來(lái)看，競(jìng)爭(zhēng)非常激烈。

Harry Stebbings：這不就是我們所說(shuō)的模型的商品化嗎？就是你到了一個(gè)階段發(fā)現(xiàn)，糟了，每個(gè)人都到了這個(gè)階段，我們必須再做一次，再做一次，你的模型就變得多余了。

Aravind Srinivas：是的，這就是為什么我認(rèn)為排在第二梯隊(duì)的模型，它們不是最前沿的模型，但足夠便宜到可以在其基礎(chǔ)上開(kāi)展業(yè)務(wù)的，最終將成為通用商品。

但也會(huì)有一些非常智能的前沿模型，遠(yuǎn)遠(yuǎn)領(lǐng)先第二梯隊(duì)的模型。我認(rèn)為，今天仍然只有三四個(gè)人在玩這個(gè)游戲。

Harry Stebbings：最終會(huì)是三四個(gè)玩家，還是一個(gè)玩家？

Aravind Srinivas：我認(rèn)為這個(gè)問(wèn)題的答案真的取決于誰(shuí)首先破解了自學(xué)推理（bootstrap reasoning）。我們之前稍微談過(guò)一點(diǎn)，就是模型使用它們自己的輸出來(lái)進(jìn)行推理和改進(jìn)。無(wú)論是誰(shuí)首先破解了自學(xué)推理，如果他們把所有的資本都投入到擴(kuò)大這種推理的規(guī)模上，我認(rèn)為最終會(huì)是一個(gè)玩家。但如果他們一直在采取保守策略，那就不會(huì)是一個(gè)玩家。

Harry Stebbings：你認(rèn)為誰(shuí)最有可能是這個(gè)玩家？

Aravind Srinivas：很可能是 OpenAI 或 Anthropic。我可以為這兩家公司都做出很好的論證。OpenAI 是因?yàn)樗麄冞b遙領(lǐng)先。Anthropic 是因?yàn)樗麄冊(cè)谒惴ㄉ鲜且患腋鼉?yōu)越的公司，他們用比 OpenAI 更少的資本就達(dá)到了 OpenAI 的水平，他們?cè)诤笃谟?xùn)練等方面做得更好。而另一方面，OpenAI 在資本和速度上有優(yōu)勢(shì)。

所以這是一個(gè)問(wèn)題，什么更重要？是聰明的頭腦和一定數(shù)量的資本，還是好的頭腦、很強(qiáng)的攻擊性和大量的資本。如果是后者，那就是 OpenAI。如果是前者，那就是 Anthropic。

Harry Stebbings：如果 OpenAI 沒(méi)有和微軟合作，你會(huì)選擇 Anthropic 嗎？

Aravind Srinivas：Anthropic 也和 Amazon、Google 有合作，所以它們都很有錢(qián)。xAI 也有錢(qián)和人，但在時(shí)間線上落后太多了。

Harry Stebbings：我認(rèn)為大型云服務(wù)提供商會(huì)意識(shí)到他們需要以不同的形式收購(gòu)這些模型，他們會(huì)持續(xù)云服務(wù)提供這一核心的搖錢(qián)樹(shù)業(yè)務(wù)，但他們將會(huì)收購(gòu)這些模型并將它們添加到他們已經(jīng)提供的免費(fèi)功能中。你將會(huì)看到 Anthropic、Cohere、Adept 被這些大型云服務(wù)提供商收購(gòu)。你同意我對(duì)未來(lái)三到五年內(nèi)這一預(yù)測(cè)的看法嗎？

Aravind Srinivas：我不這么認(rèn)為。

Harry Stebbings：為什么？

Aravind Srinivas：我對(duì) Cohere 沒(méi)有預(yù)測(cè)，但我認(rèn)為對(duì)于 OpenAI 和 Anthropic 這樣的公司來(lái)說(shuō)，它們的價(jià)值并不在于它們所擁有的模型。這只是一個(gè)非常初步的估值。

我認(rèn)為第二層的估值是，它們的價(jià)值在于構(gòu)建起這些模型的所有因素：那些擁有訓(xùn)練這些前沿模型所需的所有隱性知識(shí)，并能在算法上進(jìn)行創(chuàng)新的人，以及他們所積累的計(jì)算能力。這就是這些公司估值如此高的原因，盡管它們的收入和估值看起來(lái)并不合理。重點(diǎn)不僅僅是產(chǎn)出，也包括給你輸出的背后運(yùn)作的機(jī)器。當(dāng)我們考慮估值問(wèn)題時(shí)，考慮的是重新組裝整個(gè)系統(tǒng)的難易程度。

當(dāng)你說(shuō)模型正在被商品化，所以 OpenAI 和 Anthropic 并不那么有價(jià)值時(shí)，我不同意。因?yàn)檫@些是將會(huì)生產(chǎn)出下一個(gè)模型的人。這些人才正在被商品化嗎？不。事實(shí)上，它正在變得與商品相反。公司花很多錢(qián)試圖讓他們留下來(lái)。知識(shí)只與他們同在，因?yàn)槿藗儾辉俟_(kāi)去發(fā)表文章了。

我最近和一個(gè)非常偉大的研究人員一起閑逛，他甚至開(kāi)玩笑說(shuō)最好的研究就是今天還沒(méi)有發(fā)表的研究。存檔里已經(jīng)沒(méi)有什么可讀的了，即使是那些在斯坦福大學(xué)寫(xiě)了所有這些推理論文的人，現(xiàn)在馬斯克花了很多錢(qián)雇他工作，他不會(huì)再發(fā)表論文了。

這就是正在發(fā)生的事情。價(jià)值不在于模型中，價(jià)值在于生產(chǎn)模型的人。這就是為什么我覺(jué)得這些公司的估值很高，擁有很多談判籌碼，所以不會(huì)被收購(gòu)。

這些人不想去大公司工作，而大公司需要他們的成果來(lái)繼續(xù)做生意，比如微軟需要 GPT 來(lái)達(dá)成銷(xiāo)售，使 Azure 成為市場(chǎng)第一的云服務(wù)。AWS 需要繼續(xù)保持在云市場(chǎng)的領(lǐng)先地位。我認(rèn)為 OpenAI 和 Anthropic 不會(huì)被收購(gòu)。

現(xiàn)在另一方面是，模型并沒(méi)有產(chǎn)生任何突破。從科學(xué)上講，不可能一直往模型里塞越來(lái)越多的 token，并一直看到好的結(jié)果。如果，比如說(shuō)一年后 OpenAI 沒(méi)有一個(gè)更好的模型，那么他們的優(yōu)勢(shì)就消失了。因?yàn)槟惚仨毊a(chǎn)出新東西，如果他們無(wú)法生產(chǎn)出來(lái)，價(jià)值就下降了。

我認(rèn)為這兩件事都可能是真的。但我相信這些人仍然會(huì)取得突破，所以我對(duì)此有不同的預(yù)測(cè)。但時(shí)間會(huì)告訴我們誰(shuí)是對(duì)的。

05

每家籌集資金的公司

最終都得建立自己的商業(yè)模式

Harry Stebbings：我們剛剛提到了獲得資本的問(wèn)題，顯然 OpenAI 比 Anthropic 稍微多一點(diǎn)。讓我印象深刻的是，我聽(tīng)說(shuō) Mistral AI 新一輪的融資規(guī)模大約是微軟 30 小時(shí)產(chǎn)生的自由現(xiàn)金流。微軟每天的自由現(xiàn)金流是 3.3 億美元。你籌集的相對(duì)資金量，與微軟的自由現(xiàn)金流相比只是微不足道的。在這樣的世界里，你要怎么與別人競(jìng)爭(zhēng)？

Aravind Srinivas：這就是為什么你得建立商業(yè)模式。首先，我們把兩件事分開(kāi)。如果微軟產(chǎn)生了那么多的現(xiàn)金流，為什么他們不能把所有 OpenAI 科學(xué)家或 Mistral 科學(xué)家都挖來(lái)為他們工作呢？他們可以用那筆錢(qián)，然后讓那些人中的 10 個(gè)人來(lái)他們這里工作。說(shuō)我會(huì)付給你們很多錢(qián)，不需要再在 OpenAI 工作了，直接在微軟這里建立 AI，不管我給 OpenAI 什么 GPU，我都直接給你們。但這并沒(méi)有發(fā)生，對(duì)吧？這是有原因的。

人們想和其他最優(yōu)秀的人一起工作。所以光得到一個(gè)人是不夠的，你得到整個(gè)團(tuán)隊(duì)。這就是為什么當(dāng)整個(gè)董事會(huì)鬧劇發(fā)生的時(shí)候，大家都在開(kāi)玩笑說(shuō)，微軟以很低的價(jià)格收購(gòu)了 OpenAI，把整個(gè)團(tuán)隊(duì)都挖走了。

我認(rèn)為這是難點(diǎn)所在。現(xiàn)金流并不能改變依賴問(wèn)題。如果他們能從除了這兩家公司以外的其他人那里得到這些模型，情況就會(huì)大不相同。他們可以直接獲取開(kāi)源模型，用更少的支出賺同樣的錢(qián)。這對(duì)基礎(chǔ)模型來(lái)說(shuō)是壞消息。

至于出路在哪里？我認(rèn)為你得自己建立商業(yè)模式。從根本上說(shuō)，每家籌集資金的公司最終都得建立自己的商業(yè)模式，或者希望他們的算法優(yōu)勢(shì)能永遠(yuǎn)保持下去。我會(huì)支持那些認(rèn)真建立商業(yè)模式的人。OpenAI 正在用它的價(jià)值賺錢(qián)。他們每年的收入是 20 億美元，這比 Snowflake 還要高。他們資本效率不如 Snowflake 高，但在經(jīng)常性收入方面，他們和 Snowflake 在同一個(gè)水平線上，而且增長(zhǎng)速度更快。

所以這表明，如果你不僅僅滿足于訓(xùn)練這些模型，而且還要通過(guò)產(chǎn)品進(jìn)入市場(chǎng)并從中獲得收入，那么你就有可能實(shí)現(xiàn)獨(dú)立和自給自足。

Harry Stebbings：你們今天在專(zhuān)注于建立商業(yè)模式嗎？你說(shuō)我們將不再依賴每個(gè)用戶 20 英鎊的收入了，但你現(xiàn)在正處于從每個(gè)用戶每個(gè)月收 20 英鎊的階段。

Aravind Srinivas：我認(rèn)為這門(mén)生意實(shí)際上沒(méi)那么好，它的利潤(rùn)不夠高。如果你能達(dá)到 YouTube 那樣的水平，那當(dāng)然可以。Netflix、YouTube 的用戶基數(shù)有 5000 萬(wàn)到 1 億人為你付費(fèi)，那絕對(duì)是一門(mén)好生意。

我認(rèn)為我們還沒(méi)有達(dá)到這樣一個(gè)階段，即這些 AI 對(duì)人們的生活如此重要，以至于有 1 億人訂閱它們。

如果他們能達(dá)到這個(gè)程度，如果你能開(kāi)發(fā)出一個(gè)不僅僅是 AI 的產(chǎn)品，而且還有很多其他功能，人們?yōu)榇酥Ц读撕芏嘣沦M(fèi)，而且留存率接近 100%，這會(huì)是一門(mén)了不起的生意。我認(rèn)為我們也會(huì)嘗試這樣做。但所有這些偉大的訂閱服務(wù)做廣告也是有原因的，為了利潤(rùn)率。

不管我們?cè)趺磁u(píng)谷歌，過(guò)去 50 年里最偉大的商業(yè)模式就是點(diǎn)擊廣告。這是一個(gè)非常好的商業(yè)模式，利潤(rùn)率高達(dá) 80%。

Harry Stebbings：當(dāng)你和團(tuán)隊(duì)討論加入廣告作為盈利引擎時(shí)，你們的內(nèi)部討論是怎樣的？對(duì)話是怎么進(jìn)行的，怎么得出最后結(jié)果的？

Aravind Srinivas：Larry Page 和 Sergey Brin 那篇關(guān)于 PageRank 的論文說(shuō)，廣告從根本上與為用戶提供好的搜索結(jié)果不兼容。我讀過(guò)一些書(shū)，書(shū)上說(shuō)他們盡可能地推遲引入廣告，直到他們屈服于投資者的壓力。我們就說(shuō)，讓我們實(shí)際點(diǎn)，這是有史以來(lái)利潤(rùn)率最高的商業(yè)模式，但我們不需要像谷歌那樣追求那么高的利潤(rùn)率。

你不必瞄準(zhǔn) 80% 的利潤(rùn)率，只要你能得到一個(gè)相當(dāng)高利潤(rùn)率的業(yè)務(wù)，同時(shí)又不辜負(fù)用戶的期望。可以開(kāi)心點(diǎn)兒，但不要貪婪。

如何在不破壞搜索結(jié)果的情況下做廣告？如果你能保證這一點(diǎn)，我認(rèn)為這是一個(gè)很好的想法，值得去探索。這就是為什么我們還有其他展示廣告的地方，比如「發(fā)現(xiàn)」功能等等，它每天都會(huì)有一堆有趣的帖子供人們閱讀。這最終會(huì)變成一個(gè)無(wú)盡滾動(dòng)的信息流，Instagram 和 TikTok 都以這種形式投放廣告。

廣告是一個(gè)很好的商業(yè)模式，當(dāng)它提供的內(nèi)容和用戶相關(guān)時(shí)，它就很棒。沒(méi)有一個(gè)人和我說(shuō)過(guò) Instagram 的廣告很差勁。重點(diǎn)在于相關(guān)性，如果你能把握個(gè)性化和相關(guān)性的訣竅，廣告體驗(yàn)就很棒了。

Harry Stebbings：你認(rèn)為你已經(jīng)把握相關(guān)性的訣竅了嗎？

Aravind Srinivas：還沒(méi)有，我們希望可以。如果我們掌握了，我覺(jué)得我們的估值應(yīng)該會(huì)更高。這是一個(gè)雞和蛋的問(wèn)題。只有當(dāng)你有很多用戶的時(shí)候，你才能得到密碼。所以廣告是一件有趣的事情，當(dāng)你沒(méi)有足夠的用戶時(shí)，它就不可能很好地發(fā)揮作用。當(dāng)你有很多用戶的時(shí)候，如果你能把所有細(xì)節(jié)都做好，就可以發(fā)揮得很好。

我最近幾個(gè)月和 Marc Andreessen 聊過(guò)，他告訴我廣告有三個(gè)層次。最高層次的是谷歌，中間是 Meta。谷歌從其他所有人的廣告中受益。因?yàn)樽罱K，一旦你發(fā)現(xiàn)了一個(gè)品牌，你就會(huì)去谷歌搜索點(diǎn)擊他們的鏈接。

再往下才是像 Twitter、Reddit 和 Snap 這樣的公司。他說(shuō)這兩者的差距太大了。這就像山的頂峰和在山腳下一樣，廣告目前已被 Google 和 Meta 等公司主導(dǎo)。

我的觀點(diǎn)是，如果我們能在旅程的早期就糾正谷歌犯下的根本性錯(cuò)誤，不過(guò)度依賴單一的收入來(lái)源，而是通過(guò)訂閱、廣告、應(yīng)用程序接口（API）、企業(yè)服務(wù)等多元化方式獲得足夠的收入，我認(rèn)為我們就有機(jī)會(huì)建立一個(gè)能讓股東和用戶利益更加一致的東西。

Jeff Bezos 曾引用過(guò)這樣一句話：股東和用戶應(yīng)該是利益逐漸趨向一致的。如果不是這樣，那就不是一個(gè)以客戶為中心的企業(yè)。谷歌在這方面犯了錯(cuò)，因?yàn)樗麄儫o(wú)法實(shí)現(xiàn)用戶和股東之間的利益一致。華爾街喜歡谷歌投放更多的廣告，但用戶卻討厭這樣。

06

基礎(chǔ)模型商品化的最大受益者

將會(huì)是 AI 應(yīng)用層公司

Harry Stebbings：你提到 OpenAI 的營(yíng)收達(dá)到了 20 億美元，其中大部分是來(lái)自企業(yè)，他們的企業(yè)業(yè)務(wù)做得相當(dāng)不錯(cuò)。Perplexity 是什么時(shí)候覺(jué)得應(yīng)該建立自己的企業(yè)部門(mén)的？

Aravind Srinivas：我們決定建立這個(gè)部門(mén)的首要觀察是，企業(yè)如今最常用的工具是什么？是谷歌。你在工作中每天都會(huì)用到它來(lái)進(jìn)行搜索。所有搜索時(shí)使用的數(shù)據(jù)都是你公司內(nèi)部的，但沒(méi)人會(huì)在意，因?yàn)槟阈枰㈦x不開(kāi)它。你用你花費(fèi)的時(shí)間和你的數(shù)據(jù)作為付費(fèi)。

但在 AI 原生搜索的世界里情況就變了，人們總是擔(dān)心數(shù)據(jù)會(huì)泄露給 AI。如果數(shù)據(jù)泄露給傳統(tǒng)的搜索引擎，他們不會(huì)在意，但如果搜索引擎中融入了大量的 AI，他們就會(huì)感到擔(dān)憂。

所以我們說(shuō)，好吧，如果你想在工作中使用 Perplexity 而你的雇主不允許，我們會(huì)為你解決這個(gè)問(wèn)題。我們將提供一款帶有合規(guī)性、安全性和數(shù)據(jù)治理功能的企業(yè)專(zhuān)業(yè)版，實(shí)際上就是為你提供帶有所有這些安全功能的相同產(chǎn)品，這就是我們的企業(yè)專(zhuān)業(yè)版。

但這只是一個(gè)開(kāi)始，你還需要更多功能。這些功能需要更加針對(duì)企業(yè)，而不僅僅是消費(fèi)者。這就是我們將要構(gòu)建的，我們希望以一種差異化的方式來(lái)構(gòu)建它并重新思考內(nèi)部搜索的意義。

比如，我們不僅只是在企業(yè)工具（如 Slack 或 Notion）里集成，還可以真正思考一些更深層次的問(wèn)題，比如排序問(wèn)題是什么？為什么相比消費(fèi)者，企業(yè)在這方面會(huì)更有困難？

如果我們能建立一個(gè)統(tǒng)一的界面，讓所有專(zhuān)有數(shù)據(jù)、外部數(shù)據(jù)、內(nèi)部數(shù)據(jù)，以及所有不同的模型、開(kāi)源和閉源都集中在一個(gè)平臺(tái)上，你可以把你的輸出轉(zhuǎn)換成易于閱讀的頁(yè)面，將其組織成知識(shí)庫(kù)，自己進(jìn)行索引，這會(huì)是一個(gè)很好的企業(yè)產(chǎn)品。我認(rèn)為我們會(huì)朝這個(gè)方向努力，并不是說(shuō)我們一定會(huì)成功，但我們會(huì)去嘗試。

Harry Stebbings：這令人非常敬佩。你對(duì)于開(kāi)發(fā)企業(yè)產(chǎn)品感到緊張嗎，當(dāng)你考慮到這些 GTM（Go-to-Market）的策略時(shí)，這個(gè)動(dòng)作非常不同。企業(yè)是一只難以捉摸的巨大野獸，這是一個(gè)挑戰(zhàn)，你也提到了 OpenAI 銷(xiāo)售團(tuán)隊(duì)的規(guī)模。你怎么看待企業(yè)部門(mén) GTM 策略構(gòu)建工作？人們會(huì)購(gòu)買(mǎi) Perplexity 企業(yè)版還是 OpenAI 企業(yè)版，或者兩者都購(gòu)買(mǎi)？

Aravind Srinivas：我的感覺(jué)是，如今 AI 還處于非常早期的階段，沒(méi)有人對(duì)任何特定的 AI 企業(yè)產(chǎn)生鎖定和忠誠(chéng)，它們甚至都沒(méi)有鎖定效應(yīng)。比如，讓你的數(shù)據(jù)只在一個(gè)工具上運(yùn)行。我甚至還沒(méi)有談到像從 Snowflake 遷移到 Databricks 為什么會(huì)很難這樣的問(wèn)題。因?yàn)?SQL 格式本身就有很大的不同。一旦你用一種格式編寫(xiě)了所有的 SQL 查詢，就很難改變。在 AI 領(lǐng)域不是這樣的。你為 ChatGPT 編寫(xiě)的自定義提示可以很容易地轉(zhuǎn)移到 Perplexity 上。

我認(rèn)為企業(yè)仍然愿意嘗試和實(shí)驗(yàn)不同的工具。也就是說(shuō)，如果沒(méi)有差異化，一開(kāi)始品牌更大、團(tuán)隊(duì)更大的企業(yè)會(huì)有優(yōu)勢(shì)。

但游戲結(jié)束了嗎？不，游戲剛剛開(kāi)始。我認(rèn)為這完全是包裝的事情，如果你產(chǎn)品的價(jià)值大部分是模型的價(jià)值，價(jià)值只存在于模型中，而你圍繞它構(gòu)建的所有東西都不專(zhuān)精，那你將會(huì)輸?shù)暨@場(chǎng)游戲。

但是如果你在模型周?chē)鷺?gòu)建了足夠的價(jià)值，以至于很難在沒(méi)有協(xié)調(diào)一堆其他難以實(shí)現(xiàn)的工程輸入（不僅僅是基于大語(yǔ)言模型，甚至涉及很多人為因素）的情況下做到這一點(diǎn)。我們很難想象一個(gè)沒(méi)有價(jià)值的世界，人們不會(huì)想要這樣的世界。這就是特定的搜索價(jià)值。

為什么谷歌 AI 的概述很糟糕？他們擁有世界上最偉大的索引，也擁有世界上最好的模型，但這還不夠好。或者，為什么很多人仍然認(rèn)為 ChatGPT 的瀏覽功能不如 Perplexity，盡管他們?cè)谶^(guò)去一年里進(jìn)行了如此多的更新？

Harry Stebbings：為什么 Perplexity 的瀏覽功能比 ChatGPT 更好？

Aravind Srinivas：我認(rèn)為這是很多小細(xì)節(jié)的問(wèn)題。我非常相信那些能夠協(xié)調(diào)模型和數(shù)據(jù)源、構(gòu)建出色的用戶體驗(yàn)并一直在這里不斷創(chuàng)新的人，將在這場(chǎng)包裝的戰(zhàn)爭(zhēng)中生存下來(lái)。這會(huì)很困難，你創(chuàng)立了一個(gè)企業(yè)，但每個(gè)人都一直擔(dān)心你會(huì)倒閉。

但是，隨著你積累用戶，隨著你摸清業(yè)務(wù)，我覺(jué)得基礎(chǔ)模型商品化的最大受益者是應(yīng)用層的公司。

Harry Stebbings：為什么這么說(shuō)？

Aravind Srinivas：如果模型被商品化，那么模型的價(jià)格就會(huì)下降。而那些直接使用這些模型接觸用戶、利用這些模型的公司，只要將其包裝成偉大的產(chǎn)品體驗(yàn)，創(chuàng)造實(shí)用價(jià)值，直接與客戶建立關(guān)系，他們會(huì)有更大的優(yōu)勢(shì)。因?yàn)樗麄兡軌蜃屢环N商品以高價(jià)出售。

這是一項(xiàng)偉大的業(yè)務(wù)。如果模型被商品化，我會(huì)很高興。如果模型沒(méi)有被商品化，我仍然想找出一種從中受益的方法，這就是為什么這是一家面臨重重困難卻偉大的公司。

這不是那種你只需要從 Twitter 或 Meta 聘請(qǐng)一位高級(jí)產(chǎn)品副總裁，讓他們?yōu)槟阒贫óa(chǎn)品策略的事情。這并不容易。他們沒(méi)有心智上的判斷，比如當(dāng)下一個(gè) AI 模型變得更好時(shí)會(huì)發(fā)生什么，如何重新思考整個(gè)產(chǎn)品策略。同樣，也不是那種你聘請(qǐng)一位出色的 AI 人才，讓他們來(lái)構(gòu)建產(chǎn)品的事情，因?yàn)樗麄兛偸菚?huì)認(rèn)為模型是最重要的，并一直試圖通過(guò)模型來(lái)做所有的事情。

你需要的是設(shè)計(jì)、產(chǎn)品和 AI 以及搜索的完美結(jié)合。這種組合并不容易。這就是為什么我們能夠做一些其他人無(wú)法做到的事情。

07

Perplexity未來(lái)的主導(dǎo)盈利引擎會(huì)是廣告

Harry Stebbings：你在融資過(guò)程中有感到意外嗎？

Aravind Srinivas：融資過(guò)程很殘酷。我想大多數(shù)人可能以為，只要你是 AI 領(lǐng)域的，人們就愿意給你寫(xiě)投資意向書(shū)，甚至不需要做任何盡職調(diào)查。

實(shí)際上相當(dāng)困難，每個(gè)人都會(huì)問(wèn)你在推特上看到的那些尖銳問(wèn)題，比如「如果 OpenAI 這么做會(huì)怎樣？」「如果谷歌這么做會(huì)怎樣？」「他們?yōu)槭裁床煌Ｖ菇o你模型？」「你打算如何建立自己的模型？」「你打算如何建立一個(gè)真正好的搜索索引？」「你打算如何在企業(yè)銷(xiāo)售領(lǐng)域競(jìng)爭(zhēng)？」

這些都是每個(gè)人都會(huì)問(wèn)的問(wèn)題，而你對(duì)未來(lái)還沒(méi)有一個(gè)清晰的判斷。你必須給他們有力的論據(jù)，但歸根結(jié)底，這些都只是論據(jù)，并不是實(shí)際的東西。

對(duì)我們有利的一個(gè)因素是，我們有很好的執(zhí)行狀況。我們創(chuàng)立的時(shí)間還不到兩年，但相比我們的團(tuán)隊(duì)規(guī)模和資金，我們已經(jīng)產(chǎn)出了很多東西。

Harry Stebbings：在你們所籌集的資金中，有多少用于算力？

Aravind Srinivas：大部分。

Harry Stebbings：像 50%？還是 75%？

Aravind Srinivas：我想說(shuō)兩件事。首先，我們并沒(méi)有花很多錢(qián)。不是說(shuō)我們所籌集的大部分資金都用于算力了，而是在我們花的那部分錢(qián)中，大部分都用在了算力上。無(wú)論是我們購(gòu)買(mǎi) GPU 和服務(wù)模型或后期訓(xùn)練模型，還是我們?yōu)橄?Anthropic 或 OpenAI 這樣的 API 付費(fèi)，這都沒(méi)問(wèn)題。

這就是為什么我們不訓(xùn)練自己的基礎(chǔ)模型。因?yàn)槿绻覀円策@么做，錢(qián)早就用完了。因?yàn)樗墓ぷ髟硎牵惚仨毺崆叭曛Ц顿M(fèi)用才能得到一個(gè)大型計(jì)算集群。并不是一下花掉所有的錢(qián)，但你必須承諾三年，才能得到成千上萬(wàn)的 GPU，如果你想在這個(gè)游戲中競(jìng)爭(zhēng)的話。

另一方面，我們從模型的商品化中受益，我們不做自己的基礎(chǔ)模型，因此我們所有剩下的錢(qián)都用來(lái)獲取用戶，而且獲取用戶不僅僅是通過(guò)營(yíng)銷(xiāo)，實(shí)際上更多的是像亞馬遜 Prime 那樣的方式，以驚人的價(jià)格提供很多很棒的功能，通過(guò)卓越的產(chǎn)品執(zhí)行來(lái)留住你，最終建立足夠大的用戶基礎(chǔ)和品牌忠誠(chéng)度。

這就是我們要追求的商業(yè)模式。在這樣的世界里，廣告的力量可以非常強(qiáng)大。

Harry Stebbings：每個(gè)企業(yè)都有一個(gè)核心盈利引擎。他們可能有輔助業(yè)務(wù)，但往往有一個(gè)是主導(dǎo)的。當(dāng)你展望未來(lái)五年，你認(rèn)為 Perplexity 的主導(dǎo)盈利引擎是什么？是消費(fèi)者訂閱嗎？是廣告嗎？還是企業(yè)服務(wù)？

Aravind Srinivas：我預(yù)測(cè)會(huì)是廣告。如果我們能破解廣告的密碼，那就是廣告。如果我們沒(méi)有破解它，如果我們的用戶沒(méi)有增長(zhǎng)到那個(gè)水平，或者如果我們?cè)鲩L(zhǎng)了卻沒(méi)有想出如何很好地做廣告，那就會(huì)是另外兩個(gè)。不管怎樣，我們都可以盈利。我認(rèn)為通過(guò)廣告，我們可以做到很不錯(cuò)的盈利。

然后你可能會(huì)問(wèn)我，嘿 Aravind，你為什么關(guān)心利潤(rùn)？Sam Altman 并不關(guān)心。但他并不關(guān)心，是因?yàn)樗麑?duì)產(chǎn)品作為一門(mén)生意不感興趣，他在嘗試建立 AGI。他已經(jīng)在一次公開(kāi)采訪中說(shuō)過(guò)，即使我們?cè)?AGI 上花費(fèi) 500 億美元，也沒(méi)關(guān)系。所以那是一家不同的公司。這就是為什么我們根本不應(yīng)該被視為 OpenAI 的競(jìng)爭(zhēng)對(duì)手，我們不是 AGI 實(shí)驗(yàn)室。

你可以說(shuō) Perplexity 和 ChatGPT 是相似空間中的產(chǎn)品，在互相爭(zhēng)奪一些心智份額和用戶。但即使這樣，兩年后也會(huì)非常清楚，你不會(huì)一直問(wèn)，Perplexity 和 ChatGPT 有什么不同？今天你會(huì)這么問(wèn)，但兩年后，我認(rèn)為不會(huì)了。如果到那時(shí)還是這樣，那我們中的一個(gè)就只是在模仿另一個(gè)。

Harry Stebbings：你認(rèn)為你從未被問(wèn)過(guò)但最好的問(wèn)題是什么？

Aravind Srinivas：我認(rèn)為有人問(wèn)我，你為什么在做現(xiàn)在做的事？這是一個(gè)你自己都不知道的問(wèn)題。我認(rèn)為很多人都會(huì)給出一些編造的答案，比如，哦，我經(jīng)歷了一次存在主義危機(jī)，我要拯救人類(lèi)，我見(jiàn)過(guò)一些企業(yè)家這么回答。

對(duì)我來(lái)說(shuō)現(xiàn)實(shí)是，你仰望一些人，你想成為他們，然后你試圖根據(jù)你的榜樣來(lái)塑造你的職業(yè)生涯。但最后你會(huì)發(fā)現(xiàn)自己真的喜歡一些事情，把它塑造成你想要的風(fēng)格。至少對(duì)我來(lái)說(shuō)是這樣的。

我一直是 Larry Page 的粉絲，我一直想做一些有那種雄心壯志規(guī)模的事情。不過(guò)這并不是我們做搜索引擎的原因。我們完全是從別的東西開(kāi)始的。這個(gè)問(wèn)題我實(shí)際上沒(méi)有明確的答案，但我真的很喜歡這個(gè)問(wèn)題，因?yàn)檫@是一個(gè)值得你不斷問(wèn)自己的問(wèn)題。

就像「你為什么在做這個(gè)？」喬布斯就有這樣的想法，對(duì)吧？如果你把死亡內(nèi)化，把死亡正常化，每天早上站在鏡子前問(wèn)自己，「如果今天是我最后一天，我還會(huì)這么做嗎？」如果這個(gè)問(wèn)題的答案是肯定的，那么今天就全力以赴。

如果這個(gè)問(wèn)題的答案經(jīng)常是否定的，你真的需要重新思考你的生活優(yōu)先級(jí)。對(duì)我來(lái)說(shuō)，在 Perplexity，每天都是 Yes。盡管很痛苦，壓力很大，對(duì)我的身心都造成了影響，但我認(rèn)為這是值得的。

Harry Stebbings：你看起來(lái)還非常年輕，所以別擔(dān)心，它并沒(méi)有讓你變老，一切都很好。

Aravind Srinivas：謝謝。我很機(jī)智地掩藏了我的白發(fā)。

08

快問(wèn)快答

Harry Stebbings：在過(guò)去 12 個(gè)月里，你對(duì)什么問(wèn)題的看法改變最大？

Aravind Srinivas：對(duì)人的長(zhǎng)期看法。我看到一些人沒(méi)有高效迅速地改變，但給他們足夠的時(shí)間，他們就能夠真正地改變自己。這是我一開(kāi)始沒(méi)有正確態(tài)度的事情，我總是認(rèn)為那些立即行動(dòng)起來(lái)的人是最好的，但你知道不同的人有不同的方式來(lái)展示他們的真正才能。

Harry Stebbings：你認(rèn)為在今天的 AI 領(lǐng)域，最大的誤解是什么？

Aravind Srinivas：短期思維。任何時(shí)候有人發(fā)布更新，所有人都覺(jué)得另一家公司完了，通常是推特上的那群人。即使是消息靈通的人之間也存在最大的誤解，那就是因?yàn)槭澜缟洗蠖鄶?shù)人都沒(méi)有使用聊天機(jī)器人，他們就覺(jué)得這只是泡沫。但他們會(huì)驚訝地發(fā)現(xiàn)這不是泡沫，它沒(méi)有被過(guò)度宣傳，實(shí)際上它被低估了。

當(dāng)你把它用在熟悉的工作流程和形式中，會(huì)產(chǎn)生很大的影響。聊天 UI 是一種新的 UI。我們還不習(xí)慣使用它。我們都習(xí)慣使用 WhatsApp 和 Signal 等等，但那不一樣，那更像是一種短信服務(wù)。另一方面，Word、Docs、Gmail、谷歌搜索，甚至不是特指這些產(chǎn)品，而是更多關(guān)于使用形式、UI，你非常熟悉它們。當(dāng) AI 以一種讓你覺(jué)得如此自然而然的工作流程呈現(xiàn)給你時(shí)，它將產(chǎn)生巨大的影響。這件事還沒(méi)有真正發(fā)生。

Harry Stebbings：你們看過(guò) WhatsApp 的集成功能嗎？

Aravind Srinivas：我看過(guò)，這種做法不太對(duì)。

Harry Stebbings：為什么？

Aravind Srinivas：我用 WhatsApp 不是為了搜索什么東西，而是為了給人發(fā)信息或者回復(fù)……我的 WhatsApp 通知大多時(shí)候都有 20 到 30 條，等我把它們處理完，我只想離開(kāi)這個(gè)應(yīng)用。我不會(huì)點(diǎn)擊 WhatsApp 圖標(biāo)去搜索什么東西。

Instagram 也是一樣。我只是去那里看漂亮的圖片，而不是去搜索比如誰(shuí)贏得了 NBA 總冠軍。打開(kāi)應(yīng)用時(shí)用戶的意圖很重要。這也是為什么他們多次嘗試推出「動(dòng)態(tài)」和「快拍」都失敗的原因。最初，「動(dòng)態(tài)」是作為一個(gè)單獨(dú)的應(yīng)用來(lái)模仿 Snapchat 的。但沒(méi)起作用，然后他們又嘗試了很多不同的變體。最終起作用的是頂部的氣泡。這之所以有效，是因?yàn)樗腔诂F(xiàn)有的用戶的流程，因?yàn)橛脩舯緛?lái)就要打開(kāi) Instagram 查看其他人的動(dòng)態(tài)。

你必須認(rèn)真考慮，不僅要考慮為什么要添加這個(gè)功能，還要考慮在你的應(yīng)用中，用戶現(xiàn)有的意圖是什么？你如何確保新添加的功能與現(xiàn)有的意圖相結(jié)合？這一點(diǎn)非常重要。

Harry Stebbings：你對(duì)未來(lái)瀏覽器的愿景是什么？

Aravind Srinivas：你可以重新構(gòu)想瀏覽器。我們一直沒(méi)有做瀏覽器是有原因的。我不認(rèn)為瀏覽器會(huì)因?yàn)橛脩舻玫酱鸢付皇擎溄佣活嵏病Ｈ藗內(nèi)匀幌霝g覽并進(jìn)入一個(gè)新的網(wǎng)站，進(jìn)入特定的網(wǎng)站，輸入細(xì)節(jié)，填寫(xiě)表格等等。這些都不會(huì)因?yàn)閭鹘y(tǒng)的聊天界面而被顛覆。僅僅因?yàn)槟憧梢栽?Perplexity 的搜索框中輸入內(nèi)容，比如說(shuō)集成已經(jīng)完成了，我不認(rèn)為你就能讓瀏覽器變得更好或者怎么樣。它會(huì)更高效，但你仍然需要很多傳統(tǒng)瀏覽器的功能。

不過(guò)，會(huì)發(fā)生變化的是，你打開(kāi)一個(gè)瀏覽器，只需要說(shuō)，開(kāi)始播放 Aravind 的播客，它就會(huì)去 Riverside，自動(dòng)填寫(xiě)你的登錄信息，那會(huì)很神奇，那將改變一切。或者像在亞馬遜上，給我買(mǎi)這個(gè)東西。

然后你可以更進(jìn)一步，比如問(wèn)，操作系統(tǒng)的未來(lái)是什么？Mac 的未來(lái)是什么？Windows 的未來(lái)是什么？瀏覽器也是一個(gè)操作系統(tǒng)，對(duì)吧？

Harry Stebbings：你認(rèn)為操作系統(tǒng)的未來(lái)是什么？

Aravind Srinivas：像《Her》這樣的電影可以成真。我不是在說(shuō)語(yǔ)音，而是操作系統(tǒng)本身可以就是 AI，一個(gè)完全原生的 AI 操作系統(tǒng)，它不是以傳統(tǒng)的方式組織的，你只需要和它交談，它就會(huì)為你工作。這是一個(gè)很驚人的愿景。而這正是現(xiàn)在還沒(méi)有實(shí)現(xiàn)的東西。GPT-4 還做不到。

Harry Stebbings：你認(rèn)為你目前工作中最困難的，但大家都不知道的部分是什么？

Aravind Srinivas：一直在處理矛盾。大腦并不擅長(zhǎng)處理矛盾，它實(shí)際上會(huì)讓我們感到疲憊。當(dāng)我們無(wú)法在某件事上達(dá)成共識(shí)，而初創(chuàng)公司的 CEO 們卻都是面臨很多矛盾的。你應(yīng)該冒險(xiǎn)還是應(yīng)該重注堅(jiān)持你已有的東西？你應(yīng)該加快速度還是應(yīng)該以一種可以擴(kuò)展的方式來(lái)建立公司？是時(shí)候嘗試這個(gè)功能了嗎？?jī)H僅因?yàn)樗皇悄愕母?jìng)爭(zhēng)對(duì)手會(huì)做的事情，還是繼續(xù)做你擅長(zhǎng)的事情，盡管你的競(jìng)爭(zhēng)對(duì)手也在做同樣的事情？你必須不斷地在這些不同的維度上處理這些矛盾，這很累。

Harry Stebbings：倒數(shù)第二個(gè)問(wèn)題。你知道，我們作為投資者會(huì)提前分析一家公司可能失敗的原因。如果今天你要為 Perplexity 寫(xiě)下可能會(huì)失敗的原因，你認(rèn)為會(huì)是什么？是計(jì)算能力的問(wèn)題，還是谷歌的創(chuàng)新將你擊敗？

Aravind Srinivas：執(zhí)行力不夠。競(jìng)爭(zhēng)對(duì)手并不會(huì)打敗初創(chuàng)公司，初創(chuàng)公司都是自己打敗自己的。并不是說(shuō) Google Drive 打敗了 Dropbox。人們會(huì)這樣說(shuō)，但 Dropbox 本來(lái)可以建立一個(gè)偉大的企業(yè)業(yè)務(wù)，但他們與其他公司相比行動(dòng)并不夠快。初創(chuàng)公司都是自己打敗自己的。

所以，如果我們要寫(xiě)一個(gè)關(guān)于自己的失敗原因，那就是 CEO 不夠果斷，公司的執(zhí)行力不好，缺乏重點(diǎn)，資本使用效率低下。這很大程度上取決于所做的決策、決策的正確性、決策的速度以及執(zhí)行的速度，還有我們是否專(zhuān)注。如果不能持續(xù)做到這些事情，那么我想我們就會(huì)失敗。

Harry Stebbings：最后一個(gè)問(wèn)題。現(xiàn)在是 2034 年。你最希望 Perplexity 是什么樣？如果我們那時(shí)再做一期節(jié)目，公司那時(shí)會(huì)是什么樣子？

Aravind Srinivas：這是一個(gè)好問(wèn)題。我只希望它能成為你離不開(kāi)的事實(shí)和知識(shí)助手。你可以問(wèn)我，10 年后，人們還想要事實(shí)嗎？我們總是要問(wèn)這樣一個(gè)問(wèn)題，10 年后什么還會(huì)是真的？如果你致力于這個(gè)，那么你就是在做正確的事情。

我覺(jué)得，即使在一個(gè) AI 占據(jù)主導(dǎo)，人類(lèi)自主性減少的世界里，人們?nèi)匀幌胫朗裁词钦娴模裁床皇钦娴摹?/strong>我們正在致力于這件事。如果我們能成為事實(shí)、準(zhǔn)確信息以及知識(shí)的首選助手，那么我認(rèn)為 10 年后我們會(huì)做得很好。

Harry Stebbings：Aravind，我很喜歡這場(chǎng)對(duì)話，感謝你的時(shí)間。

Aravind Srinivas：謝謝你，Harry 。這很棒。

編譯｜Stone

編輯｜Wendi