文章轉(zhuǎn)載于鏡像工作室
文丨阮怡玲
近兩年,隨著AI的火熱發(fā)展,“提示詞(prompt)”這個詞也被普通人熟知。
在AI短視頻博主那里,這是AI時代的普通人必須要掌握的一項技能,“誰不會用提示詞,誰就會被AI淘汰!”在焦慮的打工人那里,提示詞是用AI來幫忙完成工作的手段,需要整天琢磨對AI說什么才能得到更好的效果。這種焦慮也催生了眾多“提示詞工程”的知識付費課程,在AI還沒真正落地之前,就先讓一幫嗅覺敏銳的人大賺一筆。
提示詞也曾是許多沒有AI和相關(guān)技術(shù)背景的人,想追趕AI風口的一條捷徑。作為一種新職業(yè),“提示詞工程師”曾被許多人追捧,門檻低、上手快、薪資高,成為轉(zhuǎn)行AI的首選。“2023年的時候阿貓阿狗都能進來,挺好混的,挺水的。”從業(yè)者楊佩駿說。那時在國外有的提示詞工程師甚至能拿到25-33萬美元年薪。
但現(xiàn)在,隨著大模型能力的快速提升,提示詞工程師越來越?jīng)]有存在感,楊佩駿發(fā)現(xiàn),辛辛苦苦優(yōu)化了很長時間的提示詞,模型一升級,就相當于白干了。模型理解自然語言、推理與思考能力越來越強,傳統(tǒng)意義上只會寫提示詞的提示詞工程師已經(jīng)失去競爭力,AI、模型公司們也不愿意招了。
“現(xiàn)在大家稍微有一點職業(yè)追求,都不愿意承認自己是PE(prompt engineer)。”大廠的AI實習生很多也在社交平臺上吐槽,工作就是寫prompt、洗數(shù)據(jù),寫在簡歷上都擔心會“臟簡歷” 。
面向普通人入局AI的這條捷徑,似乎已經(jīng)被堵死了。
1
所有人都在一個起跑線
研究生學的是歷史,在大廠做著運營,萬玉磊本來跟AI、大模型搭不上半點兒邊,只是一次突然的裁員,讓他開始重新思考自己的職業(yè)路徑。
自大模型火了后,萬玉磊就一直是AI的深度用戶,從健身計劃到文字冒險游戲,他把感興趣的東西都用AI嘗試了一遍,還拿過科大訊飛發(fā)放的提示詞工程師證書。面對競爭激烈的大廠招聘市場,他尋思著,不能再在這兒耗著。他判斷,未來五年中國整個市場的錢都會被AI吸收,AI一定是發(fā)展最快的行業(yè),自己要尋找一切機會進入AI行業(yè)。
為了轉(zhuǎn)行,他做了不少準備,甚至撿起課本把線性代數(shù)又看了一遍,還在知網(wǎng)上看了大量人工智能相關(guān)的綜述,讀了本《深度學習革命》的書,了解了一遍人工智能與自然語言處理的發(fā)展歷史。在技術(shù)上,離職之前,他就自學完了吳恩達的提示詞工程課程。
幸運的是,這是個競爭信息差的時期,看到AI機會并且有魄力從頭開始的人并不多,加上對AI的興趣和熱情,這些準備已經(jīng)足夠了。萬玉磊剛投簡歷,就有AI公司聯(lián)系了他。
他面試過一些模型公司的數(shù)據(jù)標注崗、運營崗,最后在2023年11月,萬玉磊成功加入了一家自研多模態(tài)大模型初創(chuàng)公司,成為了國內(nèi)最早的一批提示詞工程師。這個崗位在模型部,他覺得最能接近論文與技術(shù),“我要感謝前公司開了我,不然我還在干運營”。
面試官是后來他領(lǐng)導(dǎo)的師兄,博五在讀,說話慢條斯理,很有邏輯,看重他對AI的熱情與好奇心,交流了很多對市面上AI產(chǎn)品的使用體驗。萬玉磊回憶,都是年輕人,當時他們聊得很愉快。
其實整個行業(yè)都是年輕人,OpenAI就是一群搞學術(shù)研究的年輕人鼓搗出來的,拿著誰都不看好的論文,建立起如今變革世界的公司。
“他們在畫一個名為AGI的大餅”,但萬玉磊信這個大餅,甚至可以說他就是沖著這個大餅來的,“我自己就是一個很堅定的AGI信仰者”。
還沒入職前,在萬玉磊的想象里,提示詞工程師的工作就只是優(yōu)化提示詞,設(shè)計好工作流,用一定的文字格式向AI獲取更高質(zhì)量的答案。入職后,他才發(fā)現(xiàn)最核心的是優(yōu)化數(shù)據(jù),優(yōu)化模型的輸出、提升模型的性能。
進去第一個月,他被安排洗數(shù)據(jù)。洗數(shù)據(jù)這件事只要有充足的耐心就夠了,是給新員工的一個接觸最底層預(yù)訓練過程的機會——知道模型要什么樣的數(shù)據(jù),才能更加理解模型為什么會輸出這樣的東西,不能只洗,在洗的過程中得思考:為什么這個語義要這么分割?為什么這里有一個end字符?為什么我的token這么長?
之后就開始做各個項目,用提示詞、RAG(檢索增強生成技術(shù))、Fine Tuning(微調(diào))等手段調(diào)整模型的輸出。
AI初創(chuàng)公司,總是缺算力、缺錢、缺人。模型不斷迭代,業(yè)務(wù)不斷調(diào)整,職責也在不斷變化。第四個月,萬玉磊就開始擔任模型數(shù)據(jù)組的負責人,帶了一個小團隊,現(xiàn)在7個人滿員。
雖然是文科背景,但萬玉磊抓住了機會,他如今幾乎算是公司的“元老”了。“AI是一個很好的機會,把所有人都拉到一個全新的起跑線。”哪怕是計算機本科的人,理解AI代碼其實也是從零開始,而99%的AI知識,實際上是在網(wǎng)上對所有人開放的。
“不管做什么,先上車再說。”
1
模型進化,淘汰一批提示詞工程師
2024年作為實習生入行AI的陳柳陽,既做過大模型公司的提示詞工程師,也做過業(yè)務(wù)公司的AI產(chǎn)品經(jīng)理。
2023年底,陳柳陽在中科院讀研,陸陸續(xù)續(xù)選修了python、深度學習、神經(jīng)網(wǎng)絡(luò)、大語言模型訓練等課程,開始入門AI。為了更方便地用大模型讀文獻,他自己寫了一些prompt,還發(fā)布到小紅書參加月之暗面的比賽,總贊數(shù)排名第六。盡管比賽前后兩次投月之暗面的實習都沒通過,但他找到了另一家大模型公司提示詞工程師的實習。
在面試中,除了被問“如何寫好prompt”,更多的就是被問如何當好一個產(chǎn)品經(jīng)理。印象最深刻的是,面試官拋了一個問題:你懂什么技術(shù)?陳柳陽回答,他懂Transformer,懂LSTM(長短期記憶框架),面試官要求他介紹一遍LSTM。后來他才知道,面試官其實不懂這個技術(shù),不是在考察他是不是真的懂,而是在觀察他的表達能力,能不能對一個小白講清楚。
他總結(jié),提示詞工程師需要的,第一就是邏輯能力,思考清楚這個東西到底怎么做;第二就是表達能力,要向AI表達清楚你的需求。
陳柳陽自己撰寫的文獻閱讀提示詞工具,還在不斷更新。圖源:受訪者。
他認為,如果想要真正地接觸AI產(chǎn)品的開發(fā),理解AI能力的進化,AI產(chǎn)品經(jīng)理和提示詞工程師是兩個對普通人友好的職業(yè)。而從業(yè)者的普遍看法也是,如今兩者其實可以看做一個崗位,名頭不同,工作內(nèi)容類似。
據(jù)他了解,同行里計算機、金融、心理學背景的人都有,提示詞工程師其實并不特別要求技術(shù)背景。提示詞工程師只是一個與AI對話的人,沒有太高能力壁壘。提升prompt能力與編程沒關(guān)系,更需要思維的邏輯縝密性、表達能力以及對AI模型能力邊界的理解。
楊佩駿加入AI還要更早,前一份工作是與AI毫不相干的to B交付工程師,見到ChatGPT的火熱,他直接辭職出來,2023年6月份在一個大模型公司找了份“AI產(chǎn)品經(jīng)理”的工作。公司為了國際化,招了很多外語專業(yè)的人,是公司的第一批AI產(chǎn)品經(jīng)理。
名為產(chǎn)品經(jīng)理,實際上工作內(nèi)容全是prompt優(yōu)化,花30%時間寫提示詞,剩下的時間評估,是從字面意義上理解的更純粹的提示詞工程師。
在2023年中期,大家對模型能力邊界的理解還很淺薄,楊佩駿的公司做的是套殼強化版的chatbot,一段提示詞配上一兩個工具;更多的是調(diào)研競品,研究研究競品哪里能抄,保證每個季度能做出東西交給領(lǐng)導(dǎo)。
“的確是比較機械化的工作。”楊佩駿想起當時,覺得提示詞工程師門檻太低了。
往后,模型的能力增強,更多的業(yè)務(wù)場景出現(xiàn)。給業(yè)務(wù)方提供一個接口,保證模型輸出給業(yè)務(wù)方的是穩(wěn)定的、可靠的回答,需要寫prompt,調(diào)工具,做代碼處理,工作變成一半是prompt,一半是設(shè)計、調(diào)整工作流。
但模型發(fā)展的速度實在太快,事實上,楊佩駿慢慢地發(fā)現(xiàn),所有操作中發(fā)現(xiàn)的共性問題,最終模型側(cè)都能解決,辛辛苦苦優(yōu)化了很長時間的提示詞,模型一升級,就相當于白干了。
見證著AI技術(shù)的發(fā)展與提示詞工程技術(shù)含金量的降低,楊佩駿認為,如果提示詞工程師想有一個更長的職業(yè)發(fā)展,就要具備更多的產(chǎn)品思維。
2024年中,楊佩駿主動辭職,去了一家AI產(chǎn)品業(yè)務(wù)公司,雖然是“提示詞工程師”的職位,但劃在了產(chǎn)品序列的部門,開始接觸真正更類似AI產(chǎn)品經(jīng)理的工作,在這里,提示詞工程會出現(xiàn)在產(chǎn)品、開發(fā)、測試、運營的全流程中,但占工作內(nèi)容不到10%。
今天學點算法,明天學點產(chǎn)品,楊佩駿從一個只會寫prompt的提示詞工程師,向著真正的AI產(chǎn)品經(jīng)理轉(zhuǎn)型。
公司是做陪伴型產(chǎn)品,楊佩駿得找到產(chǎn)品中需要與AI結(jié)合的各種地方,比如在對話中,除了文字、語音輸出,是不是能讓模型自己找一些外部的新聞分享,自己生成表情包、圖片、視頻、網(wǎng)頁,讓輸出方式多種多樣。
模型在升級,提示詞工程師的工作內(nèi)容也不斷升級,沒背景的普通人想入行越來越難了。
1
優(yōu)化提示詞不再重要
從GPT3.5橫空出世到現(xiàn)在各模型百花齊放,模型能力大大提升,prompt優(yōu)化的難度降低,技術(shù)重要性也隨之降低。
“如果一個提示詞工程師只會調(diào)提示詞,是有問題的”,周子杰說。他是供應(yīng)鏈管理和金融的雙學位畢業(yè),在多家互聯(lián)網(wǎng)大廠實習,臨畢業(yè)進了金山。當時Office出了Copilot功能,要在一個月內(nèi)從零開始做WPS AI,把他用行政崗的head count招了進去,崗位類似于Excel 產(chǎn)品經(jīng)理。2024年4月份,他跳槽到一家大模型公司做提示詞算法工程師。
據(jù)他介紹,兩年前,很多難調(diào)的模型就像是一頭難馴的“野獸”,需要結(jié)構(gòu)化輸出,瘋狂地調(diào)提示詞、不斷地迭代、想花樣,比如引用不同的格式,使用CoT(思維鏈)技術(shù),調(diào)Instruction(任務(wù)描述)、調(diào)順序,但即便是旗艦級的模型,也最多只能將評測分數(shù)從五六十分優(yōu)化到85分,很鍛煉優(yōu)化提示詞的技術(shù)。如果想要更好的效果,需要依賴靈感的迸發(fā),出奇招致勝。
但AI模型進化到現(xiàn)在,已經(jīng)沒那么難馴服,成為了“家養(yǎng)寵物”。隨便寫一寫,評測也能有90分,輕輕松松就能提到95分,再想往上,邊際效益就遞減了,投產(chǎn)比很低,沒有必要。
2024年9月13日,自帶思維鏈的OpenAI o1 Preview模型發(fā)布,陳柳陽早起刷新聞看見,“感覺整個人都幸福了不少,覺得我馬上就不用上班了,AI發(fā)展得太快了”,能讓他寫出很多原來不敢寫、也不會寫的代碼了。
楊佩駿解釋,prompt實際上很大一部分就是人工手寫的思維鏈,強制地告訴模型第一步、第二步、第三步。但2024年,AI編程能力、數(shù)學能力、推理能力大進步,從內(nèi)置的思維鏈到外顯的思維鏈,已經(jīng)能替代很多復(fù)雜的prompt文本。
甚至楊佩駿現(xiàn)在覺得,思維鏈也不重要了,更重要的是混合推理,由模型自己判斷這個問題需不需要深度思考,避免過度思考。
周子杰從入職以來,從來沒有只做提示詞工程,從需求溝通、業(yè)務(wù)理解到產(chǎn)品設(shè)計,最后才是提示詞優(yōu)化,一般只占用不到一個小時的工作時間,如果需要SFT微調(diào),還得協(xié)助算法工程師。
比如客戶要求為手機做一個智能助手,首先需要明確響應(yīng)時間、翻譯、計算等業(yè)務(wù)要求,接著第一步是模型選型,判斷模型的性能是否能夠勝任,像是智能助手就要求模型的首響比較快,在2秒以下;第二步是方案選型,是用RAG(檢索增強生成技術(shù))、MCP(模型上下文協(xié)議),還是Function Call(模型函數(shù)調(diào)用)?選擇標準一方面是根據(jù)具體的業(yè)務(wù)需求,另一方面是做實驗評測模型使用該方案的效果。最后一步才是提示詞優(yōu)化,快速地分析badcase錯誤的原因,做調(diào)參。
而在此之前,需要先構(gòu)建評測集、評測指標和評測體系。他認為,這才是提示詞工程師的核心價值,是對業(yè)務(wù)的理解。
同時,大模型提示詞工程師面向B端時也像一個技術(shù)咨詢師,需要幫助很多業(yè)務(wù)公司搞不定的問題,今天是醫(yī)療行業(yè),明天是建筑行業(yè),后天是金融行業(yè);今年主要業(yè)務(wù)是互聯(lián)網(wǎng),明年可能是政府端。每做一個項目,每想一個解決方案,都得單獨去調(diào)研。“今年的知識,明年就不能用了。”
需要明確的是,提示詞工程仍然很重要,這是面對垂直領(lǐng)域,成本最低、見效最快、泛化性很強的滿足業(yè)務(wù)要求的方式。
比如讓模型預(yù)報天氣,可能一個氣象平臺說降雨量500毫米,另一個平臺說300毫米,就可以通過提示詞引導(dǎo)模型的輸出,如果使用微調(diào)的手段,需要整體重新微調(diào),成本太高,也沒必要。
但如果設(shè)立一個只寫prompt的職業(yè),“可能不太能撐得起來”。周子杰認為網(wǎng)上有關(guān)提示詞工程師的宣傳,更多是以賣課為目標,與現(xiàn)實有偏差,國內(nèi)對這個專門崗位的需求可能并不大,反而AI產(chǎn)品經(jīng)理更有市場。
如今,AI已經(jīng)不是兩年前幾乎沒有門檻的行業(yè)了。對創(chuàng)業(yè)者來說,AI技術(shù)縮短了站穩(wěn)腳跟的窗口期,要一個月就見成效;對大模型公司來說,單子被搶是常有的事,“即使我的效果不如你,但是我比你更便宜”。
自然,入行AI也要看經(jīng)驗了。行業(yè)變化很快,哪怕算法崗也不安定,周子杰曾經(jīng)見過公司裁了NLP(自然語言處理)的人,留著CV(計算機視覺)的人做NLP。
行業(yè)不安定,他自己的心也不安定,在遇到AI機會之前,他一直處于漂泊的狀態(tài)中,沒有安全感:畢業(yè)前拿到美團offer,但5月份卻通知事業(yè)部沒了,offer取消了;只能通過社招去外企,又遭遇上中國區(qū)裁員,拿到2N賠償金;接著和朋友一起創(chuàng)業(yè)做AI社交,沒找到合理的商業(yè)化路徑,沒錢黃了。
1
AI飛速往前,沒什么是安全的
今年春節(jié),DeepSeek橫空出世,把不再需要復(fù)雜提示詞的消息傳到了所有人的耳中。對于用戶來說,提示詞可以簡化了,但對幕后的AI從業(yè)者卻沒那么簡單。萬玉磊覺得雖然普遍難度降低了,但工作量沒有減少,“提示詞從始至終極其重要,而且解決的問題越來越多”。
今年的關(guān)鍵詞是“Agent”,前段時間爆火的Manus就是一個典型代表。萬玉磊介紹,Agent實際上就是工作流的串聯(lián),每個模型都有非常細致的工作流,需要更細致的提示詞,要求提示詞工程師更加深入業(yè)務(wù)。
提示詞優(yōu)化工程還出現(xiàn)了新的難點。如今多模態(tài)的趨勢顯著,要做到AI生圖、生音頻、生視頻,就需要理解圖、音頻、視頻,對提示詞的要求提高。因為大參數(shù)的多模態(tài)模型里,文本模型可能只占幾B的參數(shù)量,對文本的理解能力自然下降,更難調(diào),時間占比可能會提升到1/4。另一方面,AI應(yīng)用場景越來越多,端側(cè)模型需求也在上升。
過去古典的產(chǎn)品經(jīng)理把業(yè)務(wù)邏輯轉(zhuǎn)換成研發(fā)的邏輯,如今提示詞工程師要把業(yè)務(wù)的邏輯轉(zhuǎn)化成模型的邏輯,作為橋梁跨過中間的gap,責任重大。
AI行業(yè)還處在很早期的階段,不像移動互聯(lián)網(wǎng)那樣高度分工,光產(chǎn)品經(jīng)理就有幾十種。現(xiàn)在的AI產(chǎn)品經(jīng)理,70%是提示詞工程師,20%是數(shù)據(jù)標注,10%是算法工程師。另外,萬玉磊覺得,這也可能因為模型就是一個“萬物合而為一”的東西,所有的數(shù)據(jù)、資料融合在一起,來解決所有的問題。
萬玉磊很支持外行人、文科生入局AI——做AI的人,文科絕對不能差。AI是需要文科生的,如今AI工作流里如何評估模型的輸出是一件很困難的事情,模型是一個黑箱,無法理解,所以要用很多方法去驗證和評估它的能力——這就需要保持語言的敏感度,給模型的輸出主觀打分。
如今,AI人才市場上職位空缺仍然很多,不僅是優(yōu)秀的人才被所有公司爭搶,基層也有大量空崗。“太缺人了”,陳柳陽幫前公司在朋友圈發(fā)了很多招人廣告,動不動就拉著同學問:“你懂AI,要不要過來實習?”
他很推薦年輕人進入AI行業(yè),“這個行業(yè)可能是時代給我們?yōu)閿?shù)不多的一個機會了,進去后說不定有可能會財務(wù)自由。”但他也提示,這份工作需要真的對AI感興趣,驅(qū)使自己持續(xù)關(guān)注AI的動態(tài),學習AI知識和技術(shù)。
畢竟,在一個滾滾向前快速發(fā)展的潮流面前,沒有什么是安全的、不會被取代的。
(應(yīng)受訪者要求,周子杰、楊佩駿為化名。)
點個愛心,再走 吧
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布,本平臺僅提供信息存儲服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.