這期的創(chuàng)作激勵(lì)收益將全用于購買我的薯片。
很感謝各位觀看,上期文章有兩塊錢的收益,
看來大模型還是很不少人感興趣的,
今天繼續(xù)寫自己學(xué)習(xí)的心得了。
那么首先各位要搞清楚大模型本質(zhì)上分為兩種,上期文章里面我寫到了,有預(yù)訓(xùn)練模型和底層手搓論文模型兩種,
云服務(wù)方面
但是實(shí)際上我們?nèi)ナ褂玫臅r(shí)候還是會(huì)出現(xiàn)本地內(nèi)存不夠用的情況,不管用那種,在下載模型去跑的時(shí)候因?yàn)閮?nèi)存不夠所以電腦會(huì)卡死,那么想要去跑,就可以選擇輕量化模型+云服務(wù)的方式(這里試了一下谷歌的colab可以免費(fèi)試用GPU/TPU也可接入gemini去寫代碼),這個(gè)就是云計(jì)算的一種體現(xiàn),它的代碼全部在云上,同時(shí)代碼執(zhí)行速度遠(yuǎn)高于你的本地,另外也不管也可以去試試微軟,阿里的云服務(wù),也類似。
分詞器:
然后這兩天搞了個(gè)醫(yī)療大模型+本地論文問答模型,后面請了個(gè)老哥講這東西,它一看就知道本地論文模型,github拉去的代碼里面沒有模型也沒有數(shù)據(jù)集(假設(shè)你要調(diào)試模型的話,你需要有模型作為底座+成型的系統(tǒng)+數(shù)據(jù)集(數(shù)據(jù)集有幾個(gè)G到百來個(gè)G不等同時(shí))多少多少B就是切塊,2B返回值就是一次返回作為2bit)然后基本上模型需要分詞器(這個(gè)就是類似序列化一樣你的模型要看懂你寫了什么就需要分詞器去將數(shù)據(jù)向量化導(dǎo)入數(shù)據(jù))。
agent方面
然后就是有朋友私信我,問agent的問題,這里統(tǒng)一講一下,智能體在你去dify/coze上的預(yù)調(diào)智能體和你自己做的智能體基本上不一樣,就跟你微調(diào)模型一樣,一般來說是你拿人家東西去改出來,同時(shí)去針對專門的方向的,比如我下的醫(yī)療模型,我配置不行,我就專門調(diào)試骨科的東西,問他骨折了怎么辦,而其他關(guān)于肌肉的,血液的東西,它沒有對應(yīng)數(shù)據(jù)集作為知識(shí)庫,所以回答不了我,那么我們知道微調(diào)就是為了針對專門問題而誕生的,同時(shí)自己寫agent也是一樣的,可以去針對性解決痛點(diǎn)。
付費(fèi)方面:
咱們講一講要不要付費(fèi)去請人生成agent,我個(gè)人而言不大建議,因?yàn)檫@個(gè)東西現(xiàn)在報(bào)價(jià)有點(diǎn)離譜,本質(zhì)上他們也是問ai一鍵生成的,不如你花個(gè)兩三天去學(xué)一下。。。如果你愿意請問喝奶茶我也可以幫你弄一個(gè)(廣告位招租ing)。
少年啊,我請你不要有所失而有所得,這完全是不必要的。
然后就是報(bào)班問題,先前傳統(tǒng)開發(fā)很多培訓(xùn)班,現(xiàn)在依舊會(huì)有,但是我個(gè)人而言現(xiàn)在很多面試官面試都不知道問什么,那么你去報(bào)班豈不是沒什么用?我不否認(rèn)去報(bào)班可以學(xué)很多東西,但是培訓(xùn)班本質(zhì)上是給你洗腦讓你去學(xué)會(huì)了然后找工作,你的思維或者想法就是學(xué)了去找一份工作,然后愿意花錢,但是你考慮過沒有,你萬一學(xué)了不喜歡呢?或者你足夠自律并且你是科班可以完全自學(xué)呢?我不建議花太多錢在這個(gè)上面,知識(shí)付費(fèi)可以收取一點(diǎn)點(diǎn)費(fèi)用,你完全可以去找在職的老大哥請人家喝杯咖啡,百來塊搞定,問些行業(yè)發(fā)展前景,還有職業(yè)規(guī)劃,應(yīng)該怎么學(xué),之類的。膽子大一點(diǎn),不要付費(fèi)而后悔,光是憑借興趣去做事情就夠了,對金融感興趣就去學(xué)稅法,去炒股,了解債券,期權(quán)是什么,喜歡看電視劇看電影,就去做自媒體天天講給人家聽,不要為了一份工作而搖尾乞憐,這毫無意義,That‘s just a fucking job,到最后你轉(zhuǎn)行了或者你考上大學(xué)了,你自己也會(huì)感嘆,過去的煩惱根本沒必要,只不過是社會(huì)或者家庭給你的壓力罷了,考不上又如何,沒工作又如何,太陽照常升起,明天依舊會(huì)到來,人家不會(huì)把你怎么樣,你也不會(huì)死,而除卻生死,其余皆是小事。#
#牛客激勵(lì)計(jì)劃##創(chuàng)作激勵(lì)計(jì)劃##??蛣?chuàng)作賞金賽#