1.DeepSpeed Zero(123)2.流水線并行3.顯存中模型參數(shù)，梯度，優(yōu)化器參數(shù)的比例4.混合精度，在模型訓(xùn)練的過(guò)程中混合精度的變化過(guò)程5.流水線并行的時(shí)候氣泡現(xiàn)象6.介紹PPO，DPO，GRPO7.Prompt設(shè)計(jì)8.模型重復(fù)輸出應(yīng)該如何解決9.TopK,TopP,Temperature10.介紹Encode結(jié)構(gòu)11.有哪些位置編碼12.RoPE如何實(shí)現(xiàn)13.DeepSeek的注意力機(jī)制MLA14.DeepSeek的混合專家模型MoE15.模型的外推性16.Layer normalization在前面和在后面的區(qū)別和優(yōu)缺點(diǎn)17.Batch norm相比Layer norm18.RMS norm為啥去掉減去均值的步驟也可以有效？19.word embedding20.有哪些高效微調(diào)的方法21.了解QWQ模型嗎

突然想到，現(xiàn)在大廠開發(fā)基本上全都用MacBook了（記得去年阿里實(shí)習(xí)生都發(fā)M3的 MacBook Pro），會(huì)不會(huì)漲價(jià)了就沒(méi)有新款Mac了，全是上古時(shí)代的按照目前關(guān)稅情況，若整機(jī)被判定為美國(guó)原產(chǎn)（如部分高端定制機(jī)型），疊加關(guān)稅后，中國(guó)進(jìn)口成本可能增加34%-125%。例如，原價(jià)12999元的14英寸MacBook Pro M3，若含美國(guó)原產(chǎn)組件比例超過(guò)50%，最終售價(jià)或上漲至17400-29200元。不過(guò)蘋果通過(guò)提前空運(yùn)庫(kù)存也能規(guī)避短期漲價(jià)，比如將MacBook生產(chǎn)線轉(zhuǎn)移至越南、馬來(lái)西亞等地，簡(jiǎn)單來(lái)說(shuō)就是二次倒一下，不直接從美國(guó)進(jìn)口，換一個(gè)美國(guó)關(guān)稅比較低的國(guó)家，從那邊進(jìn)口還有一個(gè)點(diǎn)就是進(jìn)口藥，...

求助！ 南京小米汽車座艙部門軟件開發(fā)工作強(qiáng)度如何 #小米汽車#  #工作強(qiáng)度#  #南京小米汽車座艙#

timeline:一面3.24；二面3.26；hr面4.8（對(duì)，沒(méi)錯(cuò)，二面完之后第8天約hr面，然后那天是清明前一天，只能約這周）一面二面八股都是常規(guī)八股，一面主要問(wèn)java相關(guān)知識(shí)，二面主要問(wèn)了我的ai項(xiàng)目的一些東西。許愿oc。第二天，許愿oc第三天，許愿oc第三天，錄用通知已到郵箱，感謝螞蟻爹，暑期終于見到盼頭了。今天京東二面，明天美團(tuán)二面，面完結(jié)束暑期。