1、文本分類特征選擇算法卡方檢驗（Chi-Square Test）：統(tǒng)計特征（詞）與類別之間的獨(dú)立性。卡方值越大，特征與類別的相關(guān)性越強(qiáng)。信息增益：衡量特征為分類系統(tǒng)帶來多少信息量。信息增益值越大，特征越重要?；バ畔ⅲ汉饬刻卣髋c類別之間的統(tǒng)計相關(guān)性。TF-IDF加權(quán)：通過詞頻（TF）和逆文檔頻率（IDF）篩選重要特征。高TF-IDF值的詞通常為關(guān)鍵特征。2、ReLu替換Tanh的后果ReLu在負(fù)區(qū)間的梯度為0，可能導(dǎo)致神經(jīng)元“死亡”??（Dead ReLU）3、GPT的多種能力文本生成：生成符合語境和邏輯連貫的文本（學(xué)術(shù)、故事、文章）代碼生成：生成可執(zhí)行的代碼片段（腳本、debug、功能實現(xiàn)）對話交互：模擬人類對話，提供個性化交互體驗（客服、助手、陪伴）創(chuàng)意內(nèi)容生成：藝術(shù)創(chuàng)作或設(shè)計（詩詞、圖案描述、營銷文案）數(shù)據(jù)與知識生成：結(jié)構(gòu)話信息提取或虛構(gòu)數(shù)據(jù)生成（表格生成、虛構(gòu)數(shù)據(jù)）多語言生成：跨語言內(nèi)容生成和翻譯（多語言寫作）邏輯與推理生成：解決數(shù)學(xué)問題或邏輯推理任務(wù)（解題、策略）4、大模型訓(xùn)練和推理的參數(shù)量判斷，需要多少顯卡。（14B）訓(xùn)練：模型參數(shù)（14B）+優(yōu)化器狀態(tài)?（如Adam）：每個參數(shù)需要存儲參數(shù)、梯度、動量、二階動量（共4份 FP32 數(shù)據(jù)）+梯度：以 FP16 存儲 14B + 激活值（Activations）?：與批次大?。˙atch Size）、序列長度（Sequence Length）相關(guān)，通常占用 ?20%~50% 總顯存。 約為14*2+14*4*4+14*2+50=330推理：參數(shù) + KV緩存≈28GB+1GB=29GB（FP16）或14GB（INT8）5、文本、圖片、視頻的標(biāo)注方式文本分類、命名實體識別、關(guān)系抽取、序列標(biāo)注、問答標(biāo)注目標(biāo)檢測、圖像分割、關(guān)鍵點(diǎn)識別、圖像分類、OCR標(biāo)注動作識別、目標(biāo)跟蹤、時間序列標(biāo)注、多模態(tài)標(biāo)注6、常見的數(shù)據(jù)清洗方式刪除缺失記錄、填充缺失值、標(biāo)記缺失值、刪除重復(fù)行、合并沖突字段、檢測異常值、數(shù)據(jù)格式標(biāo)準(zhǔn)化、標(biāo)簽一致、邏輯一致、文本去噪、平滑技術(shù)7、簡述殘差連接?殘差連接（Residual Connection）? 是一種通過跳躍連接（Shortcut Connection）將輸入直接傳遞到網(wǎng)絡(luò)深層的技術(shù)，從而緩解深層網(wǎng)絡(luò)的訓(xùn)練難題（如梯度消失、模型退化）、?加速模型訓(xùn)練、增強(qiáng)模型表達(dá)能力8、大模型訓(xùn)練的全過程數(shù)據(jù)準(zhǔn)備與預(yù)處理數(shù)據(jù)收集數(shù)據(jù)清洗分詞，編碼加載模型迭代訓(xùn)練#?？虯I配圖神器#
查看5道真題和解析
投遞卓望公司等公司9個崗位