LORA 原理：解釋 LORA(Low-RankAdaptation)的核心思想，如何通過低秩矩陣實現(xiàn)參數(shù)高效微調?數(shù)學形式如何表達?Self-Attention機制：自注意力機制中 O/K/ 矩陣的作用是什么?如何通過縮放點積計算注意力權重?公式推導并解釋Softmax 的意義。位置編碼：Transformer為何需要位置編碼?主流 LLM(如 LLaMA、GPT)使用哪種位置編碼(如 ROPE)?相比絕對/相對位置編碼有何優(yōu)勢?Seq2Seg 模型：Seq2Seq模型的核心組件是什么?Encoder-Decoder結構如何解決長程依賴問題?RAG技術：RAG(檢索增強生成)的完整鏈路包含哪...