llm_interview_note：一份以 Markdown 目錄組織的大模型面試知識庫
主要记录大语言大模型（LLMs） 算法（应用）工程师相关的知识及面试题
秒懂
- 它是什麼？
- 這個倉庫是大語言模型演算法與應用崗位的面試題整理，主體是 Markdown 筆記加一個線上閱讀站。它的價值在於目錄結構與面試題的對應關係，限制則在於它是一份個人整理的二手資料，沒有版本化、沒有測驗、也沒有授權聲明。
- 適合誰用？
- 這份倉庫適合正在準備大模型演算法或應用崗位面試的人，以及需要一份中文術語對照目錄來排查知識盲區的工程師；不適合把它當作生產環境的技術決策依據，因為它是個人整理的二手資料，沒有標註每條結論的來源版本，也沒有授權聲明。採用前先確認兩件事：倉庫根目錄是否附帶 LICENSE 檔案，以及你要引用的那一章最後一次實質修改是什麼時候。
- 可以商用嗎？
- 未經許可不行。GitHub 在這個儲存庫中沒有找到授權檔案；沒有授權，預設即「保留所有權利」：你可以閱讀程式碼，但不能重複使用。使用前請看看 README，或先取得作者同意。
- 還在維護嗎？
- 有在維護。儲存庫最近一次提交在 93 天前。
- 用什麼語言寫的？
- 主要是 HTML（依據 GitHub 的語言統計）。
以上回答依據專案的 GitHub 資料（最近同步於 2026年9月15日）與我們的分析，不構成法律意見。
開源專案深度解析
這份筆記要解決的是準備面試時的檢索問題
大模型崗位的面試範圍這幾年擴張得很快。同一個候選人可能被問到 attention 的實作細節，也可能被問到流水線並行的氣泡怎麼算，還可能被要求解釋 DPO 和 PPO 的取捨。這些題目分散在論文、框架文件、部落格和個人經驗裡，缺少一個按主題歸攏的入口。這個倉庫做的就是歸攏：README 說明它「為大模型面試相關概念，由本人參考網路資源整理」。目標讀者是演算法工程師和應用工程師，也就是既要能講清楚原理、又要能動手改程式的那一類人。作者在 README 裡另外列出幾個動手專案，包括 tiny-llm-zh、tiny-rag、tiny-mcp 和 llama3-from-scratch-zh，其中 tiny-llm-zh 聲稱已部署到 ModeScope 上可以體驗。這幾個專案和筆記倉庫是分開的，筆記本身不含可執行訓練程式碼。
目錄本身就是這個專案最實在的產出
翻開 README 的目錄，可以看到九個一級章節：大語言模型基礎、大語言模型架構、訓練資料集、分散式訓練、有監督微調、推理、強化學習、檢索增強 RAG、大語言模型評估。每個一級章節下面再分小節，小節裡才是具體的 Markdown 檔案。這種三層結構是刻意的：面試準備的實際動作是「按主題掃一遍，看哪裡答不上來」，而不是從頭讀到尾。以第二章為例，2.1 是 Transformer 模型，下面掛 attention、layer_normalization、位置編碼、tokenize 分詞、token 及模型參數、激活函數六篇；2.2 單獨放 MHA_MQA_GQA；2.3 放解碼策略，涵蓋 Top-k、Top-p 和 Temperature；2.4 回到 BERT，放 bert 細節、Transformer 架構細節、bert 變種；2.5 是常見大模型，包括 llama 系列、chatglm 系列，以及 llama 2 代碼詳解和 llama 3；2.6 是 MoE，放 MoE 論文、MoE 經典論文簡牘和 Switch Transformers。值得注意的是 2.2 把 MHA、MQA、GQA 三種注意力變體併在一篇，這在面試裡確實是常被連著問的一組；而 2.5 把模型介紹和程式碼詳解分開成不同檔案，說明作者意識到「知道 llama 3 有什麼改動」和「看得懂 llama 3 的實作」是兩種不同的能力。第四章分散式訓練的切分方式也值得看一眼：資料並行、流水線並行、張量並行、序列並行各自獨立成篇，然後才有多維度混合並行、自動並行、moe 並行和總結。這個順序符合從單一策略到組合策略的認知路徑，比按框架名稱（DeepSpeed、Megatron）分類更適合建立概念。
閱讀站是 GitHub Pages，本地使用就是複製 Markdown
倉庫的 Homepage 指向 https://wdndev.github.io/llm_interview_note，README 的「線上閱讀」一節也給出同一個連結。這表示發布方式是 GitHub Pages，內容以 HTML 形式呈現，倉庫的 Primary language 標為 HTML 也印證了這一點。這裡有一個容易誤解的地方：倉庫的主要語言統計顯示 HTML，但實際的知識內容是 Markdown，HTML 是構建產物。對使用者來說，取得內容有兩條路。第一條是直接開啟線上站點，優點是目錄可點、無需本地環境。第二條是 clone 下來自己讀，指令是 git clone https://github.com/wdndev/llm_interview_note，然後在本地用任何 Markdown 閱讀器開啟對應路徑的 .md 檔案。要注意路徑裡含有中文和括號，例如 01.大語言模型基礎 和 02.大語言模型架構，某些 shell 環境下需要用引號包住路徑，否則會被當成特殊字元處理。倉庫沒有提供套件管理檔案的線索，README 裡也沒有出現 npm install 或 pip install 這類安裝指令，所以不建議假設它有一套可重現的本地建置流程。至於 Last push 時間是 2026-06-14，Recent releases 一欄沒有取到任何版本，這意味著沒有 release tag 可以鎖定，你要引用某一版內容時只能記下 commit 或日期。
沒有授權聲明，這是採用前必須先確認的事
倉庫的 License 欄位是空的，也就是說在提供的資料裡看不到任何授權條款。這一點比它看起來嚴重。這份筆記的內容按 README 自述是「參考網路資源整理」，那麼裡面有多少是原創表述、多少是改寫自其他來源，外部讀者無法判斷。在沒有 LICENSE 檔案的情況下，預設的著作權狀態是保留所有權利，嚴格說來複製、再散布、或把它併入公司內部的訓練教材都缺少明確授權基礎。實務上合理的做法是先到倉庫根目錄確認有沒有 LICENSE 或 COPYING 檔案，以及 Markdown 檔案開頭有沒有引用聲明。如果確實沒有，把它當作個人閱讀材料問題不大，但若要用於企業內訓、對外課程或產品文件，就應該先向作者取得書面許可。這裡不構成法律意見，只是指出資料本身缺少這一層資訊。另外，README 裡有微信公眾號的二維碼圖片，以及一句「歡迎關注」，說明作者維持著一個站外的更新管道，這也意味著倉庫內容可能不是唯一的、也不是最新的版本。
二手整理在時效性上的代價
這個倉庫覆蓋的題目裡，有幾類變化速度差別很大。Transformer 的 attention 機制、layer normalization 的變體、Word2Vec 這類基礎內容，幾年內不會有實質改動，看二手整理風險低。但 2.5 的常見大模型、第六章的推理框架、第七章的 RLHF 與 DPO，屬於每隔幾個月就有新模型、新框架版本、新訓練方法的領域。README 的目錄裡，llama 系列停在 llama 3，推理框架列的是 vllm、text_generation_inference、faster_transformer、trt_llm 四個，這些名稱和版本狀態在閱讀當下未必仍然是最新的。倉庫沒有標註每一篇的撰寫日期或所依據的版本，Recent releases 也沒有取到任何版本記錄，所以你無法從結構上判斷某一段結論對應的是哪一版模型或哪一版框架。這不是這個倉庫獨有的問題，所有面試筆記都有，但它決定了正確的用法：拿它當索引和術語表，確認自己知道有哪些概念、哪些名詞對應哪些機制，然後針對具體結論回到原始論文或官方文件核對。把它當成事實來源去回答「llama 3 的某個超參數是多少」這種問題，是在承擔不必要的風險。
和同類資源相比，它的差異在於動手專案而非筆記本身
面試筆記這類資源在中文社群裡並不少見，多數是單一長文或按主題分檔的 Markdown 合集。這個倉庫的組織方式沒有本質區別，真正的差異在 README 列出的那組動手專案。tiny-llm-zh 的定位是「從零實現一個小參數量的中文大語言模型，快速掌握大模型預訓練、微調、RL 等相關技術」，並附帶一個 ModeScope 上的 demo；tiny-rag 實現一個支援多路召回和重排的 RAG 系統；tiny-mcp 用 Prompt 和 Function Calling 實現 MCP 服務端和客戶端；llama3-from-scratch-zh 聲稱可載入 Meta 官方權重，並在 16G 記憶體的本地筆記型電腦上除錯執行。這幾個專案把「讀懂」和「寫出來」連了起來，是純筆記型資源做不到的。反過來說，這些專案是獨立倉庫，和 llm_interview_note 之間沒有版本對應關係，筆記的某一章不會告訴你該去看 tiny-llm-zh 的哪個檔案。如果你需要的是可執行的學習路徑，直接進那幾個倉庫比在筆記倉庫裡找線索更有效率。另外 README 還推薦了同作者的 ai_interview_note，涵蓋深度學習、機器學習、推薦系統、搜尋系統，如果你的面試範圍比大模型更寬，那份是互補的。
維護成本取決於你把它放在哪個位置
這個倉庫沒有版本號、沒有 release、沒有 changelog，Last push 顯示 2026-06-14，說明作者仍在更新。對使用者而言，維護成本分兩種情況。如果你只是偶爾查閱，成本接近零：線上站點隨作者更新，你不需要做任何事。如果你打算把它引入團隊的內部知識庫，成本就出現了。你需要自己決定鎖定哪個 commit，因為沒有 tag 可依賴；你需要自己標註每一篇的引用來源，因為倉庫本身沒有做；你需要自己處理授權問題，因為根目錄的 License 欄位是空的。這三件事都不難，但都不是倉庫幫你做完的。考慮到內容以 Markdown 為主、結構清晰，把它當作內部文件的骨架再逐篇補上來源和日期，是一個可行且成本可控的做法。真正不划算的做法是原樣鏡像一份到內部 wiki 然後不再維護，因為大模型領域的內容衰減速度會讓鏡像在一年內明顯過時，而讀者無法從文件本身看出哪些部分已經失效。
編輯結論
這份倉庫適合正在準備大模型演算法或應用崗位面試的人，以及需要一份中文術語對照目錄來排查知識盲區的工程師；不適合把它當作生產環境的技術決策依據，因為它是個人整理的二手資料，沒有標註每條結論的來源版本，也沒有授權聲明。採用前先確認兩件事：倉庫根目錄是否附帶 LICENSE 檔案，以及你要引用的那一章最後一次實質修改是什麼時候。若這兩點都無法確認，就只把它當作索引來用，具體結論回到原始論文或官方文件核對。
社群筆記