LLM 工作原理笔记

LLM 流水线提纲：text → tokenizer → embedding → positional encoding → attention → FFN → softmax → next token。各节多为 TODO。

Key points

• 核心链路：分词、嵌入、位置编码、注意力、前馈、下一 token 预测。
• 参考：0xkato「How LLMs Actually Work」；Hands-on Large Language Models。

Sources

• (Source: raw/_posts/2024-11-29-notes-on-llm.md)