My personal blog using issues and GitHub Actions (参考yihong)
- LeetCode 21：合并两个有序链表--2026-03-12
- 什么是Operator Fusion（算子融合）？--2026-03-05
- RLHF（Reinforcement Learning from Human Feedback，人类反馈强化学习） 的完整流程--2026-03-05
- 真实 AI 公司（尤其是 LLM / RAG 系统）的一整条请求链路--2026-03-05
- BM25 和 BGE-M3--2026-03-05
- QLoRA 深度解析：用 4bit 量化，把 70B 大模型拉进单卡时代--2025-12-13
- 从 Function Calling 到 MCP：大模型如何真正接入真实世界？--2025-12-13
- GRPO 详解：DeepSeek-R1/DeepSeekMath 为什么用它替代 PPO？--2025-12-13
- 从 RAG 到 GraphRAG，再到 LightRAG--2025-12-13
- SwiGLU 激活函数：为什么现代大语言模型的 FFN 都在用它？--2025-12-17
- RMSNorm：为什么大语言模型开始放弃 LayerNorm？--2025-12-16
- vLLM：为大模型在线推理而生的高性能引擎--2025-12-14
- 什么是 KV Cache？--2025-12-14
- Transformer 在哪里做了权重共享？--2025-12-14
显示更多
- 为什么 Transformer 使用 LayerNorm 而不是 BatchNorm？--2025-12-14
- Transformer 中 FFN 是做什么的？——为什么注意力之外还需要前馈网络--2025-12-14
- 混合精度训练时，哪些参数应该使用高精度，哪些该使用低精度？--2025-12-14
- Prefix-Tuning：在注意力机制中引入可学习前缀的参数高效微调方法--2025-12-14
- P-Tuning 与 P-Tuning v2：参数高效 Prompt 微调方法解析--2025-12-13
- 什么是Operator Fusion（算子融合）？--2026-03-05
- RLHF（Reinforcement Learning from Human Feedback，人类反馈强化学习） 的完整流程--2026-03-05
- 真实 AI 公司（尤其是 LLM / RAG 系统）的一整条请求链路--2026-03-05
- BM25 和 BGE-M3--2026-03-05
- 什么是 Reranker（Cross-Encoder）？--2026-03-05
显示更多
- 交叉熵是怎么计算的？--2026-03-05
- 怎么把 FP32 参数转换成 INT8？--2026-03-05
- 大语言模型的评估指标有哪些？--2026-03-05
- 大模型训练中的稳定性问题及解决方案--2026-03-03
- 如何监控和诊断大模型训练过程？--2026-03-03
- Gradient Scaling 可以解决 FP16 在训练中会出现的问题--2026-03-03
- 如何从 0 到 1 设计一个工业级大模型预训练流程？--2026-03-03
- 解释模型并行的几种实现方式--2026-03-03
- 什么是模型蒸馏？如何实现？--2026-03-03
- 比较GPT、BERT和T5的架构差异--2026-03-03
- 解释ZeRO优化器的三个stage--2026-03-03
- 如何设计一个适合大模型训练的优化器？--2026-03-03
- Dropout在大模型中的应用和调整策略--2026-03-03
- 解释Checkpointing技术及其内存优化原理--2026-03-03
- L2 正则化为什么不容易让参数变成 0？--2026-03-03
- 什么是 L1 正则化？什么是 L2 正则化？--2026-03-02
- 在推荐或 RAG 中如何完成亿级向量的快速检索？——IVFPQ--2026-03-02
- 什么是 Adam？--2026-03-02
- 梯度下降算法中的学习率衰减策略--2026-03-02
- 矩阵分解在大模型里的本质到底是什么？--2026-03-02
- 普通卷积 vs 深度可分离卷积（Depthwise Separable Convolution）--2026-03-02
- 卷积的本质是什么？--2026-03-02
- Pooling 是什么？作用是什么？--2026-03-02
- Self-Attention、传统 Attention、双向 LSTM 的区别--2026-03-02
- Python 中浅拷贝（shallow copy）和深拷贝（deep copy）--2026-03-01
- 多标签分类（Multi-label Classification）--2026-03-01