C++ / OS / CUDA / HPC
C++ / OS / CUDA / HPC
C++、OS、CUDA / HPC。
Topics
内容
- OS：进程、地址空间、文件描述符
- C++：对象生命周期、资源管理、并发
- CUDA / HPC：执行模型、访存、profiler
Systems Review
vLLM 数据流
continuous batching、PagedAttention、prefill / decode、decoder-only Transformer block。
Input Tokens
N × Decoder Block
Paged KV Cache
Recent Posts
近期更新
Projects 2026/5/6
多模态机器人对话导航系统：从感知到执行的 Agent 链路
基于 Python + Pydantic + FastAPI 风格 HTTP 服务搭建的多模态对话 Agent 原型，覆盖 VLM 图像理解、多轮状态管理、结构化输出校验、端云路由、工具调用、主动交互与 Case 分析，面向机器人交互场景的完整技术实践。
LLM Inference 2026/4/27
TVM 与 TileLang：深度学习编译器
整理深度学习编译器和高性能 kernel DSL 的实际作用，避免和推理引擎搞混。
LLM Inference 2026/4/27
大模型分布式并行的实际配合
DP、TP、PP 单独看都明白，叠加在一起就容易晕。整理一下实际怎么用。
LLM Inference 2026/4/27
长上下文推理的工程问题
整理百万上下文下 prefill、decode 和调度的实际瓶颈。
LLM Inference 2026/4/27
DeepSeek-V4 架构整理
整理 DeepSeek-V4 的架构设计，包括 MoE、MLA、Engram Memory 和 mHC。
LLM Inference 2026/4/27
MLA 和 MHA 的 Kernel 区别
从 Kernel 实现角度对比 MLA 和 MHA，包括内存访问、计算强度和量化影响。
C++ / OS / CUDA / HPC
C++ / OS / CUDA / HPC
Interview Prep 2026/4/11
C++ 面试复习：对象模型、资源管理与并发主线
先把 C++ 面试里最常见的三条线讲顺：对象怎么活、资源怎么管、并发代码为什么会错。
Interview Prep 2026/4/11
CUDA / HPC 面试复习：从执行模型到性能分析
把 CUDA / HPC 面试里最常被问的执行模型、内存层次和性能分析连成一条链。
Interview Prep 2026/4/11
OS 面试复习：进程、地址空间与文件系统主线
把进程、虚拟内存、页表、文件描述符和系统调用放到一条能讲顺的链上。
Interview Prep 2026/4/11
面试复习系列总览
这组文章怎么读、每篇解决什么问题，以及写这组内容时我刻意保留的边界。