AI Infra 相关开源代码的阅读笔记，笔记主要以代码注释的方式呈现，极个别内容会添加文档笔记以辅助源码阅读。
| 项目名 | 笔记范围 | 笔记量 | 推荐系数 | 二次开发 |
|---|---|---|---|---|
| sglang | 整体精读 | 330 | ⭐⭐⭐ | / |
| cutlass | 部分阅读 | 16 | ⭐⭐ | / |
| lighteval | metrics评价指标部分 | 3 | ⭐ | pocket-ai/eval/llm |
| vllm | 部分阅读 | 20 | ⭐ | / |
| 项目名 | 主题 |
|---|---|
| sglang | kvcache代码梳理 |
git clone https://github.com/cjmcv/ai-infra-notes.git
cd ai-infra-notes
# 拉取你感兴趣的模块阅读，以sglang为例
git submodule init sglang
git submodule update sglang笔记部分会用 <NT> 标记，可以搜索查看
- 注意：如发现中文显示乱码，可尝试按GB2312或UTF8格式查看。以vscode为例，点击右下角的编码格式，选Reopen with Encoding，切换到GB2312或UTF8查看。
-
将想深入阅读代码的仓库fork下来，保留主分支用于同步代码.
-
基于当前主分支最新代码，新增note-date1分支, date1对应开分支前的最后一次提交日期。
-
网页端在settings中，将note-date1分支设为Default branch。
-
开始阅读note-date1分支代码，在代码阅读过程中将自己的理解以注释方式添加到代码里。
-
经一段时间阅读后，主分支已落后于原仓库，则通过网页端Sync fork直接将主分支更新到最新，基于更新后的主分支再新增一个note-date2。
-
因note-date2是基于主分支从原仓库上同步过来的，上一阶段的阅读笔记还留在note-date1中，则需要使用对比软件，手动将note-date1中的中文注解挪到note-date2中，同时将新的阅读分支设为Default branch，进行下一阶段的阅读，以5和6步反复推进。
-
将代码阅读的fork仓库以submodule的方式接入到本仓库中统一管理。
git submodule add https://github.com/cjmcv/sglang.git sglang