访客信息
☁️
--°天气加载中
正在获取所在地区…
💨 风力--
💧 湿度--
正在读取天气
公告
音乐
音乐
暂未播放
0:00/0:00
暂无歌词
llm-algo-leetcode 推理优化笔记
2026-08-19
Datawhale llm-algo-leetcode 推理优化课程的笔记导航页,汇总本系列各 Task 的学习笔记(GPU 架构与内存、KV Cache 优化技术等)。
Image API Error

Roofline Model
2026-09-14
Roofline Model 的基本概念、Arithmetic Intensity、memory-bound / compute-bound 判断,以及 GEMM、FlashAttention、算子融合等常见优化方向。
Image API Error

Image API Error

从 Logits 到 Token:解码采样策略
2026-09-07
从 Logits 到 Token 的解码采样策略:Temperature、Top-K、Top-P(Nucleus)原理,以及 Claude Code 文字水印技术。Datawhale llm-algo-leetcode 推理优化课程 Task 3 笔记。
Image API Error

Speculative Decoding
2026-09-07
投机解码(Speculative Decoding)与多 token 解码技术:基本原理、分类,以及 MTP、DFlash、DSpark 概览。Datawhale llm-algo-leetcode 推理优化课程 Task 3 笔记。
Image API Error

KV Cache 与推理服务内存管理
2026-09-07
KV Cache 与推理服务内存管理:vLLM PagedAttention、SGLang RadixAttention、Prefix Caching 与 Chunked Prefill。Datawhale llm-algo-leetcode 推理优化课程 Task 3 笔记。
Image API Error

模型量化策略
2026-09-07
量化推理与部署:INT4/INT8 量化理论、W8A16、GPTQ 与 AWQ 权重量化。Datawhale llm-algo-leetcode 推理优化课程 Task 5 笔记,正在完善中。
Image API Error

站点统计
文章
448
分类
29
标签
451
总字数
6,178,652
运行时长
0 天
最后活动
0 天前
最新动态
日
一
二
三
四
五
六
文章目录
访客信息
☁️
--°天气加载中
正在获取所在地区…
💨 风力--
💧 湿度--
正在读取天气
公告
音乐
音乐
暂未播放
0:00/0:00
暂无歌词
站点统计
文章
448
分类
29
标签
451
总字数
6,178,652
运行时长
0 天
最后活动
0 天前
最新动态








