课业学习 项目总结

采用LLVM IR，Tiger编译器完整实现及解析

SJTU软件工程《编译原理与技术》课程大作业，战编译！

课业学习

SJTU软件工程《算法设计》复习笔记

计算机科学之基石 必备技能

科研笔记

投机推理（Speculative Inference）的两篇论文

LLM推理加速三大法宝——模型压缩、稀疏和投机推理

科研笔记

论文精读 | PowerInfer: Fast Large Language Model Serving with a Consumer-grade GPU

LLM端侧高速推理引擎

课余学习 项目总结

实现一个微型深度学习框架Needle

《CMU 10-414 Deep Learning System》课程配套项目