nano-vllm源码分析
在大语言模型（LLM）的时代，推理效率成为了制约应用落地的关键瓶颈。想象一下，当你向 ChatGPT 提出问题时，它需要在几秒内处理数千个token，同时服
2025-12
2025-11
大模型权重文件解析
1、模型文件 以Qwen1.5-32B-Chat-AWQ模型文件列表为例： shengping.mo@y108p30:/data2/huggingface/Qwen/Qwen1.5-32B-Chat-AWQ$ ls -lh total 20G -rw-r--r-- 1 xd xd 839 Jun 27 22:30 config.json -rw-r--r-- 1 xd xd 243 Jun 27 22:30 generation_config.json -rw-r--r-- 1 xd xd 6.8K Jun 27 22:30 LICENSE -rw-r--r-- 1
2025-08
Python基础与速查手册
🧠 一、基础语法速查 🧠 Python 关键字（共 36 个，区分大小写） 关键字 说明 False 布尔值，假 True 布尔值，真 None 空值 and 逻辑与 or 逻辑或 not 逻辑非 if 条件语句 elif 条件分支 else 条件
2025-07
AI学习全景图
脑图
2022-10
K8S学习笔记(07): 服务发现
service 参考资料 01.一文讲透K8s的Service概念 02.k8s-service底层之 Iptables与 IPVS 03.K8S的ServiceIP实现
2022-09
K8S学习笔记(06): 资源
简介 k8s中所有的内容都抽象为资源， 资源实例化之后，叫做对象。 资源类型介绍 工作负载型资源对象（workload）：Pod，ReplicaSe