Skip to content
 
 

Repository files navigation

⚡ Kimi K3 深入学习

以大模型前沿科技——Kimi K3——为锚点的系统性技术课程

Stars License Issues
Based on Kimi K3


📋 项目简介

Kimi K3 深入学习 是一套以「月之暗面 Kimi K3」技术报告为核心锚点、系统覆盖大模型全技术栈的课程体系。

从 Transformer 基础 → MoE 架构 → 注意力机制 → 长上下文 → 训练基础设施 → 对齐技术 → 多模态 → 推理优化 → Agent 系统 → 评测体系 → 前沿展望,共 11 课,逐层深入。

✨ 特色

  • 🎯 以具体模型为锚点——所有概念都落地到 K3 的具体实现(896 专家/KDA/AttnRes/MXFP4 等),避免纯理论空谈
  • 🎭 通俗比喻讲解——22 篇"通俗讲大模型"用生动比喻把复杂技术讲明白
  • 🎨 统一设计系统——基于 Open Design 标准,CSS 设计令牌驱动,视觉风格一致
  • 🧭 本地优先——纯 HTML + CSS + JS,无需服务器,浏览器直接打开即可使用
  • 项目级工作流——k3-course-skill/SKILL.md 固化课程创建流程,保证输出一致性

📚 课程体系

# 课程 核心内容
1 大模型技术全景图 LLM 全技术栈总览,K3 规格速览
2 MoE 深度解析 896 专家/16 激活,Stable LatentMoE
3 注意力机制进化史 2017 Transformer → KDA + AttnRes
4 位置编码与长上下文 RoPE → 1M 上下文,工程挑战
5 训练基础设施 3D 并行、混合精度、训练稳定性
6 对齐技术 SFT → RLHF → RL,思维历史保留
7 多模态视觉理解 MoonViT-V2,原生图文融合
8 量化与推理优化 MXFP4/MXFP8,QAT,推理��擎
9 Agent 系统与工具使用 MCP 协议,ReAct 循环,Coding Agent
10 评测体系 GPQA、SWE-bench、MCPMark 等
11 前沿展望 推理模型、多模态 Agent、趋势分析

📖 参考资料

文档 说明
术语表 22 个核心技术术语,A-Z 分类
通俗讲大模型 用生动比喻通俗讲解技术概念
K3 技术报告(PDF) Kimi K3 完整技术论文

🚀 快速开始

# 克隆仓库
git clone https://github.com/Azhu9701/Kimi-K3-Learn.git
cd Kimi-K3-Learn

# 直接打开主页
open index.html

所有页面为纯静态 HTML,无需安装任何依赖,浏览器直接打开即可使用。

键盘快捷键

快捷键 功能
Ctrl+K / ⌘K 聚焦侧边栏搜索
Ctrl+B / ⌘B 切换移动端侧边栏
Esc 关闭侧边栏(移动端)

🎨 设计系统

项目使用 Open Design 风格的 DESIGN.md 定义统一视觉语言。

  • 色彩:主题红 #c41e3a + 科技蓝 #1a56db + 羊皮纸 #fffff8
  • 字体:思源黑体(正文)+ 楷体(标题装饰)
  • 所有样式通过 CSS 变量(设计令牌)驱动,无硬编码色值

详见 DESIGN.md


⚡ 工作流

项目内置了课程创建工作流 skill:k3-course-skill/SKILL.md,涵盖:

  1. 创建新课程(模板 → 内容 → 组件)
  2. 更新侧边栏导航
  3. 更新课程主页
  4. 更新术语表
  5. 创建学习记录

���需新增课程,直接遵循该 skill 的步骤即可保持输出一致性。


🤝 贡献

欢迎提交 Issue 和 PR!详见 CONTRIBUTING.md


📄 许可

本课程内容采用 CC-BY-4.0 许可协议。

Kimi K3 技术报告和权重遵循 Kimi K3 License


基于 Kimi K3 构建 · 2026

About

Kimi K3 深入学习:大模型核心技术栈课程体系。11 课覆盖 MoE/注意力/长上下文/训练/对齐/多模态/量化/Agent/评测

Topics

Resources

Contributing

Security policy

Stars

Watchers

Forks

Releases

Packages

Contributors

Languages