JRY's digital garden

Home

❯

学习笔记

❯

LLM张老师

Folder: 学习笔记/LLM张老师

13 items under this folder.

  • Dec 06, 2025

    第8课 KV Cache 原理讲解

    • AI
  • Dec 06, 2025

    第9课 MHA、MQA、GQA各种注意力变种机制讲解

    • AI
  • Dec 06, 2025

    第10课 Sparse Attention & Infini Attention 稀疏注意力和无限注意力

    • AI
  • Dec 06, 2025

    第11课 Sinusoidal、RoPE、ALiBi等各类位置信息编码

    • AI
  • Dec 06, 2025

    第12课 LoRA、QLoRA 讲解

    • AI
  • Dec 06, 2025

    第13课 GPTQ、AWQ、GGUF等模型量化概念讲解

    • AI
  • Dec 06, 2025

    第1课 什么是线性变换 Linear Transformation

    • AI
  • Dec 06, 2025

    第2课 大模型的Temperature、Top-P、Top-K、Greedy Search、Beem Search

    • AI
  • Dec 06, 2025

    第3课 Scaling Law & 模型计算量介绍

    • AI
  • Dec 06, 2025

    第4课 手写 Model.py 大模型代码逻辑

    • AI
  • Dec 06, 2025

    第5课 手写 Train.py 大模型代码逻辑

    • AI
  • Dec 06, 2025

    第6课 手写 Inference.py 大模型代码逻辑

    • AI
  • Dec 06, 2025

    第7课 Flash Attention 原理讲解

    • AI

Created with Quartz v4.5.1 © 2025

  • GitHub
  • Discord Community