JRY's digital garden

index

24 min read

Wiki Index

This file is maintained by the LLM. Updated on every ingest.

Overview

  • Overview — 五大知识领域全景综合：LLM/AI、大数据工程、量化金融、哲学经济学、读书笔记

Sources

Buffett Annual Letters

Smart Manufacturing（智能制造）

Entities

  • DeepMind — Google旗下AI实验室，Chinchilla Law
  • Google — Big Bird稀疏注意力，Gemini长上下文
  • HuggingFace — 开源ML平台，Transformers库
  • Kimi — 中国AI公司，长上下文应用
  • Meta — LLaMA系列模型
  • MistralAI — 法国AI公司
  • OpenAI — GPT系列创建者
  • PyTorch — 深度学习框架
  • TriDao — Flash Attention作者，Stanford
  • WeightsAndBiases — ML实验跟踪平台
  • XTuner — 上海AI实验室大模型微调工具库
  • SWIFT — 阿里达摩院大模型微调框架
  • DataLab — 腾讯一站式LLM-based BI平台
  • Shanghai AI Lab — 上海人工智能实验室，InternLM/XTuner
  • Confucius — 儒家创始人，孔子形象在不同时代的六次转变
  • Plato — 古希腊哲学家，洞穴之喻、理念世界
  • Aristotle — 古希腊哲学家，目的论、形而上学奠基人
  • Hayek — 奥地利-英国经济学家，知识论、自由市场
  • DanKoe — 内容创作者，AI时代品味与使命导向策略
  • WuJun — 计算机科学家/作家，成长三维度
  • Eckhart Tolle — 心灵导师，《当下的力量》作者
  • Viktor Frankl — 意义疗法创始人，集中营幸存者
  • Warren Buffett — 价值投资旗手，伯克希尔董事长，1957-2024年度股东信作者
  • Charlie Munger — 伯克希尔副董事长，推动投资哲学从”便宜”到”优质”
  • Berkshire Hathaway — 全球最大控股公司之一，保险浮存金+资本配置模式
  • WorldQuant — 全球量化投资公司，BRAIN平台运营方
  • ISA-95 — 企业系统与控制系统集成的国际标准

Concepts

  • ALiBi — 线性偏置位置编码（概念页见PositionalEncoding）
  • DecodingStrategy — 解码策略：Greedy/Beam/Top-K/Top-P/Temperature
  • FineTuning — 微调技术：全参数/LoRA/QLoRA
  • FlashAttention — Tiling分块+Online Softmax，HBM访问O(N²)→O(N)
  • FLOPs — 浮点运算量 C≈6×N×D
  • GQA — 分组查询注意力，LLaMA采用，内存536→130MB
  • InfiniAttention — 压缩记忆实现无限上下文
  • KVCache — 推理加速缓存，56倍提速
  • LinearTransformation — 线性变换几何直观
  • LoRA — 低秩适配，ΔW=B×A，参数减少99%+
  • ModelQuantization — FP32→INT4量化，GPTQ/AWQ/GGUF
  • MultiHeadAttention — 多头注意力，MHA/MQA/GQA演化
  • PositionalEncoding — 位置编码：正弦/RoPE/ALiBi
  • QLoRA — 4-bit量化+LoRA，消费者GPU微调
  • RoPE — 旋转位置编码，LLaMA/Qwen采用
  • ScalingLaw — 幂律关系 L(N,D)=E+A/N^α+B/D^β
  • SparseAttention — 稀疏注意力 O(N²)→O(N√N)
  • TrainingPipeline — 训练管线：分词→批次→前向→损失→反向→更新
  • Transformer — 编码器-解码器架构，自注意力+FFN
  • RAG — 检索增强生成，外部知识检索+LLM生成
  • MoE — 混合专家模型，门控机制+稀疏激活
  • SparkPerformance — Spark性能优化七大方向与优化路线图
  • DataWarehouse — 数据仓库建模：五层架构、维度建模四步法、指标体系
  • DataGovernance — 数据治理：SLA框架、五种SLA维度、四种SLA类型
  • DataSkew — 数据倾斜：Shuffle中Key分布不均的定位与解决方案层次
  • HiveSQL — Hive SQL：分区分桶、复杂类型、ETL模式
  • PlatosCave — 洞穴之喻：表象世界vs真实世界，信息与权力
  • BanalityOfEvil — 平庸之恶：放弃独立思考使普通人成为帮凶
  • TragedyOfCommons — 公地悲剧：个体理性vs集体理性的冲突
  • HayekKnowledge — 哈耶克知识论：知识分散性与价格机制
  • CognitiveBoundaries — 认知边界：理性自限的数学/认识论/实践维度
  • FairnessAndEfficiency — 公平与效率：科斯定律下的法律经济学
  • FourteenUndetermined — 十四无忌：佛陀悬置的形而上学问题
  • CoaseTheorem — 科斯定律：交易成本与资源最优配置
  • IdentityProblem — 同一性问题：忒修斯之船、阿能诃鼓
  • UnfalsifiabilityOfDivination — 占卜的不可证伪性：逻辑闭环与心理需求
  • Logotherapy — 意义疗法：意义意志、悲剧乐观主义、三种意义途径
  • Mindfulness — 当下觉察：强迫性思考、小我、痛苦之身、冥想消解
  • ValueInvesting — 价值投资：安全边际、能力圈、复利、从格雷厄姆到巴菲特的演进
  • SmartManufacturing — 智能制造：IoT+大数据+AI+数字孪生，工业4.0五层架构
  • OEE — 设备综合效率：可用率×性能率×质量率，世界级≥85%
  • DigitalTwin — 数字孪生：物理实体的数字映射，虚实双向交互
  • IndustrialDataPlatform — 工业数据平台：五层架构（采集→存储→计算→服务→应用）

Syntheses

5 items under this folder.