📅 今天·3 条记录 · 85 分钟
14:20 - 15:02
深度学习
实验
LoRA 微调实验：调整 rank 与 alpha 参数
对比了 rank=8/16/32 三组配置，rank=16 时验证集损失最低，记录了显存占用变化规律。还需补充 dropout 参数的实验。
关联知识点：
LoRA
微调
超参数
10:05 - 10:30
大语言模型
复习
复习 Attention 机制与多头注意力推导
重新推导 Q/K/V 的矩阵运算过程，整理了 2 页手写笔记，标注易混淆点。下次需要对比 GQA 与 MHA 的差异。
关联知识点：
Attention
Transformer
08:30 - 08:48
其他
阅读
阅读《Attention Is All You Need》论文前言部分
重温原始论文的动机章节，理解为什么选择纯 Attention 而非 RNN/CNN。
📅 昨天·2 条记录 · 93 分钟
21:40 - 22:35
大语言模型
精读
阅读 RAG 论文并整理精读笔记
重点研读检索器与生成器的联合训练部分，标注了 3 个待验证疑问点。计划周末动手复现实验。
关联知识点：
RAG
检索增强
16:00 - 16:38
AIGC 创作
实践
AIGC 工具实践：用 ControlNet 控制构图
尝试 OpenPose 与 Depth 两种控制方式，整理参数组合对照表。Depth 模式对建筑类场景效果更好。
关联知识点：
ControlNet
Stable Diffusion
📅 09-13 周日·2 条记录 · 110 分钟
20:00 - 21:10
机器学习
学习
学习 XGBoost 原理与 Python 实践
理解了梯度提升树的核心思想，对比了 XGBoost 与 LightGBM 的分裂策略差异。完成了一个分类任务的端到端实践。
关联知识点：
XGBoost
梯度提升
特征工程
10:00 - 10:40
其他
规划
制定下周学习计划
梳理了下周 5 个学习目标，按优先级排列。重点放在 RAG 系统的线上化部署。