Fine-tuning 与 Weight-Space Programming
对比梯度训练与 LLM 直接权重编辑的输入、更新机制和产物。
Fine-tuning 与 Weight-Space Programming
WEIGHT-SPACE PROGRAMMING · WSP-COMPARE
A / OPTIMIZATION-DRIVEN
B / REASONING-DRIVEN
训练数据 + 目标函数
dataset · loss · constraints
Forward / Backward Pass
gradient computation
Optimizer 更新权重
W ← W − η∇L
目标 + 失败证据
objective · traces · examples
LLM 检查权重与行为
tensor inspection · forward probes
提出并应用 Patch
explicit tensor edits
更新方向来自梯度
更新方案来自推理与实验反馈
两者都需要计算与评估；区别不是“有没有计算”，而是“如何决定参数更新”。
DEVWEEKLY / RESEARCH NOTE / 2026-11-03