海上生林
原生修改大模型权重"老祖打通弟子任督二脉" 原生修改大模型权重"老祖打通弟子任督二脉"
MIT CSAIL 四人组的实验让 GPT-6 Astra 直接改 Qwen3.5-0.8B 的权重:不训练、不走梯度,只动 0.016%,MATH-500 从 7.9% 涨到 48.1%。但被中文报道略过的关键事实是:它不是"注入能力",而是拆掉了卡住小模型的一个环路——换一个不卡环路的模型,它就无能为力。这篇把实验细节、改动机制和可信度边界讲清。
小样本与零样本:被模型吸收的技巧与留下的工程 小样本与零样本:被模型吸收的技巧与留下的工程
zero-shot 赢成了所有模型交互的默认形态,few-shot 退守成小模型降本、输出校准、agent 示例四个工程阵地。
Transformer 是怎么工作的 Transformer 是怎么工作的
2017 年那篇论文真正拿掉的不是注意力,而是循环——把序列上不可并行的依赖换成一次矩阵乘法,让序列上任意两个位置直接相乘,此后所有主干模型都长在这个骨架上
AI Agent:一个循环、五个部件,和工程上真正难的地方 AI Agent:一个循环、五个部件,和工程上真正难的地方
agent 不是"更聪明的聊天机器人",而是一个"想—做—看"的循环加上五个部件。这篇按这个骨架把 agent 讲清楚:workflow 和 agent 的界限在哪、模型要多什么能力、工具怎么标准化(MCP)、记忆和规划怎么做、以及工程上真正难的是什么。
递归自我改进(RSI):这个方向现在到哪一步了 递归自我改进(RSI):这个方向现在到哪一步了
RSI 已经不只是哲学思辨——2025 年出现了能改写自己代码并在基准上涨分的 agent,2026 年 10 月又集中出现了一批"造自改进环境"的流水线和专门测"进化会不会跑偏"的基准。