不同的秤盘,不该称同样的重量
你有没有想过,一个行李箱的打包问题,其实藏着人工智能领域一个挺重要的技术难题?假设你要去出差一周,要带七套不同场合的衣服:健身服、正装、休闲装、雨具、泳衣,等等。行李箱空间有限,你会怎么分配?大部分人的直觉是平均分配,每类衣服都塞差不多的量。
告别多奖励跷跷板:Flow-OPD将多教师OPD带入图像生成
今年以来,在线策略蒸馏 OPD已经逐渐成为大厂 LLM 后训练中的重要组件,例如 DeepSeek-V4,GLM5 就使用了多教师 OPD 来整合不同领域专家模型的能力,相比混合奖励强化学习收敛更快、效果更好。
教AI「择偶生娃」,复刻自然演化,上交校友提名最佳论文
Sakana AI以自然演化为灵感,提出了一种全新的模型融合进化方法M2N2。通过引入自然界的「择偶机制」,AI可以像生物一样「竞争、择偶、繁衍」。在当前全球算力短缺、模型训练实际规模受制的情况下,Sakana AI借助自然界的启示,为模型融合探索出了一条新路。
科学家拆掉大模型融合三堵墙,可基于任何开源模型打造更强模型
在过去一年间,香港理工大学计算机与数学科学学院副院长杨红霞教授和团队先后做出 InfiFusion、InfiGFusion 和 InfiFPO 等三项大模型成果,并把它们拆成三篇连续的论文,弥补了大模型融合领域的几块空白。图 | 杨红霞(来源:https://www.polyu.
143亿,英伟达AMD联手投出史上最大种子轮
智东西7月16日消息,今日,前OpenAI首席技术官Mira Murati创办的AI公司Thinking Machines Lab宣布完成20亿美元种子轮融资,由a16z领投,NVIDIA、Accel、ServiceNow、CISCO、AMD、Jane Street等参投。这是史上最大规模的种子轮融资,而TML成立于2025年2月,至今仅5个月。
1100多个模型殊途同归,指向一个通用子空间,柏拉图又赢一回?
机器之心报道编辑:张倩模型架构的重要性可能远超我们之前的认知。最近,约翰斯・霍普金斯大学的一项研究发现:1100 多个不同的神经网络,即使在完全不同的数据集上训练、用不同的初始化和超参数,最终学到的权重都会收敛到一个共享的低维子空间。
多模态后训练反常识:长思维链SFT和RL的协同困境
在语言模型领域,长思维链监督微调(Long-CoT SFT)与强化学习(RL)的组合堪称黄金搭档 —— 先让模型学习思考模式,再用奖励机制优化输出,性能通常能实现叠加提升。
林俊旸离职后首次发声,复盘千问的弯路,指出AI的新路
林俊旸,离职阿里千问后首次发声。整篇文章谈的是技术和AI的未来方向,但字里行间对千问技术路线的反思藏不住。
Occamy-1.0:35B模型如何在"打杯咖啡"式的日常工作里跑赢巨无霸
你有没有想过一件事:为什么公司里那些天天用AI帮你订机票、查数据、写周报的智能助手,用起来总感觉有点"贵"?打开账单一看,好家伸,调用一次顶级大模型处理一个简单的文件重命名任务,花的钱够买好几杯咖啡。这不是错觉。
FDA对偶锚点:模型知识迁移的新视角——从参数空间到输入空间
针对这一问题,研究者们提出了 FDA——一个全新的模型融合框架。Title:Model Merging with Functional Dual Anchors。