品玩12月1日讯,据 marktechpost 报道,为应对大模型训练中合成数据生成的扩展性瓶颈,Meta AI研究人员推出新型框架Matrix。
该框架摒弃传统中央控制器架构,采用对等(peer-to-peer)多智能体设计,将控制流与数据流序列化为“协调器”(orchestrator)消息,通过分布式队列在Ray集群中传递。各无状态智能体以Ray Actor形式运行,独立处理任务并直接转发至下一节点,实现行级异步调度,避免批处理同步等待。
实测表明,Matrix在保持输出质量的同时,于真实负载下实现2至15倍的吞吐量提升,显著优化GPU利用率与数据多样性。





0 条评论
请「登录」后评论