Meta Superintelligence Labs · Meta AI Research · 阅读原文
原始来源:Meta Superintelligence Labs · Meta AI Research
发现渠道:Hacker News
Meta发布Muse Spark Open权重,816B总参数、42B激活参数,原生多模态和1M上下文。官方展示两台各512GB统一内存的M5 Ultra Mac Studio运行模型,并提供多种推理框架接入;许可证为附条件的Muse Model License。内核加速与整段任务提速需要分开看:官方列出的内核增益范围很大,而AMD MI350端到端增益为3%。桌面部署能力不自动等于便宜或低延迟。
可信度 65 · 重要性 74 · 新颖度 72
技术与主题
AI 编程 · 系统与效率 · 基础模型 · MoE · MLX · Model Quantization
tidbeck
针对同一Muse Spark Open发布中的Mac部署说明。
忠实转述(非原句):他读到两台512GB或四台256GB机器容纳量化模型的配置,却找不到相应推理速度信息。
Nathan Lambert
X公开作者原帖经FxEmbed取得;评价许可,不是模型效果实测。
忠实转述(非原句):他不满品牌标识要求,认为收入门槛相对合理;还提到使用范围限制,以及这些条款也许会影响用输出训练的模型,最后这一点在原帖中带有“可能”的限定。
编辑评读
开放权重带来的是部署与定制的选择。是否适合一项工作,还要测上下文长度、量化、并发、首token延迟及完成时间。两台机器容纳模型,回答了容量问题;它没有代替这些任务测量。HN里tidbeck正追问速度,另一条回复只给出无条件的约20token/s,本期不把它当可比较的实测。
Nathan Lambert对许可限制的批评也应与能力评价分开。他的原帖列举品牌标识、收入条件、使用范围以及对衍生模型的担忧,并对最后一项保留不确定语气。官方确认采用有限商业条款,已足以提醒部署者先读具体许可;不能把开放权重直接写成无条件开源,也不能把一位评论者的解读当作法律结论。
需要留意
- 官方自报部署与性能;尚未取得带完整配置的独立速度测试。