8月10日消息,Meta公司曾经是全球开源AI大模型中的扛把子,之后又选择了闭源,现在他们又变了,重新拥抱开源,扎克伯格还给蒸馏一事定调,强调蒸馏无罪。
最近Meta发布了多个大模型,最新的Muse系列性能有明显提升,甚至用户选择接受把数据交给Meta,价格还能降低多达95%,比DS V4 Flash都要便宜了,美国大模型也要走性价比之路。
今晚Meta更是兑现了承诺,正式开放了Muse系列模型权重,首先拿出的是Muse Glimmer,一款30B参数的Agent模型,由Muse Spark蒸馏而来,可以在Mac或单显卡PC上本地运行。
扎克伯格也正式确认主力大模型Muse Spark 1.2的权重也会在未来几周开放。
虽然这次开放模型权重跟承诺的时间间隔了4个月,但Meta这波总算没有食言,而且扎克伯格在开源的同时还发了一封公开信,开始强烈站队开源大模型,尤其是针对备受争议的蒸馏一事做出表态。
扎克伯格表示,模型向其他模型学习本来就是开源生态的一部分,美国想继续领跑开源AI,必须放松对蒸馏和训练数据的限制。
他反对蒸馏有害的说法,强调蒸馏是无罪的,认为能观察到的东西就应该允许学习,美国如果先把自己束缚了手脚,最终只会让其他国家的开源模型追得更快。
他对蒸馏的观点跟OpenAI及Anthropic两家是不同的,后两者为了维护自己的地位,强烈反对其他家蒸馏自己的大模型,并多次游说美国国会要求将蒸馏定性为一种犯罪,对蒸馏的态度极为敌视,而且疯狂,完全不提他们的大模型本身就从全人类的知识及互联网中的积累蒸馏而来的,也包括庞大的中文资料。
当然,扎克伯格虽然对蒸馏的态度跟这两家不同,但他们的利益点其实是一样的,依然是维护美国在AI上的领先,只不过Meta支持用蒸馏的方式提升模型能力,OA两家反对别人蒸馏他们的模型,完全不反对自己蒸馏别人的数据。
【本文来源:快•科技】
