5月27日,蚂蚁模态在蚂蚁工艺日上,集团蚂蚁集团旗下的官宣百灵大模型(Ling)团队宣布正式开源统一多模态大模型Ming-lite-omni。据蚂蚁方面介绍,开源这是统多一款基于Ling-lite构建的MoE架构的全模态模型,其总参数22B,大模电竞馆包间激情合集激活参数3B。蚂蚁模态
据悉,Ming-lite-omni当前模型权重和推理代码已开源,官宣后续会陆续开源训练代码和训练信息。开源
https://huggingface.co/inclusionAI/Ming-Lite-Omni
今年以来,统多百灵大模型已经连续开源了多个模型产物,大模包括2个MoE架构的蚂蚁模态护士酒店开房全集大语言模型,Ling-lite和Ling-plus,集团多模态大模型Ming-lite-uni,官宣以及Ming-lite-omni-preview。
其中,其中五月中旬开源了Ling-lite-1.5,据百灵方面介绍,“能力已经接近同水位SOTA水平,介于千问4B和8B的水平。”蚂蚁方面称,这两个模型在多个算力平台(包括非Hopper架构的国产算力)进行训练,验证了300B尺寸的SOTA MoE大语言模型在非高端算力平台上训练的可行性。
而本次开源的Ming-lite-omni产物在多项理解和生成能力评测中,性能与10B量级领先的多模态大模型相当或更优。蚂蚁方面认为,这是目前已知首个在模态支持方面能够与GPT-4o相媲美的开源模型。
百灵大模型负责人西亭对媒体表示,百灵大模型的命名规则是Ling代表基础大模型,Ring代表推理版本,Ming代表多模态大模型。百灵在过去主要在几个方面做了聚焦,一个是很早做MoE架构的探索,坚定的在语言大模型和多模态大模型上面统一使用了MoE的架构,同时使用了大量非高端的算力平台,证明了国产GPU的“也能训练出来可比拟GPT4o的模型”。其次,百灵很重视多模态领域的探索,一直在推进多模态的生成和理解的统一,而本次开源的Ming-lite-omin即是过去工艺探索的成果。
百灵方面表示,团队下一步将持续优化Ming-lite-omni在全模态理解和生成任务上的效果,并提升Ming-lite-omni的多模复杂推理能力;同时也会训练更大尺寸的全模态模型Ming-plus-omni。此外,根据西亭透露, 百灵还在筹备Ling的Max版本,发布节点将会是“追寻跟(deepseek)V3的版本差不多的版本时开出去”。
(雷峰网(公众号:雷峰网))
雷峰网原创文章,未经授权禁止转载。详情见转载须知。
用扩散模型生成神经网络?NUS 尤洋团队:这不是开玩笑
古装悬疑剧《魅影神捕》开机,罗云熙化身神捕探寻诡案迷局
大型当代舞剧《龙·舟》在澳门上演
上影节开幕大片“酱园弄”有何特别
南方电网发布首个「电力大模型」,百度智能云助力「智能电网」
《紫川之光明王》今日收官 杨旭文刘宇宁张铭恩三兄弟重新收回远州失地
赛车手刘瑞祺出席首届RED GALA 尽显时尚质感
首部以网暴为题材的原创音乐剧《无法访问》将上演 直面“网络暴力”对谈“N种解法”
《遮天》短剧正式开播!掌阅科技引领AI与真人实拍融合创作方向
陈嘉琦《红白大战》表现惊艳 获赞迷你版陈慧琳
抖音举办“反诈开放日”活动,同步上线首部反诈短剧
从首发抢购到创意改造,布鲁可与小黄人粉丝共赴欢乐之旅
冯德莱恩对中国提出三项要求,外交部回应
中国凉谷音乐盛典:张宏光、滕矢初、臧云飞打卡“奋斗者小时光”
沪藏音乐家同奏《喜马拉雅》 “音乐使者”诉说高原故事
电影《恋曲尘封》今日上映 聚焦弄堂里的“生煎”人生
星尘数据MorningStar正式发布!狙击“数据债”成最大看点
数字戏剧让每位观众都有“最优座位”
于谦首档个人社交微综艺今日头条独家开播,《一茶两座》以茶会友畅聊人生哲学
电影《风云山林》:从江湖险路到革命征途
实测:ChatGPT的翻译能力怎么样?
《寻访大师》:以国际传播之视野,书写跨国度之文明互鉴
《寻访大师》:以国际传播之视野,书写跨国度之文明互鉴
小城荔枝垂,翘首盼郎归!益世界《这城有良田》&电视剧《长安的荔枝》联动确认!