百度放大招:文心大模型 4.5 系列 10 款模型全开源

309次阅读
6 月 30 日,百度正式将文心大模型 4.5 系列模型开源,涵盖了包含 47B、3B 激活参数的混合专家(MoE)模型,以及 0.3B 参数的稠密型模型等在内的 10 款模型 ,做到了预训练权重和推理代码的完全开源。现在,文心大模型 4.5 开源系列已在飞桨星河社区、HuggingFace 等平台上线,开发者可下载部署使用;同时,开源模型 API 服务在百度智能云千帆大模型平台也能使用 。其实早在今年 2 月,百度就预告了文心大模型 4.5 系列将推出,并明确 6 月 30 日正式开源。

百度放大招:文心大模型 4.5 系列 10 款模型全开源

此次百度一口气开源 10 款文心大模型 4.5 系列模型,不管是独立自研模型数量占比、模型类型数量,还是参数丰富度、开源宽松度与可靠性等方面,在行业内都处于领先。
据悉,文心大模型 4.5 开源系列针对 MoE 架构,提出了创新的多模态异构模型结构,这种结构适用于从大语言模型向多模态模型的持续预训练范式,在保证甚至提升文本任务性能的同时,极大地增强了多模态理解能力 。其出色性能主要源于多模态混合专家模型预训练、高效训练推理框架,以及针对模态的后训练等关键技术。
文心大模型 4.5 开源系列基于飞桨深度学习框架,进行高效训练、推理与部署,在大语言模型预训练中,模型 FLOPs 利用率(MFU)达到 47% 。实验显示,该系列模型在多个文本和多模态基准测试里达到了 SOTA 水平,尤其在指令遵循、世界知识记忆、视觉理解和多模态推理任务上表现亮眼 。
文本模型方面,文心大模型 4.5 开源系列基础能力强,事实准确性高,指令遵循能力突出,推理和编程能力优秀,在多个主流基准评测中超越了 DeepSeek-V3、Qwen3 等模型 。多模态模型方面,该系列具备卓越的视觉感知能力,熟知丰富视觉常识,实现思考与非思考统一,在视觉常识、多模态推理、视觉感知等主流多模态大模型评测中,优于闭源的 OpenAI o1 。轻量模型上,文心 4.5-21B-A3B-Base 文本模型与同量级的 Qwen3 效果相当,文心 4.5-VL-28B-A3B 多模态模型是目前同量级中最好的多模态开源模型,和更大参数的模型 Qwen2.5-VL-32B 相比也不逊色 。
文心大模型 4.5 开源系列权重遵循 Apache 2.0 协议开源,支持学术研究和产业应用 。并且,基于飞桨提供的开源产业级开发套件,能广泛兼容多种芯片,降低了模型后训练和部署的门槛 。
作为国内较早投身 AI 研发的企业,百度在算力、框架、模型到应用的四层布局中,构建了显著的 AI 全栈技术优势 。飞桨作为中国自主研发、功能丰富、开源开放的产业级深度学习平台,基于多年的开源技术与生态积累,此次文心大模型 4.5 开源系列同步升级发布了文心大模型开发套件 ERNIEKit 和大模型高效部署套件 FastDeploy,为文心大模型 4.5 系列及开发者提供便捷工具和全流程支持 。
值得一提的是,文心大模型 4.5 系列开源后,百度实现了框架层与模型层的 “双层开源” 。
正文完
请使用微信扫一扫(自愿无偿打赏-乞讨)
post-qrcode
 0

未知文明

特别声明
网站内容部分通过网络收集、整理与优化,若您发现任何内容存在侵权问题,请及时通过admin@xwenming.com与我联系,将在核实后第一时间删除相关内容。
本站严格遵守法律法规,坚决不提供任何破解、侵权类技术支持或资源,所有内容仅用于学习交流与经验分享。感谢您的理解与支持,祝您在本站收获实用信息!
随机文章
Windows 10 桌面找不到 “我的电脑”?3 步找回图标,附显示其他系统图标技巧

Windows 10 桌面找不到 “我的电脑”?3 步找回图标,附显示其他系统图标技巧

刚装完 Windows 10 的朋友,可能会发现桌面空空如也 —— 连熟悉的 “我的电脑” 图标都没有,想打开...
5MB 轻量神器 ZyperWin++ 救场!Win11 优化 + 清垃圾 + 装 Office + 激活,一个顶仨

5MB 轻量神器 ZyperWin++ 救场!Win11 优化 + 清垃圾 + 装 Office + 激活,一个顶仨

ZyperWin++是一个轻便的Windows优化工具,适用于Win7-Win11最新版的优化,包括性能优化、...
Chrome 更不了新?遇 0x800704c7/0x80040154 错误,轻松修复!

Chrome 更不了新?遇 0x800704c7/0x80040154 错误,轻松修复!

最近用 Chrome 的时候,突然弹出 “检查更新时发生错误”,要么是 “更新检查启动失败(错误代码 3:0x...
今天要到饭了!感谢A*o的打赏!1 元温暖助力,这份支持会记在心里~

今天要到饭了!感谢A*o的打赏!1 元温暖助力,这份支持会记在心里~

今天收到了来自 “A*o” 的 1 元打赏,虽然金额不大,但每一份支持都让我倍感温暖!这份信任和鼓励是我继续前...
Snipaste 截图神器:精准截图 + 浮动窗口编辑,标注模糊功能全免费

Snipaste 截图神器:精准截图 + 浮动窗口编辑,标注模糊功能全免费

每天工作中截图次数多到数不清?用系统自带的截图工具总觉得不够顺手:要么框选不够精准,要么截完图想标注还要另开软...
ADB命令工具包下载及安装教程(Windows版,含platform-tools_r31.0.3)

ADB命令工具包下载及安装教程(Windows版,含platform-tools_r31.0.3)

ADB(Android Debug Bridge)是安卓开发者必备的调试工具,通过它可以在电脑上对安卓设备进行...
惊叹!Nano-Banana 让手办图片与视频制作超简单

惊叹!Nano-Banana 让手办图片与视频制作超简单

最近,Nano-Banana 在网络上掀起热潮,它的玩法多得让人眼花缭乱,其中有一种玩法尤其吸睛,那就是凭借一...
Win10/11 左键双击快捷方式无反应?右键菜单缺失打开选项的解决办法

Win10/11 左键双击快捷方式无反应?右键菜单缺失打开选项的解决办法

之前遇到过一个奇葩的事,就是桌面上的快捷方式双击打不开了,右键菜单栏里面也没有打开选项。具体是怎么造成的已经不...
6 款安卓模拟器对比测评:GameLoop/LDplayer/ 夜神等哪款最适合你?游戏 / 办公全场景推荐

6 款安卓模拟器对比测评:GameLoop/LDplayer/ 夜神等哪款最适合你?游戏 / 办公全场景推荐

想在电脑上玩安卓手游,却找不到流畅的模拟器?需要用电脑运行微信小程序、安卓办公软件,却被模拟器卡顿、广告多的问...
经典编辑器!Notepad++ 轻量又好用,中文界面 + 无广告,写代码、记笔记都顺手,比 VSCode 更省心

经典编辑器!Notepad++ 轻量又好用,中文界面 + 无广告,写代码、记笔记都顺手,比 VSCode 更省心

用惯了 VSCode 的复杂设置,或是嫌 Sublime 全英文界面看着头疼?有没有一款编辑器,既能轻松写代码...