10月17日,云智一体baidu天下大会2023在北京首钢园召开。抖降baidu智能云在大会时期宣告:周全降级“云智一体”策略,策级工面向客户落地大模子的略面率超五类需要提供全栈效率妄想;面向AI原生运用开拓,重磅宣告“千帆AI原生运用开拓使命台” ,向大需打减速企业AI原生运用落地;宣告AI原生运用商铺,模效以及大模子全链路生态反对于系统 ,云智一体赋能过错商业削减,抖降共建 、策级工同享兴隆的略面率超大模子财富生态。
自2020年起,云智一体baidu智能云在业界争先提出“云智一体”策略 ,抖降并在技术架构与效率等方面妨碍了一再迭代降级 。策级工本届baidu天下大会,“云智一体”的策略外在周全降级为“云智一体,深入财富,生态兴隆 ,AI普惠”。
baidu总体实施副总裁 、baidu智能云事业群总裁沈抖展现 ,家养智能与云合计的深度散漫是企业快捷落地AI原生运用的关键 ,这也是baidu智能云不断倡讲以及践行的“云智一体”理念。当初,baidu总体所有运用以及效率全副基于”云智一体“技术架构运行在baidu智能云上 。此外 ,面向客户落地大模子的五类需要,baidu智能云基于千帆大模子平台打造的“大模子超级工场”分说给出了最佳效率妄想 。
首先,针对于惟独算力需要的客户 ,千帆平台可能提供极致高效以及性价比的异构算力效率 。在客户最体贴的大模子磨炼关键 ,经由火布式并行磨炼策略以及微秒级互联能耐 ,千帆平台可能实现万卡规模集群磨炼的减速比抵达95%;经由事条件防 、事中实时发现、定位 、处置 ,最大限度防止集群因倾向等原因发生的实用运行 ,后退实用磨炼光阴占比 ,万卡集群实用磨炼光阴占比抵达96% ,短缺释放集群实用算力 ,大幅飞腾客户算力与光阴老本。
此外,千帆平台还兼容昆仑芯、昇腾 、海光DCU 、英伟达 、英特尔等国内外主流AI芯片 ,反对于客户以最小的切换老本实现算力适配。
面壁智能携手知乎 ,基于baidu智能云提供的AI算力集群,磨炼出“知海图AI”大模子以及多模态大模子Luca,在千卡集群上的实用磨炼光阴占比高达99% ,在保障模子磨炼不断性的同时,可能实现模子磨炼下场的高效收敛。此外 ,知乎、好未来、地平线等企业也正在基于baidu智能云提供的AI算力效率,以愈加晃动 、高效以及经济的方式实现大规模集群的磨炼以及规画。
其次,在模子层面,对于愿望直接调用已经有大模子的客户,在千帆平台 ,企业客户可能快捷调用搜罗文心大模子在内的种种大模子的API,取患上大模子能耐 。对于第三方大模子 ,千帆平台还针对于性地妨碍了中文增强、功能增强、高下文增强等优化 。当初千帆平台已经效率了逾越17000家客户 ,大模子API调用量不断高速俯冲。
第三,对于愿望基于现有大模子妨碍二次开拓的客户 ,千帆平台为大模子的再磨炼 、微调、评估以及部署等关键提供全性命周期工具链、业界至多的41个高品质行业数据集,辅助客户针对于自己营业场景快捷优化模子下场 。当初 ,搜罗中国邮政蕴藏银行、度小满、金山办公、河北高速总体在内的诸多行业头部客户 ,都正在经由千帆平台提供的工具链效率开拓出贴配合业需要的专属大模子