证券日报微信

证券日报微博

您所在的位置: 网站九游会·J9 > TMT频道 > TMT行业 > 正文

蚂蚁数科SOFAStack发布大模型服务平台

2024-06-28 20:24  来源:证券日报网 

    本报讯 (记者李冰)6月28日,蚂蚁数科旗下多云PaaS平台SOFAStack正式发布大模型服务平台AIMax。据悉,该平台兼容适配主流开源大模型、国产算力,向企业提供进行模型训练、部署、评估、优化等一站式模型工作台,并实现可视化研发、管理多种具备行业知识库的Agent(智能体)应用。当日,SOFAStack与行云创新、AutoMQ、联创集团、谐云科技等生态伙伴签约,将共建多云、多模型生态,加速大模型在各行业落地。

    据了解,基于SOFAStack多云兼容属性,AIMax具备两层核心特性:在资源层,支持多种国产GPU算力平台纳管部署,企业按需灵活使用资源,使得有限的GPU资源可以高效地被利用起来,同时大大降低服务器使用成本;在应用层,企业可以根据业务需求快速输出定制化的AI模型,构建服务业务需求的智能体,极大简化技术实施过程。

    “大模型的高速发展使得AI不得不面临算力管理复杂、训练推理成本高、任务调度难等多方面发展瓶颈,云原生凭借其高可用、弹性、可扩展等优势成为突破AI困境的关键。”中国信息通信研究院云大所副所长栗蔚表示,“云原生PaaS平台的大模型产品工具链不断完善,将加速大模型技术在行业应用中落地。”

    “对企业来说,大模型训练耗时耗力耗资源,AIMax不仅支持主流开源大模型的一键微调训练,还提供三步即完成的零代码模型开发环境,把原先耗费至少3天的训练缩短至1小时。蚂蚁自研的预训练模型与先进的多模态算法,仅需小量数据即可进行训练,进一步提升数据的利用率和模型训练的效率。”蚂蚁数科云原生产品资深总监马振雄介绍。

(编辑 张钰鹏)

九游会·J9 - 中国官方网站 | 真人游戏第一品牌
  • 24小时排行 一周排行

版权所有证券日报网

互联网新闻信息服务许可证 10120180014增值电信业务经营许可证B2-20181903

京公网安备 11010202007567号京ICP备17054264号

证券日报网所载文章、数据仅供参考,使用前务请仔细阅读法律申明,风险自负。

证券日报社电话:010-83251700网站电话:010-83251800

网站传真:010-83251801电子邮件:xmtzx@zqrb.net

官方客户端

安卓

IOS

官方微信

扫一扫,加关注

官方微博

扫一扫,加关注