云天励飞亮相2023世界人工智能大会 首次公开“天书”大模型动态

    本报记者 王镜茹

    2023世界人工智能大会于7月6日至8日在上海举办。本次大会上，云天励飞展示了自主设计开发的新一代边缘计算芯片DeepEdge10系列SoC芯片，并公布了“天书”大模型的最新动态。

    大模型与芯片全面亮相

    本次世界人工智能大会上，云天励飞展示了新一代边缘计算芯片DeepEdge10系列SoC芯片。

    该芯片于2022年底成功流片，采用国内先进工艺，支持多芯粒扩展的Chiplet技术，可提供12TOPS（INT8）整型计算和2TFLOPS（FP16）浮点计算的深度学习推理计算算力，满足市场对处理芯片在算法的多样性、准确性、算力密度及效能方面的要求，可广泛应用于AIoT边缘视频、移动机器人等场景。预计今年量产投入使用。

图为云天“天书”基础大模型架构 公司/供图

    此外，云天励飞还在大会上首次披露大模型“云天天书”的情况。据介绍，“云天天书”基础大模型架构包含三个层级：通用大模型、行业大模型、场景大模型。云天励飞基于算法开发平台和算法芯片化平台，并通过海量高质量数据预训练生产通用大模型；在通用大模型基础上，引入高质量行业数据，生产行业大模型；再在行业大模型的基础上，通过细分场景数据微调研发场景大模型。通过这样的三级架构，让大模型为千行百业赋能。

    据悉，基于“云天天书”大模型，云天励飞与深圳龙岗政数局共同探索了大模型在政务咨询服务系统的应用。通过对海量的政策、法规、办理流程等文本进行结构化梳理和分析，形成易于查阅的知识库，帮助服务人员快速查询和获取准确的信息，减少查阅时间，提高政务服务工作效率。目前该系统在行政服务大厅探索应用，未来计划逐步拓展到其他政府机构和公共服务领域，如法务、金融、教育、医疗、交通等。

    云天励飞与龙岗政数局合作探索打造的“大模型政务咨询服务系统”还入选了中国信通院《通用人工智能创新应用案例集》。

    “算法芯片化”能力加速AI落地

    据现场工作人员介绍，云天励飞核心能力是“算法芯片化”。所谓“算法芯片化”，不是“算法+芯片”，而是云天励飞基于对场景的深刻理解，以及对算法关键计算任务在应用场景中的量化分析，将芯片设计者的理念、思想与算法相融合的AI芯片设计流程。

    这一理念同样在本次展出的DeepEdge10芯片和“云天天书”大模型上有所体现。DeepEdge10可为大模型在边侧推理场景提供充足算力，可以解决大模型应用和部署过程中的各类挑战，包括新的神经网络计算范式、高带宽传输、分布式并行计算、低精度混合计算等，能够为大模型和实际应用场景嫁接起桥梁，让大模型技术能够高效、低成本地部署到终端，帮助场景探索更多大模型的创新应用。

    “应用产生数据、数据训练算法、算法定义芯片、芯片赋能应用”——这是云天励飞一直以来坚持的人工智能发展之路。基于这个思路，云天励飞于2020年正式提出“自进化城市智能体”的战略目标。在战略目标的指引下，云天励飞已经在深圳、东莞、青岛、成都、杭州、上海、北京等多个城市实现项目落地，成功打造了一系列标杆式项目。

    值得一提的是，2021年至2023年，深圳市政府工作报告连续3年提及要建设“鹏城自进化智能体”。今年6月份发布的《深圳市数字孪生先锋城市建设行动计划（2023）》也明确提到，“围绕分步有序建设鹏城自进化智能体，推进以数字孪生为特点的深圳智慧城市和数字政府建设。”

（编辑 汪世军）