您的位置:锦懂家 > 百态 > >正文

​100天加速度,阶跃星辰大模型“全家桶”首次亮相,万亿参数性能逼近GPT-4

摘要100天加速度,阶跃星辰大模型“全家桶”首次亮相,万亿参数性能逼近GPT-4 如果有 100 天,你能学会做什么? AI 效率工具 跃问 是这样告诉我的:利用 100 天的时间,可选择学会一门新的...

100天加速度,阶跃星辰大模型“全家桶”首次亮相,万亿参数性能逼近GPT-4

如果有 100 天,你能学会做什么?

AI 效率工具 " 跃问 " 是这样告诉我的:利用 100 天的时间,可选择学会一门新的语言,如法语、西班牙语或日语;100 天可学会一门编程语言,如 Python;100 天可学会演奏吉他、钢琴或小提琴等乐器;100 天也可以学习绘画、摄影、视频制作、烹饪等等。

而跃问背后的缔造者 " 阶跃星辰 " 给出的答案是:从万亿参数规模以及多模态,到应用落地的大模型 " 全家桶 " 系列。

7 月 4 日举行的 2024 世界人工智能大会暨人工智能全球治理高级别会议(WAIC 2024)上,首次参展的阶跃星辰发布万亿级参数 MoE(混合专家)大语言模型 Step-2 正式版,Step-1.5V 多模态大模型,以及 Step-1X 图像生成大模型。

不只是模型技术能力。同时在 WAIC 2024 期间,阶跃星辰还首秀与上影合作的 AI 互动体验,全面展示 AI 大模型的应用落地效果。

阶跃星辰创始人、CEO 姜大昕认为,多模态理解和生成的统一是通向 AGI(通用人工智能)的必经之路。模型参数量决定模型能力上限,Scaling Law 全面跨入万亿参数是通向 AGI 的另一核心,而通用大模型的能力决定了垂直领域大模型的上限。

随着新一轮 AI 技术革新浪潮席卷全球,越来越多的人认识到 AI 推动社会与经济发展中的巨大潜力,因此,作为国内领先的 AGI 公司,阶跃星辰正利用大模型技术和应用推动中国在全球 AI 领域的持续领先。

亮相 100 天,阶跃星辰 " 暴力 " 出万亿大模型奇迹

自计算机科学家图灵在 20 世纪 50 年代提出人工智能(AI)概念以来,这一领域便经历了数十年的技术迭代与沉淀。从最初的符号主义到后来的联结主义,再到如今深度学习的崛起,每一次技术的飞跃都为 AI 注入了新的活力。

2022 年底,AI 聊天机器人 ChatGPT 的横空出世,就像是一场突如其来的盛夏大雨,以其前所未有的速度和影响力,迅速席卷全球,开启了 AI 的新纪元。

同时,这也让我们看到了生成式 AI 产业从青涩少年成长为壮年巨人的清晰轨迹。

2024 年 3 月,成立不到一年的阶跃星辰带着 Step-1 千亿参数语言大模型,Step-1V 千亿参数多模态大模型首次公开亮相,引发关注。

阶跃星辰创始人和 CEO 是前微软全球副总裁,微软亚洲互联网工程院首席科学家姜大昕博士,同时也是算法负责人。核心研发团队聚集来自微软、谷歌、字节、腾讯等公司的顶尖人才。公司以实现 AGI 为目标,专注研发通用大模型,基于自研通用大模型打造新一代 "Ai +" 应用," 智能阶跃,十倍每一个人的可能 "。

时隔仅 100 天,阶跃星辰再度发力,推出万亿参数规模的大语言模型—— Step-2 正式版。

具体来说,阶跃星辰 Step-2 万亿参数语言大模型正式版,采用 MoE 混合专家模型架构,在数理逻辑、编程、中文知识、英文知识、指令跟随等方面体感全面逼近 GPT-4。

阶跃星辰透露,其团队在设计 Step-2 MoE 架构时候选择迎难而上,采用创新算法架构,选择从头开始训练 MoE 模型,虽然训练难度高,但能获得更高的模型上限。

通过部分专家共享参数、异构化专家设计等创新 MoE 架构设计,让 Step-2 中的每个 " 专家模型 " 都得到充分训练,不仅总参数量达到了万亿级别,每次训练或推理所激活的参数量也超过了市面上的大部分普通的 Dense 模型。

" 千亿参数的 GPT-3.5 模型是一个重要的分水岭。要达到 GPT-4 的万亿规模参数,各个维度的要求都上了一个台阶。训练万亿模型需要的算力集群,高效稳定的训练,高质量的数据,加上驾驭新颖的 MoE 架构。这里面有任何一个短板,Scaling Law 就很难攀登上去。" 姜大昕告诉钛媒体 App。

因此,万亿参数的大模型当然需要大量的数据、算力训练。在 Step-2 训练过程中,阶跃星辰系统团队突破了 6D 并行、极致显存管理、完全自动化运维等关键技术。

另外,此次阶跃星辰还发布全新 Step-1.5V 多模态大模型,在多模理解和生成统一的技术路线上快速突破。

其中,相比此前的 Step-1V,新的 1.5V 在感知能力、推理能力、视频理解能力等方面均有大幅升级。而且,Step-1X 图像生成大模型采用全链路自研的 DiT 模型架构,包括 600M、2B、8B(80 亿)三种不同的参数量版本,提供给客户差异化和性价比选择。

比如这张具有中国元素的 " 上海东方明珠电视塔 ",就是由 Step-1X 生成的。

值得一提的是,基于阶跃星辰 Step 系列通用大模型的技术创新和广泛的落地应用实力,阶跃星辰 Step 系列通用大模型荣获 WAIC 2024 SAIL 之星。

持续扩大商业化,大模型下半场争夺 " 第一梯队 "

阶跃星辰不止提供超强的大模型能力和方案,应用落地层面也在持续扩大。

如果说 ChatGPT 引爆的 2023 年是世界发现生成式 AI 的一年。那么 2024 年,已经成为企业真正使用 AI 大模型和生成式 AI 技术并从中获得商业价值的一年。

作为新生产工具,AI 正融入社会生产各环节,在制造、医疗、教育、交通、农业等多个领域,人工智能已得到广泛应用,推动传统行业的转型升级和社会经济结构的变革。

数据显示,中国已经建成的 2500 多个数字化车间和智能工厂中,经过 AI 改造的工厂研发周期缩短了约 20.7%、生产效率提升了约 34.8%,大大提升了制造效率。另据世界经济论坛《2023 年未来就业报告》估计,到 2025 年,自动化技术和 AI 在全球范围内将影响近 40% 的工作岗位。

今年 3 月,阶跃星辰团队公布了两款面向消费端的自研大模型产品——效率工具跃问和 AI 开放世界平台冒泡鸭,目前均已全面开放使用。

其中,钛媒体 AGI 用跃问提问 " 钛媒体是一家怎样的公司 "、" 上海有哪些标志性建筑 " 等问题,都可以得到逻辑清晰的回答。它不仅可以提供信息查询、语言学习、创意写作、图文解读等多样化服务,而且能够结合联网搜索、代码分析增强(POT)等能力,高效理解和回应用户的查询,提供连贯且相关的对话,帮助用户在工作、学习、生活等各种场景下解决问题。而 " 冒泡鸭 " 则提供了探索故事、创作角色,沉浸属于自己的开放世界的产品。

除此以外,今年 WAIC 期间,正值《大闹天宫》制作完成 60 周年,阶跃星辰联合上影联合推出了一款 AI 互动体验,将最先进的 AIGC 和大模型技术与《大闹天宫》情境深度融合,用当代全新视角领略中国传统文化的魅力、回顾经典动画作品艺术成就,同时也为广大创作者打开无限的想象空间。

" 我把模型和产品的关系比喻成灵魂和皮囊。大家一定听过一句话,好看的皮囊千篇一律,有趣的灵魂万里挑一。我们希望灵魂能更加有趣一点才能显示出产品的不同。" 姜大昕今年 3 月对钛媒体 AGI 表示。

同时,阶跃星辰在内容创作、金融财经等领域与合作伙伴达成深度合作,共同探索面向 C 端用户的创新应用。同时,阶跃星辰还推出开放平台 " 繁星计划 ",面向行业优秀企业与开发团队开放 API,共同加速 AI 在行业场景的应用落地与繁荣。

当前,中国拥有万亿 AI 产业规模、13 亿人的参与,而且中国政府全面鼓励 AI+ 产业发展,促使中国在 To C 端的 AI 应用会比 To B 端有更大规模效应。而阶跃星辰顺势而为,利用从头自研的万亿大模型技术实力,推动中国 AI 产业蓬勃发展。

无论是大模型技术、研发、人才,还是大模型落地应用、规模化回报,从 3 月首次亮相到今天,Step 系列模型矩阵从万亿参数到多模能力取得全面进展,围绕阶跃大模型,逐渐形成丰富的产业应用生态圈,重点行业领先落地。

因此,阶跃星辰已经成为 " 中国大模型创业公司第一梯队 "。

姜大昕曾向钛媒体 AGI 等坦言,ChatGPT 是一个划时代的技术变革,大模型创业之路非常长。" 我一定要自己下场,以最快速、最灵活、最全面的方式来投身到变革中去。"

(本文首发于钛媒体 App,作者|林志佳,编辑|胡润峰)

标签:

推荐阅读