在当今科技飞速发展的时代,人工智能(AI)已成为推动社会进步的重要力量。其中,大模型作为AI技术的核心组成部分,正逐渐改变着各行各业。阶跃星辰,一家专注于通用人工智能探索的公司,其背后的大模型算力之谜,值得我们深入探讨。
一、阶跃星辰:大模型探索的先锋
阶跃星辰成立于2023年4月,其创始团队由一群对人工智能充满热情和渴望的人组成。公司名字来源于阶跃函数,象征着跳变、跃迁和超线性增长,代表着扎实做好手头工作的态度。
阶跃星辰的目标是“Scale-up Possibilities for Everyone”,即通过智能的阶跃,让每个人都能探索自己的宇宙星辰。为实现这一目标,他们开发了Step系列通用大模型,包括Step-1千亿参数语言大模型、Step-1V千亿参数多模态大模型以及Step-2万亿参数MoE语言大模型的预览版。
二、攀登Scaling Law:四大要素的挑战
阶跃星辰认为攀登Scaling Law是一个“铁人四项”的超级工程,包括算力、系统、数据和算法四大要素。以下是这四大要素的详细介绍:
1. 算力
算力是支撑大模型训练和运行的关键因素。阶跃星辰从成立之初就在算力方面做了充分的准备,包括自建机房和租用算力进行算力储备。实践中,他们曾建设过单集群万卡以上的系统,拥有强大的数据处理和知识图谱流水线。
2. 系统
系统是指大模型训练和运行所需的基础设施。阶跃星辰在实践中积累了丰富的系统建设与管理经验,能够满足大模型对系统性能的要求。
3. 数据
数据是大模型训练的基础。阶跃星辰在数据方面做了大量工作,积累了丰富的数据资源,为模型的训练提供了有力支持。
4. 算法
算法是大模型的核心。阶跃星辰拥有一支对大模型的认知和发展路线有深刻洞察的算法团队,不断优化算法,提高模型的性能。
三、多模理解和生成的统一:通往AGI的必经之路
阶跃星辰相信多模理解和生成的统一是通往通用人工智能(AGI)的必经之路。为此,他们正在万亿参数和多模融合的新战场上努力,并已经推出了基于Step-1和Step-1V千亿参数大模型的产品效率工具跃问和AI开放世界平台冒泡鸭。
四、大模型算力之谜:抢算力,先抢市场
大模型算力成本高企,高端GPU一卡难求。在顶峰时期,一张英伟达A100的价格已被炒到二三十万人民币,单台A100服务器的月租价格也飙到5万-7万/月。然而,高昂的价格依然可能拿不到芯片,一些算力供应商也遇到过供应商跳票等奇葩经历。
大模型爆发,市场对算力的需求快速增长,但供给量增速远远没有跟上。尽管算力供给长远来看一定会从卖方市场进入买方市场,但这个时间究竟要多久,还是一个未知数。
五、结语
阶跃星辰在探索大模型的道路上,凭借其强大的算力、系统、数据和算法实力,正在逐步揭开大模型背后的惊人算力之谜。在未来,随着大模型技术的不断发展和应用,我们将见证更多令人惊叹的成果。
