竹笋

首页 » 问答 » 灌水 » 未来人人都可以是程序员
TUhjnbcbe - 2023/8/15 21:44:00

作者丨骆轶琪,朱艺艺

编辑丨张伟贤,巫燕玲

图源丨图虫

“我们正处于AI的‘iPhone时刻’。”78分钟的GTC演讲过程中,NVIDIA(英伟达)创始人兼首席执行官*仁勋提了三次这一观点。

正当一些行业人士感慨跑一次GPT4训练需要庞大的资金成本支持时,英伟达自己来炸场了。面向迄今历史上用户数量增长最快的应用ChatGPT,英伟达发布了包括硬件迭代和云服务一系列组合,核心目的之一,就是加速运算速度、极大降低成本。

(ChatGPT是迄今历史上用户数量增长最快的应用,图源:英伟达发布会现场展示)

*仁勋表示,类似ChatGPT大型语言模型(LLM)的部署是一个重要的全新推理工作负载,为了支持这类模型推理,英伟达发布一款新GPU,是带有双GPUNVLink的HNVL。同时基于NVIDIAHopper架构的H配有一个Transformer引擎,是为处理驱动ChatGPT的类似模型,相比用于GPT3处理的HGXA来看,配备四对H和双GPUNVLink的标准服务器速度最高可达10倍。“H可以将大型语言模型的处理成本降低一个数量级。”他续称。

为什么在AI变革进程中GPU尤为重要?这是源于AI大模型在训练时,对基础设施的要求是大规模并行计算,这也是GPU相比于其他类型计算芯片如CPU(串行运算为主)等的显著优势。当然计算的同时也需相应配套高速数据存储、光模块、通信等一系列能力。

其中对英伟达的诉求最为旺盛。今年2月份发布最新业绩时,*仁勋就曾表示:“AI正处于一个拐点,从初创企业到大型企业,我们看到生成式AI的多功能性和能力让全球企业感受到开发和部署AI战略的急迫性。”这也成为彼时业绩交流中的核心关键词。

在3月21日深夜的演讲中,他再次提到这一点,并且指出,“生成式AI是一种新型计算机,一种我们可以用人类语言进行编程的计算机,与PC、互联网、移动设备和云类似,每个人都可以命令计算机来解决问题,现在每个人都可以是程序员。”

*仁勋认为生成式AI是一种新型计算机,图源:英伟达发布现场

在英伟达和一众合作伙伴的推动下,关于前两天还在火热探讨的“GPT会取代哪些职业”这个话题,似乎也并不那么让人困扰了。

算力账单

先看看这次炸场之前,用英伟达GPU产品部署一次GPT训练需要的实力。

CINNOResearch半导体事业部总经理ElvisHsu对21世纪经济报道记者分析,年是ChatGPT元年,构成人工智能的三大要素包括:数据、算法、算力,其中尤以芯片的算力是最重要一环。由于模型训练参数量的使用与算力成正相关,ChatGPT持续升级进程中,其参数使用量增长幅度不可谓不大,投入资金自然水涨船高。每一次模型训练所需的资金从数百万到千万美金不等,随着硬件和云计算服务的价格不断变化。

(GPT3论文概要,其参数使用量为亿,图源:OpenAI

1
查看完整版本: 未来人人都可以是程序员