大摩娱乐注册 大摩娱乐登录 大摩娱乐招商QQ

Navigation menu

来源:未知 责任编辑:admin

“算力沙皇”最新演讲:我正在经历职业生涯从未发生过的事

  今天我想谈论几个问题,首先是计算机行业正在发生的变化,其次,为什么生成式人工智能如此具有变革性,第三,各个行业和国家正在竞相拥有他们自己的人工智能,他们为什么这样做,他们是如何做到的,为什么这是一个非凡的机会。

  全球计算机行业正在经历两个同时进行的转变,这在很长一段时间内都没有发生过,而英伟达正处于其中心。

  其中一个被称为加速计算,与之相对的是通用计算,用一种通用处理器进行一切工作已不再具备成本或能源效率,数据中心必须尽可能加速所有工作负载,以实现更高的性能、能源效率和成本效益。

  第二个是,加速计算使一种新的软件开发方式成为可能,推动了软件平台的转变,使以前无法实现的应用程序成为可能。

  加速计算和生成式人工智能一起推动了广泛的平台转变,这不是经常发生的事情,而且在我整个职业生涯中从未发生过。

  IBM System 360是在我出生后的一年或两年内发明的,它描述了一种使用中央处理单元的计算机体系结构,它被划分为多层级的内存结构,高速缓存、系统内存、硬盘。

  这一发明描述了一种计算机体系结构,具有IO子系统,并且非常重要的是,它描述了一类计算机,这种计算机已经60年没有改变了,软件编写方式也已经60年没有改变了,因此有理由关注正在发生的事情,为什么它正在发生以及前方的机会。

  英伟达是通过发明一种称为CUDA的新编程工具,以及我们称之为GPU的处理器来推动加速计算,来卸载和加速CPU无法高效执行的工作负载。

  我们本就应该使用正确的工具来做正确的工作,以此来提高性能,同时降低能源成本几个数量级。经过近25年的发展,加速计算取得了广泛的成功,现在已经得到了开发者、系统制造商、云服务提供商、技术制造商和他们的用户生态系统的信任。

  我刚刚描述了一种基于CUDA的新计算机体系结构,一种称为加速计算的新计算方法,现在它几乎无处不在,它存在于每个云中,存在于每个系统制造商中,存在于每个行业中。

  这种情况在60年内从未发生过,这是一种非凡的情况,也是英伟达发现自己成为了如此多技术变革和工业革命的中心的原因之一。

  加速计算推动了深度学习和大型语言模型的进一步发展和扩展,从而引发了生成式人工智能的崛起,许多人将其称为第四次工业革命。

  我们知道智能是最有价值的东西,但假如智能可以批量化、自动化地生产,是多么令人难以想象。

  第二次工业革命,有一个建筑物,加入原料,加上火,就出现了一些看不见的东西(电),并被传送了数百英里,通过打开它,你拥有了光,拥有了热量,我们制造了能源,制造了电力,它改变了一切。

  而今天同样有一个建筑物,里面有一个特殊的仪器,叫GPU,你输入的原材料是表征数据的电子,而输出的是更多的电子,是token,这些token被称为智能。

  我刚刚提到了GPU,它可以非常大,看起来像一个工厂,事实上这就是一个新的工业,一个全新的工业已经被创造出来,这不是过去的数据中心,而是一个AI工厂。我们现在生产、开发、精炼叫做数据的原材料,然后将其转化为世界上最有价值的东西——智能,我们在高产量、大规模生产,并且我们正处于这个革命的开始。

  生成式人工智能,正如你们所知,已经找到了如何识别模式和关系,从你们提供的数字中,这些数字可以代表文本、图像、运动、流体、温度、声音、蛋白质、化学物质、氨基酸、基因等等,它可以代表你想要的任何东西,并且可以发现其中的关系和模式,从而理解它的含义。

  去理解词汇的含义并不是那么容易,非常神奇的是,计算机可以做到这一点,我们所有人都可以做到,这就是使我们聪明的原因。

  但要理解氨基酸的含义,要理解基因的含义,并能够从英语翻译到英语字幕或总结,从图像到文本,从视频到操控动作(自动驾驶汽车),从图像到信息的所有这些翻译,现在都是可能的,这都是由于生成式AI带来的,对于行业的影响是非常深远的。

  让我简要介绍一下,你们知道,foundation模型现在是多模态的,所以你可以同时理解文本和图像,实现高水平的语言和基本数学技能,以及一些基本的推理。

  当然,多步推理还有很长的路要走,系统思考,慢思考,快思考。AI在慢思考方面非常出色,在快思考方面则不太出色,那里有很多机会和突破。

  全球最大的互联网和云服务提供商开始了第一波浪潮,我们看到下一波浪潮正在迅速崛起,而这一波浪潮的核心是各个国家,各个国家正在建设主权AI基础设施,这将会被各个行业,各个公司所紧随,今天世界上的每个公司,无论多大,都拥有制造某种东西的传统工厂,它们可能制造汽车的工厂,飞机工厂,家具工厂,药物研发工厂。

  但在未来,每个公司都将有两个工厂,一个负责制造实物,一个负责生产“智能”。

  英伟达拥有世界上五台最大的超级计算机,24小时运行,没有他们,我们无法设计自己的软件,无法设计自己的芯片,无法做任何事情,所以我们有两个工厂,一个工厂外包给TSMC制造芯片,一个“智能工厂”我们自己运营。

  主权国家已经意识到,他们的主权数据包含着人民的知识和文化,国家必须培训和拥有他们社会的AI,国家已经觉醒,需要制定AI战略,正在评估AI研究和行业主权数据以及AI计算基础设施和安全政策的投资。

  我非常高兴看到新加坡已经更新了国家AI战略,我在抵达新加坡时有幸下载了新加坡国家AI战略2.0,如果你还没有机会阅读它,请务必阅读,这是一份非常出色的文件,非常明确的愿景和可操作的战略,嵌入了我认为很多智慧和未来抱负,强调了几个我非常赞同的事情,首先是要扩大AI人才的培养,建设AI计算基础设施。

  在我们那一代的软件工程师开始工作时,会拿到一个连接到主机的终端(PC),而那个终端实际上只是一个升级版的打字机。

  我们的整个职业生涯都在“打字”,但正如你们所知,现在再多的打字(编程)也无法为你创造出一款生成式AI,这在理论上对任何人来说都是不可能的,因为没有人可以打字得那么快,处理那么多的数据。

  所以今天,任何人进行任何类型的科研or工程,你都需要像我当年使用PC一样,使用一台AI超级计算机。

  最后,要在各个行业推广AI,这也是我在新加坡文件中阅读到的,AI不是一种奢侈品,AI的投资不是一个机会,而是一种必须拥有的东西,这是一种战略性的迫切需求,可以提高未来竞争力。

  我们与新加坡的DSO、DSTA、SNEL、NCC、DBS等众多政府机构和企业有出色的合作关系,我们还与本地的云服务提供商合作,我们正在全天候工作,以在新加坡建立GPU云,以便你们可以进行AI研究、建设AI基础设施,并支持国家AI战略。

  我认为我们应该回顾历史,意识到去年很重要,但今年也很重要,就像生活中的任何竞技运动或努力一样,每一点都不是同样重要的,每一年也不是同样重要的,但今年确实很重要。我认为我们将回顾并认识到,只要你们所有人都关注发生了什么、为什么会发生以及它对未来的影响,你们就会因为你们的警觉和见解而获得回报。(本文系黄仁勋上周在新加坡参加活动期间发布的演讲内容)