英伟达(Nvidia)在深度学习领域领先于其他科技巨头开展业务,其优势不言而喻。在越来越激烈的竞争中,要想保持其地位,依旧不能松懈。创始人黄仁勋出生于台湾,9 岁随家人移民到美国,30 岁时与其他两个合伙人创立英伟达,股价在过去 5 年翻了 5 倍多。《福布斯》撰稿描述了英伟达如何创造奇迹,并不断改变世界之路。
在圣何塞贝里埃萨某天桥附近的 Dennys 店里,英伟达的联合创始人克里斯马拉科夫斯基(Chris Malachowsky)吃着香肠和煎蛋,小口吸着带有焦味的咖啡。在 1993 年 4 月,就是在这家破旧的小餐馆里,三位电气工程师马拉科夫斯基、克蒂斯普里姆(Curtis priem)以及英伟达的现任 CEO 黄仁勋创建了一家公司。这家公司旨在制造速度更快,能产出更真实画面的特制芯片。圣何塞东部在那个时候治安还不是太好,人们向停下的警车开枪,打得餐馆正面到处都是子弹眼。没有人会想到这三个在这家破旧的小店喝着无限续杯咖啡的年轻人会建立一家变革世界的公司,这次变革所带来的影响和英特尔在 20 世界 90 年代给世界带来的变革一样。
马拉科夫斯基说:在 1993 年,这样的芯片根本没有市场但是我们看到了即将到来的浪潮。在加州有一个为期 5 个月的冲浪比赛,当主办方在日本观测到某些潮涌或风暴时,他们就会通知冲浪选手来加州,因为浪潮在两天后就会来到。这就是我们当时所做的,当时我们就是处于观潮到潮涌或者风暴的阶段。
英伟达的联合创始人们看到的浪潮就是当时刚刚兴起的图像处理器(GpU)市场。他们所制造的芯片大多以卡状销售给游戏玩家插在 pC 主板上来获取超快的 3D 画面体验。该公司的芯片都有以充满男性荷尔蒙的名字来命名,如Titan X或GeForce GTX 1080,这些卡式芯片最高售价达到 1200 美金。20 年后的今天,英伟达的年收入已经到达了 50 亿美金,但这些芯片的销售额仍占据了公司总收入的一半多。
尽管英伟达在 pC 游戏方面展现出出人意料的适应能力(当整个 pC 行业遭受寒冬时,在最近的一个季度,英伟达与去年同比增长 63%),但是让华尔街对这家公司垂涎欲滴的却不是他们的游戏业务而是该公司的人工智能(AI)业务。这小小的一字节硅可以变化出更多的魔法,它可以召唤出不一样的风景,也可以画出一副完美的爆炸图。AI 最适宜也最热门的应用还是深度学习。深度学习可以使计算机自主学习,程序员不需要人工编码所有程序,并且 AI 在图像识别和语音识别方面展现出无可比拟的优势。
为建设数据中心,Google、微软、Facebook 以及亚马逊这样的科技巨头都在大量的购入英伟达的芯片。麻省总医院等机构利用英伟达的芯片检测像 CT 扫描这样的医学影像中出现的异常。特斯拉最近也宣布为了实现自动驾驶,将在其旗下所有车中都安装英伟达的 GpU。在 Facebook 和 HTC 的 VR 产品中,英伟达还可以作为基础设备驱动 VR 头盔。
英伟达总部位于加州圣克拉拉。黄仁勋以其标志性的全黑打扮黑色皮鞋,黑色牛仔裤,黑色 polo 衫,黑色皮夹克出现在公司总部,他说在我们公司的发展历程上,我们从未像现在这样处于一个这么大的市场中心。这都归功于我们做对了一件事,这件事就是图形计算(GpU computing)。
全世界有3,000 家 AI 初创公司,其中大多数都是基于英伟达的平台创建的。他们利用英伟达的 GpU 来开发各类 app,这些 app 涵盖股票交易、在线购物以及无人机导航。甚至还有一家名为 June 的公司利用英伟达芯片来制造 AI 烤箱。
我们已经投资了大量的初创公司,将深度学习应用到许多领域,每家公司都是基于英伟达的平台来进行开发的,风投公司 a16z 的马克安德森补充道,这就像是在 90 年代大家都围绕 Windows 上做开发,在 21 世界头十年又都围绕 iphone 做开发。
安德森开玩笑道:我们公司内部有个游戏叫如果我们是对冲基金的话,会投哪家公司,所有人都选择投资英伟达。
英伟达是 GpU 领域的龙头老大,其市场份额占比达 70%。英伟达向这些新市场扩张的趋势使其股票飞涨。在过去 12 个月里,其股票市值几乎翻倍,并几乎是 5 年前的 5 倍,其市值也增长了四十多倍达到 500 亿美金,成为该领域市值最高的公司。英伟达良好的业绩也使黄仁勋个人身价达 24 亿美金(联合创始人马拉科夫斯基已处于半退休状态,另外一名创始人普里姆在 2003 年离开了英伟达)。
飞涨的股票使英伟达在半导体行业首届Just 100 美国最佳企业公民排行榜中名列前茅。这个榜单是《福布斯》和《Just Capital》联合发布的,Just Capital 由亿万级对冲基金投资者、慈善家保罗都铎琼斯二世创建。Just 100访问了 50,000 名美国人,让他们评价了1,000 家左右上市公司,调查范围涵盖公司对待员工、顾客和股东的态度来评价该公司。
在调查的 10 项指标中,英伟达在员工待遇、福利、产品贡献及环境影响方面的分数都远远超过了平均数。该公司的员工友好型政策,如超长假期,弹性工作时间以及压力管理课程,使得英伟达将对手 Glassdoor 远远甩在身后(Glassdoor 是一个广受处于跳槽期的硅谷科技人员喜爱的工作环境匿名评价网站)。在这样出了名同质化的行业里,英伟达开展各种项目来推动女性和少数族裔人员更多地担任核心工程岗位。
黄仁勋说我把公司看做一个人,看做一个有生命的个体。企业文化就是公司的基因,或是公司的操作系统。如果要说我有什么企业建设心得的话,那就是企业文化是最重要的一环。
黄仁勋一直深知英伟达的图像处理芯片不仅仅只能用在游戏上而还有更多潜能。但他也没有想到英伟达的 GpU 可以应用到深度学习。深度学习技术(曾也被称作神经网络)大致借鉴了大脑神经元和神经突触的工作原理。深度学习技术于 1960 年代在学术界兴起,于 1980-1990 年代取得重大进展。但是一直有两个因素制约着深度学习的发展:1.能够训练深度学习计算程序的大数据;2.便宜,高效的计算能力。
英特尔网的出现解决了第一个问题突然间每个人的指尖都可以触及到巨大的数据量。但是第二个问题仍然没有得到解决。
这个问题一直持续到 2006 年,在这一年,英伟达发布了名为 CUDA 的编程工具包,该工具包使程序员可以更轻松的编辑显示屏上的每一个像素点。该 GpU 模拟数千台微小型计算机同时加工像素点。这些微小型计算机运行低级的运算来生成影子、反射、光线和透明效果。在 CUDA 发布之前,对于程序员来说 GpU 编程非常辛苦,他们需要编写非常多低级机器代码才可以完成编程。英伟达花了数年来开发 CUDA,他们将高级程序语言如 Java 和 C++ 引入了 CUDA 从而使程序员的编码工作变得轻松起来。有了 CUDA,研究人员可以以更快更廉价的方式开发深度学习模型。
深度学习几乎和大脑一样,黄仁勋说:它非常有用,你可以教会他几乎所有事情。但是它有一个非常大的壁垒,那就是它需要大量的计算。而我们的 GpU 具备这样的计算能力,是深度学习计算模型的理想选择。
深度学习发展史具有里程碑意义的事件发生在 2010 年帕罗奥图的一家日本餐馆,在这里,斯坦福的软件语言学教授吴恩达(Andrew Ng)会见了 Google 当时的 CEO 拉里佩奇和塞巴斯蒂安特伦(Sebastian Thrun)。塞巴斯蒂安特伦是一位才华洋溢的计算机科学家,后来成为了 Google X 实验室的负责人。早在 2008 年吴恩达就发表了一篇关于将 GpU 运用到深度学习模型的学术文章。深度学习在 2008 年还不常见,吴恩达说:当时的风气是写出花哨的算法。
特伦开发了最早一批的自动驾驶车,在斯坦福他和吴恩达的办公室只有一墙之隔,这两位科学家共同选择了在 Google 建立一个深度学习研究团队。这样的选择是有道理的:Google 有大量的计算基础设施,这对于搭建世界上最大的神经网络来说是再好不过的了。佩奇同意了他们的想法,Google Brain 就这样诞生了。Google Brain 产出的深度学习几乎渗透到了 Google 的每一个产品里,尤其是搜索、语音识别和图像识别。
在谷歌开始开发 Google Brain 的同时,相隔 2500 英里以外的另一只研究团队也在捣鼓着深层学习。2012 年,当时还是多伦多大学博士研究生的 Alex Krizhevsky 向 ImageNet 大赛提交了他出色的研究成果。全球各地的参赛者都可以向 ImageNet 大赛提交自己的软件,比赛内容是软件对图像中的物件和场景识别的精准度。Alex Krizhevsky 在自己的房间里用两块英伟达 GeForce 游戏芯片开发出了他的深度学习神经网络系统,他向其中导入了 120 万张图片来训练其深度学习模型。他开发的这套模型所达到的图像识别准确度是前所未有的,错误率只有 15%对于以前 25% 的错误率来说是巨大的进步。Alex Krizhevsky 的研究成果不仅赢得了当年的 ImageNet 大赛还立刻在学术界引起了巨大的反响。(Alex Krizhevsky 和他以前在多伦多大学的教授现在都在 Google 工作。)
有了这样的进步以后,深层学习开始以野火般的趋势推展开来。除了谷歌以外,微软、Facebook 和亚马逊也开始着手富有前瞻性的深层学习项目。英伟达加大了对 CUDA 基础软件生态系统的投资,这一决定成为了推动这一场变革的关键助因。这需要多年投入大量资金,英伟达 CUDA 开发团队领头人 Ian Buck 说:我们现在正在从多年前这笔富有远见的投资中收获果实,这是黄仁勋多年来一直的承诺。
基于深层学习,英伟达持续优化其硬件。英伟达将 8 片最新发布的服务器芯片 Tesla p100 集装在一个三英尺长五英寸厚的长方形容器中,英伟达将这个容器命名为 DGX-1 并号称其是世界上第一台盒子里的 AI。这台售价 130,000 美金的机器的计算速度达到了每秒 170 万亿次( teraflop),这相当于 250 台传统服务器的计算速度。今年 8 月,黄仁勋亲自将第一台 DGX-1 送给 Elon Musk,Elon Musk 在旧金山运营了一个名为 OpenAI 的非营利 AI 项目。
黄仁勋的竞争意识在他早年就显现出来了。黄仁勋于 1963 年出生在台湾,在他 10 岁那年,他的父母还在办理移民手续,他被送到肯塔基州东部偏远地区的寄宿学校上学,在那里度过了糟糕的青春时光。当时那里环境恶劣,他的室友是比他年长 7 岁,身上有 7 处刀伤的男生。黄仁勋找到了自己的情绪出口,他迷上了乒乓球。1978 年,15 岁那年,他在美国乒乓球公开赛中夺得了青年组双人季军。
黄仁勋在高中时又迷上了计算机,后来在俄勒冈州立大学(Oregon State University)学习计算机科学及芯片设计。在那里,他还遇见了他的老婆 Lori。毕业以后,他们搬到了硅谷,在这里黄仁勋的第一份工作是在 Intel 的对手 AMD 那里设计处理器芯片。同时,他继续进修学习,在 1992 年,他在斯坦福取得了电气工学学硕士学位。接下来,他就在芯片制造商 LSI Corp. 遇见了 Malachowsky 和 priem,当时 Malachowsky 和 priem 都还在 Sun Microsystems 工作。
他们三个想创办一家图像处理芯片公司时,黄仁勋才刚满 30 岁。他们在早期图像处理中看到了可以带来进步的巨大机遇,他们的产品后来也成功的运用在了 pC 上。
英伟达在 1995 年发布了第一代芯片 NV1,耗费了 1 千万美金开发费,这笔钱由红杉资本和 Sutter Hill Ventures 提供。英伟达设想 NV1 可以在很多场景下使用,但不幸的是消费者并不买单。当时英伟达才刚建立起来两年,濒临破产,他们被迫解雇了几乎一半的员工,最后留下了 40 人。他们于 1997 年发布的第三代芯片 RIVA128 终于取得了成功。RIVA128 的速度比其他图形处理器快 4 倍,公司的危机也由此解除了。
在接下来一二十年里,各厂商都在不断打破处理速度记录,这已成为该行业和英伟达的常态。但是当时的 70 家 GpU 公司现在还存在的只有英伟达和 AMD 了。
在当时,黄仁勋就成功地打造了愉快的工作氛围,这呼应了该公司在 Just 100 榜单上的排名。他一直心系员工。在 2015 年的一场关于工作环境多样化的会议上,他和一群英伟达女员工聊后发现了她们不能在事业上更上一层的原因。其中很重要的一点就是产假。黄仁勋决心改善这一状况。现在英伟达的员工可以休 22 周的带薪产假,另外还有 8 周的弹性时间作为回归过渡期。
黄仁勋将员工的幸福都归功于英伟达所做的事业。进入深沉学习这样的领域也为整个工作氛围注入了新的活力。工作必须能够给整个社会带来价值。我们希望我们的工作可以改进癌症的早期发现和诊断。这多么美妙啊!
英伟达的成功并不是没有人注意到,几乎所有的大型芯片商都突然开始追寻 AI 梦了,同时也有大量的初创公司开始开发架构新型的深层学习芯片。开始躁动的不仅是芯片制造商。未来科技业中,深层学习至关重要,因此英伟达最重要的客户 Google 现在也开始制造芯片了,成了其竞争对手。Google 在此之前从未制造过芯片。
Google 在 5 月的开发者大会上宣布已经搭建好了一款名为 Tensor processor Unit 的定制芯片,该芯片专为其深层学习框架 TensorFlow 制造。Google 表示已经在其数据中心中使用此芯片以改善其地图服务和优化搜索结果。
无独有偶,英伟达的另一客户微软现在也开始为自己的数据中心开发制造芯片,该定制芯片被命名为 FpGA,量产后,该芯片可以被重新编码,对于 AI app 来说十分有利。
半导体行业的领军人物英特尔似乎尤其惧怕英伟达的进步。在错过了智能手机的浪潮以后,它不能再错过深层学习的浪潮了。英特尔没有先进的 AI 研究,于是选择了疯狂收购。英特尔最近买进了两家 AI 初创公司:在 8 月以 4 亿多美金购入了 Nervana,接下来还会收购 Movidius,该笔收购还暂未披露任何报价。去年英特尔还豪掷 160 亿美金购入了 FpGA 制造商 Altera。
英特尔非常注重维护其收入来源数据中心。英特尔以垄断地位占据了该市场几乎 99% 的市场份额。英伟达现有的芯片还不能替代英特尔的处理器,英特尔的处理器速度仍然更胜一筹。但是英特尔更想的是它的客户们都只用它的产品。因此,英特尔计划在 2017 年发布一款为深层学习优化的服务器芯片新一代 Xeon phi 处理器。英特尔高调的宣布,有了从 Nervana 购入的技术,该公司可以在 2020 年之前将现有的深层学习网络速度提高 100 倍。
英伟达的优势是它早于英特尔,AMD 及其他对手在深层学习领域开展业务。但是它也不能松懈。多年来,它在该领域一枝独秀,但是现在市场涌入了更多竞争者了。我认为英伟达所处的位置非常好,形势对他们非常有利,但是我还是不能保证他们会怎么样,资深科技分析家 Jon peddie 说到,有太多人对这个市场虎视眈眈了。
AI 计算是计算机的未来,黄仁勋说:只要我们继续保持着最优 AI 计算平台的位置,我认为我们可以获得大量业务。最终,GpU 会存在于每一个公司。
黄仁勋沿袭了曾长期执掌英特尔的 Andy Grove 在其 90 年代的畅销书《只有偏执狂才能生存》(Only the paranoid Survive)中的哲学理念。
我一直都假设我们 30 天以后就没有业务了,黄仁勋说:这从来没有变过。这不是害怕失败,这是害怕自满,我不想在心中为自满留下一点点位置。
翻译来自:虫洞翻翻 译者 ID:YLS
济宁IT新闻