阿里首款AI推理芯片“含光800”问世,阿里的“造芯”过程是怎样的?

2024-05-13

1. 阿里首款AI推理芯片“含光800”问世,阿里的“造芯”过程是怎样的?

在2019年云栖大会主论坛,阿里巴巴CTO、达摩院院长张建锋从口袋里掏出一款看得见、摸得着的芯片:含光800。这是一款AI芯片,重点应用于机器视觉中,如图片识别、视频识别等。作为平头哥半导体公司首颗自主研发的芯片,含光800成为云栖大会主论坛的热门话题。

一年前的云栖大会上,平头哥半导体公司宣告成立,这是阿里首次对外宣告要自主造芯,但事实上,阿里很早就已想要拥有自己的芯片,并为此筹谋许久。阿里当时宣布正在打造内部代号为“Ali-NPU”的芯片,主要针对图像和视频的AI任务加速场景,按照设计,Ali-NPU的性能将是同类产品的40倍。对于“40倍”这个数字,当时很多人是不信的。从定位来看,含光800应该就是一年前所说的Ali-NPU,我注意到在发布会现场,张建锋数次强调这款芯片

很“大”——移动端芯片因为应用场景要求往往都强调体积的小,这意味着含光800的应用场景不是终端,而是云端服务器。“大”不是指体积大,而是计算能力强大,其每秒能处理78000张图片。仅仅是从晶体管数量来看,含光800拥有170亿个晶体管就远超同行。最能体现出其算力强大的则是一组对比数据。

在业界标准的ResNet-50测试中,含光800推理性能达到78563 IPS,比目前业界最好的AI芯片Habana Goya 高4倍;能效比500 IPS/W是其3.3倍。跟一年前市面上的英伟达P4比,性能有46倍的优势,“Ali-NPU 性能40倍于同类产品”不是吹牛。

阿里首款AI推理芯片“含光800”问世,阿里的“造芯”过程是怎样的?

2. 阿里首款AI推理芯片含光800问世,“中国芯”的突破有什么重大意义?

整整20年的努力。阿里凭借强大的研发能力和高投入,不知不觉地成为了一个真正的科技巨头。9月26日,新亚新闻网在今天的云起会议上首次宣布了人工智能电话的规模:每天超过1万亿个电话,为全世界10亿人服务,处理10亿张图像,120万个视频小时,550,每天有5000个语音小时和5000亿个自然语言句子,已经成为中国最大的人工智能公司。 

 那些退休的人没有出席会议。小耀子当场表示,3年前,马云在云起会议上首次提出“五个新”,包括新零售、新制造、新金融、新技术、新能源。今天,“五新”已成为“十新”、“千新”。其背后的共同点是,各行各业正在全面走向数字化、智能化。 

 会上,阿里CTO和阿里云情报(英国)总裁展示了阿里的第一块芯片汉光800。同时,人工智能的完整布局也首次公开。五新、城脑、大莫院、平头哥等。十年云集大会已成为数字经济的风向标。

一年后,它交付了其成果。在昨天的云集大会上,张剑锋发布了一款人工智能芯片汉光800。这是阿里巴巴首次使用自己的硬件架构将阿里巴巴算法集成到芯片中。这也是互联网公司开发的第一款大型芯片。汉光是古代三神剑之一。剑包含但不显露,但不发光。在杭州城市大脑的商业测试中,光800的计算能力相当于10gpus。这也是阿里平头阁成立以来的第一款硬件产品。这是阿里20年发展史上第一款自主研发生产的芯片。

3. AI芯片“含光800”问世,阿里巴巴旗下的第一芯片能否让人眼前一亮?

AI芯片“含光800”的问世,的确让人眼前一亮。
2019年9月25号,阿里巴巴旗下达摩院院长张建峰现场展示了这款aI芯片,在业内标准的测试当中,含光800推理性能达到了78563 Ips,比目前业界最好的AI芯片性能高4倍。



“含光800”,可提供业界最强的aI推理算力,那么用一个形象的比喻,就是每秒钟可以处理78,000张图片,是通用CPU图片处理器的10倍。那么这高性能的处理能力,可以用在城市的交通上面,医疗影像自动驾驶以及云端视觉。
而且这一款芯片的商业商业应用是相当的广泛的。可以说一颗“含光800”相当于10颗CPU。
那意味着在软件开发和运用上头已经实现了一体化。在内部提升阿里巴巴的服务效率,涵盖物流,响应等各方面,含光芯片有着核心的科技力。

而大规模的商业化生产以后,运用到城市的各种AI上头,为城市服务的各方面建设和发展提升速度和质量。
这当然让人眼前一亮。可以说现在是中国AI软件硬件的蓬勃发展时期。科技改变生活,现在已经成了实实在在的现实。万物互联提高城市活力,提高人民生活水平,提高综合国力,这些大家都有目共睹。

可以说阿里巴巴的20年来是奋进的20年,带给我们无穷的新的商业和科技体验,带给了我们现代化和当代化的生活。
感谢这些作出努力的科学家,研发者感谢他们的团队,以及支撑团队的阿里巴巴!

AI芯片“含光800”问世,阿里巴巴旗下的第一芯片能否让人眼前一亮?

4. 阿里AI芯片“含光800”问世,性能相当10颗GPU

  序言 
   虽然世界上AI芯片品种不少,但性能特别出众的却是寥寥无几,中国阿里20来年发展史上自主研发的首款国产芯片“含光800”在实测现场以出色的表现脱颖而出。它与传统的GPU比,具有 “以1当10” 的卓越优势。这就是1颗“含光800”的性能堪比传统的10颗GPU,具有突出的性价比。
    1 何谓“含光”? 
   “含光”是上古三大神剑之一,即该剑含而不露,光而不闪。此喻“含光800”所具有的隐其形强其里的算力。含光800是一款云端AI推理芯片,重点应用于视觉场景。就其性能,含光800刷新了现有AI芯片记录,性能及能效堪比全球第一。
   该AI架构由两部分组成:硬建系统的核心是“芯片”,好比人的驱体,软件的核心就是“操作系统”,好比躯体的灵魂;灵魂即所谓的智能(AI)。所以,大凡世界上所有的高 科技 产品概莫能外,均由硬件与软件构成。
       2 “含光800”的卓越表现 
   芯片被称为工业之母,要想掌控世界的高 科技 ,首先必须拥有自己的芯片!含光800是阿里20来年发展史上自主研发的首款国产芯片。
   含光800将通过阿里云对外输出AI算力。基于含光800的AI云服务当前已正式上线,相比传统GPU算力,性价比提升100%。
   在业界标准ResNet-50测试中,含光800推理性能达到78563 IPS,比目前业界最好的AI芯片性能高出4倍;能效比是500 IPS/W参与测评第二名的3.3倍。
          3 “含光800”的作用 
   在杭州城市大脑业务测试结果表明,1颗“含光800”的算力功能朝过目前10颗常规功能GPU。
   在云栖会现场演示其性能同样出彩,比如城市大脑中的实时处理,对杭州主城区交通视频,采用40颗传统GPU,时延为300ms,而采用含“含光800”只需要4颗,其时延降至150ms。
   在用于处理淘宝商品库每天新增10亿张商品图片,使用传统GPU算力识别需要至少1小时,而使用“含光800”后处理时间缩短至仅5分钟。