1, 什么是AI,什么是ML/DL?AI能干啥?
a) 人工智能是一种新的通用目的技术(GPT),将对人类经济社会产生巨大、深远的影响,可应用到经济社会的几乎所有领域,并且有很大的溢出效应。
b) 当前的人工智能,主要指基于机器学习(Machine Learning,简称ML )/深度学习(Deep Learning,简称DL)的一系列方法和应用。它只是AI领域的一个分支,但它是目前发展最快,应用最广的分支。本文所提及的AI,不经特别标注,指的就是当前基于机器学习/深度学习的AI。
c) 机器学习/深度学习的原理:建立一个模型,给一个输入,通过模型的运算,得到一个输出。可以用于解决一个简单问题,例如识别图片是不是狗,也可以用来解决复杂问题,例如下棋、开车、医疗诊断、交通治理等等。
也可以理解为,模型就是个函数f(x),上述过程,可以表达为:
f(一张图片)=狗/不是狗
2, 一个AI应用开发的基本过程。什么是训练,什么是推理?
一个AI应用开发,大概分成三个阶段
a) 第一阶段,识别问题,构建模型,选择算法。AI的开发,和培养一个小孩类似,不同的孩子有不同的爱好和特长;AI也有很多模型/算法,不同的模型/算法适合解决不同的问题。所以,首先要识别你要解决的是个什么问题,然后选择一个合适的模型/算法。
b) 第二阶段,训练。和培养小孩一样,即使你发现小孩有音乐天分,他也不可能天生就是钢琴家,他需要专业的训练。AI开发也一样,选定模型/算法后,即使算法再好,也不能马上有效工作。你需要用大量的数据,去训练这个模型,优化参数,让模型能够有效工作。这个阶段AI模型的工作状态,叫做“训练”。
c) 第三阶段,部署。模型训练好了,就可以部署了。比如一个人脸识别的模型,你可以把它部署在手机上,用于开机鉴权,也可以把它部署在园区闸机上,用于出入管理,还可以把它部署在银行的客户端上,用于业务鉴权。等等。就如同一个孩子成长为钢琴家后,既可以在音乐会上演奏,也可以在家庭聚会上表演。AI模型部署之后的工作状态,专业的说法,叫做“推理”。
3, 算法、数据和算力是AI发展的三大驱动力,为什么?
通过上述AI开发过程的简述,可以发现,算法、数据和算力,是驱动AI发展的三大动力,三者缺一不可。
a) 算法相当于是基因。基因不好,再努力也白搭。如何识别问题,并根据问题选择算法,甚至开发新的算法,是高端AI专家的核心竞争力。
b) 数据相当于是学习材料。光基因好,没好的教材,也教不出大师。AI的训练,需要海量的、高质量的数据作为输入。Alphago通过自己和自己下棋,下了几千万盘,人类一辈子最多也就下几千盘。没有这样的训练量,狗根本不可战胜人类。自动驾驶,google已经搞了10年,训练了几十万小时,远远超过一个专业赛车手的训练量,但离真正的无人驾驶还差很远。另外,数据的质量也很重要,如果你给AI输入的数据是错的,那么训练出来的AI,也会做出错误的结果。简单的说,如果你把猫的图片当做狗的图片去训练AI,那么训练出来的AI,就一定会把猫当做狗。
c) 一个小孩,光有天分和好的学习材料,自己如果不努力,不投入时间和精力好好学习,绝对不可能成为大师。同样的道理,一个AI模型,算法再好,数据再多,如果没有足够的算力,支撑它持续不断的训练,这个模型永远也不能成为一个真正好用的模型。
4, 算力的需求有多大?为什么?
相对于传统计算,AI对算力的需求,要大得多。体现在几个方面:
a) 首先,一个AI模型,从构建到真正能够工作,需要持续不断的训练。每次训练都需要处理海量数据,才能得到相对可靠的结果。之前已经举了围棋和自动驾驶的例子。这里再说一个眼前的例子:我司的园区人脸系统,支持10万个ID的人脸识别,每次训练,需要处理约500万张照片。需要对每张照片进行复杂的数学计算,提取特征值,进行比对。
b) 其次,训练不是一蹴而就的。一次训练,只能得到一个基本的成果。一个模型从构建到成熟,需要多次重复的训练。每次训练后,专家需要根据结果,对模型里的算法和参数,进行调整,然后再训练,再持续优化。仍以上述人脸系统为例,一个优秀的AI专家,也需要30-50次的调优,才能基本完成一个模型的训练,做到基本可用。
c) 最后,如果要让模型达到更高的精度,训练量将呈指数上升。就好比一个运动员,要成为职业选手,已经需要大量训练了,但成为职业选手后,每进步一点点,所需要的训练量,都是惊人的。简单说,从80%提升到90%,和从90%提升到95%,需要的训练量可能是差不多的,越往上提升,难度越大,需要的训练量也越大。
d) 训练好了的模型,还需要部署到各种场景中。AI模型在执行推理时,对算力的需求没有那么大,但需要更实时快速,因此往往需要部署在边缘或者终端上,例如部署在手机、摄像头,或者家庭网关等设备中。因此,此时需要的是能够适配各种场景的、小型化、系列化的数量巨大的算力产品。
5, 算力如何获取?
企业对AI算力的获取,通常分训练和推理两种场景。
a) 训练场景下,对算力的一次性需求大,但训练完了就不需要了。此时,通过公有云服务的方式租用算力,就比较合适。当然,有些大型企业、组织,如银行、研究机构、政府等,以及专注AI开发的企业,如旷视、依图等,对算力需求很大,而且持续有很多项目在做,那么也可以直接购买AI硬件(板卡或者服务器),搭建自己的私有云,提供AI训练的算力。
b) 推理场景下,对算力的一次性需求不大,但需要长期持续使用,并且很多业务数据具有保密的要求(例如员工信息、个人生物信息等),不适合放到公有云上处理。那么,直接购买具备AI算力的硬件设备,例如服务器、一体机等,或者在手机、摄像头等设备上嵌入AI处理器模块,也是一种常用的方式。当然,也有一些场景,对数据和响应速度不那么敏感,也可以通过公有云租用算力的方式来实现。
c) 简单说,算力的获取,训练一般以公有云为主,少量私有云;推理一般以私有云/线下设备为主,少量公有云。
6, 如何衡量AI专用芯片的水平?
a) 衡量芯片的水平,一看处理能力,二看功耗。
b) 对于AI芯片,如果是训练场景,一般采用公有云或者服务器,功耗不是主要问题,主要看处理能力,通常用OPS(Operations per second),也就是每秒运算次数来衡量。当前高水平的AI芯片,其处理能力已经达到TOPS(每秒万亿次)的级别,甚至更高。
c) 如果是推理场景,因为常常部署在终端或者边缘设备上,功耗就是个必须考虑的问题。此时,衡量芯片水平,常常用能效比,也就是OPS/W(每瓦的处理能力)来衡量。
7, 如何看待AI开发者?
和其它产品、解决方案不同,AI开发者是真正意义上的购买决策者。
a) AI应用,与一般的IT应用不同,它需要先建模、训练,然后才能部署。在这个过程中,需要具有AI专业知识和能力的开发人员,因此开发者在整个AI生态中扮演非常关键的角色。
b) 传统的IT采购,管理层起到决定性作用,工程师的发言权很小。AI则不同,即使管理层决策使用某厂家的AI算力和算法方案,但开发者在面向具体场景的AI应用开发过程中,用的不好,训练不出好的结果,就不可能真正商用,那么也就不会形成规模采购。所以,AI开发者才是真正意义上的购买决策者,也是整个AI生态中的关键角色。
c) 提供AI算力和算法的企业,如果不能构建起自己的生态,拥有一大批开发者,就不可能成功。
8, AI开发难吗?如何培养AI开发者?
a) 要辩证看这个问题。任何新技术刚刚爆发时,总是比较难的。早年计算机刚刚发明时,程序员用打孔纸带编程,那有多难?再后来用机器语言、汇编语言,也还是很难;再后来,C,C++等高阶编程语言出现,就没那么难了;到现在,都是可视化编程了,程序员已经不再是个门槛很高的行业了。
b) AI也类似。当前的状态,就像计算机发明的早期,需要高手才能做AI开发。未来,AI开发,尤其是应用开发,也会变得越来越简单,前提是要有好的开发工具。
c) 另一点,AI开发者的成长,需要通过大量的实战训练。这就需要有实战场景,有数据和算力的支持。
d) 要培养AI开发者,首先要能够提供一套好用的开发工具,其次要能够为开发者提供好的实战场景,最后,还需要有经济可用的算力支持。






































苏公安网备 32011402010933号