张钹科技频道院长张钹：加快发展新一代人工智能是产业变革的重要驱动力量

中国科学院院士、清华大学人工智能研究院院长张钹（受访者供图）

当前，以人工智能为主导的新一轮科技革命和产业变革方兴未艾。在移动互联网、大数据、超级计算、传感器网络、脑科学等新理论和新技术的推动下，人工智能呈现出深度学习、跨界融合、人机协同、开放人群智能、自主控制等新特征它对经济发展、社会进步和全球治理具有重大而深远的影响。

近年来，中央在多次重要会议上阐述了人工智能的重要性和发展前景。加快发展新一代人工智能，是我们在全球科技竞争中赢得主动权的重要战略抓手。

目前，我国人工智能产业发展处于什么阶段？您如何看待当前的发展趋势？未来如何引导行业安全、有序、健康发展？围绕这些问题，近日，人民网科技频道专访了中国科学院院士、清华大学人工智能研究院院长张钹。

张钰钰表示，目前中国人工智能产业发展与国际先进水平差距不是很大，但企业质量需要与数量“接轨”，在拓展应用场景、强化数据安全和算法 在安全等方面加大力度。

他提出了“第三代人工智能”的概念，并表示希望通过政策法规以外的技术途径解决人工智能的安全问题。

以下是采访记录：

人民网科技：人工智能是新一轮科技革命和产业变革的重要推动力。加快发展新一代人工智能，事关我国能否把握新一轮科技革命和产业变革机遇的战略问题。您如何看待目前我国人工智能产业的发展历程？

张钹：业界普遍认为，人工智能到目前为止已经经历了两代。 “第一代人工智能”是知识驱动的，又称“象征主义”； “第二代人工智能”是数据驱动的，现在对“大数据”和“深度学习”非常熟悉。

人工智能最早在国外是1956年开始的，而在中国是1978年开始的。但是在过去的60年里，前40年左右，也就是“第一代人工智能”，进展甚微真正的进步主要发生在过去 20 年，即所谓的“第二代人工智能”。目前，中国与世界的发展差距并不是很大。

聚焦工业领域，我们所说的人工智能产业其实分为两类：一类是传统信息产业的智能化，典型的是BAT、字节跳动等互联网公司。他们在开发过程中积累了大量的用户，然后根据这些用户数据建立相应的模型或画像，也就是所谓的用户“知识图谱”。以物品配送为例，将用户位置、商户位置、骑手位置等数千万甚至上亿条数据构建到数据库中，再通过人工智能算法进行匹配和优化，可以大大提高配送效率。效率。以这种方式对传统产业进行升级改造，取得了巨大的效益。在这方面，中国做得很好。

人民网科技：人脸识别、智能音箱、智能客服……近年来，不仅越来越多的企业开始涉足人工智能领域，“人工智能”也成为最受关注的专业高考考生方向一。在您看来，当前的 AI 是否“过热”？

张钹：据统计，全球估值超过10亿美元的人工智能公司有40家，其中美国20家，中国15家。从数量上看，中国稳居第二。不过需要注意的是，这些公司虽然估值高，但盈利能力仍然有限，而且大部分可能还在亏损。这不能过于乐观。

在我看来，人工智能的核心产业应该独立于信息产业信息产业是第几产业，比如人工智能技术发展起来的智能交通、智慧医疗、智慧城市、自动驾驶等产业。我们仍处于这个行业的早期发展阶段。

人民网科技：近日，“戴头盔看房子”的新闻上了热搜，也引发了关于人脸识别技术是否被滥用的讨论。如果我们要健康发展，我们的人工智能产业将面临哪些挑战？如何突破？

张钹：我刚才提到，中国在人工智能领域的“明星”初创企业中占全球三分之一以上。虽然数量很大，但质量仍有待提高。这些企业除了盈利能力有限外，还存在着严重的“同质化”现象。

为什么会这样？一是应用场景有限。除了人脸识别、安全等，其他领域都不好用。二是不安全。包括数据不安全和算法不安全。我认为这两个方面是目前制约我们人工智能产业发展的主要因素。

首先是数据不安全。我们知道现在人工智能应用的效果很大程度上取决于数据质量，但这会带来隐私泄露等安全问题。隐私保护问题不解决，人工智能产业就无法健康发展。

第二个是算法的不安全性。所谓算法的不安全性，是指在一定条件下训练出来的模型，如果条件不一样，就行不通。该术语也称为算法对测试环境的脆弱性信息产业是第几产业，或“不鲁棒性”。以自动驾驶为例，人工智能训练不可能穷尽所有情况，也无法应对新的突发事件。同时，这个漏洞也使得人工智能系统容易受到攻击和欺骗。

对于人工智能的安全，我们不仅要从政策法规方面进行治理，还要尽可能从技术层面进行治理，这也是我们“第三代人工智能”的初衷。

所谓“第三代人工智能”，其发展路径结合了第一代知识驱动和第二代数据驱动的人工智能，利用知识、数据、算法和计算能力。要素，建立新的可解释和稳健的人工智能理论和方法，开发安全、可信、可靠和可扩展的人工智能技术。

人民网科技：目前，以深度学习为特征的“第二代人工智能”仍处于方兴未艾的阶段。业界能否接受“第三代人工智能”的概念？

张钹：人工智能经历了60多年的发展。现在看来，前几年的发展基本上只是一个“前奏曲”。虽然我们看到了很多人工智能的各种应用，但实际使用的技术基本上是传统的信息处理，人工智能的真正问题还没有深入研究。

之前，大部分人都不太接受“第三代人工智能”这个概念，因为大家对“第二代人工智能”抱有很高的期望，觉得依靠深度学习，人工智能会成为可以继续发展。但后来发现并非如此。

我们早在2015年左右就提出了“第三代人工智能”的构想，后来一些国外学者在2018年提出了类似的观点。

人民网科技：“第三代人工智能”应从技术层面入手，解决人工智能的安全问题。应该如何开发？

张钹：发展“第三代人工智能”，我们​​提出建立可解释的、稳健的人工智能理论；然后在此基础上，开发安全、可信、可靠、可扩展的人工智能技术；最后，推动创新应用。也就是说，要创新应用，发展产业，首先要解决前两个问题。

具体来说，我们的方法结合了知识和数据。在过去的四、五年里，我们做了一些相关的工作，部分成果已经产业化。我们孵化的公司RealAI最近推出的数据安全平台RealSecure和算法安全平台RealSafe就是这些成果的直接体现。

需要指出的是，这些作品只能在特定情况下“逐案”解决一些安全问题。也就是说，人工智能的安全问题还没有找到根本的解决方案，很可能会成为一个永恒的话题。俗话说：“道高一尺，魔高一尺”。未来人工智能安全领域将处于攻防不断对抗的状态，算法也必须不断更新。

“第三代人工智能”的发展将是一个长期的过程。我们还处于探索阶段。但好在人工智能有一个特点，就是每一个阶段性的成果都会有很大的应用价值。这也是目前各国高度重视人工智能发展的重要原因之一。