您的位置:首页 > 人物动态

张钹院士:从技术层面解决人工智能安全问题

发布时间:2020-12-26 13:45:15  来源:    背景:

  

  

中邦科学院院士、清华大学人工智能推敲院院长张钹(受访者供图)

  

目前,由人工智能引颈的新一轮科技革命和家当改良方兴日盛。正在搬动互联网、大数据、超等算计、传感网、脑科学等新外面新技能驱动下,人工智能外示深度练习、跨界统一、人机协同、群智盛开、自立操控等新特质,正正在对经济兴盛、社会进取、全球处分等方面发作强大而深远的影响。

  

近年来,中央正在众次厉重集会中对人工智能的厉重性和兴盛前景举行阐明。加疾兴盛新一代人工智能是咱们获得全球科技角逐主动权的厉重战术抓手。

  

目前,我邦人工智能家当兴盛处于什么阶段?若何对于目前的兴盛态势?将来应若何教导家当安好有序强健兴盛?盘绕这些题目,克日,黎民网科技频道专访了中邦科学院院士、清华大学人工智能推敲院院长张钹。

  

张钹显示,目前中邦正在人工智能家当兴盛方面与邦际优秀程度的差异并不是很大,但企业质料有待与数目“看齐”,正在拓宽运用场景、增强数据安好和算法安好等方面加大时候。

  

他提出“第三代人工智能”的观点,并显示希冀通过战略和准则以外的技能途径处分人工智能的安好题目。

  

以下为专访实录:

  

黎民网科技:人工智能是新一轮科技革命和家当改良的厉重驱动力气,加疾兴盛新一代人工智能是事闭我邦能否收拢新一轮科技革命和家当改良时机的战术题目。对付目前我邦人工智能家当兴盛经过,您若何看?

  

张钹:业界集体以为,人工智能到目前为止阅历了两代。“第一代人工智能”是学问驱动型的,也被称作“符号主义”;“第二代人工智能”是数据驱动型的,便是群众现正在极度谙习的“大数据”“深度练习”。

  

人工智能最早于1956年起步于海外,而正在中邦则起步于1978年。可是这60年中,前面40年驾御,也便是“第一代人工智能”,其发达较小。线年里获得的,也便是“第二代人工智能”。就目前来看,中邦和邦际上的兴盛差异并不是很大。

  

聚焦家当周围,咱们所说的人工智能家当实践上分为两个大类:一类是古代音讯家当的智能化,范例的便是如BAT、字节跳动如许的互联网公司。他们正在兴盛进程中积蓄了多量用户,然后凭据这些用户数据树立了相应的模子或画像,也便是树立所谓的用户“学问图谱”。以物品配送为例,由用户名望、商家名望、以及骑手的名望等音讯构成的几万万乃至上亿的数据,树立成库,再通过人工智能的算法将其成婚、优化,可能大大晋升配送效能。通过这种式样升级古代家当,一经获得了极度大的效益。正在这方面,中邦事做得不错的。

  

黎民网科技:人脸识别、智能音箱、智能客服……近年来,不但越来越众的企业出手涉足人工智能,“人工智能”也成为高考考生最眷注的专业偏向之一。正在您看来,当古人工智能是否“过热”?

  

张钹:据统计,全球10亿美金估值以上的人工智能企业一共有40家,个中美邦20家,中邦15家。从数目上来说,中邦稳处于第二位。然而必要细心的是,这些企业固然估值很高,但盈余技能还很有限,大局限不妨还正在亏蚀。这是谢绝过分乐观的。

  

我以为,人工智能重心家当该当是独立于音讯家当的,像智能交通、聪颖医疗、聪颖都市、自愿驾驶如许由人工智能技能兴盛出来的家当。这方面的家当咱们现正在还处于兴盛初期。

  

黎民网科技:比来,“戴头盔看房”的消息上了热搜,也由此激发了人脸识别技能是否被滥用的接洽。咱们的人工智能家当要思强健兴盛,还面对着哪些离间?该当若何打破?

  

张钹:刚刚我提到,全全邦人工智能的“明星”始创企业,中邦占了高出三分之一。数目固然众,但质料仍有待晋升。这些企业除了盈余技能有限以外,还存正在紧张的“同质化”局面。

  

为什么会展示这种局面?最先,运用场景有限。除了人脸识别、安防等,其余周围欠好用。第二,担心全。蕴涵数据的担心全和算法的担心全。我以为这两方面是目前限制咱们人工智能家当兴盛的闭键成分。

  

最先是数据的担心全。咱们明确,现正在人工智能运用成果很大水准上依赖数据质料,但由此会带来隐私透露等安好题目,假使处分欠好隐私庇护的题目,人工智能家当不不妨强健兴盛。

  

第二是算法的担心全。所谓算法的担心全,便是正在必然条款下演练出来的模子,假使用到条款不大雷同的地方就行欠亨了。术语也叫做算法对付测试处境的亏弱性,或者叫“不鲁棒性”。以无人驾驶为例,人工智能演练的时刻不不妨穷尽完全的情境,当遭遇新的突发事项便无法照料了。同时,这种亏弱性还使得人工智能体系容易被攻击、被捉弄。

  

对付人工智能的安好题目,咱们不但必要从战略、准则等方面举行处分,也要尽不妨地从技能层面来处分,这也是咱们提出“第三代人工智能”的初志。

  

所谓的“第三代人工智能”,其兴盛道途统一了第一代的学问驱动和第二代的数据驱动的人工智能,操纵学问、数据、算法和算力4个因素,树立新的可外明和鲁棒的AI外面与伎俩,兴盛安好、可托、牢靠和可扩展的AI技能。

  

黎民网科技:目前,以深度练习为特质的“第二代人工智能”还处于方兴日盛的阶段,业界能否继承“第三代人工智能”的观点?

  

张钹:人工智能阅历了60众年的兴盛,现正在看来,前面这些年的兴盛根本上还只是“序幕”。只管现正在咱们看到人工智能的各式运用许众,但实践上用到的技能根本上依然古代的音讯照料,人工智能真正的题目还没有被深切推敲。

  

此前,大家半人还不太能继承“第三代人工智能”的观点,由于群众对“第二代人工智能”的祈望分外高,感应靠深度练习,人工智能就可能不息兴盛下去。但厥后创造并非如斯。

  

咱们是正在2015年驾御较早提出“第三代人工智能”这一概念的,厥后有海外学者正在2018年也提出了肖似的概念。

  

黎民网科技:“第三代人工智能”要从技能层面开赴来处分人工智能的安好题目,完全该若何兴盛?

  

张钹:兴盛“第三代人工智能”,咱们提出要树立可外明和鲁棒性人工智能外面;然后正在此根本上,兴盛安好、可托、牢靠和可扩展的人工智能技能;终末,饱动改进运用。也便是说,要改进运用、兴盛家当,必需先处分前面两个题目。

  

完全来说,咱们的伎俩是把学问和数据联结起来。正在这四、五年里,咱们做了极少闭连的职业,局限功效也一经实行了家当化运用。比来通过咱们孵化的企业RealAI推出的数据安好平台RealSecure、算法安好平台RealSafe,便是这些功效的直接外现。

  

必要指出的是,这些职业目前也只可正在特定处境下“就事论事”地去处分极少安好性题目。也便是说,人工智能的安好题目目前还没有找到根底的解法,况且很不妨会成为恒久的话题。正所谓“道高一尺,魔高一丈”。人工智能安好周围将来将会处于一种攻防不息对立的状况,所以算法也必需不息更新。

  

兴盛“第三代人工智能”将是一个永久的进程。咱们现正在还处于搜索阶段。但好正在人工智能有个特质,便是每个阶段性功效城市有很大的运用价钱。这也是为什么各邦目前都很珍惜兴盛人工智能的厉重由来之一。

  声明:本文仅为传递更多网络信息,不代表观点和意见,仅供参考了解,更不能作为投资使用依据。


返回网站首页 本文来源:网络

最新资讯
本栏最新