日前，在宁召开的第二届江苏省人工智能大会上，中国科学院院士何积丰带来主旨报告《可信人工智能》。他表示，随着人类生活被人工智能广泛渗透，公众接受人工智能的程度也越来越高，随之而来的就是人工智能的可信问题。 　　去年3月，美国优步的一辆自动驾驶车在路试时撞倒一名行人，当时行人正推着自行车在人行道之外横穿马路，关于责任认定，车辆使用者和自动驾驶系统设计者开始扯皮。 　　“这些人工智能案例，是因为这些突发的场景并不在训练范围，机器也就无法从容应对。” 何积丰说，“可信”是计算机领域的一个概念，主要强调的是计算机系统和其处理过程的可预测性、可验证性。近年来，“可信”的概念也被引入到人工智能领域。 　　可信人工智能由我国提出，并在G20会议上被各国所认可，这也是关注人工智能发展的核心所在。人、机、物融合是当前社会面临的一个很重要的系统状态。如果把人、机、物中间的物理运动以及众多事件进行组合，如何进行系统性的训练和测试尤为重要。 　　在何积丰看来，人工智能的安全发展面临着“内忧外患”，对内要处理数据偏差、系统失误等情况，对外则要应对黑客攻击、场景受限等问题。他解释，人工智能系统与传统的软件系统有很大区别，这使得其安全发展面临一系列新挑战。例如，让程序学习检测皮肤癌，程序却发现恶性皮肤病变的照片里往往放着一把尺子，便以尺子来作为判断标准。 　　如何保证人工智能安全可控？何积丰表示，人工智能能够与行业、社会治理结合，具备新的赋能功能。因此，对于其安全问题，应该从两个层面来讨论，一层是人工智能技术本身的安全问题，一层是人工智能与行业结合后的潜在风险。以网络安全为例，他认为，人工智能很多目前机器人会不会取代人的工作，其实这些消息都有些夸大。”何积丰表示，很多职业其实是被时代发展而淘汰的，机器人只是取代了一些简单、重复的劳动，还有部分高危、人类不愿意参与的工作等。与此同时，技术的发展也带来新的就业机会和新的职业。同时，我们也不必纠结于究竟何时能够实现真正的人工智能，去为它划定时间界限，当技术发展到一定阶段，人工智能足够安全，可以被人们信任、接受时，这样的可信人工智能时代自然会到来。 本报记者 张 宣