周鸿祎：“三件事”揭示人工智能安全无小事

本篇文章742字，读完约2分钟

中国证券报(记者)在5月16日举行的第三届世界智能大会上，360董事长兼首席执行官周通过最近三起与人工智能相关的事件，揭示了人工智能的安全隐患。周说，这并不是贬低人工智能，相反，重视安全有利于人工智能的更好发展。

周首先谈到的是波音737飞机坠毁。周说，这起事件引发的思考是:电脑出问题的时候，是电脑还是司机？这反映了无人值守系统中的最终控制争议。周说:每个人都应该思考这个问题。在未来许多无人系统中，如无人驾驶车辆、无人工厂和无人码头，当我们不确定时，当传感器被误报和数据被污染时，最终的控制和决策应该留给机器还是人类？

周谈到的第二件事是，警方通过人脸识别技术逮捕了逃跑的嫌疑人。不过，周也提醒说，在黑客眼里，这项技术本身就有固有的缺陷:黑客们通过研究发现，只要在衣服上印上一条奇怪的条纹，人脸识别系统就能被屏蔽，人就可以自由进出。

这让周更加担心，因为这意味着一些无人驾驶汽车可能会被道路上的奇怪符号所误导，从而导致严重的交通事故。为此，周建议，企业上网前应做好网络安全检查和攻防工作。有必要使用实际攻击来发现问题，而不是依靠静态研究来证明系统的安全性。周还登广告招聘该公司:我们必须找到这些安全公司来帮助我们做实际的攻击和防御。在我们手中找到问题可能比在现实中更好。

第三件事，周提到，去年IFlytek在人工智能大会上的一个动作引发了他的担忧，即在去年的讲话中播放了特朗普用人工智能伪造的视频，引发了他的思考。

周说，如果这个工具降低了每个人的造假成本，就有可能出现假新闻和假视频。这颠覆了我们固有的观念，即我们过去看到的比我们听到的更糟糕，甚至在关键时刻带来混乱。新加坡正在制定相应的法律。周呼吁中国对此类问题给予更多关注，以防止此类工具传播和引发一系列道德伦理问题。

来源：人民视窗网