【中国安防展览网 时事聚焦】据汤森路透基金会网站2017年11月6日报道，英国宇宙学家霍金说，技术可以改变生活的方方面面，但警告说人工智能带来了新的挑战。他说，人工智能和机器人已经威胁到数百万人的就业——但这场新的革命可以用来帮助社会并为世界谋福利，比如减轻贫困和疾病。
 

致敬霍金：人工智能发展需要加强安全监管
 

　　报道称，在里斯本举行的2017年网络峰会开幕当晚，霍金通过远程连线的方式说：“人工智能的兴起可能成为人类历史上最糟糕的事情，也可能成为最美好的事情。”他说：“我们只需要意识到这些危险，找到它们，采取尽可能好的做法和管理手段，提前为其后果做好准备。”
 

　　“人工智能”无疑是近期科技圈最热门的关键词。随着在深度学习等领域的一些关键性技术取得突破，人工智能技术在过去几年中获得了长足的发展，其应用已经深入到了生产生活的各个领域。但与其他许多科技行业不同，这一领域的研究不受正式安全法规或标准的约束，导致人们担心人工智能最终可能脱离人类控制的轨道，成为负担而不是利益。2月21日，一份由25名技术与公共政策研究员共同发布的报告指出，快速发展的人工智能(AI)被恶意利用的风险呈上升趋势，一旦遭黑客攻击，或酿成无人驾驶的车祸，商业无人机也可能变成有针对性的武器。
 

　　这并非危言耸听，甚至已有实例。2017年，浙江警方破获了一起利用人工智能犯罪、侵犯公民个人信息案。专业黑客用深度学习技术训练机器，让机器能够自主操作，批量识别验证码。“很短时间就能识别上千上万个验证码。”当时的办案民警介绍。
 

　　人工智能下一阶段发展的关键在于，究竟该如何避免其被恶意操作，从而让其更好助力经济发展、社会进步。这是业界和政策制定者共同关心的问题。
 

　　中国社科院文化法制研究中心研究员刘明说，技术带来的问题，有时也可以用技术发展来解决。人工智能是一种工具，工具的发展也许不会从根本上改变行为的性质，但会改变行为的模式和行为后果的烈度。“如果意识到自己所在行业存在人工智能带来的威胁，自身加强防范就很重要。”
 

　　全国人大代表、科大讯飞董事长刘庆峰建议：“目前已有互联网安全保护，但对于数据安全的等级设置、数据安全的追责机制，包括对用户个人隐私方面的保护，相关法律法规还不够健全。人们希望在这个时代大数据能够充分地开放，但是在涉及国计民生的敏感数据时，一定要设置严格的安全等级，一旦这些数据发生泄露，对整个社会将产生极其严重的后果，这对人工智能和大数据产业发展将是非常大的冲击和毁灭，因此要有严格的体系保护。刘庆峰觉得这对未来大数据和人工智能发展意义重大。”
 

　　科技部副部长王志刚建议，要加强安全监管和评估，建立人工智能监管体系，促进人工智能行业和企业自律，切实加强对数据滥用、侵犯个人隐私、违背道德伦理等行为的管理；同时，加强法规政策研究，围绕人工智能发展可能遇到的法律法规问题进行超前研究，针对自动驾驶、服务机器人等应用前景广阔的领域，加快研究制定安全管理条例。
 

　　全国政协委员、贵州贵达律师事务所主任朱山朱山建议，首先，应启动人工智能“算法”安全风险评估体系的研究工作，“算法”是否存在缺陷，决定了生产者及研发者是否承担民事责任；其次，鉴于人工智能带来的民事法律问题复杂，辅以强制保险制度具有必要性，及时、有效的化解相关的社会矛盾和纠纷；此外，启动人工智能创造物知识产权立法研究工作，明确人工智能创造物的利益归属规则，从而对人工智能创造物予以必要的保护。
 

　　全国人大代表、重庆市总工会挂职副主席杨帆认为，随着人工智能的发展，有些设备可能会对人身安全造成威胁，所以在人身安全的防御方面，要加以保护技术，国家层面上加快布局。杨帆表示，美国今年发布人工智能的法案，这是全球第一个人工智能的法案，欧盟今年将重点在人工智能方面进行立法，中国一定要立法先行。
 

　　结语：人工智能发展需要加强安全监管，但不能因噎废食，为了保护所谓的“隐私”而放弃对技术可能性的探索。未来5-10年，依然会是人工智能的时代，在人工智能时代，切戒以牺牲安全为代价的粗放式增长，坚决走“边发展，边治理”的科学之路。要充分认识和评估每项“颠覆性创新”可能存在的漏洞或盲点并及时加以处置，尽可能降低人工智能发展中的风险。