如雪科技新闻

【聚焦】人工智能发展亟需立法保障 伦理及安全问题不容忽视伦理刷屏

作者: 点击量:

  核心阅读

  任何技术都是双刃剑,人工智能也不例外。在享受最新技术带来的便利时,不能忽视与之相关的安全问题。要用法治为人工智能产业健康发展保驾护航,让人工智能服务造福人类社会。

  原标题:代表委员热议人工智能发展,构建人工智能未来法治体系

当然不会。纳德拉看得很清楚,云计算、边缘计算、OS、混合现实还有 AI,微软一个都没有落下。在 5 月的 Build 大会上,虽然其云计算产品 Azure 是全场毫无争议的主角,但纳德拉还是给了人工智能业务一段专场 Keynote 的时间,而这次为微软人工智能站台的,就是曾经微软亚洲研究院的院长沈向洋。

  来源: 法制日报

  本报记者:战海峰

  从智伴机器人到自动驾驶汽车,再到法院庭审中的智能语音识别,近年来,人工智能已逐渐进入人们的日常生活。

腾讯是一家科技公司,如果它办一个人工智能、互联网哪怕是区块链峰会都不会人惊讶,但坚持了 6 年 WE 大会偏不是。从虚拟现实设备、人造食物再到五维空间、引力波的探讨,WE 大会的内容关注人类的未来,关注前沿科技,却不关注腾讯怎么赚钱,腾讯怎么让它的合作伙伴赚钱。

  “深化大数据、人工智能等研发应用,培育新一代信息技术、高端装备、生物医药、新能源汽车、新材料等新兴产业集群,壮大数字经济。”今年政府工作报告让人工智能产业看到了前进的方向。

  在人工智能迅猛发展的进程中,关于可能引发的道德伦理问题,可能带来的社会治理问题争议不断。

  推动新一代人工智能健康发展,法治应该有哪些作为,或者说人工智能产业健康发展到底需要怎样的法治保障?近日,《法制日报》记者采访了人工智能产业领域、法律界的相关代表、委员,以及人工智能法律研究的相关专家学者。

  人工智能发展亟需立法保障

  几天前,全球首例无人车致死案宣判,Uber公司不承担刑事责任,再次引发了公众对人工智能发展中法律问题的热议。

方一信息是一家数据综合服务商,主要提供从数据收集,数据处理,到数据归档完整的技术咨询和解决方案。方一信息以近数据计算、可重构计算和闪存存储技术为基础,为专用装备提供设备级别的技术创新支撑和配套,为边缘层计算层和云计算系统提供完整的产品和解决方案,适用于计算密集和数据密集型的应用场景,包括人工智能,情报分析,基因测序,视频分析,金融科技等领域。

  “如何推动法律体系与时俱进,尽快满足人工智能产业飞速发展和社会进步的需要,这对法治带来了很大挑战。”全国人大代表、科大讯飞董事长刘庆峰说。

  与刘庆峰观点一致,在记者采访的代表委员中,无一例外都提出应加快人工智能立法工作。

  全国人大代表、中华全国律协副会长刘守民认为,立法一方面要对人工智能发展做引领,另一方面也要规制如发展目标、路径和阶段。但由于人工智能发展飞快,立法往往跟不上发展速度。

行业公认的,道路交通事故中,90%以上是人为。也因此,想要解决交通安全问题,智慧交通、无人驾驶或许会成为最佳解决方案。这方面基于云计算、大数据、移动互联网和人工智能技术开发的货运调度平台运满满,已经有相关产品及应用实际落地了。

  关于法律滞后,全国人大代表、重庆盼达汽车租赁有限公司党支部书记、总经理高钰有不同看法:前沿的技术变革和创新的商业模式带来的不确定性,也决定了相关的立法工作会有滞后性。

  “但新生事物并非排斥法律法规的制约,相反,法律对于新兴商业模式和技术创新的有效规范和制约能更好地引导企业、行业健康有序发展。”高钰说。

短期来看,鸿海依旧要应对关键市场增长放缓的问题。鸿海董事长郭台铭正在重新为公司制定未来计划,安装机器人巩固制造实力,并同时投资虚拟现实、人工智能等新兴领域。

  由于人工智能涉及的领域众多,不同领域涉及的立法也存在差异。因此,全国人大代表、北京市律师协会会长高子程建议,前期可在重点领域,比如交通、医疗等先行试点专门立法,待总结经验后再进行综合系统立法。

  全国人大代表、致公党上海市委专职副主委邵志清也有类似的建议:“由于涉及面太宽,社会对人工智能的认识还处于初步阶段,目前对人工智能进行综合立法的条件还不具备。但是为了防范重大风险,需要针对人工智能的具体应用进行立法。”

要回答这些问题,微软是一个合适的样本。这家创办于 1975 年的公司,在 2018 年动作频频。其先后收购开源软件社区 GitHub,成立云计算与人工智能事业部,庆祝下设亚洲研究院成立 20 周年,以及一度重回全球公司市值第一的位置。

  对于立法到底应该从哪些方面进行,基于自己的专业实践,受访者都有不同的认知。

  刘庆峰指出,算法、算料(数据)、算力是人工智能技术发展的重要支点,需要有针对性地予以立法规制。

  而在高子程看来,还应立法应明确规定人工智能的法律地位、人工智能生成内容的权利归属、人工智能损害后果的责任分担、人工智能风险的法律控制等亟待解决的内容。

  邵志清告诉记者,人工智能应用的管理应该重点围绕伦理道德、资源获取、主体认定、行为认定、责任划分等方面进行立法。

刘维从事前沿科技的投资至今已有 15 年,早在 2005 年就尝试过智能机器人的投资,而等到 2011 年大家都忙着抓移动互联网的机会时,他已经在全力押注 AI,主导投资了 Face++、思必驰等著名 AI 企业,因此有业内人士评价,刘维应该是目前国内对人工智能理解最深、最有发言权的投资人。

  “人工智能立法已不仅是一个国内法的问题,这是人类共同面对的课题。”刘守民认为,人工智能发展还需要国内与国际间的协调,通过国际的公约条例,包括技术标准等领域形成共识。

  规范司法加强执法不可或缺

  “用法治的手段保障人工智能‘安全、可靠、可控’,也是欧、美、日、韩等国发展人工智能产业的必经之路和共同经验。”西南政法大学人工智能法学院院长陈亮说。

这是一个人类安全感消失,全面失重的时代。量子计算、人工智能、机器学习等颠覆技术已经初露峥嵘,但距离全面渗透到社会的每一个细胞还有待时日,明天让人兴奋又惶恐;建立在工业社会基础上旧的政治经济体系正在经历重构,实体经济面临沉重压力,金融体系正在蜕变中进化,2016 年出现了英国脱欧、美国大选这些让人始料未及的黑天鹅事件,昨日的经典难以复用;而在过去五年一直被认为是新经济引擎的移动互联网增速正在放缓,智能手机普及所带来的红利已大不如前,移动互联网跑马圈地时期依靠烧钱补贴建立起的商业模式受到越来越多的质疑,创业者艰难过冬,资本的压力也越来越大,今天面临的问题都很难靠着延续 2012 年时的路径去解决。

  在陈亮看来,立法只是法治保障人工智能发展的其中一环:执法、司法等环节同样不能偏废。

  高子程也认为,完善立法,规范司法,加强执法,加大普法,积极构建人工智能未来法治体系,用法治保障人工智能健康持续发展。

  “在司法中,要坚持法治理念、法治思维和法治方式,树立谦仰、审慎、善意、文明、规范办案理念,恪守技术中立原则,不轻易对司法机关看不准、有市场、受欢迎的技术业态产品采取强制措施,最大限度减少司法活动对新技术发展的不利影响。”高子程说。

  在高子程看来,司法还应坚持刑法的谦抑性,在其他法律规范足以保护相应法益的前提下,刑法不应首先介入,只有在其他法律规范无法充分有效保护相应法益时,刑法才有介入的必要和空间。

  “在执法环节,应建立专门的执法部门,明确其职权范围,规范其执法程序。”陈亮认为,尤应注意的是,在制度设计时,应以委托代理理论为指导,从制度层面解决好该执法部门的参与约束和激励相容的问题,以免执法过程中出现委托代理人问题,导致人工智能立法流于形式。

  为让执法真正有成效,高子程认为,应组织相关执法部门专责制定人工智能领域配套的各种技术规范、技术标准,这个标准应当是对行业自身所发展出来的标准与公共利益、个人权利保护原则的综合考量,其制定程序应当遵循公共参与、听证等行政程序规则。

而在 Google 内部,底层技术不会被浪费,事实上,它的进展比以往任何时候都要快。高级产品总监 Aparna Chennapragada 表示,「因为深度学习,这项技术有了跳跃式的发展,和语音技术的快速进步一样,图像搜索也开始崛起。」通过收购 DeepMind,投资 AI 芯片,以及 Google 在整个人工智能行业内所作的思考,这项技术得到了更好和更快的改进。

  伦理及安全问题不容忽视

  从目前已经投入使用的人工智能产品中看,部分智能庭审系统甚至已经能够基本代替书记员的记录工作,加快了庭审进度。

  人们不禁会问,当人工智能广泛应用之时,一些可以替代的传统行业是否会造成大量的失业,造成社会的不稳定。

  “解决这些问题首先是在人工智能大规模替代现有工作之前,把社会保障体系建立起来。”刘庆峰说,在社会保障体系之下,人工智能代替了重复性工作后,人会有更多的时间去做创意等不能替代的事情,从而获得社会价值感。

  刘庆峰认为,人机合成是未来人工智能的重要突破方向。他举例称,目前“智医助理”可以根据医嘱对话,自动生成对疾病的判断,供医生参考确认。“所以我想人工智能并不是要淘汰人类,而是要让人类站在人工智能的肩膀之上。”刘庆峰说。

人工智能是另外一个现在关注度很高的领域,我们看到打败围棋冠军的 DeepMind,和几年前打败国际象棋冠军的 DeepBlue,他们的计算从 CPU 的性能的角度来看,差了 2.5 万倍。

  对于人类与人工智能的关系,刘庆峰还是很乐观。他认为,人工智能立法应当遵循“人机耦合”和“以人为本”原则。

  “这意味着要充分认清人工智能是帮助人的,而不是替代人的,要刺破技术面纱,有针对性地规制技术背后人的行为;意味着要把人民群众的生命和财产安全放在首位,实现人工智能在风险可控的范围内发展。”刘庆峰说。

我对所有的新技术,永远都抱着一种非常积极的心态,我从来不认为技术的进步会导致人类的灭亡,我从来不认为人工智能真的有一天会把人类干掉。不会!

  不论乐观与否,人工智能立法在伦理道德方面还是要有明确规定。

美国农民正在用人工智能监测奶牛的活动情况

  邵志清认为,应明确禁止应用人工智能技术实施违反人类伦理道德的行为,特别是在基因工程、生命科学、情感意识等方面用法律为智能社会划出伦理道德的边界,让人工智能服务造福而不是困扰危害人类社会。

  “对人工智能要抱有一定的尊重和敬畏,技术进步带来的东西不见得都是好事,一定要慎重,避免出现有悖伦理道德的事情。”刘守民说。

  全国政协委员、360集团董事长兼CEO周鸿祎也认为,任何技术都是双刃剑,人工智能也不例外。“但我们在享受最新技术带来的便利时,也不能忽视与之相关的安全问题。”