我给文章打分
2018-November-01
1分   2分   3分   4分   5分  
新闻排行榜

版权声明
日 报
周 报
杂 志
人民日报 2018年11月01日 星期四
人民网
往期回顾
返回目录

发展人工智能,治理需跟上(新论)

李 辉

《 人民日报 》( 2018年11月01日   05 版)

  作为新一轮产业变革的重要驱动力,人工智能正在对经济社会发展和人类生活产生深刻影响,也带来方方面面的挑战。10月31日,习近平总书记在中共中央政治局第九次集体学习时强调,要整合多学科力量,加强人工智能相关法律、伦理、社会问题研究,建立健全保障人工智能健康发展的法律法规、制度体系、伦理道德。

  人工智能不仅是一个技术问题,也是一道治理考题。以无人驾驶技术为例,在全球范围内已出现多起事故,甚至造成人员伤亡,然而,并没有法律对此作出明确规定。当人们向算法让渡了部分决策权,也会让归责成为难题。在这个意义上,技术进步是一柄“双刃剑”,一方面可以造福人类,另一方面在缺乏规范和制约的情况下,也有可能损害社会公共利益。处理好人工智能在法律、安全等方面提出的新课题,需要完善治理,让技术创新运行在制度的轨道上。

  事实上,如何对人工智能进行规范,在世界范围内还未形成共识。在不少国家,无人驾驶领域的立法一直在讨论中,看法不一;在中国,无人驾驶的汽车能否上路、是否符合道路交通安全法,也引发了一系列讨论。欧盟最新发布的《通用数据保护条例》中,也没能对人工智能涉及的隐私风险、数据保护风险做出符合大众期待的回应。每当一种新技术出现,都会有关于旧的治理规则是否适用、是否需要升级,以及是否需要制定新的治理规则的讨论。面对日新月异的人工智能技术及其引发的问题,如何用法律条文探寻最佳应对方案、凝聚对未来的共识,是一项艰巨挑战。

  完善与人工智能相关的法律法规,关键在于明确归责原则:一旦问题出现,哪些是人的责任,哪些是算法的责任?归责原则实际上就是对算法做出评价,而算法本身并不透明,如何对其进行评估?对此有三种解决方案:不用算法,使算法透明,审查算法输出。完全避免算法不现实,除了算法,几乎没有其他工具可以处理大量的数据。而算法透明化则难以操作,这相当于要求普通人也能理解算法。因此,审查算法输出是目前的最佳方案。这一方案的要义在于,不管算法的内在工作机制,只根据其结果的公正性对其进行评价。在此方案下,监管成本更低,可操作性更强,归责原则的确定也更明确,具有立法实践的意义。

  面对科技的迅速发展,我们始终在探索人工智能的法律解决方案和治理模式,致力于形成一套务实管用、行之有效的方法。比如,相关部门对人工智能领域的新应用、新尝试给予足够的创新空间,但必要的监管同样不可或缺;一旦发现安全问题、突出风险,监管力量会及时介入,甚至采取多部门联合调查处理的方式封堵隐患、解决问题。这样的模式,既呵护了创新,也有利于防范系统性风险,为人工智能健康发展提供了保障。

  人工智能的治理问题是当前一项重大挑战,世界各国和国际组织都参与其中,这也让人工智能的治理成为全球治理的一部分。如果此时缺位,可能会在新一轮规则制定中陷入被动。如今,中国在人工智能领域的技术探索已处于世界前列,有些部分甚至进入了“无人区”。创新先行,治理必须跟上,如此才能充分享受创新带来的红利,撬动发展的未来。

  (作者为上海市科学学研究所副研究员)

    署名:   





1.遵守中华人民共和国有关法律、法规,尊重网上道德,承担一切因您的行为而直接或间接引起的法律责任。
2.人民网拥有管理笔名和留言的一切权力。
3.您在人民网留言板发表的言论,人民网有权在网站内转载或引用。
推动新变革,构建人类命运共同体(人民观点)
监督要到位,镜头向下移(一线视角·破除督查检查考核中的形式主义③)
发展人工智能,治理需跟上(新论)
图片报道
每个人都是历史的守护者(暖闻热评)
让大众文化滋养人的心灵(人民时评)