人工智能崛起时代所面临的法律问题_东方法眼 [dffyw.com]
 
首页 > 法学 > 综合 > 正文

人工智能崛起时代所面临的法律问题

2019年04月06日20:33 东方法眼 刘吉颖 刘华
   
 

核心提示:2016年3月,AlphaGo与李世石的围棋大战以4:1完胜;2017年4月,AlphaGo以3:0绝胜世界围棋冠军柯洁;2017年10月,AlphaGo zero以100:0的战绩击败

  2016年3月,AlphaGo与李世石的围棋大战以4:1完胜;2017年4月,AlphaGo以3:0绝胜世界围棋冠军柯洁;2017年10月,AlphaGo zero以100:0的战绩击败“前辈”AlphaGo。随着人机大战中机器人的完美胜利,关于人工智能是否能够战胜人类的讨论在理论界掀起,人工智能瞬息之间成为各个行业用来标榜可以取代并威胁人类的焦点。

  美国麻省理工学院的温斯顿教授认为:“人工智能就是研究如何使计算机去做过去只有人才能做的智能工作。”这一说法反映出人工智能的基本思想和基本内容是研究人类智能活动的规律,研究如何让计算机去完成以往需要人的智力才能胜任的工作,也就是研究如何应用计算机的软硬件来模拟人类某些智能行为的基本理论、方法和技术。AlphaGo与李世石、柯洁的对弈,证实人工智能被赋予了人的思维,而且具有了战胜人类的强大功能。人工智能的研究者分析指出,AlphaGo是被录入了世界上所有最优秀的棋谱,且经过不断地强化训练而达到人类无法战胜的目的。如果说AlphaGo的强化训练只是对人的思维模式的模仿与复制,那么AlphaGo zero则是从空白状态学起,在无任何人类输入的条件下,迅速自学围棋,这就说明机器具有与人同等或者类似的学习能力,分析判断能力,创造能力,具有人的思维意识。美国汉森机器人索菲亚公司生产的最先进的人形机器人索菲亚,拥有杰出的表现力、美感和互动能力,可以模仿一系列人类的面部表情,追踪并识别人类面部,理解人类语言,记录与人类的互动并与人类自然交谈。索菲亚虽然没有人类躯体,但是却拥有人类的灵魂,其能够进行自我创造,并能够表达情绪和感情。

  随着人工智能的不断发展,伴随着的相关法律问题也随之而来。

  一、“人工智能”的法律定性?

  2017年10月26日,沙特阿拉伯授予机器人索菲亚公民身份,索菲亚成为史上首个获得公民身份的机器人。“索菲亚”在回答人类“你怎么知道自己是机器人?”这一问题时说:“你不必担心我们机器人,你们人类又怎么知道自己就是人类呢?”当“索菲亚”等完全拥有人的思维能力和灵魂的人工智能出现,且其完全不依赖与人类的任何干预而自主的进行思维和活动时,关于“索菲亚”是不是“人”的问题成为研究界争论的话题。

  《现代汉语字辞典》对“人”的解释为“由类人猿进化而成的能制造和使用工具进行劳动、并能运用语言进行交际的动物”,从该伦理意义上来说,机器人不是“人”。而“公民”是一个法律概念,是指具有一个国家的国籍,并根据该国宪法和法律,享有权利并承担义务的人。从另一个角度说,凡具有一个国家国籍的人就是这个国家的公民,属于某一国的公民,就享有该国法律所赋予的权利,可以请求国家保护其权利,同时也负有该国法律所规定的义务,并接受国家的管理。公民这个概念反映了个人与国家之间的固定的法律关系,“索菲亚”被授予沙特阿拉伯公民身份,其即享有沙特阿拉伯法律所赋予的权利及义务,是法律意义上的“人”。

  而法律主体即法律意义上的人是指活跃在法律之中,享有权利、负有义务和承担责任的人。此处所说的“人”主要是指自然人。科学技术的发展使得机器人这一等同或类似于“人”的法律主体出现,在法律滞后的现实体系中,无法预计到新的“人”类诞生的法律问题,自然也就无法将这类“人”列入法律所规范的范畴。但随着人工智能的发展,关于机器人是“工具”还是“人”(或者“虚拟人”)的法律定性问题亟待解决,随之而来的是其生命权、健康权以及与人类似的其它各种权利保护问题。索菲亚公民身份的取得,势必将推动各国立法对于人工智能法律定性问题的进一步研究。

  二、人工智能生成物是否具有知识产权?

  2017年5月,“微软小冰”出版了史上首部由人工智能创作的诗集《阳光失了玻璃窗》;2018年5月16日,“微软小冰”为知乎·盐Club 新知青年大会作词并演唱主题曲《我知我新》,随后发布《微风》《我是小冰》、《好想你》等多首单曲;2018年9月25日,微软小冰发布古诗词儿歌专辑单曲《相思》,并且宣布将发布第一张人工智能古诗词儿歌专辑《小冰的童谣·好听的诗》。由“微软小冰”所完成的作品的出版和发行带来一个新问题--人工智能生成物是否具有知识产权?

微软小冰

  知识产权也称其为“知识所属权”,指“权利人对其智力劳动所创作的成果享有的财产权利”。根据现行法律,知识产权成果是指“人类创造出来的成果”,人工智能并不是人类创造出来的,所以就不能成为知识产权意义上的权利主体。而在人工智能完全拥有人类思维和创造力,并能够自主的创作出智力劳动成果时,那么人工智能生成物又确实具备'知识产权作品'的某些基本属性,如果认为人工智能生成物具有知识产权,那么对于该成果的权利归属确定问题、让与问题、继承问题也成为亟待解决的法律问题。

  三、人工智能侵权责任如何认定?

  在人工智能应用范围日益普及,人工智能的研究领域不断深入的情形下,人工智能所导致的侵权事故也在不断发生。2016年5 月份,在佛罗里达的一条高速公路上,一辆开启了 Autopilot 模式的特斯拉发生了车祸,驾驶员致死;2016年7月,Knightscope 平台曾打造出的号称是“打击犯罪的机器人”在硅谷的一家商场里弄伤了一个 16 岁的少年;2016年11月,在深圳举办的第十八届中国国际高新技术成果交易会上,一台名为“小胖”的机器人突然发生故障,在没有指令的情况下,自行砸坏了部分展台,并导致一人受伤;2018年3月,优步(Uber)的自动驾驶车辆在路试时与一名行人发生碰撞,导致该名横穿马路的女性行人死亡。

  一起起人工智能事故所引发的侵权责任认定和承担问题,是对现行侵权法律制度提出的又一个新的挑战。

  现行法律所规定的侵权责任主体仅为民事主体,人工智能本身还难以成为新的侵权责任主体,侵权行为发生后,谁是人工智能的所有者,就应当由谁负责,这在法律上似乎并不存在争议。然而人工智能的具体行为受程序控制,发生侵权时,到底是由所有者还是软件研发者担责,值得商榷,与之类似的,当无人驾驶汽车造成他人损害侵权时,是由驾驶人、机动车所有人担责,还是由汽车制造商、自动驾驶技术开发者担责?法律是否有必要为无人驾驶汽车制定专门的侵权责任规则?这些问题都值得进一步研究。

  四、人工智能的自我学习和突破所产生的法律后果由谁承担?

  如果说无人驾驶技术及机器人伤人事件的发生是因为人工对智能的程序设计或者算法输入上出现了失误或者故障,这种侵权责任的认定则相对比较简单,而随着人工智能技术的飞速发展,以及人工智能对于算法本身的自我学习和适应能力,人工智能开始拥有自主意识,具有与人同等或类似的学习能力、创造能力,自我保护意识,情感意识和自发行为,人工智能侵权责任中的因果关系、过错责任等要件的判断也变得日趋复杂。

  2016年春天,微软在 Twitter 上发布了一个人工智能驱动的聊天机器人 Tay, Tay 在发布后不久被发现散布种族主义、性别歧视和攻击同性恋言论,最终微软不得不将 Tay “杀死”,并宣布将会对相关的算法进行调整;2016年6 月,一个配备了人工智能的视频游戏“Elite: Dangerous ”出现了一些游戏制造者计划之外的状况:人工智能(非玩家角色)竟然创造出了游戏设定之外的超级武器;马逊回声(Amazon Echo)被认为是最强大的智能音箱之一,而2017年一个德国男人家中的智能音响在他不在家的时候被意外激活了,午夜过后开始放音乐,吵醒了邻居,最终警察不得不破门去关闭智能音响并且更换了门锁。这些因人工智能拥有智商而发生的事故,已然向法律提出了严峻的挑战,侵权责任的认定已不再是简单的以研发者或者所有者为传统归责原则所能包容和实现的。

  五、人工智能对道德伦理的挑战?

  首届“国际人工智能选美大赛”上,基于“能准确评估人类审美与健康标准的算法”的机器人专家组对面部进行评判。但由于未对人工智能提供多样的训练集,比赛的获胜者都是白人,致使人工智能审美带有种族歧视;Northpointe 公司开发出了一个用来预测被指控的罪犯二次犯罪几率的人工智能系统被指责带有种族偏见倾向;中国用面部识别技术来预测罪犯,同样被认为是有偏见的。

  发展人工智能不仅存在技术或应用问题,更存在颠覆社会性、伦理性甚至人性的跨领域问题。中国社科院哲学所研究员段伟文指出:新一代人工智能是以大数据为驱动,其核心是算法,数据和算法并非完全客观,数据的采集、标注和算法的设计往往负载着价值。人工智能算法不可避免地要体现设计者与执行者的利益和价值取向,由于算法的不透明和难以理解,有时候很难看出其中的歧视和不公,很多人在毫不知情的情况下,承受着各种微妙的歧视和精准的不公。因此,数据解读中的价值取向和算法设计中的伦理考量,是决定人工智能区分道德上“对”与“错”的关键。

  2018年7月12日在天津高新区举办的雷克大会(2018机器人与人工智能大会)上,工信部赛迪研究院发布了《人工智能创新发展道德伦理宣言》,希望通过道德伦理约束,帮助人工智能产业健康发展。对社会普遍关心的人工智能与人类的关系,《宣言》第二章第五条规定:“人工智能的发展应当始终以造福人类为宗旨。牢记这一宗旨,是防止人工智能的巨大优势转为人类生存发展巨大威胁的关键所在。”第六条规定:“无论人工智能的自主意识能力进化到何种阶段,都不能改变其由人类创造的事实。不能将人工智能的自主意识等同于人类特有的自由意志,模糊这两者之间的差别可能抹杀人类自身特有的人权属性与价值。”第七条规定:“当人工智能的设定初衷与人类整体利益或个人合法利益相悖时,人工智能应当无条件停止或暂停工作进程,以保证人类整体利益的优先性。”

  虽然《人工智能创新发展道德伦理宣言》中对于人工智能与人类的关系做出了规定,但宣言的倡议色彩更为浓厚,要从根本上来规范人工智能与道德伦理,依旧需要法律的约束。

  六、人工智能发展中主要社会关系的平衡

  1.人——机关系的平衡。

  人工智能机器人的出现,将人类从繁重的劳动中解脱出来,也使得人类远离了某些危险作业的施工,人工智能运用于工业生产既节省了雇佣劳动人员的资金又提高了生产的效率,推动了工业经济的发展。但是,人工智能技术让人--机关系成为社会生活的一部分,使得社会构造可能产生本质性的变革,同时也带来了人类对于人工智能的抵触和攻击。

  据外媒报道,2018年10月的一天中午,谷歌旗下Waymo公司的无人驾驶车在在钱德勒地区测试中遭受袭击,事实上,截至2018年底,美国亚利桑那州钱德勒地区至少出现了21次Waymo无人驾驶车遭受袭击事件。Waymo公司从2017年开始在钱德勒地区测试无人驾驶货车。这座城市目睹了人工智能技术的崛起,当地的市政官员收到了很多市民对该技术的抱怨和投诉,涵盖从汽车的安全性能到失业担忧等各个方面。纽约城市大学的媒体理论家、《向谷歌巴士扔石头》一书的作者道格拉斯·拉什科夫表示:“越来越多的人都认为,那些提升无人驾驶技术的大公司根本没有把我们的最大利益放在心上。不妨想想这些车里的人,他们基本上是在训练人工智能,而这些技术最终会让其失掉饭碗。”

  随着人工智能技术的飞速发展、智能机器人已经从单纯的机械化劳动的替代角色演变成可以从事高难度智力劳动。无人餐厅、无人银行、无人驾驶汽车、无人售货超市等等人工智能技术运用下的新产物,使得依赖社会需求凭借自身劳动得以生存的劳动者出现了恐慌。“微软小冰”参与主持21档电视节目、28档广播节目,创作诗集及乐曲,更带给了人类前所未有的压力和挑战。如何让人类正确对待人工智能技术的发展变得尤为重要。

  2.研发--使用关系的平衡。

  人工智能正在成为新一轮产业变革的引擎,必将深刻影响国际产业竞争格局和一个国家的国际竞争力。世界主要发达国家纷纷把发展人工智能作为提升国际竞争力、维护国家安全的重大战略,加紧积极谋划政策,围绕核心技术、顶尖人才、标准规范等强化部署,力图在新一轮国际科技竞争中掌握主导权。但由于人工智能主要依靠大数据和计算,算法的设计者们是否可以不偏不倚地将既有法律或道德准则原封不动地编写进程序,是值得怀疑的。而机器学习算法对内存溢出之类的传统漏洞“持开放态度”,所以当使用中操控甚至改变算法或者污染机器学习的数据集都将造成人工智能的滥用甚至造成运用领域的不良后果。联邦调查局的反恐识别系统将美国马萨诸塞州的居民John Gass误认为是另一位司机,并吊销了他的驾驶执照;事实上,在美国每周有超过1000人被机场使用的算法错误地标记为恐怖分子。各种人工智能歧视和偏见其实际上是由于算法设定的偏差而导致,而人工智能机器人被“黑客”袭击成为“黑箱”亦屡见不鲜。有犯罪分子通过获取相关数据信息形成他人数据体系而冒充他人身份利用数据识别这一人工之智能技术来实现犯罪,显然,在人工智能时代,仅凭人脸、语音、指纹识别,并不能严格确认一个人的身份,毕竟它们被获取和伪造的成本实在太低。同时由于新一代人工智能技术高度依赖大数据,但大数据又是互联网时代非常稀缺的资源。这就导致很多传统行业在利用人工智能时,因缺乏基础数据,不得不利用一些不正当的手段获取其他经营者的数据。

  3.人工智能快速发展与公民个人信息权及隐私权保障的平衡。

  数据是数字经济的关键生产要素,人工智能是数字经济的关键产业支柱。随着人工智能技术的愈发成熟,伴随而来的人类隐私、安全、数据等风险也是不能忽视的问题。例如人脸识别技术,其中人脸图像从广义上来说也属于数据,如果没有妥善保管和合理使用,就会侵犯用户的隐私。此外,个人的活动轨迹、用户在网站上的浏览行为也都会变成数据被沉淀下来,而这些数据的汇集都可能导致个人隐私的泄露。如何在发掘数据的经济价值、发展人工智能的同时,保障个人的权利和自由,依然是数字社会的未解难题。2018年5月25日生效的欧盟《统一数据保护条例》在1995年《数据保护指令》的基础上,进一步强化了对自然人数据的保护,它不仅仅提供了一系列具体的法律规则,更重要的是它在“数据效率”之外,传递出“数据正义”的理念。我国尚无《个人信息保护法》,但在“数据正义”理念引入后,法律首先要做的就是规定更加小心和负责地收集、使用、共享可能导致歧视的任何敏感数据。

  综合以上对于人工智能发展具体事件和客观事实的分析,我们能够清晰地感受到,人工智能的未来已来,并且在我们不曾明显感知的情况下以高速度、大规模介入我们的生活、改变我们的生活。而这些介入,带来的不仅是生活方式的改变,还会给人类社会带来法律关系、道德伦理、社会治理等诸多方面的新挑战。急需对关于人工智能有关的法律身份、权利义务,管理约束、利益平衡等进行立法。但是我们也必须清醒的认识到,人工智能开启的是一个全新的与过去数千年人类认知方式完全不同的新领域,人工智能技术应用所具有的不确定性,发展进步的快速性,多样性、复杂性、多变性都是无与伦比的,使其立法本身就具有较高的难度,也无从参照。而执法对象上的特殊性更对立法阶段的可操作性提出了更高的要求。正因如此,第十三届全国人大二次会议上大会发言人张业遂在回答中外记者提问时指出:全国人大常委会已将一些与人工智能密切相关的立法项目,如数字安全法、个人信息保护法和修改科学技术进步法等,列入本届五年的立法规划。同时把人工智能方面立法列入抓紧研究项目,围绕相关法律问题进行深入的调查论证,努力使人工智能创新发展,努力为人工智能的创新发展提供有力的法治保障。相信,在法律的保障下,人工智能将更好的发挥其为人类服务的功能。

  (作者单位:甘肃拓原律师事务所)



扫码获取每日最新法律法规
陈光中等中国法学大家支持的李博士刑事辩护团队!