当前位置: 亚博 > 人工智能 >
刘宪权等:人工智能时代技术风险亚博手机app的
发布时间:2018-11-07 06:57   信息来源:admin   
       小   中   字体:大  

  一方面,研发者故意研发对人类社会有危害的人工智能产品,可能包括两种情况:其一是研发者为了实现某个犯罪目的而研发人工智能产品,其二是研发者明知人工智能产品未达到安全标准而放任其投入市场。如果研发者为了实现某个犯罪目的而研发“有害”人工智能产品,此时应将该人工智能产品理解为行为人的犯罪工具。以“机器人杀手”为例,行为人为了杀害某个对象而故意研发“智能杀手”来帮助自己实现杀人目的,此时,亚博手机app“智能杀手”实施的杀人行为应当理解为行为人利用“智能杀手”实施杀人行为,我们应当根据行为人利用人工智能产品具体实施的犯罪行为,依照刑法的规定,对行为人定罪量刑。如果研发者并不是为了实现某个具体的犯罪目的,而是在明知人工智能产品未达到产品安全标准的情况下,仍然研发了该人工智能产品,放任其投入市场,笔者认为,此时应通过新增罪名来对此类行为人进行定罪处罚。新增罪名的主要目的包括以下几点:一是加强人工智能技术的风险防控,可以通过刑法对于行为的警示作用来加强人工智能产品研发者的责任感。刑法以外法律法规的规制不足以威慑到人工智能产品的研发者,无法对人工智能风险起到防控作用;二是现行刑法的罪名设计并不能很好地规制此类犯罪行为,如果仅仅依靠生产、销售不符合安全标准的产品罪等罪名来规制此类犯罪行为,那么一旦发生人工智能产品致人严重死伤的案件,将会造成与故意杀人罪、故意伤害罪等罪名法定刑不均衡的局面。应当看到,滥用人工智能技术生产产品的行为已然触犯了公民最宝贵的核心利益,即人类社会的安全问题,刑法需要对其加以特别规制。

  另一方面,过失犯罪以违反一定义务为前提,如果违反了预见义务,即“应当预见但没有预见”或“已经预见但轻信可以避免”,则成立过失犯罪。笔者认为,判断人工智能产品研发过程中是否具有预见义务应当以研发行为发生当时的技术水平为主要标准。如果根据这个标准,研发者在研发人工智能产品的当时是“应当预见但没有预见”或“已经预见但轻信可以避免”产品所造成的危害时,如果人工智能产品最终造成了危害结果,研发者需要承担相应的刑事责任。如果根据研发行为发生当时的技术水平,研发者根本无法预见产品的危害结果,那么法律也不应当强人所难,应当将研发人工智能产品最终造成危害结果理解为意外事件。以自动驾驶汽车的研发为例,在高度自动化的情况下,自动驾驶汽车所作出的驾驶指令主要依靠自动驾驶系统。如果自动驾驶汽车发生了交通事故,此时对于刑事责任的分析似乎就已经不再局限于道路交通责任,我们还需要考虑自动驾驶汽车研发者的产品责任。如果自动驾驶汽车的研发者根据研发当时的科学技术水平对于危害结果具有预见可能性,或没有采取措施尽力避免危害结果的发生,最终自动驾驶汽车发生交通事故造成严重的危害结果,自动驾驶汽车的研发者需要对此承担相关刑事责任。

  首先,对于人工智能时代的“外在风险”,追究人工智能缺陷产品研发者的刑事责任。人工智能技术和互联网技术有一定的相似性,但两者也有一定的不同,这种不同主要表现在技术与产品的关系上。互联网技术对于产品的主要作用类似于通讯媒介,其帮助产品扩大传播面积,实现信息互动等。而人工智能技术则不同,人工智能技术对于产品的主要作用在于其可以增强产品功能,甚至可以改变产品的性质。当然,互联网技术与人工智能技术是相辅相成的,很多时候都是相互牵连的。如果说互联网技术扩大了产品的“广度”,则人工智能技术加强了产品的“深度”。“广度”往往不会改变产品的性质,例如,互联网金融平台与传统金融产品平台相比,其增加了中小投资者的投资渠道,但其本质仍然是金融平台,本质上从事的仍为金融业务。互联网金融犯罪与传统金融犯罪相比可能在社会危害性上有所区别,行为本身不可能有“质”的改变,但互联网技术不改变互联网金融平台本身的性质,互联网金融平台应当被视为一项金融创新。但“深度”往往可能改变产品本身的性质,假如未来出现了人工智能金融产品的话,由于人工智能技术的特殊性,其可能很大程度上就突破了现有金融领域的秩序与规则,例如,证券、期货市场上使用人工智能技术可能违反基本的“三公”原则。就此而言,笔者认为,互联网技术或互联网产品本身的研发过程不涉及刑事责任,互联网犯罪主要是互联网技术应用过程中产生的犯罪行为,也即互联网技术只存在“内在风险”而不存在“外在风险”。但是,人工智能技术则不同,人工智能产品更不同于其他技术类产品。在高深的人工智能技术面前,社会民众是“”,人工智能产品的研发者有义务保证人工智能产品的安全。人工智能产品的研发者掌握了可能会影响时代变迁的技术,甚至掌握了许多重要的数据和资料,在此情况下,刑法需要对不当利用人工智能产品的行为加以干预才能保证社会秩序的稳定。追究人工智能缺陷产品研发者的刑事责任并非是在妨碍人工智能产品的研发。事实上,现行刑法对于假药、劣药、医用器材、化妆品等产品责任的追究也从未阻碍这些技术与产品的发展。相反,追究人工智能缺陷产品研发者的刑事责任能够引导人工智能技术的健康发展,保证人工智能技术快速发展的过程中社会安全秩序仍然保持稳定。因此,追究人工智能缺陷产品研发者的刑事责任并非是在“危言耸听”,在不同时代产品研发者有不同的义务,在强大的人工智能时代,人工智能产品的研发者作为社会成员有义务保证人工智能产品的安全。为了避免出现因为人工智能产品而导致的“人工智能事故”,我们有必要从源头上进行风险防控,避免研发威胁到人类社会的人工智能产品。就我国目前刑法体系而言,对产品刑事责任的追究针对的主要是生产、销售伪劣商品的故意犯罪,对于过失行为导致的产品责任司法实践中往往只按照民事侵权案件进行处理。由于上述人工智能产品所具有的种种特殊性,似乎仅仅依照生产、销售伪劣商品的故意犯罪来追究人工智能缺陷产品研发者的刑事责任无法完善对于人工智能技术“外在风险”的防控。具体而言,笔者认为,人工智能缺陷产品研发者可能需要承担故意和过失两种刑事责任。

  最后,在强人工智能时代到来时在刑法中确立智能机器人的刑事责任主体地位,并增设删除数据、修改程序、笔者在上文已经提及,在强人工智能时代智能机器人完全可能具有与人一样的辨认能力与控制能力,其也完全可能通过深度学习,在设计和编制的程序范围外实施严重危害社会的行为。由于我国现行刑法规定的刑事责任体只包括有自然人和单位,显然不能涵盖智能机器人。笔者认为,时下,刑法可以考虑赋予智能机器人刑事责任主体的地位。这是因为:一方面,智能机器人在设计和编制的程序范围外实施行为实现的是自己的意志,而意志存在与否对于刑事责任能力的认定有着重要意义。我国现行刑法已经将单位作为独立刑事责任主体,将智能机器人与单位进行比较,我们可以清楚地发现,智能机器人的意志自由程度比单位更强,智能机器人完全可能脱离人类产生独立的意志。另一方面,智能机器人的行为完全可能成为法律意义上的行为。传统上关于行为的理论包括自然行为论、因果行为论、目的行为论、社会行为论、人格行为论等,这些行为理论无一例外地认为只有“人”的行为才可能成为法律意义上的“行为”。但是这些理论产生之时,人工智能技术尚未崛起,当时的学者无法想象人工智能时代中可能出现如此类似于“人”的智能机器人,它们和人类一样可以在自主意识和意志支配下实施行为。理论随着时代的推演而继续发展,行为理论也应如此,我们应该根据新时代的要求来对智能机器人行为进行定位。依笔者之见,智能机器人和自然人的区别仅仅在于自然人具有生命体,而智能机器人是非生命体,这一区别似乎并不会改变行为人的行为是在自己意识和意志支配之下实施的性质。只不过自然人独立的意识和意志源于生命体,而智能机器人独立的意识和意志源于超越研发者设计和编制程序内容而形成的自主独立的程序。正是由于智能机器人可能在自主意识和意志支配下实施行为,笔者认为,在刑事立法活动中确立智能机器人的刑事责任主体地位固然重要,但是,目前的障碍可能主要来自于如何对智能机器人处以刑罚的问题。笔者建议,针对强人工智能时代可以成为独立刑事责任主体的智能机器人,未来在刑法中增设删除数据、修改程序、永久销毁等刑罚种类,不仅是必要的而且是可能的。

  物联网应用基于上文笔者对于人工智能时代技术风险的讨论,笔者认为有必要采取具体的措施来应对人工智能时代的技术风险。

  其次,对于人工智能时代的“内在风险”,追究利用人工智能技术犯罪的行为人的刑事责任。传统犯罪行为与人工智能技术的结合与互联网技术的结合一样,完全可能使传统犯罪行为本身的社会危害性发生变化。例如,利用人工智能技术收集涉国家安全的数据,破坏政府信息系统等行为。面对互联网时代复杂多变的涉互联网犯罪,《刑法修正案(九)》专门设立了非法利用信息网络罪、帮助信息网络犯罪活动罪等罪名,从而有利于实践中预防和惩治网络犯罪。此举可以认为是在互联网技术应用过程中风险防控的一种措施,说明涉互联网犯罪已经得到了立法与司法的双重重视。在人工智能时代同样存在着人工智能技术应用过程中的风险,即行为人通过人工智能技术实施犯罪行为。目前已经出现了包含人工智能技术的网络聊天平台,有行为人利用人工智能程序在该平台设定聊天回复和背景介绍,通过聊天内容分析找出容易受骗的女性,对其发送虚假的慈善信息让其汇款从而获利。未来还将出现其他行为人利用人工智能技术实施犯罪行为的案件,对待不同情况的案件刑法应当有不同的处理措施。如果人工智能技术对于犯罪行为而言只是一个崭新的犯罪工具,例如利用人工智能技术实施侵财行为,虽然一次行为即可能获得较传统侵财行为相比高出百倍的收益,但是该行为从本质上无异于其他各类传统侵财行为,只是利用的工具或者手段不尽相同而已,对其社会危害性程度的评判,而完全没有必要在刑法中针对这种特殊的手段专门设置独立的罪名。但是与此同时,人工智能技术的应用使犯罪行为的社会危害性发生了变化,应当比照传统犯罪,进行“从重”或“从轻”处罚。非法利用信息网络罪、帮助信息网络犯罪活动罪等罪名的设置是为了满足打击网络犯罪的现实需求,笔者认为,随着人工智能技术的不断发展,未来也将出现打击人工智能犯罪的需求,此时可以通过设置新的罪名以满足打击利用人工智能技术实施犯罪行为的需求。此举并非是肆意扩大犯罪圈,而是刑法面对科技发展而作出改变的正当选择。

COPYRIGHT © 1977-2018  BY 亚博|亚博体育|app下载 ALL RIGHTS RESERVED