电子邮件 网上办公

邀兵请将  
您现在所在位置: 德衡商法网  >   业务领域  >   争议解决业务中心   >   复杂商事争议专业委员会

杨光明、许惠茹:人工智能研发者是否应承担产品质量责任

发布日期:2020-04-07
一、疫情下的人工智能主要应用场景

此次新型冠状病毒肺炎的爆发,无接触是疫情防控的关键,人工智能开始大范围进入人们的视野。比如在疫情爆发严控的阶段,无人机在大街小巷巡逻,不仅宣传防疫知识还实时监控疫情情况,及时喊话外出放风的大爷大妈们。又如医疗资源紧张的武汉各医院,人工智能更是及时承担多项辅助工作,智能机器人测量体温、药房巡视、定点投放药物以及CT辅助诊断。时间距离更近一点的,大家都陆续复工后,在人流量极大的高铁、地铁等公共交通场景下,目前采用的大多数是人工智能红外测温系统,不仅减轻了安检人员一个一个检测的负担,还能在佩戴口罩的情况下进行智能识别检测。

概言之,人工智能在监控测温、疫情回访、问诊导诊、辅助诊断、基因分析及数据预测方等方面均发挥了重要作用。但此次崭露头角的多是人工智能行业的头部平台或是少部分独角兽企业,很多应用在疫情中的功能也是临危受命研发而成,各智能系统背后的数据支撑、运算逻辑或是硬件系统尚不成熟,其背后的风险也不容忽视。

二、人工智能的运行逻辑决定其风险大小

(一)人工智能运行的核心关键

人工智能,英文缩写为AI(Artificial Intelligence),是研究、开发用于模拟、延伸和扩展人的智能的理论、方法、技术及应用系统的一门新的技术科学。该领域的研究包括机器人、语言识别、图像识别、自然语言处理和专家系统等。人工智能需要做到前述功能主要靠其内在的运算系统支持,具体而言可以总结为人工智能“3+1”要素,即算料(大数据)、算法、算力(计算能力)这“三算”以及场景,共同构成“3+1”要素。

算料(大数据):人工智能的智能都蕴含在大数据中,现在的时代,我们每天吃饭、乘车、消费等都会产生大量数据,但这些大部分都是非结构化的数据,将这些数据特征化、标量化、向量化处理后变成可以为人工智能算法所用的大数据。

算法:人工智能通过算法获取和分析大量数据,算法是实现人工智能的根本途径,目前主流的算法主要分为机器学习算法和神经网络算法,后者是目前的主流算法。

算力(计算能力):算力为人工智能提供了基本的计算能力的支撑,它的某种本质是通过张量计算来处理非结构化数据的匹配。经典的计算环境下,对于非结构化数据的处理无法获得高效率的计算,所以AI计算需要单独的计算芯片和计算架构来优化。各种芯片计算能力对比中GPU领先其他芯片,在人工智能领域中运用最广泛,CPU、FPGA、ASIC次之。如果通过优化提升GUP的计算性能,还能加速神经网络系统的计算。

场景:算料、算法、算力作为输入,只有在实际的场景中进行输出,才能落地,体现人工智能的价值。业内有个非常形象的类比:如果把炒菜作为场景,那么大数据就相当于炒菜需要的食材,算力就相当于炒菜需要的煤气/电力/柴火,算法就相当于烹饪的方法和调料。 

(二) 疫情下,基于“三算”要素考量的客观风险

人工智能经过60多年的发展后,目前在“三算”方面取得了大量突破,有了从“不能用”到“可以用”的进步,此次疫情爆发也引起了官方的高度重视,工信部今年2月4日还发布了《充分发挥人工智能赋能效用 协力抗击新型灌装病毒感染的肺炎疫情倡议书》,号召尽快利用AI技术并挖掘应用场景。这份倡议说明疫情防控对人工智能的急需,但这个领域还处于行业发展的早期,能够抓住机遇的企业并不多,目前还面临诸多技术上的不成熟及产业链供应不足的问题。基于“三算”要素的考量目前至少存在以下风险:

1、人工智能具有极强的数据依赖性。比如疫情期间刚需的红外线测温即为典型示例。测温的精准度会受到很多因素的影响,特别是在车站这种人流量比较大、室内外温差大、环境比较复杂的地方,难免会有温度的浮动,为了保证测量温度的精准性,旷视推出了新算法,在无黑体的情况下保证人体测温误差在±0.3℃。由于人工智能的数据依赖,数据的准确性和相关性显得至关重要,必须有良好的机制来保障数据质量,否则会因为数据错误而导致安全风险,并且数据依赖性还会扩大错误数据的安全风险。就红外线测温而言,如测量失误导致“超级感染者”放行,继而导致众多人员必须采取紧急隔离措施,或更糟糕的是直接导致众多人员的感染,那这种风险是相当大的,不得不予以重视。

2、人工智能算法还不够成熟,需定向更新才能适应疫情需求。人工智能的算法是实现人工智能的根本途径,此次疫情期间的产品都离不开特定场景需求的定向算法。比如机器人的医疗配送,由于智能机器人运营在医院的核心区域,机器人在不同科室之间来回穿梭,这对机器人本身导航、电池的安全性,以及配送物品的安全性要求极高。但据人工智能独角兽企业优必选所言,目前机器人应用场景还面临很多现实的困难,比如现在机器人的跨台阶能力很差,见微知著,机器人算法的不断更新迭代还有很长的路要走。再比如CT人工智能辅助诊断,能在2-3秒内从300多层的CT影像中挑出病灶影像,并对病人进行轻症、重症等定量评价,极大提高医生审片效率,但效率提高了,准确率如何保证?数坤科技相关负责人称既不能错判,还要抑制假阳,即由于环境、操作、试验方法或者患者自身等因素,把不具备阳性症状的人检测出阳性结果,这两个维度是现在产品的难点。“要控制好这两个维度,需要凭借多年的医学临床经验和病例判断能力,对AI系统的算法进行不断调参”。并且,这还是在积累大量辅助诊断数据的前提下对算法进行不断地调整才能适应疫情需求。如果人工智能诊断划分失误导致肺炎患者分诊错误及治疗被耽搁,亦或是导致更多人感染,其风险不可不察。

3、人工智能算力主要集中在各大云计算厂商,并未行业普及。疫情爆发之后,各大云计算厂商率先宣布的一件事,就是面向科研机构免费开放AI算力,比如阿里云提供超大规模计算力、AI算法等技术,支持钟南山团队的科研人员加快开展对新冠病毒的新药研发、病毒基因测序、蛋白筛选等相关工作。前述这些医学分析领域的工作,人工智能发挥助力都必须依靠算力来支撑,同时更优质的相关算法,可以提高相关检测的效率。但目前人工领域的算力主要集中在各大云计算厂商,行业内研发力量并不均衡,行业平均水平尚未成熟,这也直接影响了人工智能相关产品的开发及其质量水平。

三、人工智能侵权责任承担

通过以上概括分析,目前人工智能的运用并不完善,其质量保障来源于其背后充足的大数据、先进的算法以及强大的算力,一旦“三算”要素并不完备,人工智能产品存在质量瑕疵,极可能造成人身损害或财产损害。在目前弱人工智能发展阶段且现行法律并未针对人工智能定向修改的情况下,人工智能在法律上只能算作客体,其不具备侵权主体资格。因此,在此背景下的责任承担与之最为匹配的是产品责任模式,人工智能设备存在质量或程序问题时,应当适用产品责任,追究相关责任人责任,具体分析如下:

(一)现行法律框架下,产品责任承担者

首先,关于产品侵权。产品责任是一种侵权责任,无论受害人与产品的生产和销售者之间是否存在买卖合同关系,都可以提起产品责任之诉。其次,侵权责任有三种规则原则:过错责任原则、无过错责任原则及公平责任原则。产品责任及医疗产品责任均为无过错责任原则,具体而言产品责任对免责事由承担举证责任,医疗产品责任对不存在因果关系承担举证责任。

《侵权责任法》第四十一条及四十二条规定了因产品存在缺陷造成他人损害,生产者和销售者应承担侵权责任,对外适用无过错责任原则,即承担侵权责任无需以生产者或销售者存在过错为前提,对内适用过错原则,即承担责任的一方可以向过错方进行追偿。

产品责任的承担者为生产者及销售者,二者承担不真正连带责任。对缺陷的产生具有过错的仓储者、运输者不是责任主体,不能列为被告,最多列为无独立请求权第三人。

(二)立法空白——研发者是否需承担产品质量责任

无过错责任原则是工业革命后调整法律规范才开始出现的规则原则,产品质量责任即为此类,产品质量责任承担的原理与之有着类似的逻辑,最终法律侧重保护消费者及权利受损者利益。考虑到产品质量责任的归责逻辑,之所以仅要求生产者与销售者承担侵权责任,可能首先需要弄清楚产品的定义。“产品”是指经过加工、制作、用于销售的产品。建设工程不属于产品、但建设工程使用的建筑材料、建筑配件和设备属于产品。血液制品属于产品。从前述定义可知,并不是所有的物品都可归属于法律意义上的产品,由于“加工”是其主要手段,且“销售”为最终目的,且两者均因此而获利,因此生产者和销售者作为侵权责任承担的直接责任主体比较合适。

但实践当中存在弊端的是,“生产者”的界定并不明确。现行法律仅在《中华人民共和国民法通则》第一百二十二条规定“产品制造者”以及《中华人民共和国产品质量法》规定的“生产者”。对“生产者”的界定似乎仅限定于生产厂家。直到2002年,最高人民法院专门出具批复(法释〔2002〕22号),认为任何将自己的姓名、名称、商标或者可资识别的其他标识体现在产品上,表示其为产品制造者的企业或个人,均属于前述法律规定的“产品制造者”和“生产者”。因此,目前我国法律体系下,产品制造者及产品商标所有人为法律上明确的“生产者”。

就目前法律规定而言,人工智能研发者并不属于“生产者”,无法要求其承担产品责任。但对于人工智能产品而言,其核心因素在于“三算”技术的应用,产品的设计研发是人工智能产品生产的核心环节,涉计研发中编写的算法或者输入的数据存在问题也可能会导致产品存在安全隐患,这也属于产品质量问题。因此对于“生产者”的定义,笔者认为应该包括研发者。同时根据最高院出版的《民事诉讼司法解释的理解与适用》(2009年版),将商标所有人纳入“生产者”范畴的理由是“如果在事故车辆是由通用汽车公司设计的,而事故的发生又是由于设计原因造成的情况下,通用汽车公司的责任也是无法排除的,在实体审理之前将通用汽车的责任排除是不恰当的。”

基于该种理由,最高院出具的专门的批复将商标所有人纳入“生产者”范畴,现在由于社会生活的发展,基于同样的理由考虑,笔者认为也应将产品研发者纳入“生产者”范畴,至于是否以软件著作权主体作为界定标准,这些细节问题可以在法律修订时再广泛论证,但大的方向不可偏废。

(三)除外责任适用的讨论

如果将人工智能产品的研发者纳入“生产者”范畴,研发者的注意义务及勤勉义务就更高,但法律不仅需要保护弱势群体,也需要鼓励科技创新。考虑到目前人工智能相关研发水平发展并不完善,“研发者”是否可以在被要求承担侵权责任时适用“现有科学技术水平”抗辩,也值得讨论。

《产品质量责任法》第四十一条第三款规定:“生产者能够证明有下列情形之一的,不承担赔偿责任:(三)将产品投入流通时的科学技术水平尚不能发现缺陷的存在的。”如果生产者能够证明现有科学技术抗辩则可以免除损害赔偿责任。

就人工智能领域而言,其适用存在客观困难,最为直接的原因是人工智能算法的不透明性导致其无法运用现有科学技术抗辩。目前人工智能产品算法的不透明性导致难以跟踪系统的决策过程,即所谓的“算法黑箱”black box-effect。当数据不能共享,现有科学技术水平没有一个客观的衡量标准,继而导该条抗辩基本形同虚设。目前各国均尚未解决“算法黑箱”所带来的日益增长的风险,欧盟产品安全法规建议,在发生事故的情况下,算法开发人员必须公开数据集的设计参数(design parameters)和元数据(metadata of datasets),或许也可以为我们所参考,在争议纠纷复杂的情况下减轻被侵权人的举证难度问题。

四、结  语

人工智能在疫情期间积极运用,奋战一线本身值得表扬与感谢。但人工智能本身是一个“中性”的事物,用得好能发挥效用,用的不好也能造成损害。人工智能未来必然继续发展并深入我们的生活,面对新生事物,法律也需顺应社会生活更新其法律规制来调整社会关系,平衡相关利益。就人工智能研发者是否应承担产品质量问题而言,这只是其法律问题的冰山一角,可能这一问题能够通过体系解释、目的解释等法律技术手段予以解决,但其他更多的问题是现行法律无法囊括解决的,法律的更新应尽早提上日程。

或许您还想看

【律师视点】杨光明、曾强:“非诚勿扰”商标侵权案判决无关对错——从混淆侵权判定的自由心证说开去

【律师视点】杨光明、许惠茹:信用证纠纷中银行败诉的五大情形

【律师视点】杨光明、许惠茹:如何成功申请信用证止付令

【律师视点】杨光明、许惠茹:P2P良性退出之律师工作手册

【律师视点】杨光明、许惠茹:信用证软条款的识别与防范

【律师视点】杨光明、曾强:疫情后的合同违约潮,制造企业如何应对?

杨光明,德衡律师集团高级合伙人,集团合伙人会议副监事长。杨光明律师专注于以公司为主体的高端、复杂商事争议诉讼与仲裁,在人工智能、金融、执行等领域具有丰富的经验,曾发表多篇人工智能法律问题研究方面的专业文章,为人工智能企业提供法律风险防控、应收帐款清收、产品质量索赔等服务。成功办理了多起产品质量案件、供应链金融相关案件、信用证保函案件、互联网金融追偿案件。

联系方式

电话:13510860275

邮箱:yangguangming@deheng.com

许惠茹,北京德和衡(深圳)律师事务所律师,厦门大学民商法学毕业,具有基金从业资格、证券从业资格,具备扎实的民商法理论功底和实践经验。目前专注于商事争议解决、互联网金融、信用证与保函、公司股权等业务领域。

联系方式

电话:13341361956

邮箱:xuhuiru@deheng.com

质控人:牟菲  争议解决业务中心副总监、复杂商事争议专业委员会主任

本文仅代表作者观点,如需转载、节选,请在后台留言联系小编

复杂商事争议专业委员会

团队其他成员

  姜在航       赵洋       江波       刘刚华       孙喜华       张晓明       王凯       王学成       马涛       任宇飞       战明       方明星       王亓艳       周维       王继跃       刘永法       强永梅       叶茂标       卢培       肖天淑       陈江涛       徐倩       马先年       朱江涛       陈恩深       李文艳       梁茂卿       赵新辰       封树伟       陶光辉       万典       杨春雪       褚英英       原一源       王金泉       王燕       王旭       王鹏飞       董燕清       庞珊珊       何云凤       王洁茹       王文才       何书俊       李修超       李旭修       杜晶       赵文涛       杜洪硕       王世好       傅亚洲       王刚       郭荣       杨大勇       王金磊       黄舵       杨仲侃       张磊       王辉       徐楠       王晓程       常海梅       相浩       张锦江       管金伦       郭润春       陈健民       王琳琳       刘涛       樊培堂       郭玉萌       刘蒙蒙       刘玲玲       胡潇鹏       刘健       孙建新       陈怀印       耿雪阳       杨墨       李东       韩笑       杨琳       陈乙芳       吴伟标       徐玮       马红祥       朱楠       殷林彦       丁潇潇       王恺悌       赵晔       孙福林       顾晓静       商正群       陆逊       孟庆君       王旭明       经纬       林玉洁       韩梅    

Copyright@2016    版权所有    德衡商法网    免费服务监督热线:    800-8600-880    400-1191-080

ICP备案号:鲁ICP备05011736号    网站统计