透过技术面纱 探究算法推荐侵权
作者： 陈兵 林思宇
[ 算法推荐的“技术中立”成为了许多平台企业规避侵权责任的抗辩理由，若放任平台借助技术中立规避其应承担的相应责任，不仅可能导致受害者无法得到其应有的补偿，还有可能导致算法推荐技术泛滥，成为平台企业规避法律责任的“挡箭牌”，不利于相关行业的健康有序发展。 ]
[ 平台企业在享受算法技术为企业带来巨大红利的同时，也需承担相应的义务与责任，提升防范算法侵权风险的技术水平和治理能力。 ]
随着移动互联基础设施的大力建设和移动终端设备的广泛普及，以海量数据为基础的算法推荐技术与网约车、网络购物、灵活用工等应用场景的深度融合，给数字经济高质量发展注入强大动能。然而，算法推荐服务的广泛应用也可能引发算法黑箱、算法歧视、信息茧房等问题，对市场秩序、消费者福利以及经营者权益产生不利影响。
近期，全国首例算法推荐案——北京市海淀区人民法院对北京爱奇艺科技有限公司（下称“爱奇艺”）诉北京字节跳动科技有限公司（下称“字节”）侵害《延禧攻略》（下称“延剧”）信息网络传播权一案作出判决。案中，原告爱奇艺诉称，字节将用户上传的截取自延剧的短视频向公众传播并推荐，侵害了爱奇艺对延剧享有的信息网络传播权。经审理，法院认定字节构成帮助侵权，并判定赔偿200万元。
该案作为全国首例算法推荐案，引发了对提供算法推荐服务的平台应承担何等注意义务及责任的广泛探讨，对算法推荐侵权责任的明确，将更有利于算法推荐技术的合理合法应用，同时也为算法推荐服务提供者提出了警醒，有助于引导有关行业和平台合规运营。
算法推荐侵权归责面临困境
当前，算法推荐侵权案件面临“责任鸿沟”，所谓“责任鸿沟”是算法自主学习使得算法的设计者和运营者未能预测未来及其运行产生的后果，人对机器的行动并没有足够的控制权，因此无法要求其承担传统的机器制造者和操作者的过错责任。依照传统的归责原则，一个法律主体只有在其知晓自己的行为及其后果，并且可以自由选择是否作为的时候，才应该承担法律责任。
“责任鸿沟”在爱奇艺诉字节一案中亦有体现，在案中字节在辩称其已尽到合理注意义务时提出，涉案信息流推荐技术不会识别视频具体内容，其无选择推荐涉嫌侵权内容的主观意愿，不存在法律意义上的推荐行为。总体而言，其意在主张推送侵权视频是算法推荐技术所为，字节不具有主观过错。
由此，算法推荐的“技术中立”成为了许多平台企业规避侵权责任的抗辩理由，若放任平台借助技术中立规避其应承担的相应责任，不仅可能导致受害者无法得到其应有的补偿，还有可能导致算法推荐技术泛滥，成为平台企业规避法律责任的“挡箭牌”，不利于相关行业的健康有序发展。那么应如何认定算法推荐侵权的法律责任呢？
算法推荐侵权归责的类型化简析
算法推荐侵权的法律责任认定应当结合个案具体情形进行判断，此处将区分几种情形进行分析，明确不同类型的情形中算法推荐侵权的责任认定、责任分配以及责任承担的方式。
在涉及算法推荐侵权的案件中，侵权行为的发生通常可能牵涉三个主体，包括算法开发者、算法使用者、算法消费者。其中，算法开发者是指开发设计算法推荐技术的主体；算法使用者是指使用算法推荐技术为用户提供算法推荐服务，对算法的运行过程具有控制力、支配力的主体；算法消费者则是在数字经济背景下应运而生的一种新型的消费者，是通过智能算法接入互联网、物联网等网络空间，并在算法作用下为生活消费购买商品或接受服务的消费者，其具有身份上的多重性。
在人工智能算法技术广泛适用的情景下，所有参与其中的主体，无论是开发者、使用者抑或消费者，其身份和作用的界定只是相对的，是一个动态变化的过程。故在实践中对算法推荐侵权责任的认定和承担，须结合个案发生场景予以分析，特别是对责任主体的识别需抱持开放多元的态度，再根据算法推荐是否直接导致侵权行为发生，以及不同主体在该算法推荐服务场景下的角色和作用予以责任划分，大抵分为两类情形予以考察。
1.算法推荐直接导致侵权发生。
在此情形中，损害结果是算法推荐技术运行所致而非人为所致。此时，侵权行为法律责任的认定与分配，首先，需要考察算法推荐技术在设计上是否存在导致侵权损害发生的因素，并考察这些因素是否源于算法开发者的主观方面。即便算法推荐技术的自动化运行和深度学习过程无需人为干预，但在算法推荐技术的开发与设计中能够嵌入算法开发者的主观意图，使得算法能够在无需人为帮助的情况下，实现算法开发者欲达到的特定目的。若算法推荐技术本身存在导致侵权损害发生的因素，则可以推定算法开发者存在主观过错，其应当对侵权损害的发生负有一定的法律责任。
其次，需要考察算法使用者是否存在主观过错。当平台企业作为算法使用者而非开发者时，即便其因算法黑箱无从得知算法可能潜在的侵权风险，其对算法的运行也具有实际的控制力，因此，负有一定的注意义务，当其在知道或应当知道算法推荐技术的运行会导致侵权行为发生，仍放任该侵权算法运行时，存在主观过错，同样需要承担相应的法律责任。
在此类情形中，一般不涉及算法消费者的法律责任，因为算法消费者仅是接受算法推荐服务的对象，对算法推荐技术无直接控制力。当然，在算法互动场景中，无论是开发者、使用者抑或消费者的身份皆可能发生变化，因此，在一些情形中，算法消费者的身份也会发生转化而需要承担相应的法律责任。譬如，用户主动上传内容或主动关闭个性化推荐都会对算法推荐的精准性产生影响，此时算法消费者与算法使用者的身份发生交融，成为算法推荐行为的共同实施者，由此可能需要对相应的行为效果承担责任。
再如，若算法消费者获得的是开源算法，当其在原算法基础上进行编辑时，可能会改变算法的原有运行逻辑和用途，此时算法消费者会转变为算法开发者，若侵权行为的发生与其编辑行为有关，则需要承担法律责任。
此外，还需要注意的是，人工智能算法的自学习能力，会基于算法消费者的行为或者上传的数据不断调整和优化算法，此时，算法消费者其实也在参与算法的开发，可视为算法的辅助开发者，然而，其与真正的算法开发者不同，是被动地参与算法的开发，无法真正参与算法的编辑过程，由此形成的算法并不包含算法消费者的主观意图。
因此，即便算法因自动化学习导致侵权行为发生，这些被动的算法开发者并不存在主观过错，因而无需承担与真正的算法开发者相同的法律责任，但是如果存在该类算法消费者主观故意的上传虚假信息，诱导算法使用的情况，甚至存在利用算法获取不正当利益，将算法消费行为演化为妨碍、破坏算法的行为时，则应承担相应的侵权责任，甚至严重的将面临刑事责任。
对于侵权责任的分配，则需要考察对侵权发生存在主观过错的主体数量，若侵权行为由两个或者两个以上的主体所致，当这些主体存在共同故意或者过失时，或者虽无共同故意、共同过失，但其侵害行为直接结合发生同一损害后果的，构成共同侵权，则需由这些主体承担连带责任。若两个或两个以上的主体没有共同故意或者过失，但其分别实施的数个行为间接结合发生同一损害后果的，应根据过失大小或者原因力比例，各自承担相应的法律责任。
2.算法推荐间接致使侵权发生。
在此类情形下算法推荐技术和服务并非是导致侵权损失发生的直接原因，仅起到间接作用。前述爱奇艺诉字节一案则属于此类案件，字节所采用的信息流推荐技术，仅起到了向用户精准、高效推荐的作用，其本质上是该公司向用户提供网络服务的辅助工具，不会直接导致侵权损失的发生，只会导致侵权结果进一步扩大。
与第一类情形类似，在第二类情形中同样需要对算法开发者、算法使用者以及算法消费者的法律责任进行区分认定。与第一类情形不同的是，在第二类情形中的侵权损失主要由人为所致。以爱奇艺诉字节为例，作为发布涉案侵权短视频的消费者，其在明知或应知爱奇艺拥有该作品独家版权的情况下，发布涉案侵权视频，具有一定的主观过错，侵害了爱奇艺的作品信息网络传播权。
值得注意的是，字节所使用的算法是协同过滤推荐算法，该方法的核心思路是用户喜好相似，则点击行为也接近。通过内容推荐收集到一定的用户点击量后，就会进行协同过滤推荐。这意味着，浏览和搜索涉案侵权视频的算法消费者，实际上也参与到了算法的使用过程中，同时具备算法使用者的身份。
然而，算法使用者的身份并不当然导致这些消费者承担法律责任，因为此案中算法使用者的目的仅为浏览而非传播涉案侵权视频，且其被动参与算法使用过程，算法推荐特定涉案视频并不属于这些算法消费者（使用者）的主观意愿，仅是源于协同过滤推荐算法原有设计者的初衷。
故此，虽然该案中算法消费者和算法使用者对侵权损失的发生、扩大、加重共同发挥了作用，但是由于算法消费者与算法使用者在主观意图、过错，应负有的相关义务，以及对算法推荐的实际控制及行为效果的获益等方面均有不同，即对侵权损失的形成、原因及效果比例上不尽相同，故在责任认定、分配及承担上亦应不同。值得注意的是，未来对算法消费者的相应责任应予关注。
一般情况下，网络服务提供者对用户个体的侵权行为适用“通知—删除规则”，然而，在爱奇艺诉字节一案中，平台在侵权过程中获得了巨大流量收益和竞争优势，即取得竞争优势与流量、经济利益与引发更大侵权风险并存，故从比例原则来看，理应承担更高的注意义务，采取更加有效的措施来阻止侵权行为发生，若仅要求其承担“通知—删除”义务，并不能达到有效制止、预防侵权行为发生的实质效果。
算法（推荐）使用者积极扎实做好合规
爱奇艺诉字节一案作为我国算法推荐侵权第一案，不仅为将来随着算法推荐技术广泛应用而增多的算法推荐侵权案件提供指引，也为算法推荐服务行业作出了警示，“技术中立”已难以为算法推荐服务提供者提供“避风港”，其需承担更多的注意义务以规避法律风险。
今年1月4日，国家网信办等四部门联合发布《互联网信息服务算法推荐管理规定》(下称《规定》)进一步细化了算法推荐服务者的义务。《规定》于今年3月1日起施行。
《规定》明确要求算法推荐服务提供者应当建立健全用于识别违法和不良信息的特征库，完善入库标准、规则和程序。发现违法信息的，应当立即停止传输，采取消除等处置措施，防止信息扩散。这对作为算法推荐服务提供者或使用者的平台企业提出了更高的责任承担、义务履行及风险防范要求。
鉴于此，作为算法使用的主要主体和推荐服务的主要提供者，平台企业应不断提升算法推荐合规水平和合规能力，严格遵守《规定》所明确的义务，建立事前审查和实时完善多场景合规的立体、动态的规则体系，加强算法推荐服务版面页面生态管理，建立完善人工干预和用户自主选择机制，尤其是对于在首页首屏、热搜、精选、榜单类、弹窗等重点环节应当重点把关，避免侵权行为影响进一步扩大化。同时，也需加大对自动识别违法侵权内容的算法识别技术的研发。总体而言，平台企业在享受算法技术为企业带来巨大红利的同时，也需承担相应的义务与责任，提升防范算法侵权风险的技术水平和治理能力。
（陈兵系南开大学竞争法研究中心主任、法学院教授，中国新一代人工智能发展战略研究院特约研究员；林思宇系南开大学竞争法研究中心博士生）
