算法解释权与商业秘密保护的冲突化解_刘琳.pdf

算法解释权与商业秘密保护的冲突化解刘刘 琳琳（南京大学法学院，江苏 南京 博士研究生）摘 要：个人信息保护法 第 条标志着算法解释权在制度层面得以确立。然而，算法控制者往往将算法视为核心竞争力并以商业秘密的形式进行保护，受算法影响者对算法解释的合理诉求与算法控制者对算法保密的现实需要之间不可避免地存在着冲突与张力。面对二者的紧张关系，无论是全然废除算法解释规则，还是算法解释权当然优先，抑或诉诸漫无边际的利益衡量，均非可取之道。为避免冲突激化，不宜将“算法黑箱”完全打开，而只需将其“掀开最小缝隙”，至受其不利影响者可见的程度即可。在“掀开最小缝隙”理论下，算法解释权的行使前提“对个人权益有重大影响”应从严把握，算法解释的内容应限定为算法运行逻辑而非算法本身。同时，商业秘密的“秘密性”需作出澄清，受算法影响者还应负有初步证明责任与保密协议的签订义务。如此方可在最大程度上实现算法解释与商业秘密的冲突化解。关键词：算法解释权；商业秘密；算法权力；算法歧视；算法黑箱一、问题的提出人类社会已然步入算法时代。算法技术对人类生活产生广泛而普遍的影响，甚至产生对人类的支配之力。人们日渐产生对算法失控的隐忧、对算法权力的警惕及对“算法暴政”的不满。在此背景下，赋予用户算法解释权的提议应运而生，中华人民共和国个人信息保护法（以下简称个保法）第 条亦在立法层面明确赋予个人获得算法解释的权利。然而，算法解释权的行使却面临着商业秘密制度的阻碍。算法解释意味着算法控制者需要将代表其核心竞争力的算法或相关内容告知他人，商业秘密不可避免地面临泄露风险。更加严重的忧虑是，履行算法告知义务可能会导致算法的秘密性灭失，从而失去获得商业秘密保护的基础。如何解决算法解释权与商业秘密保护之间的冲突？有学者主张全然废除算法解释制度，有学者认为商业秘密应让位于代表公共利益的算法解释规则，有学者运用比例原则追求各方利益的平行政法学研究 年第 期项目基金：年国家社科基金项目“民法典中隐私与个人信息的二元保护模式研究”（项目编号：）；中国法学会 年度部级课题“人工智能算法解释规则与商业秘密制度的冲突与协调”（项目编号：（）；年安徽省高校人文社会科学研究重点项目“商业秘密的民刑救济路径之独立与衔接问题研究”（项目编号：）。参见辛巧巧：算法解释权质疑，载 求是学刊 年第 期，第 页。.，“：”，.，.，.衡，但最终的解决方案或稍欠全面性，或止步于方向性指引与相对宽泛的利益衡量。值得思考的是，面对算法解释与商业秘密的冲突，是否只能做非黑即白的取舍，抑或只能诉诸法官的自由裁量与漫无边际的利益衡量？是否可以通过对算法解释规则的解释与修正实现冲突的消解？是否可以通过对商业秘密制度的澄清与运用实现冲突的消融？本文拟从外在表现与内在机理两个方面对算法解释与商业秘密的冲突进行分析，避免非黑即白的绝对化思路，跳出宽泛的方向性指引与漫无边际的利益衡量，对算法解释规则进行四个方面的解释与修正，对商业秘密制度中“秘密性”要件作出澄清，为算法解释与商业秘密之冲突调和提出明确、具体、可操作的解决方案。二、算法解释与商业秘密冲突的外在表现算法解释与商业秘密的冲突并非杞人忧天或者纯粹形式逻辑的推演，而已然发生于社会生活与司法实践之中。不同法院在面对这一冲突时呈现出大相径庭的态度，即便在同一案件的多数派法官之中亦存在对立意见。在目前的商业实践中，算法控制者主要以商业秘密的形式保护算法。面对算法解释权的威胁，算法控制者也倾向于单方面宣告商业秘密的绝对优先地位，免除自身算法解释义务。例如，阿里妈妈推广者规范 约定：“阿里妈妈过滤系统涉及阿里妈妈核心商业秘密，阿里妈妈无需向推广者披露具体异常数据；人工认定涉嫌违规的，阿里妈妈可视是否涉及商业秘密等独立决定是否披露具体认定依据。”这与 个保法 第 条的立场相抵牾。实践中，法院并不认同算法控制者单方面免除自身算法解释义务的有效性。比如在“阿里妈妈案”中，法院从格式条款与显失公平的角度出发，否定了阿里妈妈公司在 阿里妈妈推广者规范 中免除自身算法解释义务的有效性。并进一步指出，当事人认为案情涉及商业秘密请求不公开审理，法院可以准许，但当事人必须对自己的主张负举证责任，阿里妈妈公司根据算法系统认定原告在平台中存在违规行为，就应当就此问题进行举证。这段裁判理由明确宣示了一审法院的态度：商业秘密并不能成为拒绝解释算法的借口。然而，在一审法院明确宣示立场后，尽管二审法院维持了一审判决，但在裁判理由中却仅仅提及被告单方面免除自身算法解释义务的服务协议因属格式条款而归于无效，回避了商业秘密与算法解释之冲突当如何调和、取舍的问题。美国司法实践中亦存在同样的冲突与争议。在 年的“卢米斯案”中，卢米斯认为巡回法院在量刑时借助了一种名为“替代性惩教罪犯风险评估”（）的智能算法，而该算法不恰当地考虑了性别因素，且不披露如何权衡评价因素，并以此为由向最高法院提起上诉。法院基于保护商业秘密的考量未要求算法控制者向卢米斯阐释算法评估逻辑，并引发诸多反对意见。学者刘琳：算法解释权与商业秘密保护的冲突化解参见李安：算法透明与商业秘密的冲突及协调，载 电子知识产权 年第 期，第 页。该文聚焦于算法公开的内容限定，未涉及权利行使的具体条件与前提等其他方面。如陈景辉教授坦言：“本文的主要篇幅就用来做这项工作（确立方向），而不是用来给出具体的举措”。陈景辉：算法的法律性质：言论、商业秘密还是正当程序？，载 比较法研究 年第 期，第 页。有学者从更宏大的视角阐释商业秘密保护应考虑公共利益、算法解释应受限缩，但最终止步于“平衡各方利益的适度透明”，未展开阐明算法解释权应如何限缩，未形成具体方案。参见李晓辉：算法商业秘密与算法正义，载 比较法研究 年第 期，第 页。浙江省杭州铁路运输法院（）浙 民初 号民事判决书。参见浙江省杭州铁路运输法院（）浙 民初 号民事判决书。参见浙江省杭州市中级人民法院（）浙 民终 号民事判决书。.，（）.谓之，“在算法公平与商业秘密之间，法院站在了商业秘密一边”。即便是支持该判决的多数派法官亦承认，该案中进行算法解释是有必要的。三、算法解释与商业秘密冲突的内在机理算法解释规则与商业秘密保护分别代表着受算法影响者与算法控制者对立的价值诉求。算法黑箱易滋生歧视、偏见与“算法暴政”，受算法影响者需要能够掀开算法黑箱的解释规则，而另一方面，在专利保护的局限性与激烈的市场竞争下，算法控制者亦有算法保密的正当理由。（一）受算法影响者对算法解释的合理诉求其一，消除算法歧视与算法偏见。智能高效的自动化决策算法在为社会生活带来诸多便利的同时，也带来了算法歧视与算法偏见。首先，算法评价所使用的基础数据未必完全准确与真实，而这种数据偏差将会为后续信息处理埋下隐患。其次，算法做出预测的过程往往涉及对公众或个体的评价，有时，尽管算法设计的目的只是降低成本，但却可能在事实上造成歧视后果。算法决策中可能带有的歧视与偏见丝毫不亚于人类决策，而前者的隐蔽性却远胜后者，这使得算法公开的需求更加紧迫。机器理性的外表为算法穿上了“公正的外衣”，因此在一般的认知中，人类代表着主观与情感，而机器则代表着客观与理性，以算法决策代替人类决策似乎为实现决策的绝对公正带来了福音。事实上，算法决策与人类决策在某种意义上具有极强的同质性 人类决策需要依赖事件信息及生活阅历，算法决策同样离不开信息采集，而其采集信息的过程则形塑了算法的“阅历”。不同的算法“阅历”影响着算法决策的结果，也否定了算法决策绝对公正的可能。在算法理性外表的粉饰下，公众对其运作中的偏见与歧视更难察觉，这一点正为算法解释与算法公开提供了正当性理据。其二，对抗“算法霸权”与“算法暴政”。除算法偏见外，接连发生的“大数据杀熟”则是算法设计者故意为之的“算法暴政”。“算法暴政”赖以生存的土壤是“算法黑箱”，打开“算法黑箱”正是摒除“算法暴政”的有效路径。“黑箱”一语意指从外部无法探知内里的系统，“算法黑箱”隐喻的则是公众不得而知的算法自动化决策过程。这意味着个人与数据寡头间存在着严重的信息不对称现象，正是这一现象诱发了数据寡头与个人之间的地位失衡。决策以信息为基础，充足的信息有助于作出合理的决策，信息劣势则会严重影响结论的判断。欲破除数据寡头与个人之间的失衡局面，当务之急便是通过算法解释权化解双方的信息不对称困境。算法解释权的设置体现着以权利制约权力的控权逻辑。在数字社会中，算法成为法律，代码成为规则，代码为人的行为提供指引并设定限制。在传统法域中，只有在民主的前提下规则才具有合法性，而自动化决策算法却从未听取过民意，它以技术中立之名堂而皇之地统治着市民社会。自动化决策技术已然异化为算法权力，在公法理论中，权力具有无限扩张的特质，没有外力的限制将极易造成权力的滥用，诚如孟德斯鸠之语：“一切权力都易被滥用直至遇到界限才会行政法学研究 年第 期汪庆华：人工智能的法律规制路径 一个框架性讨论，载 现代法学 年第 期，第 页。.，（）参见王怀勇、邓若翰：算法行政：现实挑战与法律应对，载 行政法学研究 年第 期，第 页。参见张维迎：博弈论与信息经济学，上海三联书店 年版，第 页。美 劳伦斯莱斯格：代码.：网络空间中的法律，李旭等 译，清华大学出版社 年版，第 页。休止”。因此，权力的制衡不可或缺，无论是以权力制约权力的权力分置与制衡，还是以权利制约权力的人民主权学说，都在致力于把权力关进制度之笼。在数字社会中，算法权力同样存在着滥用的风险，赋予受算法影响者解释请求权也因此成为制约算法霸权的应有之义。（二）算法控制者对算法保密的现实需要其一，以专利制度保护算法的局限性。算法在寻求专利制度保护时面临着较大困难。算法是一种为解决特定问题而设计的有限且明确的操作步骤，从另一个角度解读，算法也是一种智力活动的规则与方法 而这正是世界各国专利制度排除保护的客体之一，中华人民共和国专利法第 条也明文规定其不受保护。另一方面，较商业秘密保护模式而言，算法的专利保护模式具有明显的局限性：（）专利申请周期较长。对于日新月异的数字经济而言，专利保护存在严重的滞后性；（）专利具有公开性。寻求专利保护意味着为了换取法定期间内的专有保护，算法控制者必须将其开发的算法向全社会公开，对于以算法为核心竞争力的公司而言并非上策。其二，商业秘密是保护算法的重要途径。一项调查报告显示，计算机与电子行业的众多企业均偏好商业秘密保护模式，明确表示较之于专利、商标与版权制度，商业秘密保护模式更为重要。在数字社会中，这一偏好自然也反映在算法领域，算法主要表现为源代码与目标代码，源代码到目标代码的转化是算法控制者为源代码寻求商业秘密保护的技术措施 基于反向工程的难度与成本，转化后的目标代码难以复原为源代码，源代码的秘密性和保密性均得以实现。以商业秘密形式保护算法使信息算法控制者能够在市场竞争中拥有并保持独特的竞争力。其三，一旦公开即不复存在的“秘密性”。秘密性是商业秘密受法律保护的必备要件，要求该技术信息不为公众所知悉。在此要求下，商业秘密随时都可以被创造，也随时都可能会灭失。在他人独立研发与反向工程的情形下，商业秘密的取得与披露不仅不会侵犯原持有人的权益，甚至会因信息的披露而使权益不复存在。简言之，秘密性描述的是一种事实状态，这种状态一旦遭到破坏就不可能恢复，失去秘密性也将失去受商业秘密制度保护的基础。因此，算法持有人对其以商业秘密形式保护的算法必须谨慎保密。四、算法解释与商业秘密的冲突化解个保法 的出台意味着我国算法解释规则初步落成，而算法解释权的行使却面临着商业秘密制度的阻碍。面对二者的冲突，目前理论界和实践中存在“非黑即白”的做法，也存在莫衷一是的情况，为肃清学界争议，为司法作出明确指引，需要提出一个合理的化解方案。（一）“非黑即白”思路的批判有学者对算法解释权持否定态度，认为其可能泄漏商业秘密并为数据安全带来隐患，也可能会抑制相关投资与研发。也有学者强调权利应分配给最珍视它们的人，在受算法影响者和算法控制者之间，后者是更珍视算法的人。事实上，上述对商业秘密泄露的担心并不成立。商业秘密在刘琳：算法解释权与商业秘密保护的冲突