3月7日下午，最高人民法院院长周强向十四届全国人大一次会议作最高人民法院工作报告(以下简称“最高法报告”)。南都记者注意到，最高法报告提到“AI陪伴”软件侵害人格权案，并提出惩处滥用算法行为，制止“大数据杀熟”。
事实上，随着人工智能、虚拟现实等技术的不断发展，虚拟人、数字人等一批数字技术产品开始逐渐走入市场，也产生了一系列新的侵权风险与问题。如何明确自然人的人格权、加强人格权保护，成了一个亟待解决的问题。
有专家认为，最高司法机关对于这一问题的重视，意味着目前人工智能相关的权益纠纷不再是理论的假想，而已现实地出现在我们的日常生活中。也预示着与人工智能相关的技术应用，比如人工智能内容生成技术等等，都可能成为今后一个阶段为大家所直接感知的突出的治理对象。
(相关资料图)
...
点名“AI陪伴”侵权案件有何意义？
最高法报告中提到，审理“AI陪伴”软件侵害人格权案，认定擅自使用他人形象创设虚拟人物构成侵权。
据南都记者了解，该案中，智能手机记账软件“叨叨记账”允许用户自行创设或添加“AI陪伴者”，设定其名称、头像、与用户的关系等。原告何某表示，在未经他同意的情况下，被告通过算法应用，将依据他姓名及形象创设的“AI陪伴者”开放给众多用户，并允许用户上传大量原告表情包、制作图文互动内容，构成对他一般人格权、肖像权和姓名权的侵犯。被告则辩称，发布涉及原告的表情包、图片均是用户个人行为，被告不存在明知或应知的主观过错。
北京互联网法院经审理认为，虽然具体图文由用户上传，但被告的产品设计和对算法的应用实际上鼓励、组织了用户的上传行为，直接决定了软件核心功能的实现。被告不再只是中立的技术服务提供者，应作为内容服务提供者承担侵权责任。
因此，法院最终判决被告与用户构成了共同侵害原告肖像权的行为。除此之外，被告未经同意使用原告姓名、肖像，设定涉及原告人格自由和人格尊严的系统功能，构成对原告姓名权、肖像权、一般人格权的侵害。
对于这一案件出现在此次最高法报告中，在北京师范大学法学院博士生导师、中国互联网协会研究中心副主任吴沈括看来，反映了我国最高司法机关对于人工智能以及相关社会关系的一种准确判断，即透过技术表象，注重研判人工智能技术背后所蕴含的各方主体关系，着重从社会关系的角度来看待人工智能的司法治理，进而根据现行法律规范做出科学的、理性的权利、义务、责任划分。
西南政法大学人工智能法学院副院长冯子轩指出，在这个案例中，法院有一个很明显的甄别“中立的技术服务提供者”和“内容服务提供者”之间界限的过程，这本质上是在考虑被告软件开发商是否对相关信息进行了筛选、管理，或在运营过程中增加了相关核心功能。
“到底是内容服务者，还是技术服务者，需要对平台义务有清晰的界定，方能准确的指导法律适用。未来，我们或许可以从立法、司法等多种角度开展对平台的法律地位、责任与义务的界分工作。”冯子轩表示。
清华大学法学院副院长程啸则认为，在数字经济时代，很难将平台划分为单一的技术服务提供者或内容服务提供者，平台也就很难用“纯粹中立的技术服务提供者”这一身份免责。
因此，他认为，在未来的数字经济网络社会发展中，平台承担的责任和义务会越来越大，甚至在某种程度上代替政府来进行部分监管。所以，如何通过专门的立法规范这些平台，尤其是大型平台，是当前数字经济领域一个需要研究的问题。
...
AI技术应用或将成为突出的治理对象
除了人工智能以外，屡屡引起热议的“大数据杀熟”也出现在了此次报告中。
最高法报告提到，依法促进数字经济健康发展。审理大数据权属交易、公共数据不正当竞争等案件，明确数据权利司法保护规则。惩处滥用数据、算法等排除、限制竞争的行为，坚决制止“大数据杀熟”、强制“二选一”等“店大欺客”行为。
从技术原理来说，“大数据杀熟”行为背后是个性化推荐算法，即利用用户属性数据或用户行为数据实现信息个性化分发的算法。该算法会根据用户的历史行为以及行为特征，对用户的兴趣爱好、行为习惯进行分析与预测，为其推荐个性化的产品、内容、广告或服务。
南都人工智能伦理课题组去年底发布的《算法应用与治理观察报告(2022)》显示，超过六成受访者都曾遭遇过大数据杀熟。
2022年3月正式施行的《互联网信息服务算法推荐管理规定》《个人信息保护法》等法规则提出，通过算法推荐或自动化决策向个人提供服务时，应当提供不针对其个人特征的选项。因此，面对数字经济时代愈发强大的算法，如何治理、如何监管是一个迫在眉睫的问题。
吴沈括表示，此次最高法报告对于人工智能、算法等问题的重视，意味着目前人工智能相关的权益纠纷“不再是理论的假想”，而是已经现实地出现在我们的日常生活中。“这也预示着与人工智能相关的技术应用，比如人工智能内容生成技术等等，都可能成为今后一个阶段为大家所直接感知的、突出的治理对象。”
...
首提“人工智能司法”，发展司法区块链统一平台
值得注意的是，人工智能不止作为最高法判决的一个典型案例，它也走进了司法系统，成为了辅助司法判决的有力工具。
南都记者梳理过去十年最高法工作报告发现，最高法报告中首次出现了“人工智能司法”这一概念。最高法报告提到，当前，司法区块链统一平台完成超过28.9亿条数据上链存证固证。同时，率先提出人工智能司法应用五大原则，明确人工智能只能辅助、不能代替法官裁判。
报告中提到的“区块链”是一种去中心化的技术，本质是一种高级数据库机制，允许在网络中透明地共享信息。利用区块链技术创建出来的信息(账本)难以篡改，因此具有高度的唯一性和安全性。
事实上，在2022年5月25日，最高人民法院发布《最高人民法院关于加强区块链司法应用的意见》，提出要建成人民法院司法区块链平台，推动人民法院电子卷宗、电子档案、司法统计报表等司法数据上链存储，执行案件等数据和操作上链存证。
而对于“人工智能司法”，《最高人民法院关于规范和加强人工智能司法应用的意见》也有直接规定。文件提出，要推动人工智能同司法工作深度融合，全面深化智慧法院建设，到2025年，要基本建成较为完备的司法人工智能技术应用体系，到2030年，要建成具有规则引领和应用示范效应的司法人工智能技术应用和理论体系。
吴沈括表示，当前司法领域对于人工智能的应用主要集中在智能化裁判、智能化案件检索、法规检索以及智能司法辅助系统等一系列应用场景当中。他认为，“人工智能司法”这一概念的提出，一方面反映了人工智能的快速普及应用对当前人类的社会生活和社会关系带来了实际影响，另一方面也反映了我国司法机关对于新技术环境变革、新技术变革所带来的社会影响的高度关注和及时研判。
南都两会报道组出品
