Www.yaxin787.netWww.yaxin222.comWww.yx8267.com

摘要：Www.yaxin787.netWww.yaxin222.comWww.yx8267.com选择在“亚星官方网”进行注册，是确保账户合法性与安全性的根本。官方网站的注册系统直接对接官方数据库，采用最高标准的数据加密与存储规范，能有效保护您的个人信息不被泄露。在此注册的账户是您参与所有官方活动、进行充值消费、享受客服支持的唯一合法凭证，任何非官方渠道的注册都存在风险。

（东西问）肖君拥：人工智能的已知人权风险及其法治化应对

　　中新社北京4月20日电题：人工智能的已知人权风险及其法治化应对

　　作者肖君拥北京理工大学法学院教授、科技人权研究中心执行主任

　　人工智能时代，人机交互模式正在各领域中深度融合。例如在交通领域，智能车凭借多个传感器与技术，为驾驶者提供诸如变道、泊车等高水准辅助；教育领域，智能辅导系统能通过自然语言处理技术理解学生问题，提供解答和指导；医疗领域，借助人工智能影像辅助筛查功能，医生能从海量影像中精准找出微小病灶，提升影像辅助诊断的精准度。

　　人工智能技术对人类工作和生活的影响愈发深刻，对人权的保障有诸多的积极意义。但是，随着人工智能技术在各个领域不断推广，其应用也面临着或现实或潜在的人权风险，我们必须予以正视。如何通过法治化路径应对人权风险，是人工智能发展过程中的一道必答题。

2025年4月19日7点30分，全球首个人形机器人半程马拉松在北京亦庄鸣枪开跑。图为机器人赛队陆续出发。中新社记者贾天勇摄

　　人工智能应用中的人权风险

　　人工智能可能在数据、算法等方面形成人权风险，侵害人的生命权、健康权、财产权、隐私权、人身自由等权益。

　　一是与数据有关的人权风险，包括数据过度收集、数据滥用、数据跨境传输等，都可能带来侵犯人权的问题。

　　数据过度收集和滥用方面，一些企业在用户不知情的情况下收集位置信息、浏览记录等个人数据，或在未获得同意情况下将用户数据擅自出售给其他公司或机构，用于广告投放、市场调研等商业活动，侵犯用户的知情权和隐私权。若被不法分子用于诈骗、恶意骚扰等非法目的，将给用户带来精神困扰、财产损失，侵害其人身权利和财产权。

　　数据跨境传输方面，由于不同国家间数据保护法规存在显著差异，数据在跨境流动期间面临保护缺失的困境。此外，某些国家出于特定目的，可能会借数据跨境传输之机，实施情报收集活动，进而对其他国家公民的隐私权构成侵犯。

　　二是与算法有关的人权风险，包括数据偏差、算法逻辑错误、算法黑箱问题。

　　数据偏差方面，训练人工智能算法的数据集可能存在偏差，导致分析结果失真，进而在决策中延续或放大现有不平等，影响某些群体权利实现，如招聘算法中的性别或年龄歧视。

　　算法逻辑错误方面，在设计或实现过程中，逻辑错误会导致非预期行为或错误结果产生，进而侵害人权。如自动驾驶场景中的算法缺陷，导致车辆未正确处理道路突发状况(如行人突然出现)，引起事故，直接影响他人的生命权和健康权。

　　算法黑箱问题方面，由于人工智能或大数据分析中，算法的输入、输出及运行过程不透明、不可知、不可解释，一些算法垄断行为会对消费者权益带来损害，用户的知情权、决策自主权面临被剥夺的风险。

　　三是人类决策被取代所导致的人权问题。

　　智能推荐系统通过算法架构，重塑用户的信息获取路径，使用户选择权被剥夺。例如，视频网站基于用户历史行为推荐相关内容，电商平台将高利润商品置于前列，一些社交平台的“关闭推荐”功能需经过多步操作，这些都导致用户信息接触范围逐渐收窄、选择权降低。

　　此外，人工智能工具在提升效率的同时，可能导致人类决策者成为“技术附庸”，削弱专业人士的批判性思维，使决策过程从“人机协同”异化为“机器主导”，如医疗领域的“双重误诊风险”(人工智能误诊+医生盲从)等。

　　人类的就业权也面临风险。世界经济论坛发布的《2025年未来就业报告》预测，到2030年全球将有9200万个岗位被人工智能取代，同期可能创造1.7亿个新岗位，形成显著的“岗位替代潮”。此外，由于就业门槛提高，低技能劳动者将难以适应新的就业市场，人工智能的数字鸿沟致使发展中国家岗位流失风险比发达国家高，易造成不同国家贫富差距扩大等问题。

2025年4月1日，2025年度“百城千校万企”促就业行动在湖北武汉启动。中新社记者张畅摄

　　溯源人工智能应用的人权风险

　　人工智能的人权风险，既来源于技术本身，也受到社会偏见、法律监管缺失等影响，主要可分为以下四个方面。

　　一是算法黑箱问题。由于人工智能系统依赖于深度神经网络等复杂模型，其内部参数和计算流程常被视为“黑箱”，缺乏可解释性和透明度，严重削弱了对其决策的追责能力，也让个人权利保护面临巨大挑战。

　　二是人为偏见的工具性放大。算法训练依赖历史数据，而历史数据常常蕴含歧视性偏见，这导致人工智能系统在性别、种族、残疾等维度上做出不公决策，弱势群体更易成为监控和错误风险评估对象，挑战了平等权和非歧视原则。

　　三是商事策略与盈利动机。制造人工智能产品的私营企业，在追求商业利益过程中常以数据作为核心资产，产品在部署后难以从外部及时发现潜在人权侵害，也缺乏有效渠道进行纠正。

　　四是法律缺失。当前，人工智能方面的法律和监管体系相对滞后，并缺乏统一的国际标准与强制性约束机制，这让企业在人工智能治理方面往往“无意识睡着”，或难以在不同司法辖区承担一致的人权责任。

2025年4月14日，一位模特装扮成机器人造型亮相海南海口第五届消博会现场。中新社记者骆云飞摄

　　应对人权风险的法治化路径

　　首先，加强人工智能人权风险的立法保障。一方面要进行顶层设计，例如中国于2023年10月发布的《全球人工智能治理倡议》，围绕人工智能发展、安全、治理系统阐述了人工智能治理的中国方案。另一方面要提升立法保障，包括国内立法中的民事法律和国家安全法律，信息合成规定、算法备案等行政法规，国家标准技术等。

　　其次，加强人工智能人权风险的社会防控。为此，既要加强教育与普及，提高民众对人工智能技术的认知与应用能力，也要培养兼具技术理解、伦理意识、政策把握、国际视野的复合型人才，推动人工智能安全研究、人才培养和产学研合作。

　　再次，加强人工智能人权风险的技术防控。针对数据安全，应继续落实《中华人民共和国个人信息保护法》第二十四条规定的自动化决策需透明化；针对算法歧视，监管机构应进一步落实《中华人民共和国数据安全法》第二十七条关于信息安全的要求，验证算法偏见或歧视现象；针对网络犯罪，应支持《中华人民共和国刑事诉讼法》中电子数据等证据的合法性认定，搭建国际联合取证平台，支持多国司法机构通过安全多方计算共享案件关键数据。针对企业监管，应要求企业建立数据防泄漏系统，提升自身系统防护能力，必要时与企业共同进行网络安全实战演练。

　　最后，促进人工智能人权风险防控的国际合作。在国际规则制定方面，应防范单一国家或企业垄断关键算法技术，提升发展中国家的话语权；在加强国际合作方面，需继续强化联合国核心平台作用，推动《人工智能框架公约》等硬法建设，通过“技术—伦理—法律”三位一体的协作机制实现治理包容性。(完)

　　受访者简介：

肖君拥。受访者供图

　　肖君拥，北京理工大学法学院教授、博士生导师，国家人权教育培训基地北京理工大学科技人权研究中心执行主任。中国人权研究会理事、中国法学会法理学研究会和宪法学研究会理事。著有《人民主权论》《国际人权法讲义》《人权的道德维度》等。主讲《国际人权法》获北京市高校优质本科课程。曾数次参加联合国人权理事会大会和边会发言，多次赴美国、欧洲等地参加国际人权对话交流。

责任编辑：李润泽