- 张安毅;
算法自动决策的本质不是主体法律行为,是大数据收集分析和程序运算的结果,但算法自动决策结果被用于替代人为决策,就需要符合人类社会行为准则和人类价值观。算法自动决策带来了忽视人的主体地位、损害人类社会伦理和公平、侵蚀人的自治机会和意识等负面效应,归根结底是数据处理与算法设计出现问题。人工智能在本质上属于物的范畴,最终应用算法自动决策的是人工智能产品,因此,为保障自动决策技术不违反服务人类社会的最高目标,可以借鉴产品质量制度在算法程序设计中嵌入强制性算法伦理标准,确保自动决策的结果符合法律法规、符合人类社会共同价值观和伦理准则。在算法自动决策过程中要保障信息主体的自决权利、落实数据处理者的义务以防范数据滥用;在算法自动决策致损他人时,应由产品生产者承担无过错产品质量责任、用户承担一般侵权责任,以此督促有能力采取措施的主体控制自动决策风险。
2024年04期 No.258 43-52页 [查看摘要][在线阅读][下载 1165K] - 张爱军;曲家谊;
国家治理现代化的衡量基准可以聚焦于制度、实践、主体三个层面,即治理制度不断完善、治理实践趋向智能、治理主体能力提升。以算法技术为核心的智能技术渗透到包含国家治理在内的各个领域,推动治理理念创新和治理流程再造。依据技术中立原则,在实际应用中普遍认可算法中立原则,认为算法本身无价值判断及偏向。在功能、价值、责任及应用维度审思算法中立原则,其存在实践上的失偏和理论上的欠缺。信奉这一原则具有两面性:一方面有利于国家治理、算法技术优化制度、精准实践、解放主体;另一方面国家治理必然暗含一定程度的技术风险,可能导致制度欠缺、实践失偏、能力减弱等不良后果。应跨越算法中立原则,针对国家治理的需求与目标,在人、法律与技术三个层面设计特定框架对算法进行规制,消除算法赋能国家治理现代化中的技术隐忧。从算法中立转向“算法向善”,使算法“向善”原则与国家治理现代化的“善治”本质相契合。
2024年04期 No.258 53-66页 [查看摘要][在线阅读][下载 1221K] - 徐磊;
生成式人工智能伴随着难以预知的各种风险和复杂挑战。对生成式人工智能进行监管,不仅有助于推动生成式人工智能的规范应用和健康发展,而且有助于保护个人合法权益、维护社会公共利益以及捍卫国家安全稳定。生成式人工智能的既有监管模式面临着监管概念失准、监管规则滞后、监管信息困境、监管技术短板等问题,而包容审慎监管能够在很大程度上消解这些难题。包容审慎监管以推动生成式人工智能的创新发展为逻辑起点,以防范生成式人工智能的各种风险为框架核心,以确保生成式人工智能的安全可靠为实现路径。为了实现包容审慎监管,促进生成式人工智能造福于人类,应当通过风险管理机制防控生成式人工智能安全风险,依靠试验机制推动生成式人工智能的可靠可信,建立容错机制激励生成式人工智能的创新发展,完善参与机制提升生成式人工智能的监管理性,强化监督机制确保生成式人工智能的规范监管。
2024年04期 No.258 67-83+176页 [查看摘要][在线阅读][下载 1277K]