核心摘要：人工智能系统将被归类为高风险系统，不是基于它所应用的技术、算法或模型，而是基于其产出对生命权、隐私权、获得医疗保健、教育和基本服务的权利以及个人自由的潜在影响。
科技部正在就总理关于高风险人工智能（AI）系统清单的决定草案征求公众意见。此举有望为管理、监督和控制人工智能开发和部署所产生的风险奠定重要的法律基础，同时确保促进创新与维护公民、组织和社会的合法权益之间的平衡。
草案根据具体案例的风险分类标准制定高风险人工智能系统清单，确保清晰、透明、可行。
如果人工智能系统满足以下标准，则将被列入清单：（i）其输出被用作涉及组织和个人的合法权利、义务或利益的决策的基础，或对组织和个人的合法权利、义务或利益产生重大影响； (ii) 它们是根据其目的和使用环境而不仅仅是根据其基础技术、算法或模型来识别的； (iii) 一旦发生错误或事件，它们会带来严重且难以补救的后果的风险。
草案进一步规定，对于大规模实施、影响广泛的人工智能系统，现有法规无法全面管理风险、可以统一适用监管要求的人工智能系统，也可以列为高风险系统。
因此，高风险人工智能系统列表将由四组组成。
第一组包括可能影响人权的人工智能系统，包括用于分类、排名或预测人类特征、管理就业和劳动力或进行大规模生物识别的系统。
第二类是可能影响安全和安保的人工智能系统，例如确保产品和货物安全的系统、维护国家安全和社会秩序的系统。
第三组包含在与公共利益密切相关的重要部门运行的人工智能系统。这些系统运行或监控关键基础设施；促进医疗诊断、治疗和医疗资源配置；促进接受教育和评估学习成果；评估个人的财务风险、贷款和保险；支持官员做出行政决策或开展司法支持活动。
最后一组包括具有大规模影响或可能造成难以补救后果的人工智能系统。这包括跨两个或更多省份实施或影响超过 50,000 个用户的系统，以及涉及使用敏感个人数据或受到高保密要求的数据的系统。- (VLLF)