《人工智能法案》：禁止人工智能操纵人类行为、利用人类弱点

欧洲议会今日以 523 票赞成、46 票反对、49 票弃权的压倒性多数支持通过了《人工智能法案》，据悉，这项法案将会“具有里程碑意义”。

欧洲议会表示，该法案旨在保护基本权利、环境可持续性等方面免受“高风险人工智能”的影响，同时促进创新，以将欧洲“打造成为该领域的领导者”。

综合界面新闻、BBC 报道，该法案将禁止一部分“威胁公民权利”的人工智能应用，包括基于敏感特征的生物识别分类系统，以及从互联网或闭路电视录像中无目标地抓取面部图像，以创建面部识别数据库。此外，操纵人类行为或利用人类弱点的人工智能也将被禁止。

该法案将根据风险对产品进行分类并相应调整审查，其主要思想是根据人工智能对社会造成危害的能力对其进行监管：风险越高，规则就越严格。

• “对基本权利构成明显风险”的 AI 应用程序将被禁止，例如一些涉及生物识别数据处理的应用程序。
• 被视为“高风险”的 AI 系统，例如用于关键基础设施、教育、医疗保健、执法、边境管理等领域的人工智能系统，必须遵守严格的要求。
• 垃圾邮件过滤器等低风险服务将面临“最宽松”的监管。

该法案还制定了一系列条款，以应对支持生成式 AI 工具和聊天机器人（例如 OpenAI 的 ChatGPT）的系统所带来的风险：要求“所谓的通用人工智能系统”生产者对用于训练模型的材料保持透明，并遵守欧盟《版权法》。