字数 1388，阅读大约需 7 分钟
欧盟发布《人工智能法案》禁用AI应用指南
近日，欧盟针对《人工智能法案》中禁止使用的人工智能应用发布相关指南。此前，欧盟《人工智能法案》迎来首个合规截止日期。该法案是基于风险的人工智能使用监管框架，旨在禁止“不可接受风险” 的人工智能应用场景，如可能导致有害或不利待遇的社会评分，以及利用 “潜意识技术” 进行的有害操纵等。
本周二，欧盟执行机构委员会在截止日期后，发布针对开发者的指南，指导其遵守欧盟人工智能规则手册的相关内容。对于希望在该地区合法应用人工智能的开发者，研读这一指南十分必要。违反该法案禁止使用场景规定，将面临严厉处罚：最高可达全球营业额的7%（或3500万欧元，以金额较高者为准）。
委员会在新闻稿中指出：“这些指南旨在确保《人工智能法案》在欧盟范围内得到一致、有效且统一的应用。” 委员会承认，此次发布的指南不具法律约束力，最终执行和裁决《人工智能法案》的权力归监管机构和法院。委员会还表示：“该指南提供法律解释和实际案例，帮助利益相关者理解并遵守《人工智能法案》要求，凸显委员会营造安全且符合道德规范人工智能环境的决心。”
目前，该指南已以草案形式发布，可下载。因欧盟需将其翻译成众多官方语言，正式通过和应用尚未完成。尽管《人工智能法案》去年已在整个欧盟地区生效，但其实施工作仍在推进，未来数月乃至数年还将迎来更多合规截止日期。即便针对被禁止的应用场景，执法工作也可能错开进行，因为欧盟成员国需在8月2日之前指定负责监督该规则手册的机构。
欧盟《人工智能法案》的影响力与背景
欧盟在人工智能监管领域一直扮演重要角色。随着人工智能技术全球快速发展，其潜在风险日益凸显。在此背景下，欧盟的《人工智能法案》旨在规范人工智能应用，平衡创新与风险防控。
以社会评分这一被禁止的应用场景为例，过去一些机构收集个人消费习惯、社交行为等多维度数据构建社会评分体系。研究发现，部分未经严格监管的社会评分应用中，超60%的低评分个体在信贷申请、就业机会等方面受不同程度负面影响。这种基于人工智能的社会评分看似提高效率，实则可能加剧社会不平等，伤害弱势群体。
类似监管举措与案例
全球并非只有欧盟推进人工智能监管。美国加利福尼亚州考虑出台针对人工智能应用的严格法规，重点关注招聘、住房等领域，防止算法歧视。2023年，加州一家科技公司因招聘算法对特定性别和种族求职者存在歧视性筛选，支付高额罚款。
在亚洲，日本制定人工智能伦理准则，鼓励企业开发和应用人工智能技术时遵循透明、公平和可问责原则。日本一家大型企业开发客户服务人工智能聊天机器人时，未充分考虑不同年龄段用户语言习惯和需求，导致老年用户使用不便，引发质疑。此后，该企业调整开发策略，引入用户反馈机制，确保产品公平性和易用性。
对开发者和企业的影响
对于在欧盟开展业务的开发者和企业，这份指南是重要行动指南。当前技术开发过程中，企业需投入更多资源进行合规审查。行业调查显示，约70%的AI开发企业表示，为遵守《人工智能法案》，未来一年内将增加至少20%的合规预算。这不仅包括审查现有项目，还涉及评估和规划新开发项目的风险。
一些大型科技企业已成立专门合规团队，审查人工智能项目开发和应用过程，确保符合欧盟法规。而初创企业面临合规成本挑战。例如，一家专注于AI医疗影像诊断的初创公司因缺乏资源和专业知识，应对《人工智能法案》合规要求时力不从心，可能导致其在欧盟市场发展速度放缓，甚至影响融资计划。
从技术层面看，开发者需在算法设计阶段考虑合规性。如开发涉及用户数据处理的人工智能应用时，需确保数据收集、存储和使用符合欧盟《通用数据保护条例》（GDPR），同时避免算法出现偏见和歧视。2024年，因算法偏见导致企业声誉受损案例较上一年增长30%，凸显合规开发重要性。
