‘欧盟人工智能法案:企业在法规生效时需要了解的事项’

下周标志着< a href="https://www.artificialintelligence-news.com/categories/ai-legislation-government/">人工智能法规新时代的开始,因为欧盟人工智能法案的首批义务将生效。

虽然全面合规要求要到2025年中期才会生效,但欧盟人工智能法案的初始阶段将于2月2日开始,并包括对特定人工智能应用的重大禁令。全球在欧盟运营的企业现在必须在严格的规则和高风险的监管环境中导航。

新法规禁止部署或使用几种高风险的人工智能系统。这些包括社交评分、情感识别、公共场所的实时远程生物识别识别等被法案视为不可接受的应用场景。

被发现违反规则的公司可能面临高达其全球年营业额7%的罚款,这使得组织必须理解并遵守这些限制。

早期合规挑战

“它终于来了,”Informatica的气候、可持续性和人工智能首席战略家Levent Ergin说。“虽然我们仍处于分阶段的过程中,但企业为欧盟人工智能法案所做的辛勤准备现在将面临最终考验。”

Informatica气候、可持续性和人工智能首席战略家Levent Ergin的头像,关于欧盟人工智能法案所引入的法规对欧盟及其他地区企业的影响的文章。

Ergin强调,尽管大多数合规要求要到2025年中期才会生效,但早期的禁令设定了决定性的基调。

“对于企业来说,2025年的压力是双重的。他们必须在展示人工智能投资的实际回报的同时,解决数据质量和监管不确定性的问题。89%的大型企业在欧盟报告称,他们的生成性人工智能计划面临相互矛盾的期望。同时,48%的人表示技术限制是将人工智能试点转入生产的主要障碍,”他指出。

Ergin认为,合规和成功的关键在于数据治理。

“没有强大的数据基础,组织面临停滞的风险,限制了他们释放人工智能全部潜力的能力。毕竟,确保强大的数据治理不是欧盟人工智能法案建立的核心原则吗?”

为了适应,企业必须优先加强对数据质量的重视。

“加强数据质量和治理不再是可选的,而是至关重要的。为了确保合规并证明人工智能的价值,企业必须投资确保数据准确、全面、集成、最新且良好治理,”Ergin说。

“这不仅仅是满足监管要求;这关乎于使人工智能能够提供真正的商业成果。随着82%的欧盟公司计划在2025年增加他们的生成性人工智能投资,确保他们的数据具备人工智能准备将是成功与否的关键。”

欧盟人工智能法案没有国界

欧盟人工智能法案的域外适用范围意味着非欧盟组织显然不会被豁免。正如Norton Rose Fulbright的合伙人Marcus Evans所解释的,该法案的适用范围远超欧盟的边界。

Norton Rose Fulbright合伙人Marcus Evans的头像,关于欧盟人工智能法案所引入的法规对欧盟及其他地区企业的影响的文章。

“人工智能法案将具有真正的全球适用性,”Evans说。“这是因为它不仅适用于在欧盟使用人工智能的组织或向欧盟市场提供、进口或分发人工智能的组织,还适用于输出在欧盟使用的人工智能提供和使用。因此,例如,一家在欧盟进行招聘的公司——即使它位于其他地方——仍将受到这些新规则的约束。”

Evans建议企业首先审计他们的人工智能使用情况。“在这个阶段,企业必须首先了解他们的组织中在哪里使用人工智能,以便他们可以评估是否有任何用例可能触发禁令。在此初步清单的基础上,可以引入更广泛的治理流程,以确保人工智能的使用得到评估,保持在禁令之外,并符合人工智能法案。”

虽然组织正在努力使其人工智能实践与新法规保持一致,但仍然存在其他挑战。合规需要解决其他法律复杂性,例如数据保护、知识产权(IP)和歧视风险。

Evans强调,提高组织内部的人工智能素养也是一个关键步骤。

“任何在适用范围内的组织还必须采取措施,确保其员工——以及任何其他代表他们操作和使用人工智能系统的人——具备足够的人工智能素养,”他说。

“人工智能素养将在人工智能法案合规中发挥重要作用,因为参与治理和使用人工智能的人必须理解他们所管理的风险。”

鼓励负责任的创新

欧盟人工智能法案被誉为负责任的人工智能发展的里程碑。通过禁止有害的做法并要求透明度和问责制,该法规旨在平衡创新与伦理考量。

EY Global人工智能部门负责人Beatriz Sanz Sáiz的头像,关于欧盟人工智能法案所引入的法规对欧盟及其他地区企业的影响的文章。

“这个框架是朝着建立一个更负责任和可持续的人工智能未来的重要一步,”EY Global的人工智能部门负责人Beatriz Sanz Sáiz说。

Sanz Sáiz认为,该立法促进了信任,同时为变革性技术进步提供了基础。

“它有潜力在人工智能发展中促进进一步的信任、问责制和创新,并加强技术持续发展的基础,”Sanz Sáiz断言。

“我们必须专注于消除偏见,优先考虑公平、公正和隐私等基本权利。负责任的人工智能发展是进一步加速创新的关键一步。”

欧盟人工智能法案禁止什么?

为了确保合规,企业需要清楚哪些活动属于欧盟人工智能法案的严格禁令。目前禁止的活动清单包括:

  • 有害的潜意识、操控和欺骗技术
  • 对脆弱性进行有害的利用
  • 不可接受的社交评分
  • 个体犯罪风险评估和预测(有一些例外)
  • 无目标地抓取互联网或监控摄像头材料以开发或扩展面部识别数据库
  • 在工作场所和教育等领域的情感识别(有一些例外)
  • 生物识别分类以推断敏感类别(有一些例外)
  • 在公共可接触空间进行实时远程生物识别识别(RBI)用于执法目的(有一些例外)

委员会即将发布的关于哪些“人工智能系统”属于这些类别的指导将对寻求确保合规并降低法律风险的企业至关重要。此外,企业应预期在国家和欧盟层面获得进一步的澄清和资源,例如即将由人工智能办公室主办的网络研讨会。

人工智能法规的新格局

欧盟人工智能法案的早期实施仅仅是一个复杂而雄心勃勃的监管努力的开始。随着人工智能在商业战略中扮演越来越重要的角色,组织必须学会导航新规则并不断适应未来的变化。

目前,企业应专注于了解其人工智能使用的范围,加强数据治理,教育员工以提高人工智能素养,并采取主动的合规措施。通过这样做,他们可以在快速发展的人工智能领域中定位自己为领导者,并在维护伦理和法律标准的同时释放技术的全部潜力。

(照片由Guillaume Périgois提供)

另见:ChatGPT Gov旨在现代化美国政府机构

想了解更多行业领袖关于人工智能和大数据的见解吗? 请查看人工智能与大数据博览会,该活动将在阿姆斯特丹、加利福