长期韧性中心（CLTR）呼吁建立一个全面的事故报告系统，以紧急填补AI监管计划中的重要空白。
根据CLTR的说法，AI在意想不到的方式下失败的历史已经有超过10,000起安全事故被新闻媒体记录，这些事故发生在自2014年以来部署的AI系统中。随着AI在社会中的更广泛应用，这些事故的频率和影响可能会增加。
该智库认为，一个运作良好的事故报告制度对于有效的AI监管至关重要，类似于航空和医疗等安全关键行业。这一观点得到了专家的广泛共识，以及美国、中国和欧盟的政府支持。
该报告概述了实施事故报告系统的三个关键好处：
- 监测现实世界中的AI安全风险，以便调整监管政策
- 协调对重大事故的快速响应并调查根本原因
- 识别潜在大规模未来危害的早期警告
目前，英国的AI监管缺乏一个有效的事故报告框架。这一空白使得科学、创新和技术部（DSIT）无法看到各种关键事故的情况，包括：
- 高能力基础模型的问题
- 英国政府在公共服务中使用的AI的事故
- 滥用AI系统进行恶意目的
- 由AI伴侣、导师和治疗师引起的伤害
CLTR警告称，如果没有一个适当的事故报告系统，DSIT可能会通过新闻媒体而不是通过既定的报告流程了解到新的危害。
为了解决这一问题，该智库建议英国政府采取三个即时步骤：
- 政府事故报告系统：建立一个用于报告公共服务中使用的AI事故的系统。这可以是将算法透明记录标准（ATRS）扩展到包括公共部门AI事故的简单延伸，将其反馈给政府机构，并可能与公众共享以实现透明度。
- 与监管机构和专家合作：委托监管机构并与专家磋商，以确定最令人担忧的空白，确保对优先事故的有效覆盖，并了解功能性制度的利益相关者需求。
- 建立DSIT能力：发展DSIT监测、调查和应对事故的能力，可能通过一个试点AI事故数据库。这将成为DSIT的核心功能的一部分，最初重点关注最紧迫的空白，但最终扩大到包括来自英国监管机构的所有报告。
这些建议旨在增强政府负责负责改进公共服务的能力，确保对优先事故的有效覆盖，并建立收集和应对AI事故报告所需基础设施。
Saidot的CCO和合伙人Veera Siivonen评论道：
“长期韧性中心的这份报告恰逢其时。随着英国迈向大选，下一届政府的AI政策将成为经济增长的基石。然而，这需要在监管和创新之间精确把握平衡，提供规范，同时不限制行业的实验潜力。虽然为AI滥用和故障实施集中的事故报告系统是一个值得称赞的第一步，但还有许多步骤要走。
即将上任的英国政府应为企业提供明确的治理要求，同时监测和减轻最可能的风险。通过将各种AI治理策略与集中的事故报告相结合，英国可以利用AI的经济潜力，确保其造福社会，同时保护民主进程和公众信任。”
随着AI的不断发展和渗透到社会的各个方面，建立一个强大的事故报告系统可能对于减轻风险、确保AI技术的安全发展和部署至关重要。
另请参阅：SoftBank首席：忘记AGI，ASI将在10年内到来
想要从行业领导者那里了解更多关于AI和大数据的知识吗？请查看在阿姆斯特丹、加利福尼亚和伦敦举办的AI和大数据博览会。这个综合性的活动与其他领先的活动同时举办，包括智能自动化会议、BlockX、数字化转型周和网络安全与云博览会。
探索由TechForge提供的其他即将举行的企业技术活动和网络研讨会这里。
