大四学生奥德丽·洛尔沃正在研究人工智能安全，旨在确保日益智能的人工智能模型是可靠的，并能造福人类。这个不断发展的领域关注技术挑战，如稳健性和人工智能与人类价值观的一致性，以及社会关注的问题，如透明度和问责制。实践者们还关注与日益强大的人工智能工具相关的潜在生存风险。
洛尔沃说：“确保人工智能不被滥用或不违背我们的意图，随着我们接近人工通用智能（AGI）变得越来越重要。”她是一名计算机科学、经济学和数据科学专业的学生。AGI描述了人工智能匹配或超越人类认知能力的潜力。
作为麻省理工学院施瓦茨计算学院的计算的社会和伦理责任（SERC）学者，洛尔沃密切关注人工智能如何可能自动化人工智能研究和开发过程及实践。作为大数据研究小组的成员，她正在调查与人工智能加速自身研究的潜力相关的社会和经济影响，以及如何有效地将这些想法和潜在影响传达给包括立法者、战略顾问等在内的普通观众。
洛尔沃强调需要批判性地评估人工智能的快速进展及其影响，确保组织具备适当的框架和策略来应对风险。她说：“我们需要确保人类能够获得人工智能的好处，同时也要确保我们不会失去对技术的控制。我们需要尽一切可能安全地发展它。”
她参与人工智能安全技术奖学金等项目，反映了她对理解人工智能安全技术方面的投资。该奖学金提供了审查现有研究的机会，以将人工智能开发与潜在的人类影响考虑相结合。“这个奖学金帮助我理解人工智能安全的技术问题和挑战，以便我可以提出更好的人工智能治理策略，”她说。根据洛尔沃的说法，处于人工智能前沿的公司继续推动边界，这意味着我们需要实施有效的政策，优先考虑人类安全，而不妨碍研究。
人类参与的价值
当洛尔沃来到麻省理工学院时，她知道自己想要追求一门能够让她在科学与人文学科交汇处工作的学习课程。然而，学院提供的多样化选择让她的选择变得困难。
她说：“有很多方法可以帮助提高个人和社区的生活质量，而麻省理工学院提供了许多不同的探索路径。”
洛尔沃从经济学开始——这是她喜欢的学科，因为它专注于量化影响——在选择6-14课程之前，她研究了数学、政治科学和城市规划。
她说：“乔舒亚·安格里斯教授的计量经济学课程让我看到了专注于经济学的价值，而数据科学和计算机科学的元素吸引了我，因为人工智能的影响力和潜力不断增长。我们可以利用这些工具来解决一些世界上最紧迫的问题，并希望克服严重的挑战。”
随着她逐渐缩小关注范围，洛尔沃发现自己与麻省理工学院社区的其他成员分享着对人类的看法，比如麻省理工学院人工智能对齐小组，她从中学到了很多关于人工智能安全的知识。“学生们关心他们的边际影响，”她说。
边际影响是指特定时间、金钱或努力的额外效果，是衡量贡献对已有工作的增值，而不是关注总影响的一种方式。这可能会影响人们选择将资源投入到哪里，这一理念吸引了洛尔沃。
她说：“在资源有限的世界中，数据驱动的方法来解决我们最大的一些挑战可以受益于一种量身定制的方法，指导人们去往他们最有可能做出贡献的地方。如果你想最大化你的社会影响，反思你职业选择的边际影响是非常有价值的。”
洛尔沃还重视麻省理工学院对全面教育的关注，并利用机会通过麻省理工学院Concourse项目研究哲学等学科，该项目促进科学与人文学科之间的对话。Concourse希望参与者能够获得科学、技术和人类追求的指导、清晰和目标。
学院的学生经历
洛尔沃在课堂外投入时间创造难忘的经历，并与同学建立关系。“我很幸运有空间来平衡我的课程、研究和社团承诺，以及其他活动，如举重和校外项目，”她说。“学院总是有很多社团和活动可供选择。”
这些扩展视野的机会挑战了她的信念，并让她接触到新的兴趣领域，从而改善了她的生活和职业选择。洛尔沃流利地使用法语、英语、西班牙语和葡萄牙语，她还赞扬麻省理工学院为学生提供的国际经验。
她说：“我曾在智利圣地亚哥和巴黎实习，参与MISTI项目，并帮助测试我们在2023年秋季D-Lab课程中与马达加斯加理工学院和Tatirano NGO [非政府组织]合作设计的水蒸气冷凝室，并享受通过我的国际发展和D-Lab课程学习解决经济不平等问题的机会。”
作为麻省理工学院本科经济学协会的主席，洛尔沃与其他对经济学感兴趣的学生建立联系，同时继续扩展对该领域的理解。她享受自己在协会活动中建立的关系。“即使作为一名大四学生，我也发现了新的校园社区可以探索和欣赏，”她说。“我鼓励其他学生在麻省理工学院的学习期间继续探索激发他们兴趣的团体和课程。”
毕业后，洛尔沃希望继续研究人工智能安全和治理策略，以确保人工智能的安全和有效部署。
她说：“良好的治理对人工智能的成功发展至关重要，并确保人类能够从其变革潜力中受益。我们必须继续监测人工智能的增长和能力，因为技术仍在不断发展。”
理解技术对人类潜在影响、做好事、不断改进，以及创造让伟大思想得以实现的空间，继续驱动着洛尔沃。将人文学科与科学相结合是她所做的许多事情的动力。“我一直希望能为改善人们的生活做出贡献，而人工智能代表了人类面临的最大挑战和机遇，”她说。“我相信人工智能安全领域可以从像我这样拥有跨学科经验的人中受益，我鼓励任何对塑造未来充满热情的人去探索这个领域。”
