在2018年围绕夏威夷进行的研究航行中，Yuening Zhang SM ’19, PhD ’24 看到保持船只高效运作是多么困难。为了绘制水下地形所需的精确协调，有时会导致团队成员之间的压力，因为他们可能对在瞬息万变的条件下必须完成的任务有不同的理解。在这些旅行中，Zhang考虑到一个机器人伙伴如何能够帮助她和她的船员更高效地实现目标。
六年后，作为麻省理工学院计算机科学与人工智能实验室（CSAIL）的研究助理，Zhang开发了一个可以被视为缺失部分的AI助手，它与团队成员沟通以协调角色并实现共同目标。在国际机器人与自动化会议（ICRA）上发表的一篇论文中，于8月8日在IEEE Xplore上发布，她和她的同事们展示了一个可以监督人类和AI代理团队的系统，在需要时进行干预，以潜在地提高在搜索与救援任务、医疗程序和策略视频游戏等领域的团队合作效率。
由CSAIL领导的小组开发了一种AI代理的心智理论模型，表示人类在合作任务时如何思考和理解彼此可能的行动计划。通过观察其他代理的行动，这个新的团队协调者可以从先前的信念中推断出他们的计划和对彼此的理解。当他们的计划不兼容时，AI助手通过调整他们对彼此的信念、指导他们的行动以及在需要时提出问题来进行干预。
例如，当一组救援人员在现场对受害者进行分类时，他们必须根据对彼此角色和进展的信念做出决策。这种类型的认知规划可以通过CSAIL的软件得到改善，该软件可以发送关于每个代理打算做什么或已经做了什么的消息，以确保任务完成并避免重复努力。在这种情况下，AI助手可能会干预，通知某个代理已经前往某个房间，或者没有代理覆盖某个可能有受害者的区域。
“我们的工作考虑到了‘我相信你相信某人相信的事情’的观点，”Zhang说，她现在是Mobi Systems的研究科学家。“想象一下你在一个团队中工作，你问自己，‘那个人到底在做什么？我将要做什么？他知道我即将做什么吗？’我们建模不同团队成员如何理解总体计划，并沟通他们需要完成的任务，以帮助实现团队的整体目标。”
AI来救援
即使有一个复杂的计划，无论是人类还是机器人代理，如果他们的角色不明确，都会遇到困惑甚至犯错误。这种困境在搜索与救援任务中尤为突出，目标可能是在有限的时间和广阔的区域内找到处于危险中的人。幸运的是，配备新机器人助手的通信技术可能会通知搜索小组每个小组正在做什么以及他们在寻找哪里。反过来，代理可以更高效地导航他们的地形。
这种任务组织可以帮助其他高风险场景，如手术。在这些情况下，护士首先需要将患者带到手术室，然后麻醉师在外科医生开始手术之前让患者入睡。在手术过程中，团队必须持续监测患者的状况，同时动态响应每位同事的行动。为了确保手术中的每个活动保持良好组织，AI团队协调者可以监督并在出现任何任务混淆时进行干预。
有效的团队合作在“Valorant”等视频游戏中也至关重要，玩家需要协同协调谁需要攻击和防御另一个在线团队。在这些情况下，AI助手可以在屏幕上弹出，提醒个别用户他们在完成任务时的误解。
在她领导开发这个模型之前，Zhang设计了EPike，一个可以作为团队成员的计算模型。在一个3D模拟程序中，这个算法控制一个机器人代理，需要将一个容器与人类选择的饮料匹配。尽管这些AI模拟的机器人可能是理性和复杂的，但在某些情况下，它们会受到对人类伙伴或任务的误解的限制。新的AI协调者可以在需要时纠正代理的信念，以解决潜在问题，并在这种情况下持续进行干预。该系统向机器人发送关于人类真实意图的消息，以确保其正确匹配容器。
“在我们关于人机协作的研究中，多年来我们既感到谦卑又受到启发，因为人类伙伴的流动性是如此之大，”麻省理工学院航空航天与宇航学教授、CSAIL成员及该研究的资深作者Brian C. Williams说。“看看一对年轻夫妇和孩子，他们一起合作为孩子准备早餐并送他们上学。如果一个父母看到他们的伴侣在穿着浴袍准备早餐，那个父母就知道要迅速洗澡并把孩子送上学，而无需说一句话。好的伙伴对彼此的信念和目标非常敏感，而我们在认知规划方面的工作旨在捕捉这种推理风格。”
研究人员的方法结合了概率推理与代理的递归心理建模，使AI助手能够做出风险有限的决策。此外，他们专注于建模代理对计划和行动的理解，这可以补充之前关于建模当前世界或环境信念的工作。AI助手目前根据给定的可能信念的先前推断代理的信念，但麻省理工学院小组设想应用机器学习技术实时生成新的假设。为了将这一对应物应用于现实任务，他们还旨在在工作中考虑更丰富的计划表示，并进一步降低计算成本。
动态对象语言实验室的总裁Paul Robertson、约翰霍普金斯大学助理教授Tianmin Shu和前CSAIL成员Sungkweon Hong PhD ’23与Zhang和Williams共同撰写了这篇论文。他们的工作部分得到了美国国防高级研究计划局（DARPA）人工社会智能成功团队（ASIST）计划的支持。
