人工智能领域的发展如何演变，对未来的工作、教育和人类意味着什么？麻省理工学院校长Sally Kornbluth和OpenAI首席执行官Sam Altman在麻省理工学院校园于5月2日进行了一次广泛的讨论。
OpenAI的ChatGPT大型语言模型的成功推动了人工智能领域的投资和创新浪潮。ChatGPT-3.5在2022年底发布后成为历史上增长最快的消费者软件应用程序，数亿人使用了这个工具。此后，OpenAI还展示了基于人工智能的图像、音频和视频生成产品，并与微软合作。
这次活动在克雷斯基礼堂举行，捕捉到了人工智能的激动时刻，并展望了未来。
“我想我们大多数人都记得第一次看到ChatGPT时的感觉，就像‘哦，天哪，太酷了！’” Kornbluth说道。“现在我们正在努力找出下一代的发展方向。”
对于他的公司和人工智能领域的高期望，Altman表示欢迎。
“我认为两周内，每个人都对ChatGPT-4感到兴奋，然后到了第三周，每个人都在问‘GPT-5在哪里？’” Altman说道。“我认为这在某种程度上反映了人类的期望和努力，以及为什么我们都必须努力改进。”
人工智能的问题
在讨论的早期，Kornbluth和Altman讨论了人工智能带来的伦理困境。
“我认为我们在如何使系统与一组价值观保持一致方面取得了出人意料的进展，”Altman说道。“尽管人们喜欢说‘你不能使用这些东西，因为它们一直在散发有毒废物’，但GPT-4的行为方式与你期望的相当接近，我们能够让它遵循一组给定的价值观，虽然不是完美，但比我预期的要好。”
Altman还指出，在许多情况下，人们对于AI系统应该如何行为并不一致，这使得制定普适的行为准则变得复杂。
“我们如何决定系统应该具有什么价值观？”Altman问道。“我们如何决定系统应该做什么？社会界定边界的程度与信任用户使用这些工具的程度有多大？并不是每个人都会按照我们喜欢的方式使用它们，但这就是工具的情况。我认为给人们很大的控制权是很重要的……但是有些事情系统就是不应该做，我们将不得不共同协商出这些事情是什么。”
Kornbluth同意解决AI系统中的偏见等问题将是困难的。
“思考我们是否能够使模型比我们作为人类更少偏见是很有趣的，”她说道。
Kornbluth还提到了与训练当今大型语言模型所需的大量数据相关的隐私问题。Altman表示，自互联网诞生以来，社会一直在努力解决这些问题，但人工智能使得这些考虑变得更加复杂和高风险。他还看到了强大的人工智能系统可能带来的全新问题。
“我们将如何在隐私与效用与安全之间进行权衡？”Altman问道。“我们每个人都决定如何设定这些权衡，以及如果有人允许系统对他们的整个生活进行训练，可能会带来哪些优势，这对社会来说是一件新事物。我不知道答案会是什么。”
对于围绕人工智能的隐私和能源消耗的担忧，Altman表示，他相信未来版本的人工智能模型将有所帮助。
“我们希望GPT-5或6能成为最好的推理引擎，”Altman说道。“现在的情况是，我们唯一能做到这一点的方式是通过训练大量的数据。在这个过程中，它学到了如何进行非常有限的推理或认知。但它能够记忆数据，或者说它在参数空间中存储数据的事实，我认为我们将回过头来说，‘那是一种奇怪的资源浪费’。我假设在某个时候，我们将找到如何将推理引擎与大量数据的需求或将数据存储在[模型]中的需求分离开来，并将它们视为独立的事物。”
Kornbluth还询问了人工智能可能导致的工作替代问题。
“对于那些工作在人工智能上工作的人，最让我恼火的事情之一是他们一本正经地站起来说，‘这绝对不会导致任何工作被淘汰。这只是一种增加的东西。这一切都会很棒’，”Altman说道。“这将淘汰很多现有的工作，这将改变很多现有工作的方式，这将创造全新的工作。这在技术中总是发生的。”
人工智能的承诺
Altman相信人工智能的进步将使我们应对该领域当前所有问题的努力变得值得。
“如果我们用世界上1%的电力来训练一个强大的人工智能，并且这个人工智能帮助我们找到非碳基能源或改进深度碳捕获的方法，那将是一个巨大的胜利，”Altman说道。
他还表示，他最感兴趣的人工智能应用是科学发现。
“我相信[科学发现]是人类进步的核心引擎，也是我们实现可持续经济增长的唯一途径，”Altman说道。“人们对GPT-4并不满足。他们希望事情变得更好。每个人都希望生活更好、更快，而科学是我们实现这一目标的途径。”
Kornbluth还问Altman对于思考自己职业的学生有什么建议。他敦促学生不要限制自己。
“在职业生涯的早期，最重要的教训是你可以弄清楚任何事情，没有人在开始时就拥有所有答案，”Altman说道。“你只是在摸索中前进，快速迭代，努力朝着你最感兴趣的问题靠拢，并与最令人印象深刻的人在一起，并相信你能成功地迭代到正确的事情上……你可以做得比你想象的更多，更快。”
这些建议是Altman关于保持乐观并努力创造更美好未来的更广泛信息的一部分。
“我们教导年轻人的方式是，世界完全糟糕，我们无望解决问题，我们只能坐在黑暗的卧室里思考我们有多糟糕，这是一种非常无效的思维方式，”Altman说道。“我希望麻省理工学院不同于其他大学校园。我相信它是不同的。但你们都需要使之成为你们生活使命的一部分，与之抗争。繁荣、富裕、明年更好的生活、我们子孙更好的生活。这是唯一的前进道路。这是实现一个正常社会的唯一方式……反进步的思潮、反‘人们应该过上美好生活’的思潮，我希望你们都与之抗争。”
