在11月28日举行的麻省理工学院“生成AI：塑造未来”研讨会上，这是麻省理工学院“生成AI周”的开幕活动，iRobot联合创始人Rodney Brooks在主题演讲中警告与会者不要盲目高估这一新兴技术的能力，这一技术是OpenAI的ChatGPT和Google的Bard等越来越强大的工具的基础。
“炒作导致傲慢，傲慢导致自负，自负导致失败，”布鲁克斯警告道，他还是麻省理工学院的名誉教授，计算机科学与人工智能实验室（CSAIL）的前主任，以及Robust.AI的创始人。
“没有一种技术曾经超越了其他一切，”他补充道。
这次研讨会吸引了来自学术界和工业界的数百名与会者，他们聚集在麻省理工学院的克雷斯基礼堂，会议中充满了关于生成AI为改善世界提供机会的希望的信息，包括通过艺术和创造力，同时也夹杂着关于如果这些AI工具不负责任地开发可能会出现什么问题的警示故事。
生成AI是一个术语，用来描述机器学习模型学习生成看起来像它们所训练的数据的新材料。这些模型展示了一些令人难以置信的能力，比如能够产生类似人类创造性写作的能力，翻译语言，生成功能性计算机代码，或者根据文本提示制作逼真的图像。
在开幕致辞中，麻省理工学院校长Sally Kornbluth强调了教职员工和学生们利用生成AI在世界上产生积极影响的几个项目。例如，麻省理工学院和哈佛大学推出的在线教育项目Axim Collaborative，包括探索生成AI的教育方面，以帮助贫困学生。
该学院最近还宣布了27个跨学科教职员工研究项目的种子资助，这些项目的重点是AI将如何改变人们的生活。
麻省理工学院希望通过举办生成AI周，不仅展示这种创新，还希望在与会者之间产生“协作碰撞”，Kornbluth说。
她告诉观众，如果我们要安全地整合像生成AI这样快速发展的技术，就需要学术界、政策制定者和工业界的合作。
“老实说，我想不出还有什么挑战比这更符合麻省理工学院的使命。这是一项深刻的责任，但我完全相信，如果我们直面挑战，作为一个团队，我们能够应对它，”她说。
CSAIL主任Daniela Rus在开幕致辞中表示，尽管生成AI有助于解决地球上一些最紧迫的问题，但这些强大的机器学习模型的出现已经模糊了科幻与现实之间的界限。她说，现在的问题不再是我们是否能制造出能够产生新内容的机器，而是我们如何利用这些工具来增强业务并确保可持续发展。
“今天，我们将讨论一个未来的可能性，即生成AI不仅仅作为一种技术奇迹存在，而是作为希望和善良的力量存在，”Rus说，她还是麻省理工学院电气工程与计算机科学系的安德鲁和埃尔娜·维特比教授。
但在深入讨论生成AI的能力之前，与会者首先被要求思考他们的人性，麻省理工学院教授Joshua Bennett朗读了一首原创诗。
贝内特是麻省理工学院文学部门的教授和人文学科的杰出主席，他被要求写一首关于人类意义的诗，他从他三周前出生的女儿那里获得了灵感。
诗中讲述了他小时候与父亲一起观看《星际迷航》的经历，并强调了将传统传承给下一代的重要性。
在他的主题演讲中，布鲁克斯试图解开围绕生成AI的一些深刻科学问题，并探索这项技术能告诉我们关于自己的东西。
首先，他试图解释ChatGPT等生成AI工具的基本原理，以消除围绕这些大型语言模型的神秘感。例如，ChatGPT通过确定在已经写过的内容的上下文中下一个单词应该是什么来逐字生成文本。布鲁克斯解释说，人类可能会通过思考整个短语来写故事，而ChatGPT只关注下一个单词。
ChatGPT 3.5是建立在一个具有1750亿参数的机器学习模型上的，它在训练过程中接触到了互联网上数十亿页的文本。（最新版本ChatGPT 4更大。）它学习了这个庞大文本语料库中单词之间的相关性，并利用这些知识来提出在给定提示时下一个单词可能是什么。
该模型展示了一些令人难以置信的能力，比如能够写一首关于机器人的十四行诗，以莎士比亚著名的《第18首十四行诗》的风格。布鲁克斯在演讲中展示了他要求ChatGPT写的十四行诗，并将其与他自己的十四行诗进行了对比。
但尽管研究人员仍然不完全理解这些模型的工作原理，布鲁克斯向观众保证，生成AI看似令人难以置信的能力并不是魔法，也并不意味着这些模型可以做任何事情。
他对生成AI最担心的不是可能有一天超越人类智能的模型，而是担心那些可能为了追赶生成AI的新进展而抛弃了几十年来接近突破的优秀工作的研究人员；盲目追逐能够产生最高利润的技术的风险投资公司；或者整整一代工程师会忘记其他形式的软件和AI。
无论是相信生成AI能够解决世界问题的人，还是相信它只会产生新问题的人，至少有一点是共同的：这两个群体都倾向于高估这项技术，他说。
“生成AI的傲慢是什么？傲慢是认为它会导致人工通用智能。它本身不会，”布鲁克斯说。
布鲁克斯的演讲结束后，一群麻省理工学院教职员工讲述了他们使用生成AI的工作，并参加了关于未来进展、重要但未被充分开发的研究课题以及AI监管和政策挑战的小组讨论。
小组成员包括麻省理工学院电气工程与计算机科学系（EECS）副教授、CSAIL成员Jacob Andreas；麻省理工学院电气工程与计算机科学系（EECS）Delta Electronics教授、CSAIL成员Antonio Torralba；麻省理工学院脑与认知科学副教授、麦戈文脑研究所研究员Ev Fedorenko；以及计算机科学杰出教授、CSAIL副主任Armando Solar-Lezama。由CSAIL成员、EECS Thomas和Gerd Perkins教授William T. Freeman主持。
小组成员讨论了关于生成AI的几个潜在未来研究方向，包括整合感知系统的可能性，利用人类的触觉和嗅觉等人类感官，而不仅仅是语言和图像。研究人员还谈到了与政策制定者和公众接触的重要性，以确保生成AI工具的生产和部署是负责任的。
“生成AI今天面临的一个重大风险是数字蛇油的风险。有很大的风险出现很多声称能够做奇迹般事情的产品，但从长远来看可能非常有害，”Solar-Lezama说。
上午的会议以1925年科幻小说《大都会》的节选朗读结束，由物理学和戏剧艺术专业的高年级学生Joy Ma朗读，随后进行了关于生成AI未来的圆桌讨论。讨论包括脑与认知科学系教授Joshua Tenenbaum，CSAIL成员、EECS Thuan和Nicole Pham教授Dina Katabi，物理学教授Max Tegmark，由Daniela Rus主持。
讨论的重点之一是开发能够超越人类能力的生成AI模型，例如可以通过使用电磁信号感知一个人的情绪，了解一个人的呼吸和心率的变化。
但确保我们可以信任这样的AI安全地将其整合到现实世界中的关键是，Tegmark说。如果我们知道一个AI工具将满足我们坚持的规格，那么“我们就不再害怕建造真正强大的系统，让它们在世界上为我们做事情，”他说。
