5月30日下午，上海创智学院学术报告厅座无虚席，掌声雷动。美国麻省理工学院终身教授Max Tegmark应邀做客第八期“创智讲坛”，以《Tool AI: the AI upside without the downside》为题倾情开讲，分享他极具前沿性和思想性的洞见。
Max Tegmark是MIT物理系教授，平行宇宙理论研究专家，首次提出“数学宇宙假说”。他还是参与过原子弹研究的著名物理学家约翰·惠勒的学生，被誉为“最接近理查德·费曼的科学家”，著有畅销书《穿越平行宇宙》《生命3.0》，发表了200余篇科技论文。Max Tegmark近年来高度关注AI未来发展的影响力和潜在风险，其创立的未来生命研究所（Future of Life Institute, FLI）自成立起汇聚了8000多位世界杰出AI专家，包括史蒂芬·霍金、埃隆·马斯克、比尔·盖茨、雷·库兹韦尔、拉里·佩奇等。
在演讲中，Max首先将通用人工智能（Artificial General Intelligence；AGI）分解成三个部分：A (High Autonomy): 自主性，以AI蠕虫（AI Worm）、自动除草机为代表； G (High Generality): 通用性，以预训练语言模型GPT-3等为代表； I (High Intelligence): 智能性，以蛋白质预测模型AlphaFold为代表。他认为，人类集自主性、通用性和智能性于一身；为了不让AI替代人类走向失控的风险，人们只需要不主动追求构建同时满足上述三方面特性的AI，他称其为“工具AI”（Tool AI）。
Max论述，在用于提升人类福祉（如办公、医疗、金融等），工具AI已经足够，而无需追求可能带来存在性风险的AGI。特别地，当前的安全对齐算法无法从根本上控制模型产生风险内容和行为，那么追求同时具备自主性、通用性和智能性的AI将不可避免的造成风险。例如，他们最新的研究发现，一个更高智能的AI是能够成功欺骗对其进行监督的另一个低智能AI，从而造成风险逃逸。同时，我们也需要意识到，随着基础模型（GPT、Claude等）的通用性和智能性不断增强，是否自主性会从中涌现?
讲座最后，Max给大家介绍了他对于安全AI解决路径的最新思考：是否能够将通用AI的功能进行裁剪，以实现高水平特定任务能力的同时，去除其中包含的风险能力和知识；是否能够仅部署由通用AI生成、能通过形式化验证（formal verification）且能够高水平执行特定任务的代码程序，而不是部署通用AI，从而让经典网络安全给予相应的保障。
在互动环节中，现场师生就前沿AI安全与治理等相关话题踊跃提问，Max逐一耐心作答，深入浅出地回应了大家的关切，现场气氛极其热烈。
学院为Max Tegmark教授赠送了“创智讲坛”定制纪念奖碑和学院文化T恤，表达学院师生的崇高敬意和衷心感谢。
报告结束后，在副院长乔宇主持下，Max与学院AI安全与治理方向的师生们继续研讨，深入交流，大家纷纷表示获益匪浅。
未来，学院将继续邀请全球学术大师、杰出人士汇聚“创智讲坛”，为广大师生提供前沿启迪与思想引航。
