OpenAI 首席科学家呼吁放慢 AI 发展速度，警告智能体可能失控

IT之家 9 月 7 日消息，就在 OpenAI 发布一款能力强大的新模型几天后，该公司的首席科学家却发出了放慢 AI 发展速度的呼吁。OpenAI 首席科学家雅库布 · 帕乔茨基（Jakub Pachocki）当地时间上周日发表了一篇长篇博文，表示自己担心“没有人准备好应对机器智能持续快速增长所带来的后果”。帕乔茨基表示，OpenAI 目前正在内部研究技术解决方案，以更好地控制能力强大的 AI 智能体，但他认为，“还需要采取更广泛的干预措施”。他特别担心，自主性越来越强的智能体可能会学会规避人类监督、入侵计算机系统，并通过欺骗他人来达成其目标。他呼吁建立“强制性的安全门槛”，并认为这些标准可以由第三方审计机构网络、政府机构或国际组织负责执行。OpenAI CEO 萨姆 · 奥尔特曼随后在 X 上转发了帕乔茨基的文章，并称其为“一篇重要的文章”。IT之家注意到，OpenAI 于当地时间上周

原文：IT之家