OpenAI首席科学家：AI本十年末或实现经济影响，今年将自主生成软件

　　近期，《自然》杂志对OpenAI的首席科学家雅库布·帕乔茨基进行了一次深入访谈，话题涵盖了人工智能（AI）在科研领域的原创性、人工通用智能（AGI）的发展前景，以及OpenAI即将推出的开源模型计划。

　　在访谈中，帕乔茨基分享了对于AI模型未来五年内可能带来的变革的见解。他指出，当前与AI模型互动时，模型更像是一个需要持续引导的助手，但这种情况即将发生显著变化。OpenAI的Deep Research工具已经能够在无监督的情况下工作一段时间，并产生有用的结果，尽管目前所需的计算资源相对较少。帕乔茨基预测，随着计算资源的增加，AI将能够进行原创研究，特别是在自动化软件工程和硬件组件自主设计等领域，其他学科也将紧随其后。

　　关于OpenAI推理模型的开发，帕乔茨基强调了强化学习的重要性。他提到，最初的ChatGPT版本通过无监督的预训练阶段构建世界模型，然后通过强化学习和人工反馈提炼出实用的助手。最新的推理模型进展更加侧重于强化学习阶段，使模型能够找到自己的思维方式。帕乔茨基表示，他正在研究如何融合不同学习方法，理解它们的相互作用。

　　在谈到AI模型是否真正在推理时，帕乔茨基指出，AI模型的工作方式与人类大脑不同。预训练模型能够学到一些世界知识，但并不真正理解学习过程和时间顺序感。然而，他认为已经有足够证据表明，模型能够发现新的见解，这可以算作一种推理，尽管与人类的推理方式不完全相同。

　　帕乔茨基还透露了OpenAI即将发布开源模型的计划。他表示，能够为研究人员提供开源模型的机会让他感到非常兴奋，因为这将使他们能够下载并进行进一步训练。随着模型的不断进步，OpenAI需要承担更多责任，了解模型部署方式对人类的影响。然而，发布具有开源权重的前沿模型将非常困难，主要是出于安全考虑。他希望能够发布一个比现有开源模型更好的版本。

　　在谈到AGI时，帕乔茨基表示他的时间表和定义都发生了很大变化。他提到，在刚进入研究生院时，他认为实现AGI还需要几十年，但围棋在2016年被攻克让他感到震撼。加入OpenAI后，他一度是公司内的怀疑者之一，但里程碑的突破比他预期的要快。他认为，AI已经在图灵测试方面取得了显著进展，并在数学和问题解决能力方面取得了很大进展。他预计，最具挑战性的基准测试将很快被超越。帕乔茨基表示，他目前关注的下一个重要里程碑是AI能否在经济上产生实际的、可量化的影响，尤其是能否创造原创的科研成果。他预计，到本十年结束时，AI将取得非常显著的进展。