OpenAI CEO：未来十年内 AGI 将会超过 90 年代初人类所具备的专业水平

IT之家 6 月 10 日消息，在今日举办的 2023 智源人工智能大会上，OpenAI 联合创始人兼 CEO，萨姆・奥特曼（Sam Altman）以视频连线的方式发表了演讲，这也是 Altman 首次对中国观众发表演讲。

他表示，世界的注意力主要集中在解决当今的人工智能问题上，很多问题的解决非常迫切。人工智能能力正在迅速增长，现在需要负责任地将其应用到世界中去。

他认为，未来十年内 AGI 将会超过 90 年代初人类所具备的专业水平，最终可能超过人类最大体量公司的总体生产力，潜在收益是巨大的。他还强调，推进 AGI 安全是行业寻找共同立场的最重要领域之一。

图源 Pexels对于 GPT-4 从完成预训练到部署，奥特曼称 OpenAI 团队花了八个月的时间来研究如何前置预判风险并给出对策的问题，团队走在正确的道路上，GPT-4 的对齐程度超过当前所有的代码。但对于更高级的系统来说，对齐仍是一个尚未解决的问题，需要新的技术方法以及加强治理监督，毕竟未来的 AGI 可能是一个十万行二进制代码的系统，人类监督者很难判断如此规模的模型是否在做一些损害的事情。

至于 OpenAI 会否会开放 GPT 源码，奥特曼表示：目前 OpenAI 开源了部分模型，随着时间的推移，可以期望更多模型开源。未来随着模型变得越来越大，确保正确性将变得昂贵，开源一切可能不是最优路径。