新智元报道
编辑：KingHZ
【新智元导读】想象一下，AI取代了你的工作，甚至连OpenAI的CEO也如此——奥特曼的答案竟是去当农场主！他分享了十年高压下的农场梦想，强调人类渴望创造价值永不止息。短期岗位流失不可避免，但长期来看，AI将催生更以人为本的新职业。
AI狂飙已至，认知仍未醒来——
「技术悬差」正在撕裂时代的节奏。
当大众还沉浸于ChatGPT带来的新鲜感时，AI早已悄然跨越了「最聪明的人类大脑」的门槛。
在多项顶级智力任务中，AI已然胜出人类，展现出突破性认知与推理能力。
展开剩余93%这种「技术悬差」正在快速拉大：AI所拥有的能力，远超社会、经济乃至监管系统的普遍理解与应用水平。
当AI迈入可自我进化的新阶段，问题不是「能不能」，而是「我们是否跟得上」——解决问题的速度，是否永远跑在问题之前？
在《MD MEETS》的首期节目中，Axel Springer的首席执行官Mathias Döpfner与OpenAI首席执行官奥特曼，展开了一场毫无保留的对话，探讨AI带来的机遇与风险。
话题从「AI与工作」到「人类灭绝风险」，再到「AI时代的新闻业」，甚至延伸到「人类是否该永生」——几乎没有禁区。
奥特曼分享了他对超级智能的思考，以及他在AI接管自己工作后想去当农民的个人梦想。
这是一场罕见而真诚的对话，让我们得以一窥这位正在塑造未来的重要声音。
奥特曼：未来不做CEO就去搞农场
每当谈到AI，人们都会关心一个问题——它会不会取代人类工作？是AI创造工作机会多，还是毁掉的工作更多？
奥特曼认为：
短期来看，AI确实会取代大量工作岗位。但从长期看，就像以往每一次技术革命一样，人类总能找到全新的事情可做。
我相信人类对「创造价值」、「帮助他人」、「融入社会」的渴望是无限的。
每次技术革新，总有人说「这下完了，我们以后都没工作了」。可事实证明，这其实只是想象力的失败。
也有人说这次不同，因为AI触及的是人类最核心的「智力」部分，那我们还能做什么？
但奥特曼认为：人类天生关注彼此，而非「机器世界」。焦点仍在人与人的关系。
他虽无法预测具体岗位，但「几乎可以肯定，未来的工作将更以人为本」。
几周前，有人问奥特曼：
假设有一天AI连你的工作也取代了，你会做什么？
奥特曼出人意料地回答：当农场主（farmer）。为什么？
首先，奥特曼确实相信
未来某一天，AI会成为比我更优秀的OpenAI CEO。
这也正是OpenAI努力的方向。如果AI真的能胜任，那真是求之不得。
当然，如果他想继续留在OpenAI，可以扮演其他角色。
不过，奥特曼坦言，这十年来一直承受着巨大的压力，工作量也极其繁重。
他还拥有一块农场，时常前往——他真心喜欢那里的慢节奏与截然不同的生活方式。
史无前例：人工智能>人类智慧
在《未来简史》中，以色列作家尤瓦尔·赫拉利描述了人类的下一个时代——我们将变得近似于「神」：实现永生、不再为生计奔波、拥有无限智慧与知识。
这让奥特曼想起硅谷流行的一句话，大意如下：
我们拥有神祇般的技术，却秉持着中世纪的道德框架。
它指向一个现实：技术跃迁，已远超智慧、判断与社会建构能力的提升。
这种失衡感让奥特曼感到不安。他不知如何应对，因为技术洪流已至。这不再是空谈，多年来他持续探讨这个话题。
在他看来，今年AI首次超越了人类智慧——这无疑是历史性转折点。
生活仍在继续，但某些根基已悄然改变。
未来是否真的会像科幻那样发展，谁也说不准。
是我们把意识上传到电脑中、实现永生？还是我们只是在治愈一些疾病、延长寿命？这些他都不确定。
不过，奥特曼推荐了前几年的动画《Pantheon》，探讨了类似的主题。它探讨的这些问题，如今已不再是抽象的哲学问题，而是现实。
但奥特曼并不向往「永生」。
他很难想象「永生」到底意味着什么。真正实现永生、治愈所有疾病、器官无限替换……那种「永远」实在太长了。
在他看来，自然的更新与新陈代谢，是社会前进的必要条件。
比起寿命本身，他更希望人生中的「生病阶段」越短越好。
理想状况是：健康地活很久，然后突然快速地走完最后一程。
OpenAI的关键转折点
当初一起推动这场AI革命的，有不少人现在彼此竞争——Peter Thiel、Elon Musk、Demis Hassabis、Mustafa Suleyman、Paul Graham、Marc Andreessen……
在这群人中，谁对奥特曼影响最大？
在他看来，很难评出「谁影响最大」，但他们组成了紧密交织的生态系统。
整个产业就像一个协同网络，有人在做芯片，有人在训练模型，有人在做应用产品。
当然，也有很多企业在竞争，但氛围更像早期互联网或半导体——不是一人一企之功，而是整个圈子的推进。
主持人追问：「那你觉得你自己最重要的贡献是什么？但有没有某个时刻、某个决策，你认为是至今最关键的一步？」
奥特曼表示最关键的一步可能是：决定把所有资源押在「扩大算力、扩展模型」这条路线上。
这是在发现Scaling Laws之后，OpenAI做出的生死攸关的抉择。
彼时，认同者寥寥。主要对手 DeepMind 甚至认为：语言模型并不重要，也不是正确路径。
哪怕OpenAI发布了GPT-3，很多人依旧觉得没什么用，直到ChatGPT上线，才真正让世界意识到其实际价值。
所以，奥特曼认为当时那个「下重注」的决策——
在模型规模扩张上，投入巨资、集中研究，是一个巨大贡献。
要知道，那时候这条路远不像今天看起来那么顺理成章，无论从资本投入还是研究方向上，都是高风险。
他还将「开放ChatGPT」视为另一大贡献。
让公众使用ChatGPT，是一种信念驱动。彼时不少人认为AI仍不安全，不宜开放，研发应保持「半封闭」。
但OpenAI相信：真正的安全，离不开公众的深度参与。
所以，奥特曼认为他的角色并不总是某个「关键时刻」的决定，而是无数个「小决策」累积起来。
人类灭绝风险并非空谈
奥特曼曾说过，「超级智能」是对人类生存最大威胁之一，因此他早期就在呼吁加强监管。
博客链接：https://blog.samaltman.com/machine-intelligence-part-1
这一立场至今未变，但他也澄清：所谓「监管」，并非「能否用于银行业务」等日常应用限制。
他指的是：针对可能带来「人类级风险」的技术，要有清晰的框架。
奥特曼曾表示「超级AI带来人类灭绝」的概率大约是2%。
奥特曼的核心意思说，这种风险是「非零、值得认真对待」，并不是具体的概率预测。
但主持人认为：
就算2%也已经很高了。毕竟，一架飞机失事的概率也只是0.00001%。
如果2%是毁灭整个人类文明的风险，那就非常严峻了。
奥特曼完全同意这种观点。这也是为什么他一开始就在写博客呼吁重视这个问题。
他大致把风险分成三类：
第一类，AI没有「失控」，但「人用AI做坏事」。
AI本身完全听指令，但如果掌握AI的国家或组织，穷兵黩武，那它可以用AI造成巨大破坏，比如开发生物武器、入侵核系统等等。
这不是AI的问题，而是「滥用问题」。
第二类，是经典的科幻灾难模型：AI获得某种自主性。
为了实现目标，它不想被人类关闭——就算没有「意识」或「主观意图」，它也可能基于算法策略走向错误方向。
这属于典型的「对齐失败」。
但还有第三类，更容易被忽略，却很可能最真实——
那就是AI并没有恶意，也没有叛变，只是「自然而然」地接管了世界。
你想想现在的ChatGPT——
成百上千万的人每天都在用，接下来可能是十亿人。越来越多的人依赖它来做出重要决策。
一开始，它只是帮你出点主意，效果还行。后来，它给出的建议越来越靠谱。
再后来，它给你一些你听不懂的建议——但实践证明，它总是对的。
你会怎么做？你要么跟着它走，要么落后于别人。
于是，大家都开始照着AI的建议做。
AI本意是帮你，但它越帮越多，最后几乎决定了你的人生选择。
然后，这些人再把新的行为数据喂回去训练模型，模型又变得更聪明，反馈又更强。
长此以往，整个社会、整个经济，都陷入AI-人类协作的闭环之中。
那时，谁还能说自己是「自由意志」？
它没有恶意，却实际控制了一切。
也有人反驳说：人类作为高智生命，也没有消灭蚂蚁这种低等生物。所以即使AI更强大，也不代表它一定要毁灭我们。
OpenAI联合创始人Ilya Sutskever，曾经说过：「我们应当期望，未来的超级智能，能像慈爱的父母对待孩子一样，对待我们人类。」
这和「AI要友善」不完全一样，更像是一种温暖、有情感的引导。
这句深度触动了奥特曼。
AI时代，新闻不死
奥特曼此行来到柏林，是来领取Axel Springer Award。
作为出版行业的一员，主持人必须问一个现实问题：新闻行业如今遭遇双重打击——
一方面是压制，另一方面则是AI「答案机器」的冲击。
奥特曼怎么看新闻行业的未来？我们还需要新闻业吗？
奥特曼认为当然需要新闻业，而且他非常感激新闻业对社会所做的贡献。
如果我们回顾人类历史上那些「繁荣盛世」的共同点——不只是经济繁荣，更是人的生活质量持续提升——那么，「言论自由」几乎始终是其中核心要素。
社会仍然需要那些实时追踪世界动向、提供深度解读的专业人士。没有他们，我们的AI系统也将失去赖以训练的基础。
当然，新闻形态也许会改变：
从机构化媒体，转向「个体记者+社交媒体」；从品牌信任，转向「对人的具体信任」；
但「值得信任的事实揭示者」这个角色，绝不会消失。
主持人更担心的是另一件事：在大模型的冲击下，「版权」这个概念正面临彻底崩溃。
现实就是：如今的AI模型大量吸收已有数据——而一旦某项内容发布出来，就会立刻被AI「吞掉」，作者却无法从中获得任何回报。
没有商业激励，谁还愿意投入大量精力去深挖真相？
奥特曼表示理解这种担忧，而且他也多少持乐观态度，因为新闻业和AI业的利益其实是一致的。
没有源头内容，AI就没有原料可学。
发布于：北京市港陆证券提示：文章来自网络，不代表本站观点。
