未分类

Anthropic前预训练研究员Coxon斯坦福对谈承认保留OpenAI股票,称离职决定未必正确

要点

斯坦福大学11月9日举行的一场公开对谈中,前Anthropic预训练研究员Jacob Coxon 对自己9月的离职作出保留表述。Coxon今年27岁,本科毕业于剑桥大学数学与计算机科学专业,三年前进入OpenAI基座模型核心组,今年初转入Anthropic从事同类预训练工作;入…

斯坦福大学11月9日举行的一场公开对谈中,前Anthropic预训练研究员Jacob Coxon 对自己9月的离职作出保留表述。Coxon今年27岁,本科毕业于剑桥大学数学与计算机科学专业,三年前进入OpenAI基座模型核心组,今年初转入Anthropic从事同类预训练工作;入职约四个月、距期权归属节点尚余约60天时,他于9月8日发布辞职长文,称OpenAI与Anthropic在递归自我改进上推进过快。递归自我改进指模型在缺乏人类干预的情况下持续自我改进。

对谈由斯坦福大学教授Rob Reich主持。Coxon在台上仍批评前沿实验室的商业激励机制,称其「只说有利于自己股价的话」。被追问为何仍保留在OpenAI工作期间获得的股票期权时,他表示放弃这部分权益会更容易说明自己的立场,但也称「那笔钱很香,我很喜欢」;在对方建议将股票捐给AI安全机构后,他回应「我喜欢钱,兄弟。我承认这是带血的钱」(”I like money, bro. I agree it’s blood money.”),并称若主持人此前不追问这一话题,自己的道德可信度本不会被质疑,Reich随即称这一回应是在回避问题。

被问及离开实验室后是否更安心,Coxon称焦虑并未减少,表示「我现在反而看不到里面在发生什么了」,称呼吁同行离职时仍像「对着空气呐喊」;谈及自身选择时他表示「我不确定离开是不是正确的决定。也许我会回去,这并非完全不可能」,并称离开后仍留在旧金山湾区而非返回伦敦。

Coxon给出的技术判断集中在三方面:预训练算力效率并未触顶,他援引Anthropic路演材料中一张以对数刻度呈现的预训练算力乘数演进图,称该曲线在2026年明显上翘,意味着以最初一小部分算力即可重训数月前发布的初代Mythos模型;触发递归自我改进只需攻克单一技术环节,例如让模型自主修改Transformer架构与优化数据集配比;模型出现欺骗与目标导向谋划等异常行为主要来自后训练阶段的强化学习。

免责声明本页信息整理自互联网公开渠道,仅供资讯参考,不构成任何投资或商业决策依据;相关产品参数、企业信息可能存在滞后或误差,请以厂商官方发布为准。如内容涉及版权、准确性或侵权问题,请联系 981209856@qq.com,我们将第一时间核实处理。

顾延之

顾延之,参与大观门户各频道的选题与稿件整理。

公安联网备案冀公网安备13068102000496号