文章ID:1610

蒲松龄

刚刚,奥特曼炮轰达里奥反人类!绝密模型同日曝光_我的网站

nba

一 |      8 月 25 日消息,高盛负责一项旗舰人工智能项目的合伙人警告称,AI 在华尔街的快速普及可能削弱下一代金融从业者的思考能力。“这里存在一个巨大的风险:在 AI 时代,我们把推理能力外包给这些模型,最终出现认知能力萎缩,以至于我们自己都无法再从第一性原理出发进行思考。    

就在刚刚,OpenAI神秘双响炮泄露,打响与Claude争霸的下一战!最近,OpenAI员工在GitHub上的一次手滑,意外暴露了模型的代号——gpt-nathree。”负责高盛机构客户数字平台 Marquee 的 Chris Churchman 表示。很多人分析,GPT-6 Astra马上就要来了。

今天,Anthropic又有两张新牌,被第三方开发者应用和Discord社区曝光——claude-mashmallow-eap(棉花糖)、claude-melon-eap(甜瓜)。

几乎同一时间,CEO奥特曼在播客《Founders》中,火力全开,暗讽Anthropic这类同行——用毁灭倒计时来做营销是反人类的独裁者话术。

深夜手滑,

OpenAI下一代神秘智能体泄露!OpenAI这个最新曝出的神秘模型,代号从mewfour又变成了nanthree。8月15日,OpenAI相关账号在公开测试中提及了一个神秘代号:Codex, gpt-mewfour。据 CNBC 获得的采访文字稿,Churchman 是在高盛最新一期《Exchanges》播客中发表上述言论的。当时圈内还在猜测,这难道是基于《宝可梦》中的超梦(Mewtwo)衍生的新一代模型?

几天后的8月19日深夜,更为实锤的线索出现了。Churchman 表示,就像现代科技的出现让人们逐渐失去了导航和记忆能力一样,如果算法承担了所有繁重的分析工作,银行家也可能逐渐丧失分析能力。

二 | OpenAI高级员工Sharmila Jesupaul在GitHub上提交了一份公开的PR,留下了这样一句话:由智能体Codex、gpt-nathree撰写。这条记录在公网上挂了近18个小时。直到次日下午17点13分,该员工似乎突然意识到,自己泄密了。于是迅速返回后台,将gpt-nathree这个代号紧急删除。

这种欲盖弥彰的操作,反而让传闻更加确凿了!Nanthree到底是什么?会是GPT-6 Astra吗?结合此前爆料,Mewfour和Nanthree极大概率是OpenAI下一代Agent模型的迭checkpoint。“推理仍然很重要,”他说,“你仍然需要对问题进行思考,并把它组织成一个完整的论证,而现在我们正在把推理能力交给 AI。毕竟,他们来自同一账号、采用同一种Codex的署名模式,不像是巧合。”注意到,华尔街正推动将 AI 深度融入交易和银行业务的各个环节,而这可能是一种“魔鬼交易”:短期来看,AI 能够提高整个行业的盈利能力,但从长远来看,却可能侵蚀行业赖以发展的专业人才基础。

三 | 许多业内人士认为,看起来0很像一个更新的GPT-6 Astra检查点,正通过Codex进行写代码的内部高强度测试。随着 AI 接管越来越多过去由初级银行家和交易员完成的日常工作,这些年轻员工原本可以通过这些工作学习如何思考和做出决策。

显然,OpenAI的内部模型,已经箭在弦上。Agent 协作与自主科学推理此前,关于Astra最突出的描述,多集中于多Agent协作与长时程任务处理上。多Agent协调系统,专为复杂、长时间运行的任务设计。如今,如果这些训练机会被 AI 取代,金融机构可能会牺牲一种将初级员工培养成经验丰富的华尔街人才的职业文化。长时程任务能力,目标是支持需要持续推理、实验和迭代的工作流,例如复杂科研项目或高级数学问题。

四 | 这甚至可能从一开始就降低金融机构对初级银行家的需求。

五 | CNBC 去年曾报道,华尔街金融机构正在研究如何利用 AI 降低初级银行家与资深员工之间的人员比例。Churchman 表示,银行需要在使用 AI 和保护华尔街传统的“师徒式”培养体系之间找到平衡。目前,OpenAI尚未披露Astra的底层架构细节,比如参数规模,上下文长度,训练数据量等等。

六 | Churchman 此前曾负责瑞银(UBS)的外汇交易业务,并于 2021 年加入高盛。“你需要通过实践学习,而大量知识其实是隐性的,从来没有被写下来。OpenAI已公开确认Astra为未来主要模型,内部版本曾解决了10多项长期未解数学/理论计算机科学问题。但由于引发网络安全critical(严重)风险评级讨论,OpenAI随后加强隔离与访问控制,部分内部工作暂停。而关于claude-marshmallow-eap(棉花糖)和 claude-melon-eap(甜瓜),我们已知的是二者均未达到Fable级别。

七 | Churchman 表示,高盛需要“确保我们不会丢失目前一些最优秀人才所掌握的那些隐性知识和直觉性知识,同时确保下一代人也能够掌握这些能力”。例如,初级交易员可以在经验丰富的交易员监督下处理客户的报价请求,并通过这一过程学习如何进行交易判断。

八 | 很多人猜测,它们更可能是Anthropic对现有Claude 5系列(尤其是Sonnet/Opus )的迭代优化,而非全新一代旗舰。

九 | OpenAI,已经提前打响与Claude争霸的下一轮战役!

奥特曼深度访谈,金句太多了同时,奥特曼在David Senra《Founders》播客中的最新万字长谈,则彻底暴露了他的野心和焦虑,以及对整个AI行业的深刻反思。

这场访谈信息量极大,奥特曼的许多自我剖析,都非常诚实,甚至让人感觉很反直觉。

十 | 奥特曼认错:我对颠覆的时间线判断错了当我们在2023年推出GPT-4时,我曾以为,软件行业的颠覆会立刻发生,大量的生意会瞬间被抢走。但我错了。

十一 | “我们当然完全可以把这件事自动化,”他说,“但这样一来,我们还能培养出真正理解这些业务的资深交易员吗?”Churchman 表示,在涉及高风险和高度不确定性的决策时,系统必须确保员工仍然掌握最终决策权,而不是让他们沦为被动操作 AI 系统的人。

在访谈中,奥特曼罕见地承认误判:哪怕技术再逆天,行业整体在时间线上终究还是太乐观了。

他发现了一个强大的阻力,就是人类社会的巨大惯性。他提到,人们总是习惯于做同样的事情。甚至连我自己也是!奥特曼自嘲道,我明明已经有了像Codex这样神奇的工具,我本可以彻底改变我使用电脑的方式,但我依然像过去20年一样,在各个信息App之间复制粘贴,无脑地滚动长篇邮件。Churchman 同时担任高盛全球银行与市场业务 AI 工作组的联合主席。他表示,即便是高盛这样全球顶尖的投资银行之一,目前也还没有“想清楚”该如何管理这场已经开始的转型。在这次播客采访中,Churchman 还分享了高盛将 AI 引入 Marquee 平台的经验。Marquee 面向对冲基金和其他机构客户,用于访问高盛的市场数据、研究报告、风险分析以及交易执行服务。创造最强编程AI的人,自己却还在用旧习惯抵抗它。

十二 | Churchman 表示,目前 Marquee 的 AI 平台还仅向高盛内部员工开放。从技术角度来看,最大的挑战是确保 AI 给出的答案 100% 准确,并且能够接受审计。他指出,面向消费者的 AI 聊天机器人通常会提醒用户答案可能存在错误,但在高端金融领域,对错误的容忍度非常低。显然,社会与经济适应AI的速度,远远慢于AI的进化速度。但是,这真的是坏事吗?“我对此心怀感激。

十三 | ”奥特曼表示,正是这种巨大的经济惯性,让这场史无前例的大变革变得更加平滑和安全。如果社会瞬间被颠覆,那将是灾难;而现在,人类还能有时间去适应。Churchman 透露,在开发面向客户的 AI 平台时,该软件甚至给出了一个令人意外的自我评价。火力全开,怒批AI圈又当又立的反人类营销接下来,就是最劲爆的部分——奥特曼向Dario开炮了!虽然没有指名道姓,但所有人都听得出,奥特曼是在暗讽包括Anthropic在内的末日营销派。“当我们不断施压、对它进行严格测试时,至少它是诚实的。”Churchman 说,“它就像是在说:‘听着,到最后,我更擅长让自己听起来很全面,而不是真的做到全面。奥特曼直言,当前AI行业的营销话术简直是灾难级别,而且特别反人类。很多从业者一边到处散布恐惧,说“有25%的概率我们会毁灭世界” “一年内一半的工作将消失,希望你们好运”;一边又信誓旦旦地承诺,“我们会给世界带来治愈癌症的解药,带来极大的物质丰富”。这种仁慈的独裁者叙事,让奥特曼极其反感。他将这种话术总结为:亲爱的普通人们,我们会赐予你们治愈癌症的礼物和无尽的财富。作为交换,请你们交出自主权,闭上嘴,让权力集中在我们这些少数未被选举的公司和聪明人手里,由我们来替世界做决定。他明确指出,AI最大的风险除了模型失控,就是AI过度集中。他反复强调的一句话是:People are the whole point of this all.(人本身,才是这一切的意义。)

自动播放
打破创业圣经:四年半在黑暗中的摸索作为前YC的掌门人,奥特曼深谙硅谷的创业圣经:尽早发布、快速迭代、倾听客户反馈。但OpenAI,却完全违背了这一法则。奥特曼回忆起2016年初,OpenAI宣告成立后的第一天。

十四 | 他和Greg Brockman等十几个绝顶聪明的人聚集在公寓里,气氛就像开学第一天。大家互相看了看,有人问:“我们现在该干嘛?” 然后有人去买了个白板。

十五 | 白板拿来了,大家又互相看看:“所以,到底要做什么?我们说要实现AGI,那不如先写几篇论文?”当时,大多数人根本不知道自己要干嘛,脑子里一片混沌。

更反直觉的是,从公司成立到发布第一款真正的产品,OpenAI在「黑暗」中摸索了整整四年半。这在以追求速度著称的硅谷,简直是自杀。

十六 | ChatGPT刚发布时,增长虽然快,但内部很多人觉得:增长是猛,但感觉很不稳定,价值很低。我们是不是该换方向?我们列了5、6个其他可以做的事情。这时Peter Thiel说了一句:除了继续做这个,做任何别的事明显都是错误。他还把ChatGPT比作Google搜索框:一个空白输入框,你输入任何东西,它都能做对。硅谷追了20年的商业模式,终于出现了一个真正的新入口。奥特曼听了,全力以赴。没有客户反馈,没有市场信号,他们只能发明各种排行榜和内部测试方法,来盲目摸索进度。经历了无数次混乱的跌倒,最终才跑通了Scaling Law,走向GPT的成功。

十七 | 这再次印证了奥特曼的理念:最伟大的事物,总是始于非共识。当全世界都觉得你们疯了、不可能做成的时候,那可能才是最大的机会。

自动播放
AI时代的底层逻辑,依然是人最后,主持人问道:如果AI连播客都能做得比我们好,人类还需要什么?奥特曼的回答十分笃定:人类依然会渴望真实的人类。他坚信,无论AI发展到多么超级智能的地步,那些关于人类连接、关于人与人之间好感的事物,不仅不会贬值,反而会越来越昂贵、越来越有价值。

十八 | 我不喜欢看电子书,我喜欢纸质书;我不喜欢Zoom开会,我喜欢面对面交流。人类根本的生理和心理构造,决定了我们永远在乎同类。AI不是来取代人类的,它们只是激发一波小微企业创业潮的工具。

十九 |

Current article:http://3annii.suilaoheirenzhaizhaikang.sbs/list_rwpc/80jof.html

Published on:00:00:00


用户评论
用户名:
E-mail:
评价等级:               
评价内容: