博亚boya(中国) OpenAI 硬件崇拜东谈主的闭门共享,向咱们揭示了为什么硬件「至极」仍是智高东谈主机
「你必须为模子将要去的主义瞎想硬件,而不是为今天的模子。」
剪辑|靖宇
昨天,当 OpenAI 作念智高东谈主机的具体规格与供应链爆料发布时,我第一响应不是「他们要作念手机了」,而是「OpenAI 最终也不得不踏出这一步」,同期思起两周前 Richard Ho 在 Stanford 那场筹商。
Richard Ho 是 OpenAI 的硬件崇拜东谈主,从 Google 作念 TPU 出来。
那场在 IEEE 里面组织的筹商上,他莫得讲过一次「手机」这个词。但把昨天的新闻和他其时说过的话放在一王人看,整条旅途其实照旧被讲得很了了——仅仅其时莫得一个具体的居品形态来锚定它。
OpenAI 作念手机这件事,在外界看来像一次跨界。但顺着 Richard Ho 那场筹商的逻辑往下推,你会发现这是一条早就铺好的路。
毕竟对于通盘模子厂商来讲,手机都仅仅至极之一,不是开头。
模子的下一次「跃迁」,降生自硬件
那场筹商的中枢,是对于 OpenAI 为什么必须我方作念硬件。
Richard Ho 反复强调的一句话是:「信得过的抑遏不再仅仅模子,而是算力、能耗、老本、延迟,是通盘这个词系统。」
听起来像一句鄙俗的本领述说。但放在 OpenAI 的位置上,这句话的重量所有不一样——它意味着这家公司照旧不把我地契纯算作一家模子公司。
GPU 是为通用并行筹备瞎想,在保举系统、传统的并行任务,跑得很好。
但靠近今上帝流的 Transformer、agent、长高下文推理,其实照旧偏离了 GPU 当初的瞎想假定。尤其是 agent ——多轮、不绝实行、跨任务协同,通盘这个词系统层的低效会被放大许多倍。Richard Ho 其时的原话是:「GPU 把咱们带到了今天,但它并不是为这种(AI 负载任务)而瞎想的。」
这句话背后的含义其实是:络续依赖 NVIDIA 所设定好的硬件旅途,OpenAI 恒久没办法把模子推到下一个量级。不是说 GPU 不成用,而是说在能耗、老本、后果这些维度上,OpenAI 无法一直被迫地经受外部的硬件节律。
是以这件事的骨子从一启动就不是「OpenAI 插足芯片 / 硬件行业」,而是 OpenAI 思再行拿回 AI 运行的底层抑遏权。
要是只看媒体报谈,你会合计 OpenAI 在作念的事情是「拼装一台手机」粗略更深入一些的「自研一颗 AI 芯片」。但 Richard Ho 我方认知得很成功:「咱们不是在作念一颗芯片,而是在作念一个系统。」
这个「系统」包括芯片、机架、收集、电力、散热、数据中心——和 Google 当年作念 TPU 的旅途很像,但更强调端到端的抑遏。
流程的部分有点出乎我预思。Richard Ho 说团队是从零搭起来的,但「两年时期照旧从空缺走到 tape-out(芯片瞎想完成委用流片坐蓐)」,何况照旧有芯片在着实 workload 中跑了——他专诚强调这不是纸面上的数据,而是「照旧在着实环境里 work 的东西」。
两年从零到 tape-out 是个什么意见?传统芯片公司从架构到流片,五到七年很平常。Google TPU 第一代用了苟简三年,而且是有 Jeff Dean 这种基础措施大牛背书、又有 Google 里面圆善的工程协同体系作救援。OpenAI 能作念到两年——背后只然而两件事:要么是从 TPU、Apple、Google 等公司挖了广泛照旧进修的硬件团队(这是事实),要么是 Broadcom 这类勾通方在底层 IP 上提供了极度大的扶助(这也部分是事实)。
但更值得说的是 OpenAI 和硬件供应商之间的考虑界限。
「他们会参与 IP、physical design、packaging。」Richard Ho 谈到 Broadcom 时说得很克制,紧接着补了一句——「他们并不看到圆善的架构。」他还专门讲解,「许多时候他们只看到一部分,但看不到合座是若何拼起来的。」
这句话其实浮现了 OpenAI 自身的一个判断:架构层和工程层是两件事,前者必须所有抓在我方手里。Broadcom 提供的是模块和制造才略,系统级的瞎想逻辑——也即是「这颗芯片到底要若何和模子配合」这件事——必须留在里面——就像苹果作念硬件的逻辑一样。
Richard Ho 提到,外界看到的模子是几个月发布一次,但里面其实是一条连气儿的 pipeline ——「咱们能看到接下来 6 到 9 个月模子会若何变」。
这句话才是整段最关节的。它意味着 OpenAI 的硬件团队不是在为今天的模子瞎想芯片,而是在为还没出现的模子「筹划」瞎想。
具体到细节上,这种「上前看」会影响许多决定:模子对内存压力的变化会成功决定 HBM 应该用 8-high、12-high 如故 16-high;收集带宽要扩到些许;新的 compression algorithm 出现会不会更正数据流的格式;inference 和 training 的比例正在快速变化(推理负载越来越重),这对硬件的条目又是另一套。
Richard Ho 把这极少总结成一句话:
「你必须为模子将要去的主义瞎想硬件,而不是为今天的模子。」
这即是 OpenAI 的芯片和 NVIDIA、AMD 的根蒂不同之处——它不是一颗对外售售的通用 GPU,而是高度贴合 OpenAI 自身模子旅途的、险些一双一定制的系统。从这个角度看,OpenAI 作念芯片更像 Google 作念 TPU,而不是像 NVIDIA 作念 H100。
但即便如斯,硬件优化的天花板远莫得到。Richard Ho 反对「晶体管进取变慢,是以芯片红利完满」这个结论。他的判断是:单颗芯片确乎在变慢,但通盘这个词系统层面还远远莫得被优化好。memory hierarchy、networking、data movement ——这些大瓶颈都没解。他举的例子很具体:当今高速 copper 互联在高带宽下只可扶助苟简 2 米的距离,这对数据中心布局是绝顶大的抑遏。
简便说一句:OpenAI 在作念的事情不是把一颗芯片作念得更快,而是把通盘这个词 AI 筹备系统再行优化一遍。
手机这件事,是这个系统的最终局。
「手机不是为 agent 瞎想的」
回成功机。
Richard Ho 在那场筹商上有一句话,今天回头看险些即是 OpenAI 作念手机的全部原理——「手机不是为 agent 瞎想的」。
「今天的手机交互是 app-based、session-based 的,你翻开一个 app,作念一件事,关掉。但 agent 需要的是不绝存在、不绝实行、跨任务协同。一个信得过的 agent 不会等你翻开它再启动责任,它会在后台一直聚积你的情状、退换你的任务、跟其他 agent 通讯。」
这种交互范式,成功等同于在说:今天的 iOS 和 Android 都不是为它瞎想的。
这即是为什么 OpenAI 必须我方作念。Richard Ho 的判断是「畴昔不是 cloud-only,也不是 edge-only,而是两者结合」——个东谈主高下文、隐秘数据、低延迟交互必须在成就端,复杂推理留在云表。要是一个 agent 思随时拿到用户的「当下情状」,它必须在操作系统层有圆善权限。
这件事在 iOS 和 Android 上很难干净地作念——不是本领问题,博亚boya(中国)是利益问题。Apple 不会把系统级权限所有洞开给一个第三方 agent,Google 也不会。
亦然从这个角度,旧年 OpenAI 收购 Jony Ive 团队关联的公司(io)的逻辑就了了了。Richard Ho 说,作念端侧个东谈主成就这部单干作「是当前最有益旨真谛的一块」——因为这是第一次把基础措施和忽地电子成就信得过接在一王人。
这其实是 OpenAI 通盘这个词硬件计策里最有思象力的部分,亦然最危急的部分。有思象力是因为它在作念 Apple 当年没作念的事:用 AI agent 把操作系统重写一遍。危急是因为忽地电子是另一套游戏规矩——居品节律、供应链、零卖、品牌——不是从云表工程师团队里能长出来的才略。
但 io 的存在贬责了一部分问题。Jony Ive 不是来作念芯片粗略操作系统的,他是来作念硬件形态和工业瞎想的——这蓝本即是 Apple 这些年从 OpenAI 手里能已而保住的临了一块地。
不是通盘 AI 公司都在作念吞并件事
忽地电子的难度有多大,看曩昔两年其他 AI 公司在硬件上的尝试就了了了。
每一家都思用 AI 再行界说某个硬件形态。但每一家走的旅途不一样,收尾也很不一样。
最早的是 Rabbit R1。
2024 年头的 CES 上,吕骋拿出那台橙色小盒子,喊出「干翻通盘 App」——用 LAM(大动作模子)替代手机里 App 的交互姿首,一句话订外卖、打车、订机票。其时激勉的关怀度堪比「AI 时间的 iPhone 时刻」,开售两周卖出 5 万台。
但首批用户体验出来之后,事情翻得很快。先是被征战者阐发是套壳安卓—— Rabbit OS 本质上是 AOSP 的修改版,APK 不错成功装到 Pixel 6a 上跑。LAM 被发现依赖 OpenAI 的 API。续航 4 小时,订一次外卖要试十几次。
Rabbit 失败的信得过原因不是居品性量,而是旅途——它只作念了硬件壳子,没碰底层。芯片是联发科 Helio P35(初学手机水平),系统是套壳 Android,模子靠第三方 API。这种作念法的天花板很昭彰:你作念的事情,一个手机 App 都能作念,而且作念得更好。
Meta 选了一条所有不同的路。
Meta 的判断是不挑战手机这个形态,让 AI 借眼镜这个照旧存在的硬件形态插足日常。Ray-Ban Meta 作念对了三件事:找 EssilorLuxottica(雷一又母公司)作念勾通方,让眼镜纪念眼镜自身——前锋、轻、舒畅;把 AI 作念成「附加项」,299 好意思元起售;不彊求每个用户都用 AI,先把一副好眼镜卖出去,AI 是 bonus。
收尾是 Ray-Ban Meta 卖出越过 200 万副,Meta 一家拿下专家智能眼镜市集 75% 以上的份额。
但这条路的界限也了了—— Meta 贬责的是「AI 若何插足日常」这个问题,不是「AI 若何再行界说筹备」这个问题。眼镜仅仅一个加了录像头和麦克风的进口,它不会替代手机,也没诡计替代。
阿里千问基本上是 Meta 旅途的中国版块。本年 2 月 MWC 发布、3 月 G1 系列发售(国补成功价 1997 元起)、4 月 S1 上市(国补成功价 3499 元),节律很快。逻辑也深入:千问 App 照旧作念到超 3 亿月活、8000 万 DAU,眼镜是把 AI 助手才略从手机蔓延到日常指导形态——支付宝、高德、淘宝、飞猪一整套阿里生态都接进来,用户对眼镜说「点外卖」「打车」「翻译」就能奇迹。芯片是高通骁龙 AR1,系统在 Android 之上,模子用千问。
千问眼镜骨子上是一次生态蔓延,不是底层重构。它的上风是阿里生态富饶厚,眼镜成为阿里 AI 服务的一个新进口。
把这三条路放在一王人看,再对比 OpenAI ——你会发现 OpenAI 是独逐一家在作念「全栈再行界说」的公司:
Rabbit 思绕过 App 但没动操作系统,收尾是空中楼阁;Meta 选拔不挑战手机,让眼镜作念碎裂,作念对了爆款但天花板即是碎裂;千问陪同 Meta 的形态选拔,把眼镜作念成 AI 服务的蔓延进口;而 OpenAI ——从芯片、基础措施、动力、操作系统、成就一齐买通。
这是另一个量级的事。
信得过的护城河,不在模子层
那场筹商的临了,Richard Ho 还给了一句对畴昔样式的判断:
「(模子公司)不再是在芯片层赢,而是在系统层赢。」
这句话的意旨真谛是,畴昔的 AI 竞争不仅仅模子才略的竞争,而是整套系统才略的竞争——一样的功耗下能提供些许筹备、能服务些许用户、延迟能压到多低。这种系统级的上风,单靠模子自身是没法替代的。
放在 OpenAI 的位置上看,这是一种极度自洽的逻辑:模子团队在 GPT、o 系列、agent 这些方朝上往前推,但一朝推到某个体量,模子自身的进取就要被基础措施的瓶颈抑遏住。是以 OpenAI 必须从模子公司酿成基础措施公司——再酿成成就公司。
这亦然为什么 Richard Ho 在被问到畴昔算力范围时,给出的数字是 20GW。把 OpenAI、Oracle、SoftBank 等勾通方的经营加起来,畴昔需要的算力苟简极度于十几到二十个核电站的发电量。
这个数字第一次听到的时候我没响应过来。20GW 照旧不是数据中心能贬责的问题——它是国度电网和动力政策的问题。Richard Ho 我方也说,「当你启动谈这种范围,就必须谈电力,以至是国度安全」。
把这件事和「OpenAI 作念手机」放在一王人看,才略看了了通盘这个词图景:一边是国度级别的动力基础措施,一边是用户兜里的一台成就,中间是一整套自研的芯片、系统、操作系统。OpenAI 思作念的,是把这两头连起来。
把通盘的点串起来——模子、基础措施、自研芯片、动力、edge device、操作系统——会发现 OpenAI 作念手机不是一个单点有考虑,而是这条旅途当然长出来的收尾。
手机仅仅第一个被外界看见的形态。但信得过的变化是更下面的那一层:筹备范式正在从 app 为中心,转向 agent 为中心。
一朝默许进口酿成 agent,今天的成就、芯片、操作系统,都会被再行界说一次。
这一次再行界说里,OpenAI 不再仅仅一家作念模子的公司。
* 头图来源:AI 生成
极客一问
当 agent 成为默许进口,
今天的操作系统会被重写吗?博亚boya(中国)
大发官方网站手机app