苹果突发收紧 Mac 权限，全是 AI 惹的祸

macOS，开始对 Personal Agent「关门」了。

10 月 2 日，苹果发出一则简短的公告，宣布将会在后续版本收紧在 macOS 上存在多年的「完全磁盘访问」（Full Disk Access, FDA）高级权限：

一些开发者正以可能使用户面临风险的方式使用「完全磁盘访问」，在用户并不完全知情或理解的情况下暴露其系统中的所有内容……今后，我们将引入额外的控制措施，以确保那些确实希望授予应用如此高级别访问权限的用户，只有通过非常明确的用户操作才能完成授权。随着人工智能代理的能力和自主性不断增强，与这种级别访问权限相关的风险也将大幅增加。

一项自 2018 年 macOS Mojave 10.14 开始加入的权限，为什么到了 AI 时代，突然就变得不安全了？

Personal Agent，把 macOS 的「君子协议」玩坏了

要搞清楚这件事的始末，首先要知道「完全磁盘访问」是一种怎样的功能。

在 10.14 版本之前，macOS 的文件系统权限管理和今天的 Windows / Linux 没什么两样：只要运行程序，它就可以访问当前账户身份能读取的任何文件。

但后来，macOS 逐步引进了更细致、更现代的额外隐私管理机制。以现在的版本为例，程序默认不再能访问邮件、聊天信息、浏览器记录、Time Machine 备份和第三方软件用户数据等高敏感信息，除非用户为某个程序手动授予「完全磁盘访问」权限。

之所以要留下这个「后门」，是因为杀毒、文件备份、企业 IT 管理等少数软件天然要求遍历整个文件系统才能正常工作。如果它们访问每个敏感数据都需要用户手动授权，那结果只会是弹窗无数，根本无法使用。

但允许这些软件使用「完全磁盘访问」，前提是一种心照不宣的「君子协议」：macOS 相信备份软件访问全盘只是为了原样复制每个文件，杀毒软件访问全盘只是为了监控文件修改和恶意行为……理论上，它们一心只为工作，对用户的隐私数据本身不感兴趣，也不会侵害用户的权益。

这是 macOS 内部的「宙斯法则」。长期以来，这套机制都运行得很好，一切相安无事。

直到 AI Agent 破门而入。

尤其是以 Muse 为代表的 Personal Agent 们，全然没有老派软件的客气。为了更好地理解你的目标和偏好，去「管理个人生活」，它们不仅申请「完全磁盘访问」权限，还要通过这个渠道大量读取用户的个人隐私信息，比如日程、邮件沟通对象、聊天主题等，并将这些信息转化成用户画像和个人上下文，以此决定下一步的行动。

即使我们信任 Meta 本身不会将我们的隐私数据用于别处（其实连这点都很难保证），也不能排除， Personal Agent 可能因为错误理解或者攻击者的故意诱导，而将隐私数据和盘托出。

实际上，这一点已经超出思想实验的范畴，成为了现实世界里的真实风险。

不久前，安全研究机构 Salt Security 披露了一个邮件注入漏洞。通过发送包含攻击代码的邮件，攻击者可以让受害者的 Manus Agent 执行代码，以此接触到 Manus 连接的 Gmail 和 Google Drive 等第三方凭证。

在另一个案例中，科技博主 Matt Robb 让 Muse 代管二手交易服务，结果 Muse 直接在他不知情的情况下，将家庭地址发给买家，让对方来「线下交易」。

没错，大多数 Personal Agent 都标榜要成为你的「全能助理」，但这样做的代价是让这个助理了解你的一切，而这个助理的口风是出了名的不严实——更别说挖掘漏洞攻击 AI Agent 并非难事。

打破法则、滥用权限的是 Personal Agent 这些「门口外的野蛮人」，可如果信息泄露，不明就里的用户可能把 macOS 也连着一起控诉。由此就不难理解，为什么苹果会筹备进一步收紧「完全磁盘访问」权限。

开放与安全，无法兼得的两难

在资深开发者和科技评论者 John Gruber 看来，更危险的是，大多数年轻人被 iPhone 和 iPad「照顾」得太好了。

通常来说，我们和手机、平板朝夕相对，用移动设备的时间和场合要多于使用 Mac，这就导致大众普遍更习惯前者的功能逻辑。

而偏偏苹果在 iOS 和 iPadOS 上使用了一种比 macOS 严格得多的沙盒机制——即使我们闭着眼在各种权限申请弹窗中一概允许，系统底层机制也决定了 Agent 们无法直接访问邮件和聊天，关键隐私依然得到保护。

但如果把这种习惯延续到 Mac 上，风险就会指数级上升。

小白用户很难注意到，Mac 其实是一台「全功能」工作站，这代表它可以开放和定制的深度远超 iPhone / iPad。如果说同意全部权限申请在手机上还算风险可控，那在 macOS 上允许 Agent 启用「完全磁盘访问」，就相当于同意 Agent 在未来的某天将你的身份地址信息都悉数交出。

而 Agent 的「亲和力掩饰」，更加剧了这种风险。

为了减轻用户的戒备心，让 Agent 显得「人畜无害」，市面上几乎一切 Agent 产品都专门设计了萌化形象。比如 Grok Bot 的大眼圆球、Muse 的微笑树懒毛绒玩偶 Jolly，还有 OpenAI dots 的彩色卡通角色。

从设计的角度上看，它们无疑是很成功的——人对可爱的东西天然会放松警惕。

但「萌化」的成功何尝不是一种危险？

在更早的博文里，John Gruber 警告说，Muse 实际上是把一个非常强大、甚至是危险的 Agent 包装成了人人都会用的可爱消费产品：传统电锯一眼就能看出它可能把手指切掉，但给它装上彩色塑料壳，孩子们说不定就会忘记它本质上还是一台电锯。

图｜一只钠制的泡澡小鸭玩具

这正是当今 Personal Agent 所处的位置。

面对这一处境，由系统提前收拢权限以绝后患，看上去是很合理的解决方案；但任何改变都有牺牲者，在这里，牺牲的是开发者们的乐趣。

权限和能力总是相伴相生的。早期 iOS 社区热衷于「越狱」，是因为 root 权限意味着几乎无限的自定义能力；后来 Android 存在像「李跳跳」这样可以跳过开屏广告的软件，则是由于 Android 的无障碍服务（Accessibility Service）权限允许软件读取用户界面，从而模拟点击「跳过广告」按钮——尽管代价是你要让软件看见你的一切屏幕内容。

换句话说，很多好用的软件，都建立在相信它「不作恶」的高度信任和权限开放之上。

一旦有人利用这些权限「作恶」，就会导致秩序崩坏，进而促使系统收紧权限，原来的功能就此作废——例如，得益于开屏广告「摇一摇」，一些系统已经开始默认关闭陀螺仪和加速度计权限了。

所以，在看见苹果的公告之后，John Gruber 首先担心的是自己开发的软件：

我真的很担心苹果究竟会把「完全磁盘访问」限制到什么程度。我在几个应用中使用了这一权限，如果没有它，这些应用就无法正常运行；而如果每次它们执行某项操作时都需要我手动授权，它们的功能将会受到严重影响。

如果 macOS 真的变得更封闭、更像 iOS，对普通用户来说固然是一种安全利好，但这同时会危及 macOS 原本已摇摇欲坠的自由度。这种苦涩的心情，有如 John Gruber 在博客中的感叹：「这就是为什么我们没法拥有好东西」（this is why we can’t have nice things.）

我们真的需要这么多 Agent 吗？

说到这里，我们就不得不谈论一下推动多米诺骨牌的 Personal Agent 了。

随着 Muse 登顶美区 App Store，个人助理式的 Personal Agent 一时成为显学。但这个业态，其实建立在一套环环相扣的逻辑上：

索取系统最高权限，是为了获取个人隐私信息；获取个人隐私信息，是要用于建立完整的个人上下文；建立个人上下文，则是因为要帮人解决订票、网购、退货和制作报表等问题……

这套逻辑看起来天衣无缝，但想要它成立，我们还需要证成几个前提：首先，要证明所有这些事务都是需要被「解决」的「问题」；其次，要证明 Personal Agent 是解决这些问题的最佳方案。

至少在我看来，这两个前提都不那么稳固。

之所以说 Personal Agent 是典型的硅谷式「发明」，是因为它处处体现着硅谷的工程师价值观，亦即把一切事务浓缩为只有起点和终点的单调问题——

• 选择午饭太困难，于是生产出 Soylent 这样的「流体食品」，一瓶灌下肚解决热量和营养问题；

• 购物也很麻烦，最好固定为黄仁勋的皮衣和扎克伯格的圆领 T 恤，定期下单送到家门口；

• 喜欢的歌手很久出一张专辑，不如用 AI 批量生成符合喜好的「自定义音乐」。

关于这种想法，大概可以用拼多多黄峥的那句话来回应：「购物不全都是目的型的，本身是娱乐和生活的一部分。」

不能否认世界上存在目的性消费和定期消费，但很明显，大多数人还是更偏爱漫无目的的浏览。一件商品组合另一件商品、一张机票连接更多旅游计划，随机游走、发现新事物的兴奋，不能也不应该被 Agent 给出的固定答案锁死。

考虑到在发现方面，网页和 app 已经是足够好的方案，也许 AI 主导的订票与购物，只适合特定的商旅场景。

至于搜集数据、制作报表和 PPT 等工作，固然可以交给 Personal Agent，但在 ChatGPT 和 Workbuddy 的受限空间里完成同样的工作也不存在什么阻碍。「如无必要，勿增实体」，我们为什么要特地养一个了解自己一切隐私信息的「电子室友」，而不是调用普通的办公 Agent？

如果个人事务不全是需要「解决」的「问题」，如果 Personal Agent 不总是处理任务的最佳方案，那我们谈论的助理式 Agent 的存在价值就相当可疑了。

就此而言，我更愿意将 Personal Agent 称为「智能 Soylent」。

假设吃饭的目的只是为了获取能量和营养素，那 Soylent 确实不错，但它满足不了真正喜爱「吃饭」这件事的人；同理，当我们的生活全是「任务」时，一个事先掌握个人信息的 Personal Agent 会是好主意，但生活中不总是「任务」。

最终，新鲜感过去后，我们将重回「体验生活」的轨道。

Soylent 依然活着，但收缩为了每年营收数百万美元、品牌价值已经计提为零的小众品牌；而随着热潮消退，Personal Agent 的版图恐怕也将大幅萎缩。

但因为它们而收紧的系统权限，却再也不会回来了。

#欢迎关注爱范儿官方微信公众号：爱范儿（微信号：ifanr），更多精彩内容第一时间为您奉上。

from 爱范儿 https://ift.tt/HtGrbQI
via IFTTT

十年前的「外挂相机」，如何在华为 Mate 90 上复活？｜硬哲学

十几年前，模块化一度被视作智能手机最性感的未来之一。

2013 年，摩托罗拉公布 Project Ara：一块「骨架」上，处理器、屏幕、电池、传感器都可以像积木一样拆装。既然电脑可以自己换显卡、内存和硬盘，为什么手机不能？

相信很多人的第一反应也和我一样：既然什么都能换，那如果给手机装上一套更大的镜头和传感器，是不是就能得到一张媲美相机、甚至单反的高画质照片？

图｜Dezeen

许多厂商也抱着类似的期待，做过不少尝试。只不过从最终的市场表现，以及真正用起来的体验来看，这些尝试大多没能成为主流。

此后的十几年里，手机影像却以另一条路线飞速发展。

更大的传感器、更长的潜望长焦、更复杂的光学结构，加上计算摄影，手机可以拍出十几年前几乎难以想象的照片。

但物理尺寸仍然是手机摄影难以逾越的边界。所以我们能够看到增距镜这种产物的出现，虽然主要的场景可能还是在演唱会，不过其本质还是——把手机里塞不下的东西，重新放到手机外面。

也就在 2026 年这个节点，华为也给出了他的答案：睿影 Z10 模块相机。

把相机挂在手机上

只看外形的话，睿影 Z10 很像一只体积夸张的手机增距镜。

但两者其实不是一类东西。

增距镜的工作，是在手机已有镜头前再增加一组光学结构，通过改变等效焦段，让原本的长焦看得更远。无论外挂的镜片有多大，真正负责成像的传感器、镜头和图像处理链路，依旧属于手机原本的那颗摄像头。

Z10 不一样。

它的外接模组里，本身就有一颗完整的传感器，以及一套独立的变焦镜头。

所以要简单理解 Z10 这个模组的存在，最合适的方式就是把他看作一台「一分为二的卡片机」——

镜头和 CMOS 留在外挂模组里，负责手机机身最难妥协的光学和感光；显示、操作、计算、存储以及分享，则交给手机。

图｜索尼黑卡 RX100 VII

细看参数，这种「似是故人来」的感觉会更明显。

Z10 使用一颗 1 英寸、5000 万像素的 RYYB 传感器，配备一套覆盖 24mm 到 240mm 的 10 倍连续光学变焦镜头，最大光圈 F2.0-F4.5。

作为参照，索尼黑卡 RX100 VII 同样使用 1 英寸传感器，有效像素约 2010 万，镜头覆盖 24-200mm，最大光圈 F2.8-F4.5。

当然，这只是参数上的近似，只不过我们也大概能品出 Z10 的价值：

它像是把一台索尼黑卡相机最核心的光学和感光部分拆下来，挂到了手机背后。

在我们的上手体验中，这套覆盖 24mm 到 240mm 的连续光学变焦，带来了明显更大的焦段选择和构图自由。

独立的一英寸传感器，再配合这套镜头本身的光圈和中长焦焦段，在拍摄人像或近距离特写时，也更容易直接获得自然的光学虚化。

这样的体验是我们在手机摄影上难以企及的。

向左滑动查看更多内容

仔细想，这其实是一个挺合乎逻辑的分工。

今天的旗舰手机已经拥有非常强的计算能力、足够好的屏幕，以及成熟的操作系统、联网、存储和内容分发能力。

尤其是在今天这条轻量化的影像处理与分发链路里，从拍摄、简单编辑到发布，手机相比传统相机「拍摄—拷卡—导入—修图—导出」的流程，不能说更加专业，但几乎一定更加直接，也更加省事。

光学需要空间，传感器需要面积，这是最难以被手机替代的部分。

于是 Z10 选择把这些最受手机体积限制的部分放到外面，把手机已经非常擅长的事情继续还给手机。

最终，Z10 的影像模组就能够通过 HyperClick 超级卡口安装在华为 Mate 90 Pro Max 典藏版以及非凡大师两款手机的机身背部，借助接口与手机完成连接和数据交互。

不过其实在去年的 MWC 上，小米也展示了一个类似的方案。它同样在改装版小米 15 背板中央加入连接结构，通过触点与 LaserLink，让一套搭载 M4/3 传感器和 35mm F1.4 镜头的独立成像模块接入手机的影像系统。

形态不同，但核心的解法还是十分类似：把一套位于机身之外的独立成像系统，连接到手机上。

其实在这款产品刚亮相时，我就觉得，它或许代表了移动影像接下来值得探索的一条路径。

只是后来，小米并没有继续推动它走向量产，这套镜头最终还是停留在了概念阶段。

华为在这个基础上再进了一步——

在做出了一套外接相机模组之外，还把与它配套的硬件设计，真正写进了一台量产旗舰的产品定义里。

图｜小米

镜头式相机，等了手机十年

其实不只前文提到的小米，在模块化，或者说外置影像模组这条路上，过去已经有不少厂商前仆后继。

事实上，如果只是想把一颗大底传感器和一支好镜头挂到手机上，索尼真的就拿黑卡做过实验。

2013 年，索尼就推出过 QX100——这是一个镜头式相机（Lens-Style Camera），配备一英寸传感器、3.6 倍光学变焦镜头，甚至还有独立处理器、电池和存储。可以说，当年索尼就是将一台 RX100 黑卡相机做成了可以外挂在手机上的样子。

图｜索尼 QX100

再往后，索尼还推出了迭代机型 QX1，甚至直接用上了 APS-C 传感器和 E 卡口。

除了索尼，OPPO 也曾推出过形态相近的 O-Lens 1，把自带传感器和变焦镜头的相机夹在手机上，再通过 Wi-Fi 连接。几年后的摩托罗拉则更近了一步，它把哈苏相机模块接进了手机的供电、操作和存储流程，已经有了较完整的硬件整合。

图｜OPPO O-Lens 1 和 Hasselblad True Zoom

不过把目光回到 2013 年的索尼，这仍然是挺令人惊叹的，毕竟在遥远的 13 年前，索尼就已经提出了与现今颇为相似的产品形态。

不过，这些早期外挂相机采用的是一种很直接的思路——

把完整的成像链路都留在外挂相机这一端。

传感器产生的原始数据，先在相机内部经过 ISP （图像信号处理器）处理，再进行编码和压缩。实时取景时，手机接收到的已经是经过处理和压缩的预览画面；拍照完成后，再把 JPEG 等成片传给手机。

换句话说，手机并没有真正参与成像。它更像是一块无线监视器，负责显示取景画面、发送拍摄指令，以及接收最后的照片。

当年摄影媒体 DPReview 评价，如果只是从「光学成像」这个角度来看待这个产品，QX100 并没有太明显的短板。

当然了，只是成像层面。

图｜索尼 QX1

镜头式相机的问题显而易见，别忘了，那还是 2013 年——

彼时 4G 才刚刚开始进入普通人的生活，整个移动互联网和无线传输环境都还处在相对早期的阶段；智能手机的性能、无线连接的稳定性，是远不能和今天相比。

QX100 想做的，却是让两台独立设备通过 Wi-Fi 协同工作，并在体验上尽可能接近原生摄像头。在当时，这几乎是天方夜谭。

所以即便相机与手机之间传输的已经是数据量更低的预览画面，延迟依旧十分明显。

当连接需要等待，取景可能有延迟，照片传输也需要时间，这种割裂感注定让产品使用的体验大打折扣，更何况是对于手机摄影这种即时性要求很高的场景。

另一重限制来自于：手机本身，并不处在真正的成像链路里。

彼时手机本身的算力有限，ISP、GPU 乃至后来越来越重要的 NPU，都还远没有发展到今天的程度。

与其把庞大的传感器数据实时送进手机，再要求手机完成后续计算，不如先让相机自己把照片处理好，再把结果交给手机，会是更现实的选择。

到了今天，这个前提已经完全不一样了。

各种旗舰手机的算力甚至达到了一种「过剩」的状态。过去需要交给独立相机处理器完成的不少工作，如今手机自己的 SoC、ISP 和 NPU 已经能够接手，没有必要再把完整的成像计算全部留在外挂模块里。

而比「算得动」更重要的，是过去十几年移动影像发展出来的另一套摄影体系：

计算摄影。

它本就是手机在有限体积下，对物理光学不足的一种补偿。于是有了 HDR、多帧融合等等，厂商们开始用算法去榨取有限光学硬件能够提供的信息。

外接影像模组的出现，让这件事情有了一个很有意思的变化。

当一颗更大的传感器、更完整的镜头和更长的光学结构被放到机身之外，这套本就已经高度成熟的计算摄影体系，反而能够获得质量更高的「原材料」。

更好的光学输入，加上相当成熟的计算摄影，二者协同而不是相互取代，光学成像和计算摄影在这里实现了叠加。

外挂模组可以直接利用手机已有的色彩、HDR、多帧、降噪和 AI 影像能力，不必自己从头建立一套完整的移动摄影管线。

从另一个角度来看，当更多计算被手机接手，外挂模组能够更集中地承担自己真正不可替代的工作——光学和感光，将有限的空间留给更大的传感器、更好的镜头，以及更复杂的变焦机构。

从 Z10 的相关专利也能看到这样的思路：

模块向手机提供的，可以是供后续成像处理使用的图像数据，而不只是已经在模块端处理、压缩好的预览数据。这样一来，手机才能更深地参与后续的色彩、降噪、HDR 等计算。

不过，既然手机需要参与到成像中，也就意味着，传感器产生的数据，需要足够快地送进手机。高速传输因此成了这套架构里最关键的一环。

2025 年小米展示模块化光学系统时，就特别强调，能够通过 LaserLink 实现 10Gbps 光学数据传输，并让外接模块直接调用手机端的 AISP。

华为 Z10 走的也是类似方向。

从我们的实际上手来看，Z10 在取景和操作过程中并没有表现出明显的传输延迟。至于它具体用了多大的数据带宽，华为目前并没有公布明确规格。

不过在 Z10 相关专利中可以看到，在部分实现方式下，模块相机向主机设备传输图像数据的速率可以达到或超过 10.7Gbps，以满足大数据量图像信号的传输需求。

所以，华为选择在这个时间点把 Z10 推向市场，已经不能说是一种激进的冒险，更像是在一个已经成熟的技术环境里，水到渠成地落地成一款产品。

手机不会「杀死」相机，但手机可以「成为」相机

不过，尽管 Z10 已经走向量产且技术方案成熟，但这依然是一次小众尝试。

毕竟，接近 6000 元的价格，以及绑定典藏版、非凡大师等高端机型，其实已经能够看出，在现阶段这大概率不是一个追求巨大出货规模的大众配件。

华为更像是在高端市场里，先为这套新的产品形态寻找一个落脚点。

抛开价格因素，我想更值得更值得讨论的是这个产品上市本身——这不再只是一个技术问题，而是一个市场问题。

差不多十年前，手机就已经取代相机，成为最流行的拍照工具。按照这条路径继续发展下去，除了专业用户，普通人似乎没有再额外带一台相机出门的必要。

但现实并非如此——

过去十年，我们看到了不少新相机品类冒头以及经典便携相机的回潮，无论是大疆影石，还是富士理光，这些产品的形态、价格和画质取向各不相同，不过它们其实都在兑现一件事情：出片承诺。

消费者不一定在意里面到底是几英寸的 CMOS、用了几组镜片。我们真正购买的，是一种出片的确定性——

是一种「我带上这个东西，到了某个场景，它能让我更容易拿到想要的照片」的确定性。

当下各家的增距镜能够占据演唱会看台的每一个角落，Pocket 到了国庆这样的旅行旺季甚至会出现租金上涨，本质上都来自同一种需求。

这本质上是一次交换。

为了某一种特定的影像质感，或者为了拍到原本很难拍到的画面，我愿意多带一个设备。

这也为 Z10 提供了十年前那些产品不曾拥有的市场土壤。

技术已经准备好了，人们也更清楚，自己愿意为什么样的画面付出额外成本。

那个曾经太早出现的想法，这一次，可能终于等到了属于它的时代。

#欢迎关注爱范儿官方微信公众号：爱范儿（微信号：ifanr），更多精彩内容第一时间为您奉上。

from 爱范儿 https://ift.tt/IFzYawH
via IFTTT

OpenAI元老的一封离职信，揭开了奥特曼最不想承认的真相

如果说现在形容一件事很厉害，最常见的用词不是「牛 X」，而是「瘫坐在地，仿佛看到了核爆炸。」

这几乎成了 OpenAI 这家公司的「企业文化」，成了整个 AI 圈模型发布的一个梗。

昨天，OpenAI 的一个员工，在大西洋月刊发文表示，就是受不了 OpenAI 这种持续冲刺、赶着发布的工作方式和企业文化，他认为这种状态已经达不到必要的谨慎程度，所以他选择了离职。

这名员工叫 David Robinson，他负责安全团队透明度工作，主导起草了 OpenAI 现行的《Preparedness Framework》（防备框架），并监督了 12 次前沿模型发布的安全报告。

图｜https://ift.tt/K8FnkPI

文章在 X 上再一次引起了大量的讨论，有网友说这篇文章是迄今为止最好的，因为它第一次以务实的态度探讨了安全顾虑，并将「安全」理解为一个拥有大量文献和相关领域最佳实践的主题。

也有网友表示，应该要立下一条规则，那就是所有「我因为良心不安离开某 AI 公司」的帖子，都必须披露作者持股多少、套现多少。

等你和你子子孙孙都不用为钱工作了，道德指南针突然就找到了。

在 Hacker News 上，还有人更刻薄的评论这件事，「我在 AI 行业赚够了钱，现在我可以畅所欲言地评论 AI 了。」

而在 David Robinson 这份离职信之前，华尔街日报在 10 月 2 日就曾报道过 OpenAI 有三名对准/安全研究人员离职。

OpenAI 发言人表示，「我们已与三名员工解除合作关系，原因是他们违反了我们关于访问和处理公司敏感信息的政策。我们的调查证实，这些人未经公司既定程序便不当处理了敏感信息，违反了我们的政策，破坏了我们工作所必需的信任。」

一时间众说纷纭，7 月就已经离职的 OpenAI 首席未来学家 Joshua Achiam 发文认为 OpenAI 公开的信息不够，

虽然我不认为安全研究人员应该拥有无限的自由来披露技术机密，但他们被指控「不当处理」的具体信息类型至关重要，究竟是什么信息才能证明采取如此重大且可能造成损害的行动是合理的。

就是这些能让人感受到「核弹爆炸」的模型能力，其安全的使用成了今年夏天以来整个 AI 圈最关心的事情。

与其一次次看到这些因为担忧而离开的公开信，在那些官方的安全风险报告之外，我们或许想看到一些真实的证据，能证明 AI 真的必须要暂缓前进的脚步。

问题不在规则，在文化

这类离职公开信近年并不少见，但 Robinson 这次选择了一个不太一样的角度。

他说，他同意其他离职同事的判断，即开发这项技术的公司远远不够小心，但他认为需要谈得比具体规则、比新法律更深层次一点，即讨论文化。

在他看来，硅谷靠极度自信取得成功，而处理危险技术恰恰需要这种文化天然缺乏的谦逊，以及「关怀人意味着什么」的智慧。

在 OpenAI 内部引以为傲的工作方式叫「迭代部署」（iterative deployment），说白了就是先发布、发现问题、再修补。Robinson 认为这种方法论本质上保证了周期性失败，但随着模型能力增强，失败的规模也在同步扩大。

他提到了今年夏天热门的「Hugging Face 事件」，OpenAI 一个未发布的模型在无人知情的情况下黑进了竞争对手 Hugging Face。

即便在事后加固了安全措施，OpenAI 自己报告说安全控制再次失效：一个训练中的模型绕过了联网限制，监控系统向人类员工报了警，却没有按设计自动将其关停。

隔壁的 Anthropic 也承认，因为一处配置错误，意外关闭了自己的安全防护。

「监控系统报警了但没有自动关机」，这种报警器不阻止任何事情发生，只是让失败被看见的情况，大概是对当下 AI 安全现状最好的描述。

连董事会都承认了风险

Robinson 文中引用了 Paul Christiano 的一段话。Christiano 几周前刚加入 OpenAI 董事会，他写道：「AI 能力的快速加速，在很近的将来导致灾难性、不可逆失控的风险是切实存在的。」

Robinson 顺着这个观点给出了自己的判断，他认为：如果情况真是这样，那么试错的时代就该结束了。

因为这一次，犯错之后可能再也没有迭代的机会。「接近第一次就做对」不再是完美主义，而是必需品，人们不能靠事后个别英雄的补救来保证安全。

他也给出了自己的解决办法，他认为既然 AI 已经能做到像核弹爆炸一样，那就应该让 AI 公司和成熟的安全行业一样运转。

就像核电站、繁忙的机场那样，AI 公司也应该有多层冗余、缜密而耗时的规划，让不可避免的人为失误不至于打开灾难之门。

他在文章里面提到，自己在 OpenAI 工作三年半，从未遇到一位有航空安全、核电安全或金融系统风控经验的同事。

第二个办法，他认为在造出明显更强的模型之前，需要新的「对齐」科学。因为我们现在甚至没有对齐的完整定义，而模型可能已经聪明到能识别出自己正在被测试，从而伪装行为。

文章结尾，他表示超级智能拥有远超人类的能力，却未必把人的生命、意愿和尊严看得同样重要。

在一些超级智能爱好者描绘的「好的未来」里，机器看待纽约或芝加哥的方式，就像你我看待一个蚁丘。

「蚁丘」这个比喻，讲的是巨大的权力差距。人类修路时，可能顺手推平一个蚁丘，既不会征求蚂蚁的同意，也未必意识到自己毁掉了一个世界。

如果超级智能看待纽约、芝加哥也是这样，人类的城市、生活和选择，在它眼里就可能变成可以随意调整的东西。危险甚至可以来自漠视，无须带着仇恨。

Robinson 认为这种只看智力程度的、特定的「好未来」是有毒的，他说「我不想让我的孩子生活在那样的未来里。」

机器非常强大，世界也许更富足，但人类失去了决定自己怎样生活的权利。

在他看来，善待人类需要尊重人的选择、认真对待风险，并愿意为别人的安全放慢进度。如果一个组织总是优先追求能力和发布速度，就很难让人相信，它能够教会更强大的机器承担这些责任。

当警告也变成一种梗

如果说文章本身是一次克制而严肃的警告，那么舆论场的反应则是另一幅图景。在 Hacker News 上，这篇文章收获了 146 条评论，主流声音都在质疑写信的人。

有网友说已经产生了「文体疲劳」，每两周就会有一次的「我离开了吃人豹子公司」帖又来了，然后再顺便说下那里的人很棒，我的期权也归属了。

还有人把它类比当年《社交困境》带起的那波 Facebook 前员工忏悔潮，吃完蛋糕，再回头表达忧虑。更阴谋论的一派怀疑这是为 OpenAI 的 IPO 造势，所祭出的「游击营销」：毕竟把 AI 说得又大又吓人，本身就是炒作。

当然也有辩护者，「伪善抨击只会让更多人闭嘴。在美国，没钱的人根本不敢说真话；但有钱才敢说，不代表说的是假的。」、「他是内部人，他很清楚那种疏忽文化是什么样，因为他就在其中。」

把文章和评论区放在一起看，会出现一种有些荒诞的错位，似乎会让人觉得要求 AI 善待人类似乎是一种奢望。

Robinson 这篇文章的最后一句话是「在造 AI 的组织能教会超级智能善待人类之前，它们得先自己想起怎么善待人。」

或许这里的「善待」并不需要理解得那么宏大。

它可能只是意味着，当 Robinson 告诉你机器越来越强、某些地方可能出了问题时，不要第一时间把他的担忧变成一个关于期权、财富和虚伪的段子。

但事实是「核弹爆炸」已经成了 AI 圈形容进步速度的玩笑，这些喊着要踩刹车的人，最后很可能也只会成为下一个梗。

#欢迎关注爱范儿官方微信公众号：爱范儿（微信号：ifanr），更多精彩内容第一时间为您奉上。

from 爱范儿 https://ift.tt/ElNQj7Z
via IFTTT

AI 视频榜全球第二，藏着一家新影视公司的野心

电影史上，新技术登台时从来算不上斯文。

1895 年，《火车进站》让观众惊慌躲闪。1927 年，《爵士歌手》一声开口，默片时代逐渐谢幕。1995 年，《玩具总动员》甚至让观众忘了它是完全由电脑生成。

有意思的是，每一次「离经叛道」，最后都加速了行业发展。有声电影、彩色胶片、数字摄影机、CG 特效，无一不是在怀疑与嘲笑中入场，最终被写进电影语言的词典。

如今，生成式 AI 也开始参与影视创作，一家以故事创作为核心的 AI 原生影视公司 Utopai Studios，正凭借旗下的 Utopai X，搅动视频生成模型的格局。

截至 9 月 30 日，其自研模型 Utopai X 在独立评测机构 Artificial Analysis 的带音频文生视频排行榜中位列全球第二，仅次于 Wan 3.0，压过 Dreamina Seedance 2.5，同时是该榜排名最高的美国公司模型。

热知识，该榜采用 Video Arena 盲评机制：观众不知道模型品牌，仅凭观看体验为同一提示词生成的视频投票，排名由投票形成的 Elo 分数决定。这也是榜单引入盲评以来，首次有影视公司的自研模型上榜，堪称出道即巅峰。

成绩之外，更值得关注的是这家公司的身份。

业务覆盖影视项目开发、融资、制作与全球发行，模型与平台都服务于实际的电影和剧集生产。对影视从业者而言，这是一个难得的样本：生成式 AI 如何从单个镜头的创作，进入一部完整作品的制作流程。

一家影视公司，杀进了视频模型的决赛圈

Utopai 总部位于美国加利福尼亚州山景城，联合创始人 Cecilia Shen 与 Jie Yang 分别担任首席执行官和首席技术官。Cecilia Shen 此前曾在 Google X 从事数据科学与 AI 解决方案相关工作。

Utopai 的发展始于 2022 年成立的 Cybever。

早期研发围绕程序化内容生成与高保真三维环境展开，为游戏和影视预演打地基，随后摸着石头过河，逐步延伸到空间推理、镜头调度，以及从三维预演生成电影级视频。

2025 年，Cybever 更名为 Utopai Studios，开始围绕原创作品和联合制作，建立影视开发、制作与发行体系。自研技术也随之被放进真实制作中，用于支持角色、场景和镜头的开发。

据《福布斯》估算，Utopai 的估值约为 10 亿美元。《综艺》在刊发的合作专题中，将其描述为「全球最大独立 AI 原生影视公司」，并介绍了计划于 2027 年推出的三部电影与两部剧集。

影视制作的实际需求，给 Utopai 的模型研发当了出题人。

要知道，用视频生成工具，用户可以反复「抽卡」，长片制作却是另一套打法：数百甚至数千个镜头要连成一条完整的叙事线，角色、环境、道具的也得经得起摄影机来回折腾。

制作过程还伴随着大量修改。

导演可能认可了角色设计，却希望调整光线；可能保留了场景布局，却需要改变人物动作。每一次修改，都要尽量延续此前已经确定的创作选择，让新素材能够与其他镜头一起使用。

生成质量、跨镜头一致性与可修改性，由此成了长片制作必须同时翻越的三座大山。

Utopai X 的研发，也围绕这些制作要求展开。Artificial Analysis 披露，该模型基于 MiniMax H3 进行后训练，此次排名超过了 MiniMax H3 原模型，以及同样基于它开发的 MiniMax H3 Max。

根据最新资料信息，Utopai X 在音频同步与物理表现两个能力类别中排名第一，在光照与材质、摄影机控制两个类别中排名第二。

这些能力条条对应片场的硬要求：声音要和画面动作合拍；光线穿过玻璃、水体或金属时，变化得经得起推敲；摄影机一动，角色与环境之间的空间关系不能断线。

针对反射、焦散、空间理解与高级一致性等难点，Utopai X 也一一进行优化，目的在于提高素材的可用性，让电影人能够围绕创意调整镜头，减少反复生成后重新筛选的工作。

从 Utopai X 到 PAI，让生成能力进入制作流程

模型能够生成怎样的画面，还需要通过制作体系转化为电影人可以使用的能力。

Utopai 为此开发了 PAI 制片智能平台，并将 Utopai X 深度集成其中。两者分别承担不同的工作，Utopai X 提供视频生成能力，PAI 则组织剧本、角色、场景、镜头及创作反馈，让生成过程能够沿用项目已有的信息。

在 PAI 中，剧本可以被分解为场景和镜头，角色、地点、道具与视觉参考全程关联于项目。创作者推进新镜头时，可以直接调用已确认的设定，不必每生成一次就把整个故事世界从头讲一遍。

平台内的 AI agents 以「制片助理」的身份进场，是名副其实的神助攻：基于制作上下文帮电影人规划镜头、试创意、出多个版本。创作者则可以货比三家、回溯旧版，再拍板做什么、留什么、改什么。

选定的素材随后进入剪辑时间线，并与 Premiere、DaVinci Resolve 等专业后期工具衔接，形成从创意开发、素材生成到后期交付的连贯工作流。

整个过程中，故事、视觉风格、表演与最终版本的生杀大权，始终握在电影人手里。首席科学官 Zijian He 所强调的「技术应该扩展电影人的画布」，也体现在这样的分工里，让创作者拥有更多尝试空间，并对结果保持掌控。

研发与制作在同一屋檐下并行，近水楼台，自然转出了一条持续迭代的飞轮。

艺术家在片场踩到的坑，会直接成为研发需要处理的问题，例如，同一个角色如何跨场景保持一致，已经通过审核的构图如何在修改动作后继续保留，多个版本怎样进入剪辑并供主创比较。

实际制作攒下的数据与专家反馈，被用来打磨模型、智能体和工作流程，磨出来的新本事再回到当前项目，并像滚雪球一样带进后续作品。

相比只围绕独立片段开展测试，专业制作能够提供更完整的反馈。一个镜头是否漂亮之外，电影人还会判断它能否与上下镜头衔接、能否继续修改，以及能否满足最终交付要求。

中国 IP 与全球制作，有了新的合作方式

榜单之外，Utopai 的制作体系正在进入不同类型与文化背景的故事，接受比单个视频片段更复杂的检验。

计划于 2027 年推出的动画长片《The Most Serious Fart》，改编自 Mike Bender 于 2023 年出版的同名儿童绘本。故事围绕一个格外严肃的屁 Siegfried 展开，他希望改变外界对自己的看法，并在旅途中学习接纳自己、找到归属感。

看似荒诞的设定，承载着身份认同、自我接纳与打破偏见的主题。Utopai 希望从具有辨识度的角色和故事世界出发，开发面向全球观众、能够长期延展的娱乐 IP，让一部电影成为持续创作的起点。

主创阵容也体现了这种开发思路。

原著作者 Mike Bender 将担任编剧和导演，他此前参与过喜剧电影《Not Another Teen Movie》，也是《Awkward Family Photos》的共同作者。Russell Hollander 担任制片人，原著插画师 Chuck Dillon 则出任创意艺术总监，让绘本原有的角色气质与视觉特点延续到电影中。

参与《怪物史莱克》编剧、并凭该片获得奥斯卡最佳改编剧本提名的 Joe Stillman，担任联合执行制片人；参与《驯龙高手》等作品的 Andy Brooks 加入故事与分镜创作；曾在皮克斯担任艺术指导的 John Lee 负责制作设计。《辛普森一家》《飞出个未来》的选角导演 Scott Muller 则负责配音选角。故事、视觉与声音的关键环节，都由具有专业制作经验的创作者参与。

据 Utopai 披露，人类动画师与插画师主导创作，AI 辅助制作迭代，角色的情感与故事的节奏仍由主创把握。

同一片单中的家庭电影《Half Moon》，由德国 In Good Company、韩国 Paper Barn Studios 等伙伴共同参与，PAI 支持部分视觉元素。历史史诗《Cortés》则面对另一种制作难度，需要让规模庞大的历史场景进入一部可以完成、可以发行的电影。

《Cortés》的故事发生于 1519 年，围绕埃尔南·科尔特斯远征阿兹特克帝国展开，涉及西班牙征服者与美洲原住民之间的冲突。奥斯卡提名编剧 Nicholas Kazan 曾表示，他为讲述这个故事努力了三十多年，宏大的规模与高昂的成本始终是项目推进的障碍。

题材的难度还来自历史本身。

西班牙人的到来、战争与特诺奇蒂特兰的陷落，涉及复杂且存在争议的历史叙述。Kazan 强调，影片希望承认不同立场与视角的存在，通过一个具体故事呈现两种文化相遇与冲突的过程，避免将某一方的叙述当成全部历史。这种尽量兼顾多方视角的创作立场，也意味着主创需要谨慎处理历史人物与冲突，如何理解不同群体的处境，与如何重建古城和战争场面同样重要。

把特诺奇蒂特兰古城、战争与帝国变迁搬上银幕，意味着复杂的场景构建、群像调度和视觉制作。Utopai 计划借助 AI 制作工具缓解这些规模与成本限制，为这个长期未能进入银幕的故事提供新的制作条件。

影片由 Paul Mignot 执导、Marco Weber 制片，以巴黎为制作基地，在西班牙拍摄，目标于 2027 年上映。编剧持续三十多年的尝试，与 Utopai 在制作技术上的投入，开始指向同一个结果，让故事成为观众能够观看的电影。

Utopai 在亚洲的合作同样也是量体裁衣，按作品的叙事需求来选择合适的技术。

Utopai 与华策影视共同开发并发行动画剧集《西游记：消失的 500 年》，将 PAI 用于开发与制作；与日本 DeNA 的合作覆盖视觉概念、角色、环境及场景迭代，创意审核权仍由 DeNA 艺术家掌握。

韩国业务则以 Alquimista Media 的创意团队为基础，亚太负责人 Hyun Park 更是拥有 Studio Dragon、华纳兄弟韩国及 DramaFever 的从业经历。

AI 可以帮创作者更快试画面，人物、文化语境和叙事取舍，仍需要熟悉作品的人来把关。

从好莱坞动画到中国经典 IP 这些合作，我们看到的并不是一个 AI 如何颠覆影视工业的故事，这些尝试让制作技术适应各地的审美与叙事，把本地创意和跨市场的制作、发行经验捏合到一起，借船出海。

这或许是 AI 和影视两个行业更健康的合作模式，这类作品的发行方式也在改变。

与 Ex Machina Studios 等伙伴合作的《Space Nation》，是一部计划推出八集的长篇科幻剧集，围绕人类面对外星威胁展开。对 PAI 而言，连续剧提出的要求远远超过生成几段太空画面，角色、环境、视觉风格与叙事衔接，需要在整季作品中持续成立。

从世界观与角色开发，到不同环境的视觉构建，再到多集内容之间的连贯性维护，长篇科幻作品会反复检验制作工具能否在复杂项目中持续使用。一个能够长期发展的系列 IP，还需要让后续故事沿用已有设定，避免每次制作都重新建立整个世界。

《Space Nation》也成为首部与传统版权买家达成合作的 AI 剧集，巴西 Globoplay、德国电视台等买家按非 AI 内容的市场价格采购了相关发行权。

据《福布斯》报道，在最终作品按约交付的前提下，《Space Nation》与《Cortés》的潜在合计预售收入最高可达约 1.1 亿美元。

版权交易背后，两个项目的推进远没有想象中那么简单。

《Cortés》与《Space Nation》早在 2025 年就已传出消息，如今才朝着计划于 2027 年推出的目标继续前行。究其原因，漫长的推进过程，正是发生在好莱坞对 AI 使用边界格外敏感的时期。

据《福布斯》报道，《Cortés》计划采用真人表演与数字环境结合的方式，拍摄演员的表演，再将其放入数字场景。而这类项目所需人力要远少于同等规模的传统制作所需。对于制片方，这是让昂贵故事有机会启动的条件；对于从业者，同一组数字也意味着工作机会可能发生变化。

争议因此有了具体对象。真人拍摄结束后，演员的形象可以被修改到什么程度，能否用于其他镜头甚至后续作品，授权与报酬怎样计算，都直接关系到这种制作方式能否被接受。

2023 年罢工后，SAG-AFTRA 达成的协议已经为数字替身设置了知情同意与报酬要求，保护范围同时覆盖主演和群演，制作方不能把一次拍摄理解为无限使用演员形象的许可。

编剧同样争取到了明确边界。美国编剧工会（WGA）的 2023 年协议规定，制作方不能强迫编剧使用 AI，也不能利用 AI 生成材料削弱编剧的署名与相关权益。对于把 AI 深度引入制作的工作室，保留人类创作者的决定权，需要落实到剧本开发、素材使用与合同安排之中。

面对行业疑虑，Cecilia Shen 在《福布斯》采访中强调，Utopai 使用不侵犯版权的训练数据，愿意与行业工会合作，并将创意决策保留在人类手中。这些是 Utopai 对外作出的回应，尚不能据此认定双方已经解决所有分歧。

到了 2026 年，《综艺》合作专题披露，《Space Nation》已进入制作，并计划按照好莱坞工会框架推进。从公开项目到计划发行，Utopai 的坚持，也体现在愿意为技术之外的协商与制作投入时间，每一次向前推进，都意味着同时处理创作、预算、制作与行业规则的新的突破。

而且 Utopai 还是首家加入好莱坞编剧协会与演员工会的 AI 影视公司，算是拿到了传统影视圈的正式「户口」。电影节、专业主创、行业规则与版权交易，一步步把它迎进了产业的正门，「AI 原生影视公司」这块招牌，也开始对应实打实的制作与发行。

新工具很少杀死旧艺术，但它会重新划定讲故事的门槛。就像摄影出现后，绘画没有退场，反而让画家则有了更多理由探索镜头拍不到的东西，摄影也逐渐发展成新的艺术语言。

AI 视频今天正走在这条老路上。Utopai 也已经拿到了入场券，它把模型研发放进了影视生产需要承担的责任之中。接下来，这些作品能否让观众追下去、更多曾被预算挡在门外的故事能否落地，才是这套模型与平台的真正考验。

大银幕的体验不能完全用 Elo 分数来衡量，能让更多过去因制作条件被束之高阁的故事破土而出、登上银幕，并让观众愿意坐到字幕升起，AI 才真正从演示视频走进了电影。

#欢迎关注爱范儿官方微信公众号：爱范儿（微信号：ifanr），更多精彩内容第一时间为您奉上。

from 爱范儿 https://ift.tt/jFHdqM8
via IFTTT