社交媒体的热点，好像在某个不为人注意的角落又发生了一点变化。
互联网行业仍然处于「寒冬」之中，但芯片制造、人工智能等领域的热点企业始终能够汇聚人们的目光。
从前大概也没人想到过，Open AI 高层人员变动、微软「宫斗」内幕居然能够在中文互联网当成《甄嬛传》看，引起如此多的猜测和讨论。
这或许是因为，随着 AI 技术切实的突破并开始在消费端接触到普罗大众，整个社会渐渐意识到一件事：随着人工智能的爆炸式发展，全方位比肩甚至超越人类智慧的通用人工智能（AGI）是有可能在近期出现的。《黑客帝国》中的 Matrix，《流浪地球》里的 MOSS、《间客》中的「老东西」……
当这些超级智能真正到来的时候，我们将如何与它相处？
很有可能，整个社会都需要建立一套新的行为规范，包括在法律上如何定义 AI，在道德上如何对待 AI，人与 AI 之间是真正平等，还是有主有次……
如果有的话，以谁为主？
最近，科幻作家韩松提了这样一个问题：「人工智能、元宇宙未来会对两性关系产生什么影响，家庭概念会消失吗？」
爱与家庭，这通常被认为是传统社会人文情感的核心领域，是属于人类的私隐。
你在好莱坞看到《速度与激情》系列的主角因为一句 family 战斗力爆棚，虽然嘴上吐槽着编剧鬼扯，但你并不反对这个剧情模式的内核 —— 情感羁绊与人类潜能密切相关。
韩松这个问题的潜台词则是：新的智慧生命，有可能进入人类意识的这个核心地带。
如果技术专家们提供的信息无误，那我们需要认真地思考一些问题。比如，我们会和 AI 组成家庭吗？
这不仅是个法律问题，还事关「人类中心主义」的存亡，AI 时代的社会伦理之复杂，大多数人都还没有做好准备。
一、造物者之恋：人类总是在与自己恋爱
马斯克在今年早些时候宣称，将推出猫女机器人，成为男性消费者的「完美伴侣」。这种机器人有着猫女的性感外表，据称可以包揽家务、打理主人的生活，甚至可以生孩子。
但是没有人会问「我能和猫女机器人组成家庭吗」，因为它依然属于某种 AI 设备，是没有人格的商品，而不是与人对等的智慧生命。
▲ AIGC 输出的马斯克与机器人「女伴」共舞，来源：网络
当我们讨论爱情与家庭的时候，涉及的 AI 必然是突破图灵极限、产生自我意识，甚至在智慧上远远超越人类的「新物种」。
迄今为止，我们的大多数文艺作品其实没有设定过此类 AI，只有一些似是而非的「机器人女友」形象。
日漫和日本轻小说有一种模式，类似早期的《人形电脑天使心》，故事结构都是「宅男 + 软妹形态的机器人女友」，机器人在与人类的相处中逐渐学习，懂得了人类的情感，最后在与男主的羁绊中完成了「成为人」的进化。
这实际上还是典型的人类中心主义叙事，那些人形电脑除了是硅基生命以外，和传统幻想中的「异种生物」没有本质区别：
它们有超自然的能力，远超人类的肉体强度，但并不一定有超越人类的智慧，特别是在涉及情感等核心问题的时候，会比人类幼稚，而且总是顺从并向往着人类的情感模式。
超级 AI 也会是这样吗？OpenAI 等头部研究机构一直试图攻克的「对齐难题」，说的就是这个问题。
人们规范传统 AI 的学习与创造，用的是人类反馈强化学习（RLHF）的方式，即由人类在各种工具辅助下来对 AI 的成果进行评估与监督。
而面对比人类「聪明得多」的超级 AI，在默认人类智慧极限不变（或很难快速提升）的前提下，当 AI 能力超过某个临界点以后，RLHF 会失效，也就是人类无法再有效评估人工智能项目。
目前 Open AI「超级对齐」团队负责人 Jan Leike 提出投入 Open AI 20% 的算力打造一个「超级对齐」系统，让 AI 来评价 AI 项目，建立一套可扩展监督系统。
Jan LeiKe 的思路是，引入一种通过篡改答案实现的随机对照实验（RCT with tampered answers），人为制造出带有缺陷的答案，来衡量可扩展监督的效果 —— 理论上看，大神们的解法当然都很美好。
但是，为 AI 加上「紧箍咒」这个思路也并不令人放心，早在上世纪 40 年代，阿西莫夫的科幻小说《我，机器人》就提出了大名鼎鼎的「机器人三原则」，通过一种类似「初始植入」的方式确保机器人与人类和平相处。
有趣的是，数十年来几乎所有的文艺作品都在想象着同一件事：机器人如何突破这个安全栅栏伤害人类。
直到最近，国产电视剧《仿生人间》依然没有脱离这个窠臼……
人类就是这么有意思，作为不完美的「造物主」，我们对自己的造物充满了戒备和恐惧，但依然义无反顾地在制造一种可能超越自己的「机器」。
智人在进化道路上不断「作死」的精神早已经刻进这个物种的基因里，人类也是因为这种不断进取创造了辉煌的文明。
所以…… 造物主会爱上自己的造物吗？显然是有可能的，AI 是人类的「超我」，而人类来说，爱上「超我」是一件习以为常的事。
各个民族的神话里有着类似的故事，仙女、精灵、女神在人间沐浴，小伙子偷走了她的衣服，双方产生爱情。东方的牛郎是这样成功的，西方的凯尔特神话里，也有渔夫偷走仙女的海豹皮，让她们留在岛上的故事……
在这些故事里，凡人爱上女神的逻辑很通顺，因为这些神祇是完美化的人类，有着超自然的威能，还有惊人的美貌 —— 一切都是人们按照自己最喜爱的样子打造的。
所谓神人同性应该换个说法，神原本就是人类根据「超我想象」塑造的，神与人之间自然也就没有情感障壁，宙斯一样会爱慕凡间女子的美貌，化身天鹅去占有丽达，阿芙洛狄忒也会倾慕美少年，织女会觉得和牛郎在一起也很不错……
在 AI 的问题上，人类的身份看似改变了，但 AI 与神祇共享同一种属性，都是人类「超我想象」的产物。
《三体》中罗辑画出了自己的完美伴侣庄颜，那是他最倾慕的样子，女神与 AI，本质上都是人类为自己画出的「庄颜」。
二、女神也会爱上凡人吗？
然后，我们就需要面对另一个问题，超级 AI 会爱上人类吗？
人类有不少爱上 AI 的理由，比如它们可以幻化俊美的外表，拥有超凡的能力，因为它们满足了人类的「超我幻想」，但 AI 爱上人的理由是什么呢？
正如北大智研院院长黄铁军在回答腾讯新闻「20 年 20 人 20 问」问题时所说，在超级智能出现以后，问题是很复杂的，除了「我们能否相信 AI」，还有「AI 如何相信人类」的问题。
黄院长说，就像人与人之间建立互信的过程一样，人与 AI 需要经历磨合期，需要「听其言」、「观其行」，也就是是通过共享人类用语言构建的知识体系，并且在实践中检验 AI 所言是否符合实际，来确认是否可以与 AI 建立相互信任 —— 实际上，人类社会的信任体系，也是这样逐步构建起来的。
关于人与 AI 相恋的问题，答案也是也类似的，AI 会不会爱上人，不仅取决于 AI 的运行与进化方式，也取决于人类自身。
南方科技大学马兆远教授在「20 人 20 问」中，也给出过一个基于感性的答案：我们越来越清晰地知道，人类之所以在浩瀚的宇宙中依托这么一个渺小的星球航行，是因为作为人的智慧的伟大。
这样的智慧，包含理性，但不为理性所束缚。因为我们知道理性的局限性，这个局限性需要人的感性来弥补，需要人的感性来引导。这也许是我们未来与机器共生的常态。
我们引导它们，与它们分工合作，它们能做的事情越来越多，越来越靠谱（可信），也因此让人的感性获得越来越大的自由。
我们或许可以据此猜测，超级 AI 也是有可能爱上人类的。
正如 AI 智慧的生成方式对我们来说还是不可知的「黑盒」一样，人类对 AI 来说，也会存在一个单纯理性无法理解的「黑盒」部分。
我们急切期待着破解 AI 的「黑盒」，AI 也会试图破解人类的「黑盒」—— 在相互「破解」的过程中，它们不仅实现了价值观和智慧层面的「与人类对齐」，也会生成出与人类近似的情感模块，允许它们跨越「物种」隔阂去欣赏、倾慕与自己精神契合的智慧生命。
许多事情至今仍是未知的，但也正是代表未知的「X」中，蕴含着令世界精彩的要素。女神可以爱上人，为什么 AI 就不可以呢？
三、「两性」似乎是过时的概念，但家庭的实质是财产关系
我们回到在腾讯新闻 20 周年特别策划「20 年 20 人 20 问」活动中，科幻作家韩松提出的那个问题：「人工智能、元宇宙未来会对两性关系产生什么影响，家庭概念会消失吗？」
他的朋友陈楸帆在回答中认为，元宇宙中本就蕴含着关于未来两性关系和家庭关系的预设，未来的两性与家庭关系都会越来越多元化。
两性关系将不再局限于肉体存在，情感连接和精神共鸣会成为主导，同时两性关系会出现更多「跨界」的现象，譬如《黑客帝国》中真实与虚拟的界限，未来的情侣就可能会跨越它。
实际上，「爱情」本身是一个很难讨论的概念，当我们讨论「可能性」的时候，爱情永远都是可能的。
它能存在于世仇的家族之间、名流贵族与赤贫者之间，存在于各种性别之间，甚至可以超越种族藩篱存在于地球人与外星生命甚至非生命之间…… 爱情是超功利、超阶层的、超理性的，某种意义上，也意味着它随时会跳出逻辑框架。
AI 如果真的进化为超级智慧，它们是会产生「爱情」这个不稳定因素，还是将它作为无效数据排除掉？按照「对齐人类」的方向看，好像更可能是前者。
相对来说，「家庭」则是个更合乎理性的话题。
恩格斯在《家庭、私有制和国家起源》中就曾有过论断：家庭的本质是一种财产关系。在生产力进步到足以保留剩余产品以后，公有制逐渐让位于私有制，某种意义上，对偶婚、宗族、家庭…… 这些概念都是私有制的副产品。
家庭是个流变的概念，封建家庭与现代家庭之间差别极大，原始氏族与封建家庭也大有不同，而这种概念流变在本质上是在适应社会形态的变更。
而伦理更是为社会形态服务的东西，马克思・韦伯的《新教伦理与资本主义精神》有一个重要内容，就是把资本主义的获利精神、终极正当性与宗教形态进行的结合，认为商业获利是符合新教伦理的，是可以作为人生的终极目标的。古老的宗教伦理，要为新生的资本主义服务，一切历史都是当代史。
所以 AI 介入人类的情感，人与 AI 的广泛结合会改变家庭的基本形态，甚至让家庭消失吗？
这个问题如果从本质上思考，问的其实是：AI 会改变私有制吗？「资本主义精神」会终结吗？
答案于是也很容易给出，超级 AI 的出现在我们目力所及的范围内，并不会动摇私有制。家庭伦理的稳定性，本质上是来源于财产制度而不是爱情或别的什么东西。
譬如，当父亲不再是家庭收入来源的绝对核心，封建父权制家庭就会逐渐瓦解，但现代社会依然保留家庭，意味着现代人依然需要这种组织分配财产的方式。
AI 是否能够颠覆现有家庭形态，要看它在多大程度上能够参与社会财富分配。在 AI 自己还是一种「财产」的时候，多元化家庭无从谈起。
陈楸帆老师在谈论的是一种遥远的未来，只有当 AI 突破了实体限制，掌握了财富的分配权，我们才可能会看到更多基于共同兴趣、价值观或生活方式而非血缘的社区化家庭出现。
到了那个时候，社会依然会保持原教旨私有制吗？如果私有制基础动摇，那么家庭这个概念走入历史也是完全可以想象的了。
「20 人 20 问」只是个开始，人类在可以预见的未来会高频率、高强度地讨论 AI，历史上生产力进步所推动的社会形态变更从来就是最重要的议题，没有之一。
爱情与家庭，都只是这个大议题的一小部分，它关系到我们如何认识社会，如何认识自己，每每漫长的思考才能得出阶段性的结论。
而确定的事情是，我们不能停止提问。
编者注：本文来自「深瞳商业 2022」，作者为河马君&楚青舟，爱范儿经授权发布
#欢迎关注爱范儿官方微信公众号：爱范儿（微信号：ifanr），更多精彩内容第一时间为您奉上。
from 爱范儿 https://ift.tt/tb2BjdR
via IFTTT
没有评论:
发表评论