在那张框架图的左上角,挤着三个非常不体面的词:永生、超越、意淫。它们旁边悬着一个灰色小框,写着恶,并用一条细线标注:无害化。一块不到三平方厘米的区域,藏着整套理论最诚实的部分。
一、三个不体面的词
任何一套关于未来的宏大叙事,都要回答"人为什么要去那里"。最常见的答案有三种:更高的效率、更广的连接、更好的体验。这三个答案都很体面,也都很空洞——它们描述的是结果,不是动机。
这张图给出的答案不体面,因为它是真的:
永生。不是"延长健康寿命"这种可被医学话语收编的说法,而是直白的不想死。人类对死亡的处理方式历来有二:宗教许诺来世,哲学劝人接受。技术给出了第三条:把它当成一个尚未解决的工程问题。
超越。不是"自我提升",而是想成为比现在更强的东西——更强的记忆、更强的算力、更强的身体、更强的存在感。所有"增强"叙事背后,都藏着一个不愿承认的念头:此刻的我,不够。
意淫。这个词最难写进理论。它指的是那种无需他人配合、纯粹自足的幻想满足——在现实中它被嘲笑,在技术上它却是最容易被规模化满足的需求。虚拟世界之所以诱人,很大程度上不是因为它能模拟真实,而是因为它能让人不必付出代价就成为想成为的人。
把这三个词写在框架图的入口处,等于承认:驱动人类走向虚拟化的,不是理想,而是匮乏。一切关于未来的设计,若从理想的人出发,必然落空;只有从匮乏的人出发,才可能成立。
二、为什么"恶"被画成一个框,而不是一把刀
请注意图中"恶"的形态:它是一个灰色的、与主体分离的、被框住的小方块,而不是一柄挥向欲望的刀。
这个形态本身就是一个论证。它意味着:在该框架中,恶不是欲望的对立面,而是欲望在特定条件下的产物。永生之欲本身不善不恶;当它以掠夺他人生命资源的方式实现时,才成为恶。超越之欲本身不善不恶;当它以碾压他人为代价时,才成为恶。意淫本身几乎无害;当它替代了真实关系、使人丧失返回现实的能力时,才成为恶。
换言之:恶不是动机的属性,而是实现路径的属性。这一判断带来一个重大的方法论后果——既然恶产生于路径,那么治理的对象就不是人的内心,而是欲望与满足之间的那条通道。
这是工程学的思路,不是道德学的思路。道德学要求人先变好,再谈技术;工程学承认人不会先变好,于是要求技术在设计上隔离伤害。
三、无害化:第三条路
面对"永生、超越、意淫"这三样东西,历史给出过两种答案,都不够用。
第一种是禁欲主义。把欲望视为需要压制的对象,以苦行换取德性。它的代价是:被压制的欲望不会消失,只会转入地下,并以更扭曲的形式回来。历史上每一次大规模的禁欲运动,最终都伴随一次大规模的伪善。
第二种是纵欲主义。把一切欲望的满足视为自由,以"只要自愿即正当"为唯一标准。它的代价是:个体的自愿可以累积成集体的灾难——每个人都自愿地滑向更刺激的内容,最后无人能停。
无害化是第三条路。它不问"这个欲望该不该有",只问"这个欲望的满足方式会不会伤到别人"。前者无法回答(欲望不是被论证出来的),后者可以设计。它的三条具体路径是:
- 隔离:把可能造成伤害的实现路径从系统中物理或协议层面切断。不是劝人不去做,而是让"那样做"在架构上不成立。
- 替代:为同一个欲望提供不伤害他人的满足通道。永生之欲可以通过健康科技与记忆传承缓解;超越之欲可以通过创作与共建实现;幻想之欲可以通过沉浸式内容承接——前提是这些通道不吞掉现实生活。
- 限额:承认某些满足方式虽不直接伤人,但会消耗公共资源或成瘾性地挤占个体的其他能力,于是以配额、时段、提示等方式加以限制。限额不是禁止,它是给自由装一个刹车。
三条路径有一个共同点:它们都不要求人变成圣人。这正是它们可行的原因。任何以"改变人性"为前提的方案,都会在实施的第一年失败;而以"约束路径"为前提的方案,至少可以写出代码。
四、元叙事:谁来为欲望排序
如果无害化只解决"如何满足",它还不构成文明。因为资源永远有限,欲望永远冲突——必须有人回答"先满足谁"。
这就是图中"元叙事"的位置:它紧挨着"元需求",且与"元需求"一上一下并列。二者的分工是:元需求提供动力,元叙事提供次序。
一个社会没有元叙事,会发生什么?不会立刻崩溃,而会出现一种更隐蔽的症状:所有需求都被平等地满足,于是所有需求都变得同等廉价。短视频与临终关怀获得同样的推荐权重,即时快感与长期建设争夺同一个注意力池。技术上这叫"没有优先级",政治上这叫"没有方向",文明上这叫"熵增"。
元叙事的功能,正是逆熵。它用一套关于"什么是好的生活"的讲述,为无数并列的欲望强行排出次序,从而使有限的资源能够汇聚成一个方向。图中把"人类解放"与"永恒真理"画在元叙事的旁边,是在指定这套次序的终极两端:人的自由发展,与可被共同承认的真。
五、真善美:一个可操作的筛选器
"真善美"三个字极易沦为装饰。但在这张图里,它被画成一个三格并列的胶囊,位置卡在"红—人类"与"AI 须向善"之间,是一条真正的通道。若把它当作筛选器使用,三格各对应一条可执行的判据:
- 真 = 可验证。一个陈述若不能被任何方式核验,它就不能进入体系。对应到技术:数据来源可溯、模型行为可测、结论可复现。
- 善 = 不损他。一个方案若以他人元需求的受损为代价,则无论多高效都不通过。对应到技术:伤害面评估、退出权保障、弱势方的否决通道。
- 美 = 可共享的形式。美不是好看,而是"能被多数人以低成本进入的形式"。一首诗、一个协议、一套界面,若只有少数人能懂,它就还不美。对应到技术:可用性、可理解性、可参与性。
三格之中,美最容易被低估。人们习惯把美归于趣味,实际上美是降低协作成本的机制:一个美的界面让更多人愿意进入,一个美的制度让更多人愿意遵守。文明之所以能扩展,靠的从来不是说服每一个人,而是把好的东西做得足够吸引人。
六、"AI 须向善"——一句被误读的话
图中"AI 须向善"写在一个黄色方框里,而"科技须向善"写得更小,附着在"人本—科技"这一组关系上。两者的分量不同,值得分开看。
"AI 须向善"常被误读为"要求 AI 有道德"。这是不可能完成的任务:道德需要承担后果的能力,而模型不承担后果。更准确的理解是——要求 AI 的设计者把道德约束写进系统的目标函数与边界条件。
具体而言,是三个技术性的要求:
- 目标可申诉:系统的优化目标必须可被外部审查,且允许被质疑与修正。
- 边界硬约束:某些行为不是"降低概率",而是"架构上不可能"。软性对齐挡不住持续施压,硬约束才挡得住。
- 责任可回溯:每一次自动化决策都应留下可追溯的依据链,使责任能够落到具体的人与机构,而非"系统"。
而"人本—科技"的关系,图中用的是极简的四个字:科技须向善,且"人本"与"科技"是两个并立的框,中间有一条"科技须向善"的箭头从科技指向人本——方向是单向的:科技服务于人,而非人适配科技。这个箭头的方向,就是整套价值论的底线。真善大模型之所以冠以"真善"而非"强大",也是同一逻辑:能力不是标准,方向才是。
七、熵减:文明的真实定义
把上述讨论推到最抽象的一层,可以得到一个判断:文明的本质是局部的熵减——在宇宙整体趋向无序的背景下,人类用组织、制度、技术、叙事,在有限的时空里维持出秩序的低熵岛。
但熵减有一个残酷的性质:它从不免费。任何局部的秩序,都以外部环境的更大无序为代价。城市的有序以乡村的抽取为代价,平台的高效以骑手的时间碎片为代价,虚拟世界的洁净以现实世界的资源消耗为代价。
因此,"无害化"在更深的层面上,其实是熵转移的伦理问题:你可以建造低熵的秩序,但不能把熵悄悄地倒给别人。判断一个文明是否成熟,不看它内部多有序,而看它是否承认并处理自己产生的熵。
这张图把"共情"放在五共之首,把"善治制度"写进链条,把"无害化"标在那三个不体面的词旁边——三处看似无关的设计,其实说的是同一件事:秩序可以建造,但代价必须被记账。
结语:从匮乏出发的乐观主义
本文开头说,那三个词不体面。现在可以补一句:正因为不体面,所以可信。
一切从"人已经很好"出发的乌托邦,最终都会变成对人的规训——因为它必须解释为什么人还没有变得那么好。而一切从"人依然匮乏"出发的设计,反而可能温柔一些:它不指望你成为圣人,只希望在你成为不了圣人的时候,系统不会因此伤到你,也不会让你伤到别人。
这大概就是"红"这个字被放在图的中央时,最朴素的一层意思:它不是要求人燃烧,而是承认人需要被照亮。