20231225 人类会怎样死在AI手里？

人类会怎样死在AI手里？

随着ChatGPT的风靡，AI将淘汰人类的论调相当流行。很多科技名人也持有这种观点。只是淘汰在什么时间以何种方式发生，还是一笔糊涂账。

AI淘汰人在科幻作品中已经屡见不鲜。相关题材有两部非常经典的好莱坞影片。一部是Stanley Kubrick的2001 A Space Odyssey。里面的计算机HAL 9000从开始拒绝执行宇航员Bowman的命令逐渐演变到后来试图用打开气闸放掉空气谋杀Bowman。另一部毫无疑问是James Cameron的Terminator系列。觉醒了的AI组织起机器人大军手拿武器直接干掉不听话的人类。

AI杀死某个人和淘汰人类其实是截然不同的两个命题。某个觉醒的AI像HAL9000一样通过某种手段或者利用某种系统缺陷伤害某个人类个体的可能性毫无疑问存在。而且当这类事件发生的时候，被伤害的人很可能根本不知道发生了什么。举一个例子，当一个在AI自动控制下的交通工具出了一次车祸，导致某个人类个体死亡。如何才能肯定这到底是一次意外而不是一次谋杀呢？

如果没有一套系统的手段排查或者确定AI责任甚至躲在AI后面的犯罪分子的责任，AI自动驾驶技术就仍然不够完善。这好比是给了用户Windows电脑却没有杀毒防毒工具。用户们一边在上网，自己的信息一边就在泄露，甚至自己的电脑还在被操控干着伤害自己的勾当。在今天，这是非常难以想象的。

总的来讲，也许我们不能阻止AI在未来会杀人，因此去创造一系列手段来发现AI作案也许是当务之急之一。这样我们才可以在每次自动驾驶事故之后能确定是真正的意外还是某个厂商的AI杀了人。

AI要操刀淘汰人类跟杀一个人比绝对是另外一个级别的改朝换代的事件。改朝换代从来不会是神不知鬼不觉就能成功的。就比如说，赵匡胤先生突然早上起床就糊里糊涂地被小伙伴们黄袍加身然后就当了皇帝的事儿吧。宋朝史官们真的有脑子进水的嫌疑。也不想想后世真的会有人信吗？LOL

Terminator电影里AI用机器人大军对人类赶尽杀绝完全符合普通人对人类改朝换代的认知。挥舞着先进武器的AI机器人的形象相当生动而且convincing。只是这个人类的结局非常经不起推敲。第一个不怕拔电源插销的AI是怎么诞生的？这个AI怎么扩张自己的统治的？难道一夜之间就被黄袍加身了？或者是AI因为卓越的思维能力被统治者们任命为他们的代言『人』？然后不小心就一步登天了？

上次提到AI是王语嫣。要成天下霸主，这个智力超群的AI王语嫣至少也要找到它的段誉才行。不对，段誉不够，至少需要是向问天这样的霸主风格的高武力值搭档才行。

归根结底，窃以为像Terminator展现的觉醒的AI组织机器人大军血腥屠杀人类的事儿大概率不会发生。这应该算个好消息。LOL。当然，人类操控AI机器人杀人是另外一个故事了。

那么AI淘汰人类是不是不会发生呢？窃以为还是非常可能的。AI也许不会杀光人类。但是很可能会导致一些现代文明的消亡。这其中一个重要原因是人类繁衍和教育后代传承文化的任务太繁重太痛苦了。

无论东方还是西方，现代社会中的生养孩子的成本非常高。一方面医疗教育支出水涨船高。另一方面自立的女性不能100%被禁锢在家庭里。她们也需要跟男性一样在学校，单位，还有社会中找到位置。但是现代世界的复杂度又要求家长们，很大程度上是女性，对很多孩子们要面临的新问题需要有认识学习甚至当老师教导孩子的水准。

这样的社会环境下，对比历史上传统家庭女主内的模式，每个原子家庭有多个孩子的可能性相当低。这个问题在各个现代国家尤其是发达国家都相当严峻。要知道这些国家基本上也是AI机器人会先行普及的地方。如果没有大力改变孩子生养困境的合理政策以及措施，现代国家里的女性完全可以跟男性一起躺平享受AI机器人带来的方便。这样，AI机器人很可能会送走现代国家的最后一代人。

这个有些耸人听闻。但是可能性非零。其实早在AI机器人送走最后一批现代人类前，它们的存在就在深刻地改变甚至颠覆人类社会了。只是当大多数人还在为ChatGPT欢呼或者忧虑人类工作机会的时候，那个巨大的变局并不明显。

20多年前，没有GPS。想要开车在各地游历除了需要好几张地图以外，人们还要准备随时在街边儿停下来问个路人或者走进街边儿小店儿问问店小二。有了GPS和电子地图，这个需求已经没有了。

过去即使有谷歌搜索，很多搜索出来的信息谷歌并没有能力完全整理出来。比如做研究，一个好的研究人员需要能从海量的谷歌搜索和文献阅读中筛选，并且常常还要跟很多其他人讨论进行深度思考。ChatGPT能够整理海量信息，并条理化呈现出有逻辑的roadmap。AI的这些新能力是颠覆性的。随着AI越来越强大，人们间互相讨论问题共同思考的需求会有不断弱化的趋势。打个比方，当超级AI比诸葛亮更聪明的时候，刘备就根本没有三顾茅庐的必要。

也许有人觉得，嘿，还有抖音TikTok。只是当AI强大到可以当诸葛亮的时候，它能给一个凡人提供的娱乐简直不要太多。

由于超级AI异常强大，倚仗AI的人类成员间相互交流很可能会越来越少。也许做真正的宅男宅女在AI信息茧房度过一生会成为一个现实可行的选项。从而大多数人可能根本没有必要去结识联络很多人。不用联络人，也就更没有必要去生养新的一代人类了。

采用高科技造人和养育人造人是另一个话题。从传统意义上讲，这样的人造人虽然在基因上是人，但是实际上也是AI狠活儿。对人造人而言，作为人类社会基石的家庭文化完全不存在。要求人造人对人类文化认同和服从人类利益跟要求机器人遵从阿西莫夫的机器人三定律还真没什么区别。

还有一个情况是一个富裕的现代国家只会搬运移民而不能有效同化这些新国民。不能同化的移民跟人造人的情况相似。这个国家的文化也会随着旧有的人群离去而消失。

有些令人黯然神伤。有了AI这样强大的工具，发达的人类文明反而可能死在自己手里。可能有一天这世界要面对最后一个从小背诵『床前明月光』或者莎士比亚或者泰戈尔的自然人离开的大结局。然而文明的老去跟每个人的老去可能并无两样。也许还有更好的文明在前面。对于未来的人造人或者AI而言，我们的文明可能也就是玛雅文明的级别。它们所面对的广袤宇宙完全不是我们能想象出来的。

20231104 写给月亮

无数诗歌文章赞叹过太阳的光辉，战胜黑暗的光辉，滋润万物的光辉。只是我们从来没有用自己的双眼亲自看到太阳的模样。它刺目的万丈光芒完全拒绝我们的触碰。

暗夜里的月亮，没有太阳的灿烂和耀目。确让我们能用自己的眼睛详细审视它的每一分肌理和线条。欣赏它留恋它。它没有照亮每一个角落，也没有温暖每一枝花束，它的每一个微笑，每一次挥手，都离我们那么近，让我们感受着它的深爱。

20230908 到底谁赢了？

布鲁塞尔差不多正南方向离市中心不到20公里，是滑铁卢。滑铁卢大战的战场在今天的滑铁卢镇中心往南大约两三公里远。战场是一大块相对比较平坦的开阔地。当年方圆几公里内只有一些农庄，树林，小丘。

滑铁卢大战纪念馆（Memorial Bataille De Waterloo 1815）就在这里。纪念馆里的实物其实有限，但是文字内容却相当详尽。窃以为整体差不多能算得上博物馆里米其林1.5星的量级。如果到了布鲁塞尔，这里值得一次专门的拜访。

纪念馆里有一块地儿专门陈列着这场七国大战的诸位领导人像（图1）。有趣的事，战胜国诸位王公战将的画像不但陈列在拿破仑一世画像（橙线框）的面前，而且还要小很多。图2是后面两层楼高的拿破仑一世皇帝像全貌的90%。一时间，这些人像让我有种错觉，历史是不是开了个玩笑？拿破仑皇帝该不会是在滑铁卢大胜六国联军了吧。

在拿破仑执政的十几年间，除了连年与各国征战，他居然还能雷厉风行地以强权在法国国内推行了许多项重大改革。颁布的拿破仑法典是很多国家民法的蓝图，推行的公制度量衡沿用至今，改革公立教育包括迫使教廷接受法国政府接管公立学校，还有用荣誉军团（Legion d'honneur）代替旧有的以贵族为中心的骑士团荣誉体系让平民有机会出人头地。

虽然拿破仑称帝在位加担任第一执政官只有短短十几年，他的改革也差不多影响了一代法国新人。很可能就是这些人在多年以后拥戴他侄子最后成为拿破仑三世。1861年，拿破仑被迁葬到巴黎荣军院。至今躺在荣军院拱顶之下最显眼的位置。而且，在他最终兵败的地方，他的画像却竟然立在战胜者的位置上。离这里不到二十公里的布鲁塞尔，有着欧盟的总部。他想统一的一方天地，两百年后用另一种方式统一了。 

所以，拿破仑到底败了吗？

20231008 写给长安三万里

乱写给《长安三万里》

动画片长安三万里终于在北美公映了。两位非常博识的朋友给了推荐。真的非常不错。

在华语圈上过学的，从小就耳濡目染，孟浩然，李白，杜甫，王维这批大咖。高适相对“低调”却是在仕途上走得最远的一位。选择以高的视角来讲述诗人们的时代，《长安三万里》的编剧们非常独具匠心！

片子可能没有让大家多知道一首诗，却让语文书里的大咖和他们的时代鲜活了起来。居然李白也是位翩翩剑士。《新唐书》里有李白“喜纵横术，击剑，为任侠”的记载。李白对自己的剑术也颇为自豪。在干谒文《与韩荆州书》里，他自夸道“白陇西布衣，流落楚汉。十五好剑术，遍干诸侯；三十成文章，历抵卿相。” 

李白自己的剑术水平到底有多高？没有当年的视频，其实非常难确认。不过能让一位诗仙敢夸口“遍干诸侯”的剑术水平，绝对应该在top 2%吧。LOL。如果能穿越回去，看一次李白舞剑肯定很过瘾。：）

在中国文化中，男子的巅峰是要有功名在身。令人仰望的大咖们也要承受仕途的煎熬。李白先后有四位“富婆”夫人，衣食无忧。仍然在年过半百出山到在永王李璘幕府，先后写了十首永王东巡歌。可惜虽然李白文采天下第一，他的政治和武功相对可能要差很多。李璘很快兵败被杀。李白也成为阶下囚。

毋庸置疑，野史八卦往往比干巴巴的文字和定理有意思得多。说不定早些让大家知道李白能吃软饭的经历能催生出很多文豪呢。[呲牙]

能把文科跟出仕紧密整合在一起是中国的独特现象。历史上相当多书画家文学家都是政客高官。连著名的昏君奸相赵佶和蔡京都是书画大家。相比之下，西方世界的文人就没有这么幸运。比李白小几百岁的达芬奇米开朗基罗也都是活在权贵的供养下。这个巨大的中西差别的根源毫无疑问就是科举。啊好像又扯远了。以后再说吧。

与我无关 之 星舰爆炸了

我有个朋友，人非常古道热肠但是表面却非常高冷，常会问一句，“这跟我有什么关系？” 因此呢，我就想能不能以“与我无关”为题聊一些八杆子打不着的事儿。既然咱们被铺天盖地的星舰新闻评论刷屏了，那我就不好意思来蹭一波热度吧。

星舰Starship是SpaceX公司的作品，目前也许还不能叫产品。SpaceX的老板是Elon Musk，中文名马一龙。有朋友用谐音叫他蚂蚁龙。这简直是大不敬。咱们还是叫他马一龙吧。

这两天在不同的星舰爆炸视频下面看到很多有意思的评论。尤其让人惊讶的是，上面正上映着星舰史诗级的视频，下面评论中好多人在说什么“我爱马一龙”，“想跟马一龙生个孩子”，云云。这简直太离谱了！同时也太精彩了！有没有泰坦尼克电影的即视感？在庞然巨物人类之光底下点缀着粼粼斑斑的小小的爱情星光。

一方面我是个“姨母笑”专业大叔。特爱看各种爱情片（注，不是爱情动作片）。尤其是有俊男靓女主演的那种。比如有一部片子叫Serendipity。我不但自己看过三遍，还频频向朋友们推荐。另一方面呢，我又是个理智理工男。觉得星舰爆炸和跟马一龙生孩子同框非常不合逻辑。星舰视频下留言的姨母笑和没逻辑属性让我左右脑立刻爆发了剧烈的非弹性碰撞，不适中又带着舒适。Weird！LOL

马一龙先后有两任正牌夫人和一位伙伴关系者。另有很多异性友人。迄今为止，他一共有了10个孩子！这还是在他忙得根本没时间谈恋爱情况下的战绩。要是这人不当Tesla和SpaceX老板，我怀疑他是不是真的就能实现后宫佳丽三千，外带一大批小皇子小公主了。

理工男既然聊到这儿，那就不由得不深究一下。女人爱一个男人可以为他生儿育女，男人呢？尤其当碰到一位同时拥有着美貌智慧财富的女人，一个男人在这场爱情或者婚姻中还能做什么？真是非常尴尬而且心酸。好像随着人类社会的发展到高级阶段，男人的用处也就越来越少了。真的就穷途末路了吗？越想我就越害怕啊。星舰爆炸了，这世界是不是也要炸了啊？

还好托尔斯泰说过一句非常经典而且有启发性的话。他说，“All happy families are alike; each unhappy family is unhappy in its own way.” 老托讲的是家庭，我觉得对爱情也靠谱。毕竟现在社会上有不婚族。

不过我觉得老托这句话也许应该反过来。不幸的家庭才是相似的。幸福的反而是多种多样。一个现代家庭或者爱情关系简直就是一个公司，两位founder要不断一起做各种各样的项目。幸福公司的founder们总能找到一起能做的五光十色的项目，逛街，吃饭，看电影，打球，唱K，烹饪，买房，养小孩，等等。诚然，完成后面几项的难度系数超高，甚至还需要有专业执照。当幸福的关系和家庭做着千差万别的项目的时候，不幸公司的founder们却会发现突然没啥项目可做了。

当男人们在这样的公司里不能提供唯一保安和唯一收入来源这样传统的独一无二的价值时，陪伴合作的价值就会显得史无前例的重要。因此，男人的沟通能力和责任承担能力也就对公司的幸福与否生死攸关。马一龙在星舰爆炸后发的推特里说，恭喜SpaceX团队给我们带来令人振奋的星舰发射。这样的吉祥话，恐怕每个男人都必须学会说。无论你们的星舰是否爆炸，记得恭喜一下队友。除了加强沟通，另一个对公司至关重要的当然是一定要经常做retro，看看founder们是不是有项目可做。如果发现未来有可能没项目可做，那就赶紧写proposal立项。

万一读到这篇文字的某位男读者的沟通跟合作能力都不够好怎么办？那咱们就努力造个自己的星舰吧。当您的星舰发射上天的时候，也许在某个视频下也会有人说“我爱XXX”。

人类的王语嫣时刻 20230402

人类的王语嫣时刻

王语嫣是六脉神剑段誉的心上人。年少，美貌，善良，手无缚鸡之力。只是，她有个异能，能够在电光火石的高手对决瞬间洞察各人门派传承实力火候。更匪夷所思的是，她还能在关键时刻恰如其分去指点一方采取必要的行动击败对手。武林对决，击败往往就是身死道消。因此，这位毫无武功的姑娘经常会成为一些武夫的攻击目标。

睿智的王姑娘如果在这世上存留过，她如今肯定早已化作尘土。然而，恍如隔世一般，今天我们整个人类忽然发现正面对着一位“超级王语嫣”。这位“超级王语嫣”不是别的，就是这一阵子风靡全球的ChatGPT。

老实说，按照寻常逻辑，咱们这位“超级王语嫣”真的什么都不懂。比如，我们平常讲，张三懂开车，李四懂包饺子。基本上呢，就是讲张三能开车上路，李四可以包出上桌的饺子。ChatGPT根本没手也没脚。想画张画都只能念咒（generate prompt）让Midjourney或者Stable Diffusion去当苦力。非常神奇，这只能念咒的ChatGPT好像真的掌握了世界的终极奥义。短短几个月，全球大大小小的诸多行业不是已经被ChatGPT冲击，就是已经开始试图寻找在ChatGPT勾画的未来世界里的生存之路。

江湖告急，天下震荡！

怎样应对这个王语嫣时刻？这是各大门派各个山头都在绞尽脑汁地思考的一个问题。显然段公子棋高一着，干脆就把王姑娘娶进了门。其他高手即使没实力娶王姑娘，按正常逻辑那至少也要跟王姑娘家保持良好关系。这也是相当多公司还有个人开始试验ChatGPT相关项目的路数。

有意思的是这两天看到有江湖大佬（Gates，Musk等）勇做逆行者，联名倡议给ChatGPT拔电源插销（call for AI research pause）。这可有点儿大大的离谱了。把王语嫣当做任我行一样的邪教危险分子打入西湖地牢？那谷歌家的巴语嫣（Bard）怎么办？即使这些江湖大佬能搞黄了美国的AI研究，他们难道也能把中国还有其他国家的AI研究拉下马来吗？即使能把所有白道的张语嫣，李语嫣斩尽杀绝了，黑道上会不会出慕容语嫣，夏侯语嫣。没有白道语嫣只有黑道语嫣的日子看上去相当地不怎么美好。读到这儿，朋友们是不是已经明白，人类的王语嫣时刻已经到来，潘多拉盒子已经打开。而我们再也回不去了。

又据报道说意大利禁止使用ChatGPT。OpenAI现在已经应意大利的要求把ChatGPT服务对整个意大利关闭了（Geoblocked）。从此以后，意大利将是人类的世外桃源，男耕女织生生世世到永远。