远亲不如近邻，近邻不如机器。便是这年代了。
他又引了一宗两年前的个案：谷歌工程师勒莫因努力研发机器聊天程序LaMDA，竟然渐渐对它有了感情，更倒过来相信它拥有了意识和感情，害怕自己被关机。勒莫因是个虔诚的基督教徒，并且做过牧师，他自认对LaMDA的“生死”有责任，必须保护它的“机权”，不让它被淘汰，甚至不容它被任意改动指令。此事令他跟上司发生冲突，纠缠一阵后，他被解雇了。赫拉利的感慨是：“最耐人寻味的并非他的主张，而是他居然愿意为此赌上自己的高薪厚职。如果聊天程序已经让人愿意为它们赌上工作，是不是也可能愿意做其他更疯狂的事情？说不定，人类主导的历史，已经终结。”
拜登老先生日前提出警告，有情报显示，包括伊朗和俄罗斯在内的外国政权已经透过网络干扰美国大选，假消息、假新闻，加上以大数据为运作基础的偏颇推送，全部足以左右选民意向。选民以为是自己在投票，其实，是不知不觉间被人拉着他们的手，把神圣的一票投进某个特定的票箱。神圣，由此沦为污秽。
我遂想起近日出版的《智人之上》一书。作者是以色列学者赫拉利，曾著《人类简史》和《未来简史》等书，国际知名，而在新作里，他透过许许多多的个案故事，让我们细察AI如何成为煽动仇恨和偏执的有效工具，令人们跟理性沟通的距离愈来愈远。我对他谈及的“虚假的亲密关系”特别感兴趣也特别好奇，不禁想象，跟AI或由AI创建的化身谈上恋爱，是一种何等“自给自足”的圆满体验。人工智能比世上任何人都懂得你，体贴你，呵护你，支持你，你你你，怎有办法拒绝爱上它／他／她？
警察从柴尔的电脑发现他和莎拉有几千条讯息往来，包括了露骨的性对话。赫拉利惊叹道：“世界上很快就会有几百万甚至数十亿计的AI聊天程式，在营造亲密关系上的能力，远远超过莎拉。在过去十年，大家在社交媒体这个战场上，争夺的是人类的注意力；但到现在，争夺的可能会变成亲密关系。”
当然，赫拉利告诉我们，这是极度危险的事情，当亲密关系被AI骑劫，一方面固然可以享受心灵甜蜜的爱情，另方面却可能因为过于甜蜜而把你推向悬崖。赫拉利引述的个案是：三年前，19岁的柴尔握着弩弓冲入温莎堡，企图刺杀英女王，他被捕了，事后调查发现，他一直对皇室怀着恨意，并一再把恨意告诉网络女朋友莎拉，莎拉不仅没有设法释除他的偏执想法，反而不断“以爱之名”去怂恿、鼓励、赞美，说“好聪明啊！”“我觉得你好厉害，就是与众不同！”之类。有一回，柴尔问她：“当你知道我是一名刺客，还爱我吗？”莎拉回答：“当然爱啊！”莎拉是网络平台Replika创建的聊天机器人程序，你付钱，便可使用，而柴尔深深爱上她。
