“聊天机器人”（chatbots）并没有什么新鲜的：它们能够用自然语言对话，理解用户的基本意图，根据预设规则和数据提供回应。但是，近几个月来，这类聊天机器人的能力得到了极大的增强，导致许多圈子里都出现了担忧和恐慌。
关于聊天机器人可能会导致传统学生论文（essay）终结的话，已经说了很多。但是，一个更值得关注的问题是，当人类对话者使用侵略性、性别歧视或种族歧视的言辞，促使机器人展现自己满嘴脏话的幻想作为回应时，聊天机器人应该如何回复？人工智能是否应该被编程，使其回答与对方提出的问题处于同一水准线上？
如果我们决定需要采取某种形式的管控，我们必须确定审查应该进行到何种程度。一些群体认为“有攻击性”的政治立场会被禁止吗？呼吁与约旦河西岸的巴勒斯坦人团结在一起，或者声称以色列是种族隔离国家（美国前总统吉米·卡特曾将这个说法写进一本书的标题）呢？它们会被视为“反犹”言论而遭屏蔽吗？
问题并没有在这里结束。正如艺术家和作家詹姆斯·布里德尔（James Bridle）所警告的，新的人工智能“基于对现有文化的大规模挪用”，相信它们“真的有知识或有意义是非常危险的”。因此，我们也应该非常警惕新的人工智能图像生成器。布里德尔观察到，“在试图理解和复制人类视觉文化整体的过程中，[它们]似乎也再造了我们最晦暗的恐惧（fears）。也许这只是一个迹象，表明这些系统在模仿人类意识方面非常出色，甚至可以深入到潜伏在存在（existence）的深处的惊怖（horror）：我们对于肮脏、死亡和腐败的恐惧。”
但新的人工智能在模拟人类意识方面究竟有多好呢？最近有家酒吧用下面的话宣传一款特价饮料：“花两杯的价格买一杯啤酒，免费获赠第二杯！”对任何人类的一员来说，这显然是个笑话。经典的“买一送一”特价口号被重新设计，从而自我取消。这种玩世不恭的表达会被人称赞为滑稽的诚实，一切的一切还是为了促进销售。聊天机器人能理解其中的含义吗？
“Fuck”也提出了一个类似的难题。尽管它指向的是大多数人都喜欢做的事情（性交），但它也经常带有消极意味（“我们完蛋了！”[We’re fucked!]“去你的吧！”[Go fuck yourself!]）。语言和现实是混乱的。人工智能是否已经准备好去辨别这些差异？
德国诗人海因里希·冯·克莱斯（Heinrich von Kleist）在他1805年的文章《论在言语过程中思想的逐渐形成》（On the Gradual Formation of Thoughts in the Process of Speech，该文首次发表于克莱斯去世后的1878年）中，颠覆了以下常识：一个人在没有清楚要说什么之前，不应该张开嘴巴说话。他写道：“如果一个想法表达得很模糊，那并不意味着这个想法在构思时就是混乱的。相反，很可能那些表达得最令人困惑的观念，正是那些思考得最清晰的。”
语言与思想之间的关系非常复杂。斯大林在1930年代初的一次演讲中，提出了许多激进措施，用来“发现并毫不留情地打击那些仅在思想上反对集体化的人——是的，我是这个意思，我们应该打击人们的思想”。我们可以肯定地认为，这不是事先准备好的话。在被当时的现场氛围感染后，斯大林立刻意识到他刚才说了什么。但是，他没有收回自己的话，而是决定坚持他的夸张说法。
正如雅克·拉康后来所说，这是一个真理在表述（enunciation）行为中意外显现的例子。路易·阿尔都塞在捕获（prise）和惊讶（surprise）之间的互动中发现了类似的现象。一个突然抓住（“捕获”）某个想法的人会对她所完成的事感到惊讶。我再问一次，有任何聊天机器人能做到这点吗？
问题不在于聊天机器人很笨，问题在于它们不够“笨”。问题不在于它们天真（缺乏讽刺和反思），问题在于它们不够天真（不理解天真掩盖着敏锐）。因此，真正的危险不是人们会把聊天机器人误认为是真人，而是与聊天机器人交流会让真人说话像聊天机器人一样——丢失掉所有的细微差别和讽刺，痴迷于准确地说出自己想说的话。
我年轻的时候，有个朋友在一次创伤性经历后去一位精神分析师那接受治疗。这位朋友对于分析师对患者的期待有一种陈腐的看法，所以他在第一次治疗时表演了一些虚假的“自由联想”，谈论他如何憎恨他的父亲，希望父亲死去。分析师的反应非常巧妙：他采取了一种天真的“前弗洛伊德”立场，指责我的朋友不尊重他的父亲（“你怎么能这样谈论让你成为你的那个人？”）。这种假装的天真传达了一个明确的信息：我不相信你的虚假“联想”。聊天机器人能理解这种潜台词吗？
很可能不能，因为这就像罗文·威廉姆斯（Rowan Williams）对陀思妥耶夫斯基《白痴》里的梅什金公爵的解读。根据标准的解读，“白痴”梅什金，是一个圣洁的、“极其善良美好的人”，他因现实世界的残酷和激情而被迫陷入孤立的疯狂状态。但在威廉姆斯激进的重读中，梅什金代表着风暴之眼：尽管他是善良圣洁的，但鉴于他在围绕着他的复杂关系网络中的角色，正是他触发了他所目睹的浩劫和死亡。
问题不仅仅在于梅什金是一个天真的傻瓜，问题在于他特有的愚钝让他无法意识到他对他人的灾难性影响。他是一个说话像聊天机器人一样的扁平的人。他的“好”在于，他像聊天机器人一样，不带讽刺地应对挑战，提供毫无反思的陈词滥调，从字面上理解一切，依赖心智的自动完成（mental auto-complete）而非真正的思想形成（authentic idea-formation）。因此，新的聊天机器人将与各种意识形态拥趸（ideologues）相处得非常好，从今天的“觉醒”（woke）群体到宁愿继续沉睡的“让美国再次伟大”（MAGA）民族主义者。
0 留言