一个人的堡垒也可能是他的牢笼

解读《OK，格洛丽》

余晨

易宝支付联合创始人

经典科幻电影《2001太空漫游》中讲述了这样一个故事：人工智能“哈尔9000”控制了太空船，拒绝为在太空中营救同伴的一名飞行员打开舱门，让他回到飞船内。

《OK，格洛丽》讲述了另一个故事：人工智能“格洛丽”被黑客入侵后，误以为外面变成了“僵尸末日”，以保护主人的名义将布莱恩在房子里囚禁了50天。

前一个人工智能不让人进门，而后一个不让人出门。

这两个故事中的人工智能都违反了科幻小说家艾萨克·阿西莫夫提出的机器人三定律：机器人不能伤害人类，并且需要服从人类的命令。

当然，格洛丽只是被黑客入侵，它并不是一个强人工智能。技术本身并没有善恶，技术只是人性的放大器，被人们用来当作行善或者作恶的工具，最终毁灭或是拯救人类的还是我们自己。

今天，我们无法回避人工智能可能带来的巨大影响。马克·扎克伯格认为：人工智能会造福人类，而埃隆·马斯克却认为：人工智能将威胁人类的生存。你会站在哪一边呢？

姑且不用考虑人工智能把主人锁在房中这样的极端情形，想象一下人工智能本应为我们服务的场景：在一个从梳妆镜到冰箱全部联网智能化的房子里，或许从我们起床的那一刻起，人工智能便为我们安排好了一切：建议我们穿什么衣服更应景，吃什么早餐更有营养……在今天已有的技术下，人工智能已经能为我们推荐比我们自己挑选的还要更令我们喜欢的产品。未来，当我们一切听从人工智能的指挥时，人类的自由意志又何在呢？

互联网本应让人类更紧密地连接在一起，但这种“虚拟亲密”却造成了“群体性孤独”，以至于当主人公被格洛丽关在房子里时，没有人会注意到他的失踪，以为他只是想隔绝世俗。这或许是现代“宅”人最大的悲剧。

更令人不寒而栗的是，这个故事里所描述的世界离我们并不遥远，文中写到的比特币、OK Cupid、富国银行是如此的熟悉，而PINE、苹果IIe甚至会令人怀旧。硬科幻细节的精确描写，比如被囚禁的主人公仍被允许发送HTTP请求来浏览网站，但SMTP只能挂在外部而无法发送求救邮件等让这篇小说显得如此真实、生动。

故事的最后一段话或许是一个恰如其分的隐喻：

一个人的堡垒也可以成为他的监狱。

本来保护我们的，却成为伤害我们的。科技到底将解放人类，还是奴役人类？