|
上周，微软发布了名为 Tay 的推特聊天机器人。然而不到 24 小时，Tay 就被用户们教成了一个种族和性别歧视者，频频大放厥词，导致研发团队不得不暂时中止项目，并在网上道歉。昨日（3 月 29 日），Tay 短暂回归推特，然而问题依旧——它不断发送夹杂着咒骂的短句，以至于微软再次紧急关停了账户。
Tay 不是第一个引发伦理与法律争议的机器人，可口可乐的 MeinCoke 与 IBM 的 Watson 都曾卷入过类似的困境。从这些困境中可以看到：数字空间中的机器，早就不是一堆中立的代码。 互联网其实是机器人网 过去的两三年，网络机器人（Bots）从一个极客嘴里的技术名词，成为了常出现在媒体头条的流行语。借助推特开放的平台属性，各种依靠程序自动发推的机器人大行其道。虽然由于审查和语言的区隔，关于社交机器人的讨论尚未扩散到国内，但借助微信上的微软小冰，大陆的用户们还是可以感受到人工智能焕发的独特幽默感（这种幽默感被认为是机器人性 Botness 的一部分）。 很多研究团队都对推特上的机器人数量进行过统计，综合各家数据，大约有 10-30%的推特账户是由机器人在掌控。而整个互联网场域中，一半以上的流量都不是来自真人，而是由各种机器人和爬虫贡献的。某种程度上，互联网也可以被称作机器人网（Bot net）。 虽然被统称为机器人，但每种程序都有着不同的制造目的，拥有独特的运行特点，也往往带来不同的社会政治后果。 一大部分的机器账户仅仅是为了提供各种各样的信息。自动转发新闻和灾害预警的账户早就不是新鲜事，提供古怪消息的机器人也不可尽数。有账户专门提供全世界各地网络摄像头拍摄的影像截图，有账户专门收集从美国国会 IP 进行的维基百科匿名修改，有的账户则抓取互联网时光机（Wayback Machine）数据库中的旧网页，呈现互联网早期的模样。 有些机器账户，则完全是作者的恶作剧。去年，一个叫 Hunter Scott 的码农花了大约九个月的时间，让自己编写的推特机器人自动参加了推特上的 16.5 万个 “转发获奖” 游戏，并获得了大约 1000 个奖项（尽管大部分奖品都极其无聊）。MIT 的一位博后 Bradley Hayes 则使用深度学习技术制造了@DeepDrumpf，一个模仿川普，还时不时回复 Ted Cruz 官推的机器人，目前已经收获了两万多粉丝，包括作家萨尔曼 · 拉什迪。 机器人的社会政治后果 机器人并不是只会发推和抽奖，而是会造成直接的社会政治后果。最著名的例子出现在 2014 年，瑞士艺术家组合 !Mediengruppe Bitnik 将一个程序机器人送入暗网空间。按照指令，这个叫做 Random Darknet Shopper 的程序会自动用每周 100 比特币的津贴在暗网的 Agora 市场上随机购物，并将购买到的物品放置在公共空间作为艺术展览的一部分。 2015 年 1 月，由于在暗网买到了 10 颗摇头丸，该机器人和展品在展览结束后被当地警方没收。经过艺术家的抗议，警方在四月归还了机器人，并给出了释放的理由：因为机器人的行为仅仅用于探索暗网，拥有者也并未利用摇头丸牟利，不构成违法。于是，这个机器人开展的行为艺术得以继续。近日，团队刚刚结束了他们在斯洛文尼亚首都卢布尔雅那的特展。 另外一个极端例子也发生在去年，一位荷兰的开发者 Van der Goot 被警方质询，原因是他名下的机器人发出了疑似死亡威胁的推文。在阿姆斯特丹一个时装展览的前夕，他的机器人突然对另一个机器人（是的你没看错，是另一个机器人）表示 “很想杀人”，而创造这句话的素材，来自于主人自己的推特账户。机器人通过一种算法，改编其他人的言论，推送出貌似符合逻辑的句子，却偶然实现了意想不到的效果。 所以，谁该为此负责？Van der Goot 本人没有制造威胁性的内容，微软也并没有鼓励纳粹主义，但在目前的争议框架下，机器的创造者们会背负额外的道德压力。不管怎样，是创造者决定了机器的代码，而代码，从来都是政治的一部分。 更积极的社会作用？ 以上的机器人行为大都是一种游戏式的 “创造性破坏”，其社会效果更多是间接出现的。很多设计者也希望网络机器人可以主动发挥更积极的社会作用。 在今年发表的一篇叫做《Botivist》的论文中，三位研究者直接设计出一种机器人来推动在线行动。在此之前，政治机器人已经被广泛用于国家层面的舆论操控。在墨西哥、土耳其，政府都曾经成功地用机器人组成的水军来干扰在线讨论。欧美的不少竞选团队则利用机器人来做线上推广，特别是在线宣传网络的搭建。相比之下，草根许多的社运组织，则鲜有利用机器人为自己的行动做宣传。 对此，研究者指出，利用类似的推广原理，机器人也可以成为促进社会动员的关键节点。研究者们构造了一个叫 Botivist 的机器人程序，它操一口地道的西班牙语，关注拉美国家的腐败问题。更重要的是，它可以自动检测到网络上在讨论相似议题的用户，然后发推号召他们齐力解决问题。研究者们发现 Botivist 确实可以让参与同一话题讨论的用户更快地找到彼此。Botivist 还会用不同的话语框架来讨论相似的问题，以测试什么样的内容可以更有效地激发行动。结果发现，当机器人用一种直接的，不那么像人类的说服口吻进行动员时，传播效果反而更好。 玩笑成了政治，文本成了炸弹 真人不再是数字空间唯一的行动者，机器正在以各种方式加入国家、公民与商业力量间的一片乱战。机器在数字空间的崛起，印证了技术哲学家布鲁诺·拉图尔对 “非人类行动者” 存在能动性（Non-human agency）的论述。有意思的是，推特上曾经还专门有一个拉图尔的机器人，自动发布作者英文著作中的句子，持续推送了好几年。这个账户最后一条推送是拉图尔 2013 年著作《存在模式研究》中的一句话：At this point, there is nothing left to do. 这句话被机器从语境中孤零零地提取出来，没有确定的含义，却收获了不少转发。这似乎象征了机器在数字空间的命运：虽然推特上的机器读不懂社会理论，它的不懂装懂却可以造成真实的社会影响。玩笑讲成了政治，游戏变成了行动，文本成为了炸弹。 Forelle, M., Howard, P., Monroy-Hernández, A., & Savage, S. (2015). Political Bots and the Manipulation of Public Opinion in Venezuela. arXiv:1507.07109 [physics]. Retrieved from http:///abs/1507.07109 文字编辑：方可成 微信编辑：邓哲远 图片编辑：王婧雯 |
|
|
