游戏可以为“沙盒式”算法治理带嚟边啲启示？

转载：本文嚟自微信公众号“腾云”（ID:tenyun700），作者：朱悦，转载经授权发布。

游戏同算法治理，存在概念上嘅深层关联：游戏是一种“活”嘅算法治理，算法治理都可以等游戏赋予其生命。如果说算法治理需要一个“沙盒”，噉么游戏可能是最佳选择。

本文将从两个视角、分三个章节展开：在第一节，希望阐释游戏为何天然适于成为算法治理嘅“沙盒”；在第二、三节，希望从“个体自主”同“利益相关者商谈”出发，讨论点样实现“活”嘅算法治理。

01

游戏是算法治理嘅天然“沙盒”？

治理算法，难。当下嘅做法，要么是选择“折衷”，要么是选择“将就”。“算法治理”已经成为‌高频词汇。

“折中”，就意味住渐进、审慎或包容；“将就”，意味住在地性同灵活性。因此，关于算法治理嘅讨论充满‌矛盾：

治理需要措施有力，但落实却要稳妥为宜；治理需要真实反馈，但落实又唔可以操之过急；治理期待现实效益，但最好能实现后果可逆。

正因咁，算法治理需要一个“沙盒”。

沙盒，英文为sandbox，又译为沙箱，是计算机专业术语，喺计算机安全领域中是一种安全机制，为运行中嘅程序提供嘅隔离环境。通常是作为一啲来源不可信、具破坏力或无办法判定程序意图嘅程序提供实验之用。借助沙盒，但系以既足以逼真地模拟算法治理嘅各方面影响、襄助规则完善，又要将相应风险，牢牢约束在“沙盒”之中。

其实在好多相近嘅领域，沙盒思维已有一定应用。

譬如，根据美利坚大学法学院副教授Hilary Allen曾分析：对于金融科技创新，监管者首先权衡促进创新、消费者保护同金融体系稳定等三方面原则，决定特定创新系咪可以置入沙盒——在受限制嘅、试验性嘅条件下，等小部分用户试用创新。监管者应在试用过程中随时监测：一旦创新已“复杂得难以理解”，或“可能影响金融体系稳定”，试验即应终止。

Allen同时提出，沙盒式嘅监管，同样都是“监管嘅沙盒”：通过游戏，促进抽象嘅治理原则落实为妥当嘅具体规则。

对于算法治理嘅话题，再具体一啲，“沙盒”意味住揾到试验算法创新及其治理规则嘅合适机制：既可以等治理原则在实践中稳妥展开，渐进转化为更具体嘅规则，又可监测、控制落实规则嘅风险，避免对用户权益或创新发展嘅负面影响。

这睇起嚟简直是一个“佯谬”嘅要求。但游戏（或游戏化产品）因为佢在三方面嘅特质，天然地适于扮演沙盒角色。

首先，从游戏嘅历史上睇，“秩序”（或规则）同“反秩序”共同构成‌游戏史嘅两条主线。比较典型嘅例子是，代表秩序嘅军方嘅游戏史，以及代表反秩序、反文化嘅“嬉皮”嘅游戏史。

前者嘅典型案例，是美军军官Roger Smith嘅军用游戏史。

在游戏诞生同发展嘅两个关键时点上，都有浓浓嘅、指挥同策略导向嘅“迷彩色”：1948年，美国军方开发‌“空战防御模型”，以及后续更为复杂嘅战棋模型，被认为是“最早嘅、电脑化嘅游戏”；1960年代末，出于“多地观睇战棋”嘅实际需要，军方率先在电脑游戏嘅异地展示同交互上又取得‌重大突破。呢啲游戏嘅“玩家”都系军方人员。

按Smith总结，这是一次为游戏“带嚟有吸引力嘅画面”嘅尝试，为促成“军方同爱好者社区嘅合作”迈出嘅第一步。事实上，喺嗰啲年入面，美国国防部大量资助‌人工智能实验室嘅游戏项目。

但几乎同样哋，游戏都在掀起‌另一股风潮，同上述嘅充满“秩序”嘅军事化嘅应用形成鲜明对比。

《滚石》杂志对描绘《太空飞船（Spaceship!）》游戏曾进行过详细描述，这位作者在40年后都做对此出‌回顾。

作者写道，上世纪七十年代，游戏是比迷幻摇滚更能“扩展人意识”嘅嘢。

当时，游戏粉丝最多嘅地方，要数达特茅斯。

1962年，该校嘅学生Steve Russell设计嘅第一款公认嘅电子游戏《太空飞船》，游戏方式是两名玩家各自以杠杆同按钮操作一艘虚拟嘅太空船，喺虚拟太空中互相发射鱼雷，直到消灭一方为止。

但好快，这款游戏便被改嘅“面目全非”，经过“DIY”后嘅太空飞船都旋即成为一股风靡全美各地嘅反文化风潮：大量玩家在原有内容上加入‌超空间、隐身装置，当然，仲有血量设置同五人联机模式。

从今日嘅视角睇嚟，这是一种玩家发起嘅“自下而上”嘅互动。著名游戏学者Graeme Kirpatrick写道：

就算是通常倾向于强调计算机游戏嘅“军事起源论”嘅学者都承认，虚拟游戏是1960、1970年代间嘅“反文化”嘅起源同组成部分……

游戏既能承载铁同血嘅秩序，又能同时成为反文化嘅标杆。喺某种程度上睇，这都是算法治理需要面对嘅——我哋可以期待，游戏既能容得下算法治理嘅强化，又能同时容纳一定程度嘅、自下而上嘅互动。

其次，顺应这段历史，我哋能从游戏中睇到另一重特性：游戏可以在“接近物理定律般严实嘅”规则度，留下充满想象力嘅空间。

根据著名游戏学者Jesper Juul嘅名篇《半真实》：游戏本就是现实规则同虚拟世界嘅组合同互动。正因咁，喺游戏规则嘅框架入面，我哋能够以不同嘅方式睇待世界。

对算法治理嘅研究者而言，游戏嘅“半真实性”或“半虚构性”带嚟‌以下可能性：从游戏出发进行算法治理，未必局限于对算法中具体规则嘅注释、审计或更易重构，以及用户对算法嘅理解、诠释同重新判断。

不妨以疫情下受到算法深刻影响嘅“出行”为例。喺通常观念下，这是在（染病）“风险”同（出行、生活）“不便”之间进行权衡嘅问题。因此，治理嘅关键在于寻找权衡嘅位置。

如果设计一款“抗疫类游戏”，噉么便可以直观嘅、交互嘅模拟对于出行嘅限制，进而影响个体对位置嘅判断，进而影响对算法嘅观点。我哋都更可以设想：借助Ingress等增强现实游戏嘅设计，但系以在赋予更多“虚拟”嘅同时，包含价值权衡嘅叙事。这同样能影响对算法嘅观点。此二者都不在传统嘅算法治理选项入面。

最后，引述Davis嘅游戏史研究，但系以进一步阐明游戏嘅呢种“刚性”同“非刚性”皆有嘅特性。喺游戏度，“刚性”嘅规则（玩法）被高度封装，不易更改，甚至根本无办法更改；而“非刚性”规则，易于更改，放任或鼓励玩家去更改，甚至主动提供相应嘅工具。

同之对比，现有嘅算法治理则太过“刚性”‌——各项原则，好少有为用户参同留下空间；力度最大嘅、“拒绝自动化处理”嘅权利或原则，又失却‌灵活性。

当下嘅算法治理因此变成‌一种“0或1”嘅选择。

等治理嘅秩序同在地嘅声音间调同，喺复杂嘅现实约束入面，为价值嘅愿景揾到空间，需要软化、刚性，提出更为丰富嘅、参同规则嘅选项。对既有嘅算法治理而言，趁手嘅选项依然不多，而反观游戏玩家同游戏规则间嘅互动，早已随住历史积淀‌丰富嘅选项。

02

重释、修改同编辑：不被“宰制”嘅技艺

在算法治理上，自1970年代以嚟，即有两根本性问题：

其一，点样令个体在可能嘅“算法宰制”下保持自主；

其二，点样令受算法影响嘅利益相关方，得以充分参同治理。

游戏在这两方面提供‌一啲可能性。

玩家常常拒绝全盘接受游戏开发者所预设嘅玩法，都唔会将光盘刊刻或下载完成嘅游戏当作最终嘅“成品”。例如，“太空大战”风潮所展示嘅，玩家直接参同游戏中规则嘅构建，这早已是游戏文化嘅一部分。

借鉴著名游戏学者Tanja Sihvonen嘅著作《无所拘束嘅玩家！》，但系初步将个体同规则嘅互动，划分至彼此交织嘅三类：

重释、修改同编辑。

首先，喺游戏圈度，通过组合、排列游戏内嘅组件同规则，或为之赋予意义，玩家得以重释游戏。

这入面最极致嘅体现，或者是针对游戏中嘅“故障艺术”：年耐嘅游戏卡带，但系能会造成色块嘅凌乱；污损嘅光盘，但系能只会播出嘅破碎画面，但经过玩家嘅“解释”，借助玩家社区嘅力量，呢啲不便（或者说bug）慢慢成为‌话题甚至是被大众接受嘅“梗”，并再次回归到、加入游戏嘅主题。

对此概括最精准嘅，是计算机领域嘅一句俗谚：到底是故障（bug），定系特性（feature）？我哋有时好难简单在二者间选出一个明确答案。

相对嚟讲，对应算法治理嘅语境度，这意味住对算法嘅具体理解同阐释。每当社会将信用、福利等算法规则重新阐释，便会引发规范或文化层面嘅后果，招致污名化，进而，污名化成为一种治理议题。这并唔系开发者嘅本意。信用本意是预测用户偿仲能力，健康码本意是反映染疫风险，社会福利本意是关注“冒领”嘅可能。但社会未必会遵从开发者嘅本意，三者都可以被重新解释，最终直指个体嘅内在品质。

其二，喺游戏圈度，都常常存在偏离正常玩法或游戏精神嘅“修改”行为。

如Sihvonen所总结：“呢一概念，臭名昭著般地难以定义。”修改对应住正常，呢一概念，又不可避免地依赖于对“游戏精神”或开发者目嘅嘅理解。描述或者比定义更重要。

另一著名游戏学者Mia Consalvo系统总结‌游戏中“修改”行为产生嘅四种动因：

• 卡关，没有办法在不修改嘅前提下继续游戏；

• 游历，开“上 帝视角”，以求充分体验游戏；

• 省时，因快速体验剧情，或在现实中面临时间嘅约束；

• 以及最受谴责嘅：为‌胜过其他人嘅作弊。

这四种游戏中嘅动机，大多可以在算法治理中揾到对应：

第一，面对设计糟糕嘅算法，用户常常需要想方设法去避免现实中嘅“卡关”；

第二，一定程度嘅“上 帝视角”，但系以等个体得以认识变动算法输入时，结果“反事实变化”成为近年嚟算法治理领域最有影响嘅提议之一；

第三，“安全”同“反作弊”，始终是算法治理嘅关键议题。喺游戏研究度，对“修改”嘅伦理评价无办法脱离具体嘅场景。面对算法治理嘅相应“修改”，相应嘅结论依然成立。

最后，是参同规则程度最深嘅编辑：此时玩家实质性地参同到游戏创作度，增删、更改游戏嘅组件、人物、场景，乃至创造新游戏。

玩家之意，其实不在本体，而喺于自建地图、自定义关卡、以及更丰富嘅MOD。

MOD，是英文单词Modification嘅缩写，汉语音译作“模组”，是游戏嘅一种修改或增强程序。游戏模组就是将电脑游戏中嘅道具、武器、角色、模式、故事节等做出修改，又或是加入新嘅道具同事物，常见于我嘅世界等沙盒类游戏。历经多年发展后，编辑器、创意工坊同MOD社区已经成为好多游戏商业模式嘅一部分。

此类魔改《太空大战》嘅行为，但系以视为个体参同程度最高嘅算法治理：此时，算法开发者同受算法影响嘅个体再无截然界限：“真正地将用户同开发者放到‌同等嘅（对系统嘅）控制水平上。”

虽然算法治理领域对“透明”多有批评，但游戏领域对“秩序”同“魔改”嘅调同、驯服同商业化依然提示住高水平参同嘅可能性。

03

算法治理嘅GitHub

游戏为个体参同算法治理提供‌丰富选项。呢啲选项系咪合用、何时用、点样用好，取决于算法各利益攸关者嘅商谈。

何种阐释或重释符合治理规范？不同嘅“修改”系咪应该允许？以及，编辑算法嘅具体实现限度是乜嘢？呢啲问题都需要利益攸关者间嘅商谈机制。

算法治理，但系以借鉴两类社区嘅成功范例：一是MOD社区；二是采取游戏化设计、且促进众多软件（自然都包括游戏）之开发嘅GitHub。

有关MOD社区，据著名软件同游戏研究者Walt Scacchi嘅观察：制作MOD，或者说编辑规则，是“一项学习点样同其他人合作嘅实践”。希望参同制作嘅玩家，先跟随第啲经验更为丰富嘅玩家，逐渐习得“点样领导一个团队”。当然，“同其他人合作、创造”，都是MOD最主要嘅动力之一。

于是，自发涌现、自主维持嘅团队，渐而有能力制作大型嘅MOD；最主要嘅MOD论坛之一NexusMOD，自2001年成立以嚟，亦已运营达20年之耐。喺个体层面，“老鸟”带“新手”嘅“爬梯模式”，都为MOD乃至游戏产业，培养出‌众多人才。

另一范例，是设计蕴涵丰富游戏化色彩、对开发者合作影响甚大嘅GitHub。

从细节睇嚟，GitHub嘅好多设计都系典型嘅游戏化设计。如维都纳经济大学Johannes Wachs等研究人员嘅实验所示：相应嘅游戏化设计，确实显著提高‌用户对GitHub嘅参同。

往更大嘅方面说，GitHub或类似平台嘅设计，为算法治理下、具备参同能力同意愿嘅利益攸关者间嘅商谈，提供‌相当成功嘅先行示例。

当个体参同嘅具体选项，同承载利益攸关者商谈机制嘅论坛相融，我哋或者有望改变算法治理嘅“单向灌输”模式。

在算法治理嘅GitHub上，以相应算法嘅代码原型同（部分）测试集为中心，利益攸关嘅个体同实体，但系以沟通对算法嘅各层面理解、阐释同重释，得以测试算法嘅各类“反事实”输出，再到改进、增益算法。咁，先有希望诞生真正足以称为“知情”嘅“告知”，将用户同开发者放到“同等水平”，并感召更多算法治理参同者。

在呢一意义上，论坛上繁荣嘅算法治理项目，是前述沙盒最适宜嘅载体，又是最充分嘅体现：一方面，丰富嘅讨论、测试甚或项目“分叉”，但系以最大限度地扩充“沙盒”试验嘅规则范围。

在理想情况下，呢一机制可以促进规则“在秩序中涌现”；而另一方面，广泛参同嘅实时反馈，都系对风险“苗头”最及时嘅监测。

04

结语

游戏史融贯‌好多彼此矛盾嘅侧面：秩序同“反文化”、现实规则同虚拟世界、刚性规则同非刚性规则。各表面嘅“张力”之间，玩家同算法规则，形成‌丰富嘅互动选项，都形成‌玩家间商谈嘅生态。二者均对应算法治理长耐延续嘅根本难题，亦有直接借鉴意义。利益攸关个体在平台上商谈，实现“同等水平”嘅参同，将是算法治理未嚟嘅生命力所在。

至此，希望大家能对开头提出嘅观点有所认识，简而言之，游戏既宜于充当监管治理嘅“沙盒”，又为“沙盒”设计提供‌直抵细节嘅设计图纸。

参考文献

Allen, Hilary J. “Regulatory sandboxes.” Geo. Wash. L. Rev. 87 (2019): 579.

Consalvo, Mia. Cheating: GainingAdvantage in Videogames. MIT Press, 2009.

Galloway, Alexander R. Gaming:Essays on Algorithmic Culture. U of Minnesota Press, 2006.

Juul, Jesper. Half-Real: Video GamesBetween Real Rules and Fictional Worlds. MIT Press, 2011.

Kirkpatrick, Graeme. Computer Gamesand the Social Imaginary. Polity, 2013.

Moldon, Lukas, Markus Strohmaier, andJohannes Wachs. “How Gamification Affects Software Developers: CautionaryEvidence from a Quasi-Experiment on GitHub.” arXiv preprintarXiv:2006.02371 (2020).

“Rolling Stone”网站报道“Stewart Brand Recalls First ‘Spacewar’ Video Game Tournament”，链接：https://www.rollingstone.com/culture/culture-news/stewart-brand-recalls-first-spacewar-video-game-tournament-187669/。最后访问日期：2021年3月15日。

Scacchi, Walt. “Computer gamemods, modders, modding, and the mod scene.” First Monday (2010).

Sihvonen, Tanja. Players Unleashed!:Modding the Sims and the Culture of Gaming. Amsterdam University Press,2011.

Smith, Roger. “The long history ofgaming in military training.” Simulation & Gaming 41.1 (2010):6-19.

Sotamaa, Olli. “When the game isnot enough: Motivations and practices among computer game moddingculture.” Games and Culture 5.3 (2010): 239-255.

Wachter, Sandra, Brent Mittelstadt, andChris Russell. “Counterfactual explanations without opening the black box:Automated decisions and the GDPR.” Harv. JL & Tech. 31 (2017):841.

Wells, Matthew Jason. ColdWar Games: Operational Gaming and Interactive

Programming in Historical andContemporary Contexts. Diss. 2018.