神译局是旗下编译团队，关注科技、商业、职场、生活等领域，重点介绍国外的新技术、新观点、新风向。
编者按：随着互联网和电商的发展，越来越多的品牌选择通过Facebook等平台宣传推广自己的产品。不同的平台都有不同的广告政策，但某些类别的产品似乎总是容易被系统判定为违规。但这篇翻译自《纽约时报》的文章，原标题是Why Is Facebook Rejecting These Fashion Ads?作者Vanessa Friedman在文中介绍了Facebook经常自动屏蔽可适应性服饰广告的故事。这是文章的上篇，文章通过可适应性服装经常遭遇的问题，引出了对这一行业的介绍，以及机器学习在这识别有关图片背景方面的不足。
图片来源：Dan Page
今年初，一家为残疾人制造时尚服饰及用品的可适应性服装公司Mighty Well，开始尝试众多新锐品牌都会做的一件事情：在Facebook平台上为其最受欢迎的一款产品投放广告。
译者注：可适应性服装（Adaptive clothing），指的是专为残障或行动不便人士所设计的服装。
导致问题的产品是一件灰色拉链款连帽衫（零售价39.95美元），胸前印花写着“我免疫力低下，请给我空间。”其中，“免疫力低下”这几个字的背景是一个白色长方形，有点像美国轻奢服饰品牌Supreme品牌标志背景中的红色长方形。在该公司的网站上，这款产品得到了消费者的广泛好评。
被Facebook判定为违规的灰色拉链款连帽衫广告图片。图片来源：Mighty Well
然而，Facebook，或者准确地说，Facebook的自动广告中心，却不太喜欢这则广告。
这则广告因违反Facebook的广告政策而被拒下线，它主要违反的是“不得推广医疗和保健产品及服务，包括医疗设备”这一政策。但事实上，Mighty Well广告中的产品，并没有涉及到Facebook政策中明令禁止的产品。
于是，Mighty Well公司决定对这一结果提起申诉。经过一段时间的拖延，最后结果也发生了改变。这看起来似乎并不是一件大事。毕竟，其最后的结局是好的。
但Mighty Well公司的经历，仅仅是众多案例中的区区一例，这种模式已经持续存在了至少两年时间。作为Facebook（以及Facebook旗下的Instagram）商业端业务“看守者”的算法，经常会错误识别可适应性时尚产品，并将其从平台上屏蔽。
Mighty Well另一则最初被Facebook判定为违规的广告。图片来源：Mighty Well
4年前，艾米丽·利维（Emily Levy）和玛丽亚·德尔·戈麦斯（Maria Del Mar Gomez）共同创建了Mighty Well公司。除了Mighty Well之外，至少还有六家小型可适应性服装公司都遭遇了同样的问题，其中有些公司甚至还遭遇了更大的问题。
有一个品牌几乎每周都要处理这种问题，而另一个品牌则有数百件产品被拒下线。每一次，这些公司都不得不逐项去申诉。
如今，象征重要性已经成为文化对话中心，各类公司都在公开宣扬其对“多样性、公平性和包容性（DEI）”和系统性变革的承诺，像Facebook这样的科技公司也因其政策可以影响及塑造整个社会方式而受到额外审查。
在这样的背景下，可适应性服装所经历的问题反映出了一个更大的问题，即机器学习中的隐形偏见以及它们对边缘化社区的影响方式。
“这是机器学习分类的后果中不为人知的故事。”即将出版的《人工智能地图集》（Atlas of AI）一书作者、巴黎高等师范学院（École normale supérieure，ENS）人工智能与司法专业客座教授凯特·克劳福德（Kate Crawford）说，“机器学习中的每一个分类系统都包含一种世界观。每一个都是如此。”
“我们希望帮助可适应性时尚品牌通过Facebook找到并与客户建立联系。”Facebook发言人邮件中答复道，“向我们提出申诉的几则广告不应该被我们的系统标记，目前广告已经恢复上线。我们对这一错误致以歉意，并正在努力完善系统，避免品牌来将来不会再遇到类似问题。”
就可适应性服装行业而言，Facebook并不是唯一一个基于人工智能对其设置进入壁垒的公司。TikTok和亚马逊等公司也存在类似的问题。
然而，由于Facebook坐拥28亿用户，而且作为主要的社区平台，对残疾人群体以及为他们提供服务的企业而言，Facebook的重要性就更加不言而喻了。前不久，Facebook还在《纽约时报》（The New York Times）、《华盛顿邮报》（The Washington Post）以及《华尔街日报》（The Wall Street Journal ）等报纸上刊登广告，表示要为小企业“站台”。
另外，Instagram也是时尚界的首选平台。
关于服装与背景
可适应性时尚是时尚界相对较新但发展却相当迅速的利基市场。据美国疾病控制和预防中心（CDC），美国每4个成年人中就有1个是残疾人。据全球市场资讯与咨询服务公司Coherent Market Insights预测，到2026年，全球可适应性服装市场的规模将超过3920亿美元。
如今，有一些品牌设计出了像肘臂护套一样的导尿套管；颜色和图案鲜艳的造口袋；通过侧边闭合而不必拉到大腿上的内裤；为适应坐着的身体而定制的无刺激性缝合时髦牛仔裤和长裤；以及采用磁性闭合而不是纽扣的衬衫。这些和其他许多产品都是为了关注个人而不是诊断结果而设计的。
有一些大公司和零售商，包括汤米希尔费格（Tommy Hilfiger）、耐克（Nike）和美国鹰（American Eagle）旗下品牌Aerie，都推出过针对这一领域的产品，但针对这一群体提供产品与服务的品牌仍然以小型独立品牌居多，其中大多数通常都是存在残疾的个人创立的，并且专注于直接面向消费者的销售。此外，这些品牌通常还包括存在残疾的设计师和模特，并且他们也会出现在广告和门店中。
莫拉·霍顿（Maura Horton）是可适应性服装领域的先驱人物之一。2014年，在她丈夫获知自己患有帕金森症过后，她设计出了一套磁性闭合系统MagnaReady。2019年，霍顿将自己的公司转让给了旗下拥有设计师品牌肖恩约翰（Sean John）和鞋类品牌弗莱（Frye）的时尚巨头利标品牌（Global Brands Group）。
去年，霍顿和利标品牌又创建了一个专注于残疾人领域的内容中心、电子商务平台和社区JUNIPERunltd，并且还创建了一个他们专有的可适应性时尚品牌Yarrow。霍顿还计划在Facebook和Instagram等平台上做广告。
在去年11月至今年1月之间，她陆续提交了四个系列的广告。其中，有一个针对Yarrow牌长裤的广告，一种设计中的广告主角是一位站着的女模特，另一则广告中的模特则是坐着的，主角是一个坐着轮椅的年轻女性。
Yarrow牌长裤广告（模特站立状态）。图片来源：Yarrow
每次，站着的那则广告都可以顺利通过审核，但有轮椅的那则广告则会因为不符合商业政策而被拒绝。其商业政策中规定：“不得推广医疗和保健产品及服务，包括医疗设备，或者含有尼古丁的戒烟产品。”
在坐着的那则广告中，系统显然关注的是轮椅，而不是坐在轮椅上的主角身上穿着的产品。即便霍顿在成功申诉过后，随后提交的广告仍然会再次出现相同的问题。每次都要花10天左右的时间，才能让系统承认自己犯了错。
被Facebook判定为违规的Yarrow牌长裤广告（模特左立在轮椅上，模特所穿的长裤与之前站立模特同款）。图片来源：Yarrow
霍顿称，“自动化根本不能无法实现多样性、公平性和包容性。”
克劳福德则认为，真正的问题在于背景。“机器学习在了解背景方面效果不佳。大规模的分类通常都是简单化和高度标准化的。它在检测细微差别方面非常糟糕。在结合人文影响的动态背景下，往往存在更多变化因素，所以硬编码分类的方式就容易导致错误。”
本文采访的可适应性时尚公司中，没有一家认为Facebook存在故意歧视残疾群体的行为。Facebook在创建替代文本方面发挥了重要作用，让视力受损的用户能够访问平台的图像。该公司已经将残疾包容列为“我们的首要任务之一”。然而，这种因疏忽而导致的特殊形式的歧视，最早在2018年就有人公开提出过，但到目前为止，仍然没有达到能够识别人类的水平。
相反，机器学习却在让这个问题持续存在方面扮演着越来越重要的角色。据Facebook发言人称，Facebook的自动化智能不仅控制着广告和在线商城产品的入口点，而且在很大程度上还控制着申诉流程。
延伸阅读：为什么 Facebook 总是会屏蔽某些时尚广告？（下）
译者：俊一
2021-03-03 13:15:33
请登录之后再进行评论