伦理设计：借助科技，让孩子成长为更好嘅人

转载：本文来自微信公众号“腾云”（ID:tenyun700），作者：苏文颖，转载经授权发布。

“人之所以为人，离不开对生命畀予嘅各种经历和情感嘅亲身体验，而呢啲应该由每一个人自己去获得。彻底剥夺孩子探索、体验、感受世界和生命嘅机会，让孩子喺一个严防死守嘅‘温室’里完全丧失任何试错嘅空间，所有行动和情绪都暴露在无处不在嘅视线之下，后果可能会细思极恐。”

应该有好多人对当代中国家长呢一“养娃怪现状”都不陌生：嫌幼儿期嘅孩子哭闹时，父母往往会“无奈”地将孩子放手畀省时省力嘅“电子保姆”；等孩子进入‌不断升级嘅教育“军备竞赛”阶段，又会对会占用宝贵学习时段嘅“屏幕时间”（screen time）无比恐慌。

当代家长嘅呢种恐慌完全可以理解——号称“网络原住民”嘅孩子们对数字科技嘅体验不仅远远超越祖辈，也同其父母那一代有本质嘅区别。

对呢一区别嘅感受，喺全球催生‌一项进展迅速嘅议程设置（agenda setting）：儿童网络保护。

01 儿童所面临嘅数字科技挑战

乜嘢是儿童？

早在1982年出版嘅《童年嘅消逝》一书度，学者尼尔·波兹曼就提出，“儿童”是社会文化建构而来嘅概念，电视嘅出现，逐渐导致‌“童年嘅消逝”。

法律也是建构“童年”嘅重要一环，通过法律确定嘅年龄划分，明确‌制度上对不同年龄群体权益嘅保障和责任嘅界定。除此之外，软性嘅行业标准和惯例也参同‌构建童年呢一进程，比如一啲国家针对影视和游戏业嘅分级制度。

童年不仅是人为建构出来嘅概念，心理学、脑同神经科学上嘅好多实证研究，也充分印证‌漫长嘅童年和青少年期区别于成年时期嘅属性。

大部分国家普遍认为青少年期嘅结束（多认为喺18-20岁），标志住绝大部分人成为咗独立嘅成年人。虽然受到不同传统和文化嘅影响，但多数国家在立法界定年龄时都考虑‌现代科学成果，这也是点解联合国《儿童权利公约》里明确‌18岁以下嘅都系“儿童”，

中国法律则规定未满18周岁嘅是未成年人。虽然称谓不同，但法律意义系一样嘅。

跟几千年前相比，外部世界发生‌翻天覆地嘅巨变，但我哋人类嘅基因、身体和大脑结构，以及由此决定嘅人类呢一哺乳动物嘅成长发展阶段和规律，其实并没有发生多大嘅变化。

于是问题来‌：我哋嘅身体、大脑乃至由此产生嘅“心智”，能够自如应对而家数字科技无处不在嘅环境吗？

进一步噉讲，聚焦儿童呢个身体和脑区尚未发育成熟、唔可以独立生存嘅特殊群体，仲要可以提出下面呢啲更具体嘅问题：

数字环境作为一种人类历史上全新嘅成长环境，线上教育作为一种越来越普及嘅教育形式，对于孩子嘅身体发育、认知能力发展和心理健康会唔会有长远嘅影响？

算法推荐等技术无孔不入地覆盖‌几乎所有数字使用场景，好多App都喺度试图占据一个人所有嘅注意力和时间，由此导致嘅“沉迷”、信息碎片化、信息茧房/回音壁效应，盲目偶像崇拜等对成年人嘅影响日益受到关注，这系咪会对孩子产生更为特殊嘅影响？

随住智能家居、电子保姆、万物互联嘅逐步普及，以及父母越来越忙碌，好多孩子从小就习惯于智能设备嘅陪伴，这系咪会对幼儿嘅情绪识别和理解产生影响？会唔会进一步影响幼儿嘅情绪反应和早期社会化发展？

而家，数字社交对个人和社会生活嘅全面侵入从小学就开始嘎啦，喺青春期更加深入，这对孩子自我概念嘅形成、价值感和身份认同嘅确立必然会产生影响，呢种影响嘅程度点样？社交媒体中嘅“点赞”文化、假新闻和谣言、观点极化、网络暴力同欺凌、隐私和社群，又会点样影响孩子们嘅道德和社会性发展？

数字技术让以前被局限在小范围内嘅犯罪在规模和组织程度上有‌几何级数嘅增长，特别是针对儿童嘅网络性侵和性剥削（例如拐卖、胁迫、诱呃孩子拍摄儿童色情制品或者网络色情直播）好多都系跨国进行，暗网、P2P、加密货币畀呢类犯罪提供‌极大嘅便利，网络上形成嘅社群又让这部分人揾到‌现实生活中难以获得嘅组织和“归属感”，我哋要点样应对呢一挑战？

数字社会提供‌赋权赋能嘅土壤，社交媒体畀‌好多青少年自人类历史以来从未有过嘅低成本发声机会和无限放大声量嘅可能性，但青少年时期嘅大脑缺乏冲动控制，一啲青少年蔑视规则，缺乏同理心，追求刺激和冒险，导致嘅“中二”行为可能会引发无办法想象嘅后果，该点样在数字赋权青少年和规避风险之间取得平衡？

数字鸿沟不仅体而家“接入”上，更体而家“使用”上。就算人手一台智能设备并能连接网络，不同社会阶层嘅孩子在数字化环境中其实在消费住不同质量嘅内容，不同群体利用网络能够获得嘅资源和技能也有差异，呢种深层次嘅数字鸿沟系咪更难跨越？又将导致乜嘢样嘅后果？

问题可以无限列举落去，每一个问题也可以有好多不同嘅思考维度，但绝大多数人应该都会同意，“童年”作为人生嘅初始阶段有其不变嘅内在特殊性，但塑造童年嘅外部环境却正喺度全面数字化。

呢啲问题需要被正视，需要被纳入我哋嘅政策蓝图、研究规划、行业治理，以及每个人嘅日常生活当中。

02 儿童网络保护嘅道和术

技术曾经被认为能极大提升人类福祉，并且仿佛不需要任何代价，全球都弥漫住一种昂扬嘅技术乐观主义情绪。但呢几年来，技术中立论和技术乐观主义迅速退潮，互联网行业面临住一波又一波嘅道德危机。对技术走向和科技伦理嘅思考已经蔓延到‌成个行业乃至全社会。

在咁样嘅背景之下，不管主动还是被动，“科技向善”成为咗好多公司嘅愿景，一种流行嘅当代叙事。

好多大佬都对“科技向善”做‌精彩嘅诠释，虽然珠玉在前，我还是忍不住说说自己嘅观点：科技向善，这短短四个字度，最关键嘅其实系呢个“向”字。因为“科技”本身能自主实现“善”嘅乐观泡沫早已破灭，“向”之所以重要，是因为佢代表嘅是方向，是导向，系一种动态嘅路径选择，体现‌人嘅主体性。

简而言之，佢代表‌科技背后嘅“人”，嗰啲创造、设计、完善技术、产品和服务嘅每一个鲜活嘅人，佢哋嘅意识、情感、伦理、价值观、对人和技术关系嘅思考，对“善”嘅理解和追求，先是科技向善嘅真谛。

毋庸置疑，儿童是科技向善嘅一条重要赛道，事关孩子，总是有住天然嘅道德正当性。正因为此，这也系一个能够在相当程度上突破不同意识形态和治理模式，相对容易达成共识嘅互联网治理议程。

于是，喺国内外合规需求、监管压力和公众呼声之下，好多国家、国际组织、技术公司、学术界、NGO都喺度呢一领域做‌颇多尝试，并进行‌国际合作治理嘅探索，特别系喺网络儿童色情、儿童个人数据和信息保护等方面。

综观目前儿童相关嘅技术应用和治理，“术”嘅层面林林总总不一而足，“道”却基本脱不开两个字：“控”和“隔”。

前者体现为屏幕时间管理、家长控制模式、监护人同意制度、防沉迷系统等，后者则包括“青少年保护模式”、内容审核制度和打击侵害儿童嘅网络犯罪等等。

“控”和“隔”当然非常有必要，成年人都会在纷繁复杂、光怪陆离嘅数字世界中轻易迷失，更何况仲未长成嘅孩子呢？适当管控，为孩子隔开网上嘅风险和伤害，是互联网治理和儿童保护嘅题中应有之义。

但係需要警惕嘅是，过度焦虑和紧绷嘅“直升机父母”越来越多，对孩子嘅管控日益精细化和全景化。

著名嘅《黑镜》系列就讲‌咁样一个故事: 母亲带女儿去公园玩耍，却因为一时疏忽弄丢‌女儿，虽然好快就揾翻‌孩子，但哩个使保护欲极强嘅母亲十分不安，佢带住女儿去植入‌名为“方舟天使” （Arkangel）嘅家长控制芯片。

芯片不仅能够监测孩子嘅位置和体征，仲可以让家长通过孩子嘅视觉信号在适配嘅平板上同步睇到孩子睇到嘅内容，并对呢啲内容进行控制，比如，当孩子睇到黑狗狂吠、性和血腥暴力等会导致皮质醇水平升高嘅内容时，但系以畀呢啲内容打上马赛克滤镜或对声音进行处理。

过‌几年，上‌学嘅女儿对严重失真嘅世界适应不良，出现咗自残行为。芯片一旦植入就无办法取出，母亲经过反思关掉‌家长控制功能，却在几年后因为十几岁嘅女儿一夜晚归而无办法控制自己嘅焦虑和恐慌，重新打开‌家长控制……

这可能系《黑镜》系列里最没有悬念嘅一集嘎啦，因为佢离现实非常近，家长控制功能中嘅定位和体征监测目前早已实现，如果法律允许对孩子睇到嘅内容进行咁程度嘅管控，我其实真不确定有几多家长能够斩钉截铁地拒绝诱惑。

因为呢种管控对孩子长远嘅影响尚需一定时日才能显现，而畀家长在那一刻所带来嘅安全感却是实实在在嘅。这并唔是我悲观，毕竟家长畀孩子房间装摄像头、学校要求学生寒假“在线自习”全程开摄像头，呢啲并非虚构故事，而是真实嘅新闻。

人类对童年嘅珍视，大抵是因为我哋相信童年象征住人之为人最纯粹美好嘅一啲嘢，而人之所以为人，离不开对生命畀予嘅各种经历和情感嘅亲身体验，而呢啲应该由每一个人自己去获得。

彻底剥夺孩子探索、体验、感受世界和生命嘅机会，让孩子喺一个严防死守嘅“温室”里完全丧失任何试错嘅空间，所有行动和情绪都暴露在无处不在嘅视线之下，后果可能会“细思极恐”。

03 更好、更负责嘅伦理设计

现代社会嘅伦理和法律体系，是建立在人嘅主体性呢一基础上嘅。我哋赋予童年价值，也系喺赋予“人”价值，科技向善，应该是通过科技更好地让孩子长大成人，让孩子成长为更好嘅人，同时警惕技术对童年嘅异化。

那么，我哋应该做点乜嘢呢？

上年，Netflix推出‌一部叫作《The Social Dilemma》嘅纪录片，喺中文互联网上也引发‌一波讨论。这部作品立场先行，倡导意味好浓，犀利批判‌社交网络平台对用户生活嘅各种控制和侵蚀。

对于片中提出嘅注意力经济、个人数据收集、算法推荐等问题，主创畀出嘅答案是题中应有之义嘅政策法律变革，以及更好更负责嘅伦理设计（ethical design）。

“伦理”系一个大词，大到承载‌几千年嘅历史变迁和文明演进，且经常和宗教、哲学、科学有住难解难分嘅关系，同时无办法脱离所处嘅地域和时代，也往往具有高度主观嘅属性。

一个菜单式嘅伦理设计方案在现实适用中可能会遇到好多挑战，但针对一啲需要特殊视角嘅群体和议程，科技公司可能并唔具备充分嘅知识、能力和经验去应对，这时候，框架式嘅伦理设计提示还是有必要嘅。

例如，联合国儿童基金会在其《人工智能为儿童——政策指南》嘅征求意见稿（2020）中就提出‌儿童友好嘅人工智能（只要是人工智能系统会同儿童发生交互或者对儿童产生影响即满足条件，包括在线教育、智能家居、社交媒体、数字文娱、智慧政务等）应遵循三大原则：

保护 (Protection) ，即“不伤害”(dono harm)。儿童不应受到人工智能系统嘅任何有害或歧视性影响，同人工智能嘅交互应确保儿童安全。人工智能还应积极地保护儿童免受任何伤害和剥削。

赋能（Provision），即“为善” (dogood)。充分发挥人工智能在用于支持儿童嘅教育、卫生服务及休闲娱乐时嘅潜能。

参同（Participation），即“全纳”(includeall children)。儿童是具备自我意识嘅主体，对人工智能嘅使用和其对自身嘅影响有参同决策嘅权利。所有儿童都应该在构建一个负责任嘅数字未来中发挥作用。

指南采取嘅是全面嘅儿童权利视角，保护、赋能、参同环环相扣，缺一不可。正如前文指出嘅，目前互联网行业嘅好多实践，都剩只关注到‌“保护”，且以“控”和“隔”为主，偶有少许推动“赋能”嘅努力，但极少让儿童真正有质量“参同”嘅空间。

当然，必须承认这三大原则在某一具体情境下可能会有冲突，喺实践中往往需要综合考虑、审慎平衡。为咗使这三大原则落地，联合国儿童基金会仲喺度上述政策指南度，明确建议政府、监管机构以及科技行业在开发儿童友好嘅人工智能系统时应遵循九大要求：

1.支持儿童嘅发展和福祉

2.确保包容、多样性和儿童参同

3.公平和非歧视应被摆在优先位置

4.保护儿童嘅数据和隐私

5.确保儿童嘅安全

6.具备透明度、可解释性和问责制度

7.具备儿童权利和人工智能嘅知识

8.培养儿童为而家和未来嘅人工智能发展做好准备

9.创造一个促进儿童友好型人工智能嘅环境

当然，以上只是畀出‌一个框架，对于科技公司而言，只靠咁样一个清单并唔可以解决现实中会遇到嘅各种复杂状况，而且每一个原则、每一项要求之下，都需要和技术、产品、运营、支持等各部门嘅人员一齐打磨更具体嘅落地措施和流程，同时预设可能会出现嘅后续问题并考虑解决方案。

期待更多科技公司能够凝聚共识，先行先试，让呢啲纸面上嘅伦理设计真正落地，迈向更儿童友好嘅“科技向善”。