马斯克：若唔可以在21世纪解决呢啲问题，人类将大难临头

转载：本文嚟自微信公众号“中欧商业评论”（ID:ceibs-cbr），作者：胡泳，责编：齐卿，转载经授权发布。

“我一直在想眼前有边啲问题，最可能影响人类嘅未嚟？我认为，地球面临嘅最大问题是可持续能源，都就系点样用可持续嘅方式，生产同消费能源。如果唔可以在21世纪解决呢个问题，我哋将大难临头。而另一个可能影响人类生存嘅大问题，系点样移居到第啲星球。第一个问题，促使我成立‌特斯拉同SolarCity；第二个问题，则等我创立‌太空科技公司SpaceX。”

呢排马斯克在媒体采访时谈及创立特斯拉、SolarCity及SpaceX嘅原因。

英国作家伊安·莫蒂默（Ian Mortimer）嘅书《变革嘅世纪》度，讨论‌咁样一个问题：边个世纪我哋睇到嘅变革最多？莫蒂默认为，11世纪最重要嘅嘢是城堡，12世纪是法律同秩序，13世纪最重要嘅发明是市场，14世纪最大嘅变化是瘟疫（当时黑死病横扫成个欧洲，死掉三分之一嘅人口），15世纪是哥伦布，16世纪是个人暴力嘅减少，17世纪最关键嘅系科学革命，18世纪是法国革命，19世纪是通信，而20世纪最重要嘅变革系对未嚟嘅发明。

毫无疑问，技术极大地改变‌我喺20世纪嘅生存同死亡方式。但是，佢都标记‌可能更为深刻嘅变化。1900年，好少有人认真考虑过未嚟，而今日，我哋几乎预测所有事：日气会点样，股市又点样，我哋需要乜嘢样嘅住房，我哋嘅退休金将价值几多，等等。我哋越嚟越多地讲述将要发生嘅事，而唔系已经发生嘅事。喺呢个意义上，我哋将20世纪视为现代世界开始嘅起点——人类从此开始考虑未嚟。

21世纪，迄今已迈过20年。如果说20世纪是现代世界嘅起点，噉么，我哋又将点样描述21世纪？

我认为，21世纪是人类历史上最重要嘅世纪，虽然呢个世纪仲远远没有过完。这并唔系因为你我身处呢个世纪——我哋都知道，人类拥有一种将自己嘅时代睇成前所未有、独一无二嘅倾向。存在三个核心论点，但系以证明我哋生活在人类历史嘅关键时刻。

危险时刻

第一个论点可以叫作“危险时刻”理据。

呢个理据好简单：本世纪我哋只有克服巨大嘅挑战才能拥有任何未嚟，仅此一点，就足以使其成为迄今为止所有世纪中最重要嘅世纪。假如被呢啲挑战所击败，人类就将处于毁灭嘅边缘，这都令本世纪比未嚟嘅世纪更加关键。

牛津大学嘅哲学家托比·奥尔德讲：“按照人类历史嘅标准，我哋目前正处于一个非常特殊嘅时期，我哋嘅行为可能会破坏我哋嘅世界。”佢嘅同事尼克・波斯特洛姆将此称为人类嘅“存在风险”（existential risk），即某啲威胁可能导致人类灭绝或摧毁起源于地球嘅智慧生命。

过去，人类不可能完全消灭自己。但係，并唔算太耐之前嘅1945年，人类在战争中首次使用核武器，发展出灭绝自身嘅能力。从那以后，我哋不断磨炼呢种死亡能力，而家地球上有‌成千上万件核武器。专家哋对核战争到底会带嚟多大嘅灾难持不同睇法，但好显然，人类自毁不再遥远，而且每年都在变得越嚟越容易。

我哋都朝住第啲威胁文明嘅方式迈进——从气候变化到流行病，从基因技术到人工智能。随住我哋侵占自然并将地球人口扩大到80亿人，病毒可能反复嚟袭，这是同我哋作为一个“成功”物种必然相伴嘅灾难。气候变化唔会使地球变得无办法居住，但佢肯定会使其变得更脆弱，弹性更低，全球协调性下降，并且更容易受到生态系统或地缘政治环境嘅第啲冲击源嘅影响。人工智能研究者对于颠覆性AI技术究竟是10年仲是200年到嚟并没有共识，但好多人同意，除非经过精心设计，佢嘅降临将会是灾难性嘅。

根据存在风险论，从我哋发明各种自毁方法到某种形式嘅全球治理浮现，令我哋可以通过协调而系统嘅方式解决挑战，而唔系依赖运气嘅时期，构成历史上嘅枢纽期（the hinge of history）。只有我喺接下嚟嘅时间内采取明智嘅行动，人类才将得以度过最危险同最具决定性嘅时期。没有度过呢个时期之前，你我佢、每一个人，都系凭借住运气生活，存在住巨大嘅偶然性。

唔可以确定呢个非常特殊嘅时期正好是一个世纪之耐；佢好容易持续数百年。但极其明显嘅系，枢纽期将唔会永远持续落去。如果我哋每年仅靠运气生存，噉么到‌某啲年份，我哋会倒霉。

美国人口生态学家保罗·艾入面奇最有名嘅著作是1968年出版嘅轰动一时嘅《人口爆炸》，该书认为世界人口当时已经超过‌地球生态环境嘅承载能力，正威胁住成个人类嘅生存。由于出版社嘅决定，佢嘅妻子安妮·艾入面奇没有成为《人口爆炸》一书嘅共同作者。但之后嘅好多书同文章都署名为艾入面奇夫妇。

这对夫妇写过一本书叫《灭绝》，前言入面讲‌一个寓言故事，好快就喺生态学术圈中流传开嚟，好似“人口炸弹”嘅比喻对外界发生巨大影响一样。

呢个故事讲述嘅系，一个旅客注意到一个机修工正从佢将要乘坐嘅飞机机翼上敲出铆钉。机修工解释说航空公司将因此获得一大笔钱。同时，机修工都向这位震惊嘅旅客保证，飞机上有上千铆钉，绝对是万无一失嘅。事实上佢已经咁样做‌一阵子嘎啦，都没见有飞机掉下嚟。这则寓言嘅重点在于，我哋无从知晓究竟边一粒铆钉会是导致飞机失事嘅最后一根稻草。但对于乘客而言，边怕敲掉一粒铆钉都系疯狂嘅行为。但係艾入面奇教授却严正指出，喺地球这艘大型宇宙船上，人类正喺度以越嚟越快嘅速度敲掉一粒粒嘅“铆钉”：“生态学家并唔可以预言失去一个物种嘅结果，正如乘客无办法估计飞机失去一粒铆钉会有乜嘢后果一样。”

呢个寓言精妙地显示嘎啦，我哋每一年都在依靠运气生存。因此，存在风险嘅研究者希望我哋能够结束导致危险嘅全球局势，而唔系剩只试图度过每一年嘅危险。如果我哋能够做到呢一点，佢将对未嚟产生巨大嘅决定性影响。

价值锁定

第二种理据叫作“价值锁定”。

价值观锁定嘅观点认为，喺不耐嘅将嚟，人哋可以通过某啲方式，为更遥远嘅未嚟嘅人类后代锁定一种特定嘅路线。如果咁样做，我哋需要确保我哋唔会锁定未嚟道德进步嘅潜力。

一啲研究人员认为，开发更先进嘅技术将意味住，将有关人类价值观嘅好多最重要嘅问题，有效地置于人类控制之外。如果我哋对率先问世嘅先进计算机系统进行编程，等佢分享我哋嘅价值观，噉就是佢会做嘅，边怕我哋后嚟决定我哋想要某种不同嘅嘢。

第二次世界大战时期，阿兰·图灵密码破译小组嘅首席统计师兼数学家I.J.古德，大概是清晰阐述人工智能未嚟图景嘅第一人。喺那段写于1965年、后嚟被经常引用嘅名言度，佢咁样写道：“我哋将超智能机器定义为具备超越所有聪慧人类智能活动嘅机器。考虑到设计机器是智能活动嘅一部分，噉么超智能机器甚至能够设计出更好嘅机器。毫无疑问，肯定会出现诸如‘智能爆发’咁样嘅局面，人类智能会被远远地甩在后面。因此，第一台超智能机器将是人类创造嘅最后一台机器，当然前提条件是这台机器足够听话，并讲畀我哋要点样才能控制佢。”

在《超级智能》一书度，尼克・波斯特洛姆循住古德嘅思想认为：“如果有一日我哋发明‌超越人类大脑一般智能嘅机器大脑，噉么呢种超级智能将会非常强大。并且，正如而家大猩猩嘅命运更多地取决于人类而唔系佢哋自身一样，人类嘅命运将取决于超级智能机器……一旦不友好嘅超级智能出现，佢就会阻止我哋将其替换或者更改其偏好设置，而我哋嘅命运就因此被锁定嘎啦。”

所以，超级智能带嚟嘅挑战,好可能是人类面对嘅最重要同最可怕嘅挑战。而且，不管我哋成功仲是失败，这大概都系我哋将要面对嘅最后一个挑战。“我哋要嘅不剩只是娴熟嘅技术以引燃智能爆炸，我哋仲要能在更高水平上掌握控制权，以免我喺爆炸中身首异处。”

大多数关注“价值锁定”嘅研究人员都在考虑人工智能问题。不过仲有一种更一般嘅说法。牛津大学学者威尔·麦克斯基尔将其总结为：“最关键嘅点是,我哋点样开发用于设计谋划人类后代嘅动力同价值嘅技术（可能通过AI，但都可能通过第啲技术，例如基因工程或先进嘅洗脑技术）。”换句话说，如果我喺呢一步形成嘅系足够专制同强大嘅威权，新技术可能意味住子孙后代将无力推翻或改革佢。

群体行动

关于21世纪点样同众不同，仲有最后一种理据。喺大多数历史上，就算人类就某一种行动方针达成一致，成个世界都无办法围绕呢种方针进行协调。而全球通信技术已经改变‌呢一点。

在涉及人类交往嘅情况下，群体行动问题无处不在，因此是经济学同政治科学嘅核心。例如，诺贝尔经济学奖获得者埃莉诺·奥斯特罗姆就声话，“群体行动理论是政治学嘅中心主题”。任何时候,只要个人在不付出时间同精力嘅情况下,可以从其他人嘅昂贵行动中受益，社会就会面临群体行动嘅困境。而在咁困境度，人类并非一筹莫展，是可以揾到应对机制嘅。21世纪嘅一个关键任务，就是去发现并实行咁样嘅应对机制，由此在全人类嘅层面上达成一致并开展共同行动。

同样，喺大多数历史上，经济增长缓慢或者根本没有增长。而而家，经济正喺度快速地增长，各行各业都充满‌变革性。有人认为这不可能持续到遥远嘅未嚟，因为各国仍然在使用20世纪嘅标准嚟衡量幸福感，呢个标准就是国内生产总值（GDP）。为‌全球经济嘅可持续发展，我哋既需要捕捉生产资本同金融资本，都需要重视劳动力技能（人力资本）、社会凝聚力（社会资本）同环境价值（自然资本）。

形成未嚟嘅两条道路

所有呢一切，使得21世纪成为一个不寻常嘅时刻，都许是决心改变世界嘅人哋被赋予咁样做嘅非同寻常嘅权力嘅时刻。听起嚟，有关21世纪系咪可以称为人类历史上最重要嘅世纪嘅宣话，不论你同意都好，不同意都好，似乎都系主观抽象嘅睇法。但係对呢个问题嘅回答，其实绝非无关紧要。

如果21世纪是一个非常关键嘅世纪，噉么对长期未嚟而言，最好将重点放喺我哋面前嘅紧迫挑战上，比如将我哋所有嘅资源都用于应对即将到嚟嘅最大威胁。而如果佢并唔那么关键，噉么专注于我哋点样塑造子孙后代就更有意义‌——都许建立新嘅长期机构、资助哲学同伦理研究以及努力改善网络时代嘅教育，对未嚟才是更重要嘅。

一啲研究远景嘅人认为，我哋最需要采取有针对性嘅干预措施，以使远景变得美好。所谓有针对性嘅干预好有一比，好似阻止小行星撞击地球一样。第啲人则倾向于以非常广泛嘅方式嚟帮助形成遥远嘅未嚟，例如使民众变得更加利佢、受过良好教育或富有同情心，相信无论未嚟遇到乜嘢问题，呢啲方式都可能提供帮助。由此，判定本世纪系咪独特，或者至少是非同寻常，但系能会影响到一个决断：到底是有针对性嘅干预好，仲要是广泛嘅帮助更好。

我谂引用过去十年嚟，量子技术嘅快速增长嚟进一步说明呢一点。未嚟虽仍然是不可预测嘅，但幸运嘅系，量子理论讲畀我哋，不可预测性不一定是一件坏事。实际上，但系以将两个量子位锁定在一齐，以使佢哋各自都不确定，但同时佢哋又可以完美地实现同步——两个量子位均为0或均为1。都许佢都为我哋点样面对未嚟提供‌一个教训。通过负责任嘅计划，同时都包含未嚟嘅不确定性，人类可以提高为未嚟做好准备嘅概率。

简而言之，我哋点样睇待本世纪嘅威胁，但系能会大大影响我哋点样应对呢啲威胁。而当全世界最需要大国携手处理一啲关键事嘅时候，中美却在分道扬镳。这进一步加剧‌我哋面临嘅风险，更加使得21世纪成为人类历史上最重要嘅世纪。