让“钢铁侠”都担忧的人工智能公司DeepMind，有何特别之处？

「I believe that the rise of powerful AI，will be either the best thing or the worst ever to happen to humanity.」

「我认为强大的人工智能的崛起，要么是人类历史上最好的事要么是最糟的。」

Stephen William Hawking（斯蒂芬威廉霍金）

当谈到人工智能的时候，大部分人的内心其实是矛盾的，就正如斯蒂芬霍金所说，它所带来的利弊都异常明显和突出。但由于真正能接触到人工智能这种高端前沿技术的人只是少数，对于该技术究竟发展到何种程度了，普通大众并不会太在意，也不会去了解，感觉离自己的生活还挺遥远的。

但当一个一直计划移民火星、创建了自动驾驶汽车公司（特斯拉），并成功发射了载人航天飞船（SpaceX）极具冒险精神、敢于创新的天才企业家，却反复表示出对人工智能的恐惧和担忧时，就非常令人不解了，也引起了不少人的好奇和思考。究竟如今的人工智能有多智能？它在朝着什么方向发展？

一边担忧一边投资

一直以来，埃隆马斯克都认为人工智能会成为一场灾难，甚至很可能会摧毁人类，霍金也曾多次发表关于人工智能将威胁人类生存的言论，他们两个甚至还因为发表了关于人工智能过于消极的言论，一起获得过「阻碍科技创新奖」。就在上个月末，埃隆马斯克在接受《纽约时报》专访时再次对人工智能发出警告。

马斯克表示，根据他在特斯拉与人工智能合作的经历让他能够自信地说，我们正走向人工智能比人类聪明得多的局面，而这个时间框架有可能不到五年。虽然这并不意味着五年内人类就会进入困境，但那时的未来将带来更多的不确定性。他还表示目前所有从事人工智能技术的公司中，最担心的是谷歌的DeepMind项目。因为该项目所构建的人工智能的本质就是在所有游戏中征服全人类，这基本就是《战争游戏》的情节主线。

让人意外的是，马斯克也曾是DeepMind的早期投资者，该公司于2014年被谷歌收购。一年之后，马斯克在旧金山联合创办了OpenAI研究实验室，OpenAI初始投资为10亿美元，由微软出资。OpenAI表示，它的使命是确保人工智能造福全人类，并提出了一种人工智能安全技术，用来预防AI产生不可控的认知。

2016年，马斯克又成立了一家名为Neuralink的公司，该公司主要研究如何将人脑与计算机系统融合在一起，马斯克甚至表示人类需要与机器结合，成为一种半机械人，来避免在人工智能时代面临淘汰的命运。马斯克似乎一直在努力寻找未来可以对抗人工智能的技术。但更让人感兴趣的是，DeepMind究竟是家怎样的公司？

人工智能变聪明的速度越来越快

Google DeepMind 是一家英国人工智能公司，创立于2010年，最初名为DeepMind Technologies，2014年被谷歌收购，更名为Google DeepMind。这家公司由戴密斯哈萨比斯（Demis Hassabis）等人联合创立，早期投资人包括埃隆马斯克、彼得泰尔等硅谷名人。该公司的优势是发展了一种机器学习技术强化学习，这一技术在此前的计算机领域是空白的。

公司的目标是「解决智能」，该公司尝试通过合并强化学习和系统神经科学来构建强大的通用学习算法，并试图形式化智能，进而不仅在机器上实现它，还让其理解人类大脑。当前公司的焦点在于研究能玩游戏的电脑系统，研究的游戏范围很广，从策略类游戏围棋到电玩竞技游戏，现在已经将算法运用到医疗保健行业。

真正让DeepMind（AlphaGo的开发者）一战成名的便是2016年AlphaGo战胜了韩国围棋九段棋手李世石，这也是人类第一次警醒到人工智能的能力，2017年时，AlphaGo再次战胜世界排名第一的柯洁。之后几年，AI变得能够像人类一样畅玩竞技游戏似乎已经是稀疏平常的事情了，但想让它玩得比人类好，就不是件容易的事情了，不过DeepMind依然做到了，只需要让AI连续训练数十天，它便可以达到职业玩家的水平。

去年，DeepMind团队又一次在《Nature》杂志上发表了有关AlphaStar的最新研究成果。他们表示，这位人工智能选手已经达到了天梯对战的「宗师」级别。该段位在《星际争霸 2》游戏中只有排名前200的玩家才能获此称号，这就意味着 AlphaStar超过了全球99.8%的人类选手。

与之前 AlphaGo挑战的棋类项目不同，AlphaStar很难在《星际争霸 2》中对另一方玩家的进攻手段做出预测，因此它自身就需要拥有更多战术、战略层面的考虑，以及更高效的实时反馈能力。在这次新研究中，DeepMind 除了继续沿用之前的模仿学习人类玩家的策略手段外，还加入了一项名为「联盟」的新训练方式为AlphaStar引入多个虚拟的「陪练选手」，而「陪练选手」的目的就是尽可能地找出AlphaStar在对战中的弱点，从而迫使双方都需采取比之前更聪明的策略手段，来让自己变得更强。

通用人工智能需多方监管

除了游戏领域，DeepMind在医疗领域也取得了一定成绩，但也因此多次陷入争议。2016 年，被谷歌收购之后，DeepMind 成立了一个医疗保健部门 DeepMind Health。它的首款产品是名为 Streams 的移动应用，最初的目的是帮助医生鉴定有急性肾损伤风险的患者。而为了利用医疗数据开发这一监测 APP，DeepMind 在 2015 年与英国皇家自由信托基金会首度达成数据分享合作，获权处理基金会下属 3 家医院每年共计 160 万名病人的就诊记录。

不过，英国数据安全部门对 DeepMind 调查了一年后却表示：DeepMind 和相关医院的合作项目「不符合数据保护法」。随后DeepMind Health的领导人Mustafa Suleyman表示在任何阶段，患者数据都不会与 Google 账户、产品或服务相关联划清该医疗部门与 Google 的关系。

而早在谷歌收购DeepMind之前，为了保持自己的独立性，该公司同谷歌签订了一份由伦敦资深律师起草的合同，名为「道德与安全审查协议」。这份合同规定，DeepMind的通用人工智能核心技术，开发出来后，会被交给一个叫道德委员会的管理小组。这样做，就可以防止谷歌公司单方面控制这项技术的知识产权。不过这真的就可以保证万无一失吗？

2018年11月，谷歌成立了一个医疗保健部门，随后便把DeepMind Health并到了母公司的部门中。谷歌解释这样做的逻辑是：可以把整个公司的相关研发资源集中起来。道理确实是这个道理，但当时的报道也抛出了一个问题：在开发通用人工智能（AGI）这个问题上，谷歌会不会使用同样的逻辑？

确实，人工智能的迅速发展会给人类生产生活带来极大便利，但同时它所引发的诸多哲学争论，特别是关于人工智能主体地位的争论最为激烈，也最令人担忧。也许人工智能毁灭人类的这一天永远不会到来，但有备无患。此外，正如马斯克、霍金所提议的，各国政府和国际理事机构也应该对人工智能的开发进行监督。即使是如今正如火如荼进行的自动驾驶技术，其智能的安全性同样不容忽视。

图 | 来源于网络