DeepMind为何坚决要和谷歌分手?

来源:程序员阿闲公众号 - - - 新闻取自各大新闻媒体,新闻内容并不代表本网立场!

几年来,作为全球AI最著名的研究机构之一的DeepMind与东家谷歌之间的关系一直难说融洽。

DeepMind总担心谷歌有一天可能会滥用其AI技术,它的高管们多年来一直在努力疏远这家人工智能公司与谷歌的关系。一位前雇员表示,DeepMind 的主要压力之一是可能将业务卖给一些不信任的人。

据报道,将 DeepMind 与谷歌分离的谈判于今年 4 月结束,但没有达成协议。多年的谈判,加上谷歌AI部门最近的动荡,让人怀疑谷歌能否保持对AI这一对其未来至关重要的技术的控制权。

「自收购达成以来,DeepMind 与谷歌的密切合作取得了巨大的成功,我们已经取得了改变人工智能领域的突破,正在解决一些最重要的科学问题。」DeepMind 的一位发言人在声明中说。

「我们讨论和探索了支持双方长期合作的最佳方式。在继续前进的同时,我们为完成这一使命感到无比自豪。DeepMind将在拥有运营自主权的同时,继续获得 Alphabet 的全力支持。」

逃不过「七年之痒」?其实分歧由来已久

当谷歌在 2014 年收购DeepMind 时,这笔交易看起来绝对是个双赢。谷歌获得了一个大型人工智能研究机构,而DeepMind 获得了资金支持,向着通用人工智能迈进。.

但很快局势就陷入紧张。DeepMind的一些员工认为自己是学者,在与谷歌打交道时,会与后者臃肿的官僚机构之间发生文化冲突。还有人对DeepMind 将研究工作置于一家科技巨头的控制之下表示担心。由于担心谷歌的监视,DeepMind的一些员工使用加密消息应用程序进行通信。

一位知情人士表示,DeepMind 的高管发现,谷歌内部 AI 研究团队发表的成果与 DeepMind 的一些代码库相似,但没有标明引用。这让DeepMind 的首席执行官Demis Hassabis大为光火。DeepMind 开始对自己的代码更加严密地保护。

据 The Information 报道,在谷歌于 2015 年将自己重组为 Alphabet ,让风险更高的项目有更多自由之后,DeepMind 的领导层开始在 Alphabet 旗下寻求新的独立地位,并拥有自己的盈亏账户。.

除了运营自主权外,DeepMind还寻求法律上的自主权。如果 DeepMind 真的实现了 AGI,它担心这一技术会被滥用。

两名DeepMind前员工表示,这项旨在获得更多自主权的计划称为「Watermelon」。随后在 DeepMind 的领导层中被正式命名为「Mario」。

「他们认为,他们的技术过于强大,被私人公司掌握风险太大,因此必须将技术的所有权放在与公司股东利益相分离的其他法律实体中,」一位前雇员表示。「这符合整个社会的利益」。

DeepMind首席执行官兼联合创始人 Demis Hassabis

一度达成的协议:钱继续拿,地位要独立

2017 年,在苏格兰的一次会议期间,DeepMind领导层向员工透露了公司与谷歌分离的计划。

三位知情人士称,当时领导层内部表示,公司计划成为「全球利益公司」。这个词不代表法律地位,但反应了DeepMind认为自己的技术具备的全球性影响力。

随后,在与谷歌的谈判中,DeepMind 开始寻求「有限责任公司」的地位,这是一种有时被非营利组织使用的无股东组织结构。

两名参与谈判的人士表示,后来达成的协议是,Alphabet 将继续为DeepMind提供资金,并获得其技术的独家使用许可,但有一个条件:不能超出某些道德限制,比如不能将 DeepMind 技术用于军事武器或监视。

2019 年,DeepMind 注册了一家名为 DeepMind Labs Limited 的新公司,以及一家新的控股公司,据称,这是为了与谷歌的分离做准备。

一位知情人士表示,与谷歌的谈判多年来起起落落,但在 2020 年获得了新的动力。DeepMind 内部的一个高级团队与外部律师和谷歌举行会议,讨论的内容涵盖是否会共享代码库、内部性能指标和软件费用等细节。

谷歌创始人谢尔盖·布林和拉里·佩奇在过去几年一直远离公众视野

从一开始,DeepMind 就在考虑与谷歌的交易可能带来的道德困境。据《经济学人》2019 年报道,在 2014 年收购结束之前,两家公司签署了一项「道德和安全审查协议」,以防止谷歌控制DeepMind 的技术。协议内容包括成立一个道德委员会,对研究进行监督。

不过一位知情的前员工表示,尽管多年来,关于委员会的成员组成经过大量内部讨论,对媒体也做出了措辞模糊的承诺,但实际上这个委员会「从未存在过,从未召集过,也从未解决过任何道德问题」。DeepMind 的发言人对此拒绝评论。

三位知情人士表示,实际上DeepMind 对这个问题有自己的一套想法:如果与谷歌分离,DeepMind将召集一个独立的审查委员会。委员会由来自谷歌和 DeepMind 以及第三方的高管组成。据称,美国前总统奥巴马在 DeepMind 委员会成员接触名单上。

DeepMind 还制定了关于AI道德的规章,其中包括禁止将其技术用于军事武器或监视,以及其技术应用于造福社会的目的。

2017 年,DeepMind 成立了一个由外部员工和研究人员组成的以AI道德研究为重点的部门。其既定目标是「为真正有益和负责任的AI铺平道路」。

几个月后,谷歌与五角大楼之间的一份有争议的合同被披露,引发了内部动荡,员工指责谷歌 「发战争财」。

谷歌与五角大楼的合同,即 Maven 项目,在 DeepMind 内部「敲响了警钟」。两名前员工表示,谷歌后来发布了一套管理其AI工作的准则,内容与 DeepMind 内部制定的道德章程相类似。

谷歌首席执行官桑达尔·皮查伊

AI技术控制权应交给谁?最好是全人类

今年 4 月,Hassabis在一次全体会议上告诉员工,与谷歌分拆的谈判已经结束。DeepMind 将保持其在 Alphabet 中的现有地位。DeepMind 未来的工作将由谷歌高级技术审查委员会监督,委员会中包括两名DeepMind 高管、谷歌人工智能主管Jeff Dean和负责法务的高级副总裁Kent Walker。

但DeepMind数年来争取独立性行动,引发了对其在谷歌内部前途究竟如何的质疑。

同时,谷歌之前做出的对AI研究的承诺也受到质疑,此前该公司迫使其解雇了两名最老的人工智能伦理研究人员。这引起了业界的强烈反对,并引发了人们对其是否可以进行真正独立研究的怀疑。

对于谷歌来说,对 DeepMind 的投入可能开始获得回报。去年年底,DeepMind 宣布了一项突破,可以帮助科学家更好地了解微观蛋白质的行为,这可能彻底改变新药物的研发。

而对于DeepMind,Hassabis坚持认为AI技术不应该被一家公司控制。今年 6 月,他在 Tortoise 的「负责任的AI论坛」上发表讲话,提出建立一个「世界人工智能研究所」。他表示,这样的机构可以由联合国管辖,并且可以由该领域最优秀的研究人员组成。

「如果有人做出表率,我们就会更强大,我希望 DeepMind 能够成为这个行业的一个表率。」他说。

=== The END (回页顶) ===

© 2011-2022 have8.tv 版权所有