新浪科技讯北京时间9月12日早间消息,据报道,英国人工智能公司“深思”(DeepMind)隶属于美国谷歌公司,然而外界所不知道的是,深思内部却出现了一个神秘计划,即和母公司谷歌分道扬镳。有段时间,深思员工把这个秘密计划称之为“西瓜”,后来,高管们把它称为“马里奥”。
根据熟悉上述计划的9名前任和现任员工透露,深思公司担心母公司谷歌有朝一日会滥用他们的技术,在过去多年中,深思的高管一直在保持公司和谷歌之间的距离。
因为涉及秘密,这些消息人士不愿意披露身份。他们表示,深思制定的计划包括实现一个法律上独立的地位,把本公司的业务和谷歌公司进行隔离。
一名前任员工表示,深思内部最大的一个问题,是他们认为把公司卖给了一个无法信赖的实体,自从公司变卖给谷歌之后,内部一直在质疑这个决定。
据报道,深思希望从谷歌公司分开的计划在今年四月份无果而终。深思和谷歌多年以来的谈判,以及谷歌人工智能业务最近的重组,使得外界质疑:这个搜索巨头是否能够掌控对于未来发展至关重要的人工智能技术?
深思公司发言人在一份官方声明中表示,自从收购之后,深思和谷歌以及母公司Alphabet进行了密切合作,这些合作是成功的,通过他们的帮助,深思获得的突破性研究成果已经改变了人工智能领域,他们现在正在解决更重大的课题。
这位发言人也表示,在过去几年时间里,深思也讨论和探索在Alphabet集团内部的不同地位,以便能够寻找到最佳模式来支持公司的研究任务。让深思感到欣慰的是,在不断取得研究成果的同时,公司继续保持了运营独立性,并获得母公司的全力支持。
文化冲突
2014年,谷歌宣布收购深思公司,这被认为是一次双赢交易。谷歌获得了一家技术领先的人工智能公司,而总部在英国伦敦的深思获得了雄厚财力的支持,可以继续研发替代人类各种工作的人工智能(这一领域被称为“通用人工智能”)。
但随后,两家公司关系开始紧张。深思员工遭遇了某种企业文化冲突。在他们看来,深思员工首先是学术研究人员,他们不适应谷歌庞大业务所伴生的臃肿的企业官僚主义。
一些员工则担心谷歌这样一家科技巨头控制深思的技术会带来问题。有一段时间,深思员工之间用加密聊天软件进行沟通,因为他们担心谷歌会监听他们的通话。
据一位知情人士透露,后来,深思高管还发现了另外一个问题,即谷歌内部人工智能研究团队发表的论文,采用了酷似深思的基础代码,但是却没有任何引用标记。这一事件让深思首席执行官德米思·哈萨宾斯(Demis Hassabis)十分不满,随后,深思公司开始更加严格的保护自己的代码。
脱离计划
2015年,谷歌架构进行重组,诞生了控股母公司Alphabet。这次重组让一些风险更大的创新项目获得了更多自由。根据一家权威科技媒体报道,此后,深思开始寻求在Alphabet内部一个独立业务的全新地位,要有自己的财务报表。
当时在Alphabet内部,深思已经享受了很大程度的运营独立性,不过他们还想获得法律上的“自治地位”。该公司很担心将来如果自己的通用人工智能技术研发成功,可能被遭到误用。
两位前任员工透露,在内部,员工们把获取自治地位的秘密计划称之为“西瓜”。但在后来,公司管理层把这个计划称之为“马里奥”。
一位了解深思和Alphabet谈判的前任员工透露,深思管理层认为,他们的人工智能技术太过于强大,不适合掌握在一家私营公司手中,这些技术应该隶属于一个独立的法律实体,能够和母公司股东利益区隔。深思认为,这样的业务架构“对于整个社会都是更好的。”
2017年,深思公司员工在苏格兰的一个度假区集体放松。两位在场员工透露,深思高管当时对员工称,公司计划和谷歌分离。
三位消息人士称,当时深思高管内部表示,要把公司发展成为一家“全球利益公司”,这表明,深思已经考虑到自己的人工智能技术未来将会对整个世界产生巨大影响。
随后,深思和Alphabet展开谈判。深思希望成为一家“担保有限责任公司”,这是一种没有股东的公司架构,一般被非盈利机构所使用。
消息人士透露,根据深思的设想,在新的架构下,Alphabet可以继续给深思提供资金,并且获得该公司人工智能技术的独家授权。当时深思也对Alphabet提出了一个条件,那就是使用人工智能技术不能越过某些道德红线,比如不得把深思的技术应用到军事武器或是监控方面。
提交给英国政府监管机构的文件显示,2019年,深思注册了一个新公司,名为“深思实验室有限公司”,另外还注册了一家新的控股公司。两位参与注册过程的前任员工透露,这样做的目的就是准备和谷歌分离。
一位消息人士透露,在过去几年里,深思和谷歌的谈判颇为曲折,但是在2020年,谈判获得了新的动力。据透露,2020年,深思的一个高级别小组开始和外部律师和谷歌召开会议,敲定两家公司未来关系的细节,比如两家公司是否共享代码库、内部绩效考核指标,软件成本等等。
道德忧虑
在收购交易前后,深思内部就考虑到了这一交易可能带来的人工智能道德问题。在2014年收购交易结束之前,两家公司签署了一份协议——“(人工智能)道德和安全性评估协议”,这一协议阻止谷歌完全控制深思的人工智能技术。这份协议中包括了这样一项内容,即创建人工智能道德委员会,监管各种研究项目。
一名深思前任员工透露,双方曾经讨论人工智能道德委员会应该包括哪些委员,但是实际上,这个委员会可以说从未存在过、从未开会,也从来没有解决任何人工智能道德问题。对于这个委员会,深思发言人拒绝发表评论。
消息人士透露,深思已经考虑了替代计划,即将来和谷歌分开之后,将会设立一个独立的人工智能道德审核委员会。这个委员会可以包括谷歌和深思高管,以及独立第三方专家,其中深思还计划邀请美国前总统奥巴马加入委员会。
在公司章程中,深思也规定自己研发的人工智能技术禁止用于武器和监控,另外,这些技术应该被用来造福人类社会。
2017年,深思创建了一个新部门,主要关注人工智能道德研究,新部门包括内部员工和外部研究人员。这个部门的使命就是为“真正有助于社会和负责任的人工智能应用铺平道路”。
几个月之后,媒体曝光了谷歌和美国五角大楼的技术合作,这一消息在谷歌内部引发了强烈不满,员工们指责公司进入到了“战争业务”中。
深思一名前任员工透露,谷歌和美军的合作协议在深思内部引发了“警报声”。后来,谷歌发布了有关人工智能工作的一些指导原则,这些原则和深思已经确立的道德准则基本相似,这样的“抄袭”又让一些深思高管感到不快。
谈判失败
今年四月份,哈萨宾斯在一次全员大会上告诉员工,从谷歌分离的谈判已经结束。深思将会继续保持Alphabet旗下的现有地位,该公司未来的研究工作将受到“谷歌先进技术审核委员会”的管辖。据悉,这个委员会包括深思两名高管、谷歌人工智能业务负责人杰夫·迪恩(Jeff Dean),以及谷歌负责法律事务的高级副总裁肯特·沃克(Kent Walker)。
虽然谈判失败,但是深思过去多年追求独立的抗争,引发了该公司在谷歌未来发展前景的隐忧。
此前,谷歌逼走了两位人工智能道德研究专家,这使得谷歌对于这一领域的担当引发外界非议。外界担心人工智能在谷歌内部是否还能够保持独立研究的地位。
“应用数据道德中心”的研究员阿里·阿克哈提卜(Ali Alkhatib)表示,大型科技公司纷纷布局人工智能的研发,但是对这些研发的监管上,目前十分缺乏“公共责任感”。
对于谷歌来说,当初收购深思的交易已经开始有回报。去年下半年,深思宣布了一个技术突破,称未来可以帮助科学家更好的了解微小蛋白质的行为模式,这有可能给制药行业带来一次颠覆。
对于深思的发展,掌门人哈萨宾斯依然持有一个信念,那就是人工智能技术不应该被某一家公司所控制。六月份,在一个人工智能技术论坛发言时,哈萨宾斯建议成立一个人工智能的全球性机构,该机构可以受联合国领导,集中人工智能领域的顶级专家。
哈萨宾斯发言称:“如果你通过一些榜样来领导,这是更强大有效的,我希望深思公司能够成为人工智能行业的一个榜样。”