加州山景城——在谷歌(Google)今年5月举行的年度开发者大会上，人们对人工智能进行了热烈的宣传，而该公司“技术与社会”部门的新任主管詹姆斯·马尼卡(James Manyika)则来谈论人工智能的缺点。
在成千上万的人挤进户外竞技场之前，马尼卡讨论了假图像的祸害，以及人工智能如何回应社会的种族主义和性别歧视。他警告说，随着技术的进步，新的问题将会出现。
但请放心，谷歌正在“对人工智能采取负责任的态度”，他对听众说。“大胆而负责”的字样在一个巨大的屏幕上闪现，马尼卡说话时显得很矮小。
这句话已经成为谷歌在人工智能时代的座右铭，某种程度上取代了“不作恶”，后者是该公司在2018年从其行为准则中删除的口头禅。这句话概括了硅谷对人工智能的总体看法，许多科技行业最有影响力的领导人都急于开发更强大的人工智能版本，同时警告其危险，并呼吁政府进行监督和监管。
马尼卡出生于津巴布韦，曾任奥巴马政府的技术顾问，拥有牛津大学人工智能博士学位，他在担任谷歌人工智能大使的新角色中接受了这种双重身份。他坚持认为，这项技术将为人类文明带来惊人的好处，谷歌是这个光明未来的合适管家。但在开发者大会结束后不久，Manyika与数百名人工智能研究人员签署了一份只有一句话的声明，警告称人工智能带来了与“流行病和核战争”同等的“灭绝风险”。
马尼卡在最近的一次采访中说，人工智能是“一项惊人的、强大的、变革性的技术”。与此同时，他承认，“不好的事情可能会发生。”
批评人士说，糟糕的事情已经在发生。自去年11月发布以来，OpenAI的ChatGPT已经发明了大量虚假信息，包括一桩假的性骚扰丑闻，其中提到了一位真正的法学教授。稳定AI的稳定扩散模型的开源版本创造了大量儿童性虐待的真实图像，破坏了打击现实世界犯罪的努力。微软Bing的早期版本变得令人不安地黑暗，对用户充满敌意。《华盛顿邮报》最近的一项调查发现，包括谷歌的巴德在内的几个聊天机器人推荐危险的低热量饮食、香烟甚至绦虫作为减肥方法。
“谷歌的人工智能产品，包括巴德，已经造成了伤害。这就是‘大胆’与‘负责任’人工智能开发并存的问题，”研究人工智能影响的非营利组织Data & Society的高级研究员兼项目总监塔玛拉·克内斯(Tamara Kneese)说。
“大型科技公司正在呼吁监管，”Kneese说。“但与此同时，他们在几乎没有监管的情况下迅速发货。”
世界各地的监管机构现在都在争先恐后地决定如何监管这项技术，而受人尊敬的研究人员则警告说，这项技术可能会带来更长期的危害，包括有一天这项技术可能会超过人类的智力。国会山几乎每周都会举行一场以人工智能为主题的听证会。
如果说人工智能存在信任问题，谷歌也一样。长期以来，该公司一直在努力说服用户，它可以保护从他们的搜索历史和电子邮件收件箱中收集的大量数据。在人工智能方面，该公司的声誉尤其不稳定:2020年，该公司解雇了著名的人工智能伦理研究员Timnit Gebru，因为她发表了一篇论文，认为该公司的人工智能可能会受到种族主义和性别歧视的影响，因为它所训练的数据。
与此同时，这家科技巨头正面临着巨大的竞争压力:在ChatGPT和其他竞争对手已经抓住了公众的想象力之后，谷歌在今年早些时候推出了自己的聊天机器人，急于追赶。微软(Microsoft)等竞争对手和大量资金雄厚的初创企业将人工智能视为打破谷歌对互联网经济控制的一种方式。
马尼卡带着平静的自信走进了这个压力重重的时刻。作为全球会议的资深人士，他在数量惊人的高层委员会任职，包括担任副主席的白宫人工智能顾问委员会(White House AI advisory council)。6月，他在戛纳国际狮节(Cannes Lions Festival)上发表了演讲;今年4月，他参加了《60分钟》节目。他曾在联合国发表演讲，也是达沃斯的常客。
在每次采访、会议演讲和博客文章中，他都对谷歌在人工智能淘金热中的作用表示肯定，用同样的三个词来描述公司的做法:“大胆和负责任”。
“拥抱这种紧张感”
“大胆而负责”这个词在今年1月的一篇博客文章中首次出现，此后在每次有关人工智能的高管采访和公司的季度财务报告中都会出现。它源于几个月前马尼卡、谷歌首席执行官桑达尔·皮查伊和一小群其他高管之间的讨论，其中包括谷歌现任首席科学家杰夫·迪恩;Marian Croak，该公司负责人工智能的副总裁;以及2014年被谷歌收购的人工智能初创企业DeepMind的负责人德米斯·哈萨比斯(Demis Hassabis)。
批评人士指出了其中的内在矛盾。
“老实说，这是什么意思?”悉尼大学(University of Sydney)人工智能伦理研究员丽贝卡·约翰逊(Rebecca Johnson)说，她去年在谷歌担任访问研究员。“这听起来就像一句口号。”
在5月份的开发者大会上，Manyika承认“两者之间存在天然的紧张关系”。但是，他说，“我们认为，接受这种紧张关系不仅是可能的，而且实际上是至关重要的。从长远来看，真正大胆的唯一方法是从一开始就负责任。”
57岁的马尼卡在种族隔离的津巴布韦(当时被称为罗得西亚)长大，他说，这段经历让他看到了“技术进步和进步对普通人生活的影响”，也让他对技术进步的危险非常敏感。
当时，津巴布韦由白人独裁政府统治，残酷镇压该国占多数的黑人人口，不让他们在政府任职，也不让他们住在白人社区。他说，“我知道一个歧视性制度会对技术造成什么影响”，他提到了面部识别等人工智能工具。“想想看，他们可以用这些钱做些什么。”
1980年，当种族隔离政权崩溃时，马尼卡是第一批进入著名的爱德华王子学校(Prince Edward School)的黑人孩子之一，这所学校教育了津巴布韦几代白人统治阶级。“我们实际上有警察护送，”他说，这让他想起了当时观看有关美国废除种族隔离的电影。
马尼卡继续在津巴布韦大学学习工程学，在那里他遇到了一位来自多伦多的研究人工智能的研究生。这是他第一次接触到让机器自己思考的科学。他了解到杰弗里·辛顿(Geoffrey Hinton)，这位研究人员在几十年后将被称为“人工智能教父”，并与马尼卡一起在谷歌工作。Hinton当时正在研究神经网络——一种建立在计算机可以通过设计程序来学习的基础上的技术，这些程序可以松散地模仿人类大脑的路径——Manyika被迷住了。
他获得了罗德奖学金，进入牛津大学学习，并深入研究了这个想法，先是获得了数学和计算机科学硕士学位，然后又获得了人工智能和机器人技术博士学位。大多数致力于提高计算机能力的科学家认为，神经网络和人工智能早在几年前就已经不可信了，马尼卡说，他的顾问警告他不要提这件事，“因为没有人会把你的话当真”。
他写的论文是关于使用人工智能管理车辆不同传感器的输入，这帮助他获得了美国宇航局喷气推进实验室的访问科学家职位。在那里，他为“探路者”任务做出了贡献，使“旅居者”探测器在火星上着陆。接下来，他和他的搭档、英国裔尼日利亚小说家萨拉·拉迪波·马尼卡(Sarah Ladipo Manyika)搬到了硅谷，在那里他成为麦肯锡(McKinsey)的顾问，并对互联网泡沫和随后的崩盘有了最直接的了解。他撰写了大量关于技术突破如何影响现实世界的文章，并于2011年出版了一本书，内容是互联网产生的大量数据将如何对商业至关重要。
斯坦福大学(Stanford)数字经济实验室(Digital Economy Lab)主任埃里克·布林约尔松(Erik Brynjolfsson)与马尼卡相识多年，他说，在硅谷，马尼卡以“联络人”而闻名，他可以为董事会职位做重要的介绍，或者推荐各种各样的候选人。布林约尔松说:“他可能是这个领域里最好的联系人。”
他的工作也使他进入了华盛顿有权有势人士的圈子。他开始与奥巴马政府的高级工作人员讨论科技和经济问题，并被任命为白宫创新和数字经济顾问委员会成员，在那里，他帮助为商务部撰写了一份2016年的报告，警告称人工智能可能会取代数百万个工作岗位。2017年，在唐纳德·特朗普总统拒绝谴责白人至上主义者在夏洛茨维尔演变成暴力的抗议活动后，他辞去了这一职位。
那时，人工智能技术开始起飞。2010年代初，Hinton和其他人工智能先驱的研究在图像识别、翻译和医学发现方面取得了重大突破。马尼卡说:“我渴望更密切、更全面地回到人工智能的研究和领域，因为事情开始变得非常有趣。”
他想在谷歌工作，而不是仅仅从外部研究趋势和撰写报告。他和皮查伊谈过，皮查伊之前曾试图招募他，并于去年接受了这份工作。
突破机器
谷歌可以说是人工智能领域最杰出的公司——早在OpenAI出现在埃隆·马斯克眼中之前，谷歌就进入了这一领域。大约十年前，该公司加大了在这一领域的努力，与其他科技公司发起了一场昂贵的人才争夺战，以聘请人工智能研究领域的顶尖人才。像辛顿这样的科学家离开了大学，直接为谷歌工作，谷歌很快就成为了一台突破性的机器。
2017年，谷歌的研究人员发表了一篇关于“变形金刚”的论文，这是一项关键突破，它让人工智能模型能够消化更多的数据，并为当前的聊天机器人和图像生成器通过专业考试和重现梵高画作的技术奠定了基础。同年，皮查伊开始向投资者和员工宣传公司的“人工智能优先”。
但该公司没有公开发布这项技术，而是用它来改进其现有的摇钱树产品。当你在谷歌搜索中输入“有绿色食人魔的电影”，网站会弹出一个“怪物史莱克”的链接，这就是人工智能。翻译方面的进步也与谷歌的人工智能工作直接相关。
然后，谷歌脚下的地面发生了变化。
去年11月，ChatGPT由OpenAI向公众发布。OpenAI是一家规模小得多的公司，最初由马斯克和其他科技领袖创立，旨在抗衡大型科技公司在人工智能领域的主导地位。这是人们第一次直接接触到这种尖端技术。这款机器人吸引了消费者和技术领导者的注意，促使谷歌在今年3月推出了自己的版本巴德(Bard)。
几个月后，巴德被翻译成40种语言，几乎涵盖了所有不在美国制裁名单上的国家。尽管数百万人都可以使用，但谷歌仍将该机器人标记为“实验”，承认存在持续存在的问题。例如，巴德经常编造虚假信息。
与此同时，谷歌已经失去了一些在人才争夺战中聘请的明星人工智能研究人员，包括2017年《变形金刚》论文的全部八位作者。Hinton在5月份离职，他说他想自由地谈论人工智能的危险。该公司还解雇了格布鲁等人，包括玛格丽特·米切尔(Margaret Mitchell)，从而削弱了其鼓励学术异议的声誉。米切尔是格布鲁被解雇前论文的合著者之一。
米切尔现在是人工智能初创公司hug Face的首席伦理科学家，他说:“他们已经失去了很多怀疑的好处……他们是好的。”
“做有用的事”
坐下来接受采访时，马尼卡为自己穿着格子衬衫和西装外套“穿得太过”而道歉。这在旧金山是正式的。但这是他在许多公开露面时穿的制服。
就像最近在硅谷的大多数谈话一样，马尼卡一开始就宣称，最近人们对人工智能的兴趣激增是多么令人兴奋。当他加入公司时，人工智能只是他作为技术和社会主管工作的一部分。在他被聘用之前，这个职位并不存在;马尼卡既是谷歌的形象大使，也是谷歌的内部战略家:马尼卡与学者、智库、媒体和政府官员分享谷歌的信息，同时向谷歌高管解释他们的技术是如何与更广阔的世界互动的。他直接向皮查伊汇报。
随着人工智能的热潮改变了硅谷和谷歌，马尼卡突然成为了该公司最重要工作的中心。
“时机再好不过了，”肯特·沃克(Kent Walker)说，他是谷歌全球事务总裁，负责公司的公共关系、游说和法律团队。沃克和马尼卡一直在与美国和国外的政界人士会面，以应对日益高涨的人工智能监管呼声。他说，马尼卡“一直是我们一位非常周到的外部发言人”。
今年4月，哈萨比斯开始负责公司的核心人工智能研究，马尼卡的角色得到了大幅提升。谷歌世界一流的研究部门的其余部分都交给了马尼卡。他现在领导着他们在气候变化、医疗保健、隐私和量子计算以及人工智能责任方面的工作。
尽管在过去的八个月里，谷歌在人工智能军备竞赛中步伐迅猛，但马尼卡坚持认为，公司只有在产品为现实世界做好准备时才会推出产品。例如，当谷歌推出Bard时，他说它使用的是经过更多培训和调整的旧模型，而不是更强大但未经验证的版本。
他说，大胆“并不意味着要抓紧时间”。“大胆对我来说意味着:造福所有人。做有用的事。推动前沿，使其有用。”
11月发布的ChatGPT向公众介绍了生成式人工智能。“我认为这真的很棒，”他说。“但我也很感激我们在这些事情上继续采取的深思熟虑、有分寸的方法。”
