首页 > 资讯 > 科技 > 正文
2023-05-17 14:19

OpenAI首席执行官萨姆·奥特曼对人工智能的潜在危害发出警告,希望监管

OpenAI首席执行官萨姆·奥特曼(Sam Altman)在首次国会作证时,冷静地阐述了人工智能可能“对世界造成重大伤害”的方式,并表示愿意与紧张的立法者合作,解决该公司的ChatGPT和其他人工智能工具带来的风险。

Altman主张制定一系列法规,包括一个新的政府机构负责制定该领域的标准,以解决日益增长的担忧,即生成式人工智能可能会扭曲现实并造成前所未有的安全隐患。这位首席执行官列举了ChatGPT等技术带来的“风险”行为,包括传播“一对一互动虚假信息”和情绪操纵。他一度承认,人工智能可以用来瞄准无人机袭击。

奥特曼说:“如果这项技术出了问题,可能会出很大的问题。”

山姆·奥特曼(Sam Altman)如何在毫无戒心的硅谷推出ChatGPT

然而,在近三个小时关于潜在灾难性危害的讨论中,奥特曼肯定,他的公司将继续发布这项技术。他认为,OpenAI对人工智能模型的“迭代部署”并不是鲁莽的,而是让机构有时间了解潜在的威胁——这是一项战略举措,将“相对薄弱”和“非常不完善”的技术放在世界上,以帮助发现相关的安全风险。

几个星期以来,奥特曼一直在进行全球友好之旅,私下会见了包括拜登白宫和国会议员在内的政策制定者,以解决对ChatGPT和其他技术快速推出的担忧。周二的听证会标志着更广泛的公众第一次有机会听到他的信息,目前华盛顿正越来越多地努力寻找监管一项技术的方法,这项技术已经在颠覆就业、助长欺诈和传播谎言。

与TikTok的周守子(Shou Zi Chew)和meta的马克·扎克伯格(Mark Zuckerberg)等其他科技公司首席执行官举行的争议性听证会形成鲜明对比的是,两党议员对奥尔特曼的接待相对热情。他们似乎在倾听,表达了广泛的意愿,考虑Altman和听证会上另外两名证人——IBM高管Christina Montgomery和纽约大学名誉教授Gary Marcus提出的监管建议。

在参议院司法小组委员会关于隐私、技术和法律的听证会上,成员们对人工智能的快速发展深表担忧,并一再表示,最近的进展可能比互联网更具变革性,或者像原子弹一样危险。

“各位,这是你们的机会,告诉我们如何把这件事做好,”路易斯安那州共和党参议员约翰·尼利·肯尼迪(John Neely Kennedy)对目击者说。“请使用它。”

两党议员都对建立一个负责监管人工智能的政府机构的想法持开放态度,不过,由于两党在如何组建这样一个庞然大物的问题上存在分歧,过去建立一个专门监管硅谷的机构的尝试在国会遭遇挫折。

目前尚不清楚这样的提议是否会得到共和党人的广泛支持,共和党人通常对扩大政府权力持谨慎态度。密苏里州参议员乔希·霍利(Josh Hawley)是该委员会的最高共和党人,他警告说,这样一个机构可能会“被他们应该监管的利益所控制”。

该小组委员会主席、康涅狄格州民主党参议员理查德•布卢门撒尔(Richard Blumenthal)表示,奥特曼的证词与过去硅谷其他顶级首席执行官的证词“相去甚远”,议员们一直批评这些首席执行官历来拒绝支持具体的立法提案。

布卢门撒尔对记者说:“与其他首席执行官相比,萨姆·奥特曼完全不同。”他在听证会开始时播放了一段模仿他的声音的音频片段,他说这是通过对他的发言进行人工智能训练而产生的。“不仅在言辞和修辞上,而且在实际行动上,以及他参与和承诺采取具体行动的意愿上。”

奥特曼现身之际,华盛顿的政策制定者正日益意识到人工智能的威胁,因为ChatGPT和其他生成式人工智能工具让公众眼花缭乱,但也引发了一系列安全担忧。支持ChatGPT和文本到图像生成器Dall-E等聊天机器人的生成式人工智能,可以创建文本、图像或声音,通常具有人类的天赋,并引发了对虚假信息扩散、数据隐私、版权滥用和网络安全的担忧。

拜登政府称人工智能是一个关键的优先事项,议员们一再表示,他们希望避免在社交媒体上犯同样的错误。

议员们对他们在2016年大选前相对不干涉科技行业的做法表示遗憾。他们与扎克伯格的第一次听证会发生在2018年,当时Facebook是一家成熟的公司,在剑桥分析公司(Cambridge Analytica)窃取8700万Facebook用户数据的消息曝光后,Facebook陷入了丑闻。

然而,尽管两党普遍认为人工智能是一种威胁,但立法者尚未就管理其使用或开发的规则达成一致。布卢门撒尔表示,周二的听证会“成功地提出了”有关人工智能的棘手问题,但没有回答这些问题。参议院多数党领袖查尔斯·舒默(Charles E. Schumer,纽约州民主党人)一直在开发一个新的人工智能框架,他说,这个框架将“提供透明、负责任的人工智能,同时不会扼杀关键和前沿的创新”。但他的办公室没有公布任何具体的法案,也没有评论何时可能完成。

一群民主党人——明尼苏达州参议员艾米·克洛布查尔、新泽西州参议员科里·布克和科罗拉多州参议员迈克尔·班纳特,以及纽约州众议员伊维特·d·克拉克——提出立法,解决人工智能对选举的威胁。他们的《真实政治广告法案》将要求对使用人工智能生成的图像或视频的政治广告做出免责声明。

议员们对生成人工智能可能影响选举表示不安。霍利以一些州没有遵守法律为错误前提,带头反对2020年大选结果,他向奥特曼质疑生成式人工智能如何影响选民,并引用研究表明大型语言模型可以预测人类调查的反应。

“这是我最关心的领域之一——这些模型更普遍的操纵、说服、提供一对一互动虚假信息的能力,”奥特曼说。

奥特曼表示,OpenAI已经采取了一些政策来应对这些风险,其中包括禁止使用ChatGPT“生成大量竞选材料”,但他要求政策制定者考虑对人工智能进行监管。

奥尔特曼受到的热烈欢迎标志着他最近的魅力攻势取得了成功,其中包括周一晚上与议员们就人工智能监管问题共进晚餐,以及周二与众议院议长凯文·麦卡锡(加州共和党)、众议院少数党领袖哈基姆·杰弗里斯(纽约州民主党)和国会人工智能核心小组成员举行听证会后的私人会议。

大约60名两党议员出席了与奥特曼的晚宴,据一位不愿透露姓名的人士透露,这位OpenAI首席执行官在晚宴上展示了他们使用ChatGPT的不同方式。

这位知情人士说,当奥特曼促使ChatGPT代表众议员迈克·约翰逊(R-La.)写一篇演讲,介绍一项以众议员刘伟民(D-Calif.)的名字命名邮局的假装法案时,议员们感到很有趣。不过,晚宴上也有一些更为严肃的对话,内容是政策制定者如何确保美国在人工智能领域领先世界。

对奥特曼最尖锐的批评来自另一位证人:纽约大学名誉教授马库斯(Marcus),他警告委员会,它正面临一场“由企业不负责任、广泛部署、缺乏监管和内在不可靠性构成的完美风暴”。

马库斯警告说,议员们应该警惕对科技行业的信任,他指出,这涉及到“令人难以置信的”巨额资金,而且公司的使命可能会“飘忽不定”。

马库斯批评了OpenAI,称其偏离了最初的使命宣言,即推动人工智能在不受财务压力约束的情况下“造福全人类”。现在,马库斯说,该公司对其投资者微软“心存感激”,其产品的快速发布给其他公司施加了压力,尤其是谷歌的母公司Alphabet,它们也要迅速推出产品。

“人性已经退居次要地位,”马库斯说。

除了成立一个新的监管机构,奥特曼还提议为人工智能模型制定一套安全标准,测试它们是否会随心所欲,开始自己行动。他还建议,独立专家可以进行审计,根据各种指标测试模型的性能。

然而,Altman回避了其他建议,比如要求人工智能模型使用的训练数据具有透明度。OpenAI一直对其用于训练模型的数据保密,而一些竞争对手正在构建开源模型,让研究人员可以仔细检查训练数据。

奥特曼还回避了田纳西州共和党参议员玛莎·布莱克本(Marsha Blackburn)的呼吁,布莱克本承诺不会在艺术家的版权作品上训练OpenAI的模型,也不会在未经他们同意的情况下使用他们的声音或肖像。当布克问OpenAI是否会在聊天机器人中植入广告时,奥特曼回答说:“我不会说永远不会。”

但就连马库斯对奥特曼的态度似乎也软化了,他在听证会快结束时说,坐在他身边的他,“他在谈论恐惧时的真诚在身体上表现得非常明显,而这在电视屏幕上是无法传达的。”