品玩

科技创新者的每日必读

打开APP
关闭
硅星人

大模型要凭证才能开发?至少OpenAI是这么向监管者建议的

AI已经来到了“原子弹时刻”。

Vicky Xiao

发布于 2023年5月17日

有趣的一幕发生了。

今天上午,在美国国会针对人工智能监管的听证会开始时,参议员理查德·布卢门撒尔 (Richard Blumenthal)“讲”了一段宣言。他的声音在大厅里起:“我们经常看到技术超过监管时会发生什么。加深对个人数据的无节制利用、虚假信息的泛滥和社会不平等

然而镜头扫到时,他的嘴并没有动。直到最后他忍不住发出笑声,才颇为得意地揭晓这段音频是用语音克隆程序根据他在参议院的演讲资料生成,而文本,当然是他用OpenAI的ChatGPT编写的。

所有人的目光都转向了OpenAI的首席执行官Sam Altman以下简称奥特曼)。此时他正坐在证人席上准备提供证词,旁边还有 IBM 的首席隐私和信任官 Christina Montgomery。Blumenthal 说,人工智能能够制作出如此逼真的音频片段真是太神奇了,但潜在的应用可能是可怕的。 

参议院司法小组委员会的乔希·霍利也在听证会开始时警告说,生成式人工智能“至少在规模上类似于互联网的发明”。他说这可能是“人类历史上”最重要的技术创新之一,但它可能会产生像原子弹一样的严重后果。

AI的势头如此之猛,几个月之内,已经眼看着它的诞生慢慢从“iPhone时刻”上升到了“原子弹时刻”,而背后最大的推手,奥特曼也在此时来到了美国国会,接受议员们的质询。

然而,和此前硅谷各巨头因为用户隐私和数据安全问题受到激烈批评不一样,奥特曼这次显然受到了更友好的待遇。议员们基本上没有批评OpenAI的做法,而是非常友善地征求奥特曼和其他证人对ChatGPT等生成人工智能的潜在监管的意见。奥特曼也出乎意料地配合,多次主动要求监管介入,甚至还主动提出了要求政府成立监管机构的想法,让AI领域也开始“凭证入场”。

图片来自Twitter
图片来自Twitter

自我监管 凭证入场

说奥特曼是科技公司高管里最配合甚至是最主动要求监管介入的,绝不为过。他反复强调,AI的强大,让监管在现在看起来就非常重要,而且他很同意需要一个新的机制来处理AI的监管问题。他甚至有备而来地在这次听证会上建议美国政府应该如何监管像OpenAI的公司,包括提出了三点计划:

组建一个新的政府机构,负责为大型AI模型颁发许可,如果有公司模型不符合政府标准,该机构可以撤销该公司的许可证;

• 为 AI 模型创建一套安全标准,包括对其危险能力的评估。模型必须通过某些安全测试,例如它们是否可以“自我复制”和“随意渗透”,即开始自主行动不受控制。

• 要求独立专家对模型在各种指标上的表现进行独立审计。

不过,对于当下开源界和企业界对AI模型最大的争议之一——训练数据是否应该透明化的问题,他却没有正面回答;也没有对另外一些颇有争议的问题提出回应,比如AI是否可以基于有版权的作品进行训练,以及AI开发者该如何补偿这些作品的创作者。

奥特曼这样配合的态度,无疑让议员们十分满意。毕竟行业高管主动呼吁监管的事儿几乎没有在此前的互联网公司里发生过。甚至有参议员直接问奥特曼本人是否有资格来担任AI监管机构的工作。当然奥尔特曼婉拒了这一邀请,他说他喜欢目前的工作,不过OpenAI可以提供一些不错的候选人名单。

奥特曼此前曾表示, “需要一部针对人工智能的新法律”。而这次,他也非常清楚地表明,230条款不是正确的监管人工智能的框架。(美国《通信规范法案》第230条被视为互联网行业的法律基石:如果用户在网站上发布虚假、有害内容,网站无需对用户发布的有害信息承担连带责任)。

奥特曼还警告说,如果AI出错了,那后果会非常严重。“对于一项非常新的技术,我们需要一个新的框架。““当然,我们这样的公司对我们推出的工具负有很多责任,但工具用户也一样。

不过网友对他的这番话也不全像议员们那样买账。有推特网友就讽刺说,奥特曼的实际想法其实是,”现在OpenAI领先了,政府快来管管我们的竞争者吧。“ 许多 AI研究人员也认为这是一种反竞争行为,因为”凭证入场“对大公司有利,却可能难倒小公司、研究人员和免费的开源替代方案。 

图片来自Twitter
图片来自Twitter

拒绝暂停开发AI

AI发展如此之快,但是奥特曼再一次在听证会上公开拒绝了暂停人工智能开发的呼吁。

有议员提到此前伊隆·马斯克联合众多业内人士签署的要求暂停比GPT-4更强的AI模型研发,暂停时间至少为6个月时,奥特曼也表示,这个呼吁的框架是错误的。

他说,审计、测试、安全标准这些才是重要的,而日期上的暂停毫无意义。“我们暂停6个月,然后呢?我们再暂停6个月?”他说,OpenAI应用在GPT-4上的标准是一个正确的方向,他们会继续这么做,而不是做一个日期上的开发暂停。

但是,他也没有否认,或许暂停开发会在未来的某一天到来。“我相信会有一天我们觉得不了解在开发的东西了,我们会需要确实暂停一下, 但不是现在。”

垄断与竞争

几位参议员也对人工智能市场的垄断竞争敲响了警钟,警告说少数科技公司可能会主导这些工具。

有参议员表示,他对AI“最大担忧”之一是“这种大规模的模型技术集中在少数企业手上”。他以OpenAI与微软的合作为例,表示“看到现在很少有公司控制和影响我们这么多人的生活,而这些公司越来越大,越来越强大,这真的很可怕。”

作为回应,奥特曼表示,他确实认为“能够开发出大模型的企业数量相对较少”,但只有少数参与者可能会让监管变得容易。

“你真正需要关注的人越少......那就有好处。但我认为需要有足够的竞争,而且肯定一定会有。”他说。

无法承诺ChatGPT 无广告

当有议员在询问OpenAI是否会涉足广告业务时,奥特曼也对这种可能性持开放态度。毕竟OpenAI烧钱的速度在那里,此前有消息称,ChatGPT每天的开销就高达70万美元,ChatGPT Plus每月20美金的订阅费对此无疑是杯水车薪。2022年OpenAI的亏损大约翻了一番,达到约5.4亿美元。奥特曼甚至提过OpenAI可能会在未来几年尝试筹集多达1000亿美元的资金。

所以,对于广告模式,尽管奥特曼说“真的很喜欢”拥有基于订阅的模式,但他没办法承诺说“永远不会有广告”,而是暗示说,可能对于有些潜在客户,广告会是唯一能从他们身上获得收入的办法。

这也意味着,如果找不到其他赚钱办法,免费版本的ChatGPT(GPT-3.5)最终还是有可能会迎来广告。奥特曼的回答也表明,OpenAI至少没有完全否定在 ChatGPT免费版中投放广告以从其免费用户那里赚钱的可能性。

不过,说到投放依靠广告赚钱,谁会比谷歌和微软更在行呢?微软的Bing Chat已经开始出现广告的痕迹,谷歌的Bard虽然目前还没有广告,但是谁都知道,这只是时间的问题。

而奥特曼也借此次听证会再一次重申,他在OpenAI没有任何的股权,他做这些,“只是因为我真的热爱。”

注:封面图来自于Pexels,版权属于原作者。如果不同意使用,请尽快联系我们,我们会立即删除。

下载品玩App,比99.9%的人更先知道关于「硅星人」的新故事

下载品玩App

比99.9%的人更先知道关于「硅星人」的新故事

iOS版本 Android版本
立即下载
Vicky Xiao

Tell me your story. xiaoxu@pingwest.com

取消 发布
AI阅读助手
以下有两点提示,请您注意:
1. 请避免输入违反公序良俗、不安全或敏感的内容,模型可能无法回答不合适的问题。
2. 我们致力于提供高质量的大模型问答服务,但无法保证回答的准确性、时效性、全面性或适用性。在使用本服务时,您需要自行判断并承担风险;
感谢您的理解与配合
该功能目前正处于内测阶段,尚未对所有用户开放。如果您想快人一步体验产品的新功能,欢迎点击下面的按钮申请参与内测 申请内测