品玩

科技创新者的每日必读

打开APP
关闭

谷歌前CEO施密特最新演讲全文实录:彻底放飞自我,坦言“卷”才是企业唯一的出路

在最近的一次斯坦福大学对谈中,前谷歌CEO 埃里克··施密特(Eric Schmidt)分享了他对人工智能短期发展的看法。

吕可

发布于 8月17日

在最近的一次斯坦福大学对谈中,前谷歌CEO 埃里克··施密特(Eric Schmidt)分享了他对人工智能短期发展的看法。他认为,更大的上下文窗口、代理模型和文本到行动技术的结合,将带来远超社交媒体影响的新一波技术浪潮。上下文窗口的扩大将使AI具备短期记忆能力,代理模型能自主学习和执行任务,而文本到行动技术将使每个人都拥有自己的"程序员"。

然而,施密特也指出了AI发展面临的挑战,包括算力需求、技术垄断、人才竞争、错误信息和对AI模型运作方式的理解。他强调了保持AI技术领先地位、应对错误信息以及理解AI模型运作方式的重要性。

以下为演讲实录:

主持人:今天的嘉宾其实无需多做介绍。我大约25年前第一次见到Eric,当时他作为Novell的CEO来到斯坦福商学院。从那之后,他做了不少事情,包括2001年加入谷歌,以及2017年创立了Schmidt Futures,还有许多其他成就大家都可以查阅到。但他今天只能待到5点15分,所以我想我们直接进入一些问题。我知道你们也提交了一些问题,我这儿也有一些,但我们刚刚在楼上讨论的话题更有趣,所以我想从那儿开始,Eric,如果你不介意的话,我想问你对AI短期发展的看法,你将短期定义为一到两年内的变化,对吗?

施密特:变化的速度太快了。我感觉每6个月就得更新一次关于未来发展的演讲。有人可以解释一下什么是百万词汇上下文窗口吗?这个概念是什么,谁能为大家讲解一下?

学生:基本上,它允许你用一百万个标记或一百万个单词进行提示。

施密特:所以你可以处理一个百万字的请求。

学生:对,我知道这在目前是一个非常大的方向。

施密特:不,不。他们正在迈向1000万。Anthropic已经达到了200,000。他们的目标是达到百万,等等。你可以想象OpenAI也有类似的目标。

学生:类似的目标。

施密特:那么,有人能给出一个关于AI代理的实际定义吗?在过去的几年里,AI已经发展到了一定程度,并且开始在某些模式下产生作用。所以AI代理可能会在网络上查找信息,或者执行各种任务。有各种各样的定义。一般来说,代理是执行某种任务的系统。另一个定义是它具有语言模型状态和记忆功能。那么,有人可以定义一下“文本到行动”吗?

学生:把文本转化为行动,对吗?

施密特:不是仅仅生成更多的文本,而是让AI根据文本触发行动。

施密特:另一个定义可能是从语言到Python编程语言,这是一个我不希望看到持续存在的语言,但目前所有AI的开发都在用Python。最近刚刚出现了一种新语言叫做Mojo,它看起来似乎解决了AI编程中的一些问题,但我们得看看它是否真的能取代Python的主导地位。还有一个技术问题,为什么Nvidia的市值达到2万亿美元,而其他公司却在挣扎?这是为什么呢?

施密特:我认为归根结底,这与代码的运行和当前只有Nvidia的GPU能够进行的代码优化有关。因此,其他公司即使制造出再多产品,但没有10年的软件积累,就无法实现机器学习的优化。

施密特:我喜欢将CUDA比作GPU的C编程语言。它成立于2008年,我一直觉得它是个糟糕的语言,但它却成为了主流。还有另一个见解,有一系列高度优化的开源库,这些库专门为CUDA设计,而不是为其他平台设计的。这些库在任何讨论中都被忽视了。它们被称为vLLM,以及其他很多类似的库,这些库高度优化了CUDA,对竞争对手来说非常难以复制。那么这一切在未来一年内会意味着什么?

施密特:我们将会看到非常大的上下文窗口代理和文本到行动的技术,当它们大规模应用时,其对世界的影响将比社交媒体所带来的可怕影响大得多。我认为,在一个上下文窗口中,基本上可以将其用作短期记忆。我感到震惊的是上下文窗口变得如此之大,其技术原因与计算的难度有关。短期记忆的有趣之处在于,当你向其提出一个问题时,输入20本书的文本,问它这些书在说什么,它会忘记中间的部分,这与人类大脑的工作方式非常相似。这就是我们在代理技术方面的现状。现在有人正在构建类似的系统,他们的方式是通过阅读化学领域的内容,发现化学原理,然后进行测试,最后将这些知识纳入到他们的理解中。这是非常强大的。

施密特:然后,第三个方面就是文本到行动的技术。我举个例子,政府正在试图禁止TikTok,我们拭目以待是否会真的发生。如果TikTok被禁止了,我建议你们每个人都对你的语言模型(LLM)下达以下指令:复制一个TikTok,获取所有用户和音乐,将我的偏好添加进去,在30秒内生成这个程序,并在一小时内发布它,如果它没有病毒式传播,做一些类似的改变。这就是命令。你明白这有多强大了吗?如果你能从任意语言转换为任意数字指令,这本质上就是在Python中的场景。

施密特:想象一下,每个人都拥有一个程序员,实际完成他们的要求,而不是像那些我雇佣的程序员,他们总是无法完成我交给他们的任务。这里的程序员们知道我在说什么。所以,想象一下,一个不会让你失望的程序员,而且你不用付出高额的报酬,而这些程序员供应无限。

主持人:而这一切都将在一两年内发生。

施密特:很快就是了,这三件事,我确信它们的结合将成为下一波技术浪潮。所以你问还有什么即将发生的?

施密特:每6个月我都会有所调整。这是一种偶数和奇数交替变化的趋势。目前,前沿模型之间的差距,尤其是其中的三大模型与其他模型之间的差距,似乎在扩大。六个月前,我确信这种差距在缩小。所以我投资了很多小公司。现在我不太确定,我正在与大公司对话,而大公司告诉我,他们需要100亿、200亿、500亿甚至1000亿的投资。Stargate是一个1000亿规模的项目。

主持人:对吧?

施密特:这非常、非常、非常困难。我和Sam Altman是好朋友,他认为这将需要3000亿甚至更多。我告诉他我已经计算了所需的能源量,并且为了透明起见,我在上周五去了白宫,告诉他们我们需要与加拿大成为最好的朋友,因为加拿大有非常友好的人,帮助发明了AI,并且拥有大量的水电资源。因为我们国家没有足够的电力来支撑这一切。另一个选择是让阿拉伯国家资助,而我个人喜欢阿拉伯国家,我在那里待了很长时间,但他们不会遵守我们的国家安全规定,而加拿大和美国则是一个联盟,我们共享相似的价值观。

主持人:所以这些1000亿、3000亿的数据中心,电力开始成为稀缺资源。

施密特:顺便说一下,如果你按照这个逻辑推理下去,为什么我之前讨论了Nvidia?如果3000亿美元都要流向Nvidia,你就知道该怎么做股市投资了。这不是股票推荐,我没有相关的执照。

主持人:那么我们需要更多的芯片。但Intel正从美国政府获得大量资金,AMD也在努力建设半导体制造厂。

施密特:举手示意一下,如果你使用的计算设备中有Intel芯片的。

主持人:嗯,英特尔曾经确实有垄断地位,而现在Nvidia有了垄断地位。那么这些进入门槛,比如CUDA,是有什么特殊之处吗?我最近与Percy讨论过,他在TPU和Nvidia芯片之间切换,这取决于他能获得什么样的资源。

施密特:那是因为他别无选择。如果他有无限的资金,他今天会选择Nvidia的B200架构,因为它更快。我并不是在建议,虽然竞争是好事,但我已经和AMD的Lisa Su进行了深入讨论,他们开发了一个系统,可以将CUDA架构转换为他们自己的系统,叫做ROCm。虽然现在还不完全可行,但他们正在努力。

主持人:你在谷歌工作了很长时间,他们发明了Transformer架构。Peter是这方面的主要功臣,感谢那里的天才们,如Peter和Jeff Dean。但现在谷歌似乎失去了对OpenAI的主动权。甚至在我看到的最新排行榜上,Anthropic的Claude排名第一。我问了Sundar这个问题,他没有给我一个明确的回答。也许你有更尖锐或更客观的解释。

施密特:我不再是谷歌的员工了。是的,在这样一个美妙的披露中,谷歌决定工作与生活的平衡、早点回家和远程办公比赢得竞争更重要。而初创公司之所以能够成功,是因为他们的人都拼命工作。我很抱歉这么直接,但事实就是这样。如果你们从大学毕业后去创办公司,那么如果你想与其他初创公司竞争,你不可能允许员工只在家办公或每周只来公司一天。

主持人:在谷歌的早期,微软也是这样的。

施密特:但现在看来,我们这个行业中有一个很长的历史——公司通过真正具有创意的方式赢得市场并主导某个领域,却没有完成下一步的转型。这是有充分记录的。我认为事实是,创始人是特殊的。创始人需要掌握权力,创始人很难相处,他们对员工要求很高。尽管我们可能不喜欢埃隆·马斯克的个人行为,但看看他从人们身上获得了什么。

施密特:我曾和他共进晚餐,当时我在蒙大拿,而他那天晚上10点要飞往另一个城市,在午夜与X.AI开会。想想看,我当时在台湾,不同的国家,不同的文化背景。这是台积电给我的印象深刻之处,他们有一项规定,就是刚入职的博士们,即便是优秀的物理学家,也要在工厂的地下室工作。你能想象让美国的物理学博士们去做这种工作吗?几乎不可能。这是不同的工作伦理。

施密特:我之所以对工作要求如此严格,是因为这些系统具有网络效应,因此时间非常重要。而在大多数业务中,时间并不是那么重要。你有很多时间,像可口可乐和百事可乐这样的公司会一直存在下去,它们之间的竞争会持续进行。这一切都像是冰川移动。以我处理电信公司的经验为例,典型的电信协议签订通常需要18个月。没有任何事情需要花18个月来完成,应该尽快搞定。我们正处于一个最大化增长和最大化收益的时期。此外,有时需要一些疯狂的想法。比如微软在进行开放AI合作时,我曾认为这是我听过的最愚蠢的想法。

施密特:从本质上来说,这是将微软的AI领导权外包给OpenAI和他们的团队,这简直是疯狂。微软或任何其他公司都不会这么做。然而,今天他们正逐渐成为最有价值的公司,甚至可以与苹果抗衡。苹果并没有一个好的AI解决方案,但看起来他们成功了。

施密特:从国家安全或地缘政治利益的角度来看,您认为AI在与中国的竞争中会扮演什么角色?我曾担任一个AI委员会的主席,该委员会非常仔细地研究了这个问题。你可以去读一下报告,大约有752页。我简单总结一下,我们目前处于领先地位,我们需要保持领先,并且需要大量资金来做到这一点。我们的客户是参议院和众议院,从中诞生了《芯片法案》等一系列政策。

施密特:如果前沿模型继续推进,加上少数开源模型,可能只有少数几个国家能参与这个游戏。抱歉,我指的是哪些国家?那些拥有大量资金和人才、教育体系强大、且有意愿获胜的国家。美国是其中之一,中国是另一个。还有其他国家吗?

主持人:还有其他国家吗?

施密特:我不知道,也许有。但毫无疑问,在你们的一生中,美国和中国之间的知识主导权之争将是主要的竞争。

施密特:因此,美国政府实际上禁止了英伟达的芯片出口,尽管他们不被允许公开承认这一点,但他们确实这么做了。我们在芯片制造领域大约有10年的领先优势。我们在细分市场上大约领先10年,大约10年吧。因此,举个例子,今天我们比中国领先几年的技术。我猜我们将进一步拉开与中国的距离,而中国对此非常愤怒。这是个大问题,这是特朗普政府做出的决定,并得到了拜登政府的批准。

主持人:您认为现在的政府和国会在听取您的建议吗?您认为他们会进行大规模投资吗?显然,《芯片法案》是其中之一,但除此之外,是否会建设一个大规模的AI系统?

施密特:正如你所知道的,我领导了一个非正式的临时组织,不具有法律效力,这与非法的区别不大。为了澄清,我的组织包括所有常见的成员,但排除了所有常见的嫌疑人。过去一年中,这些嫌疑人提出的建议形成了拜登政府AI法案的基础,这是历史上最长的总统指令。

主持人:您是指特殊竞争研究。

施密特:这是实际的法案,由行政办公室发布的,他们正忙于实施细节。到目前为止,他们的做法是正确的。

施密特:例如,我们在过去一年中的一个辩论是,如何检测一个系统中的危险,这个系统已经学会了一些东西,但你不知道该问它什么。换句话说,这是一个核心问题。它学会了一些不好的东西,但它无法告诉你它学会了什么,而你也不知道该怎么问它。存在许多威胁,比如它学会了如何以你无法理解的新方式混合化学物质。所以人们正在努力解决这个问题。

施密特:但我们最终在备忘录中写道,有一个我们随意命名为10的26次方浮点运算能力的阈值,这在技术上是计算能力的一个指标。超过这个阈值,你必须向政府报告你正在进行的研究。这是规则的一部分,欧盟为了显示与众不同,将阈值设为10的25次方,但这个区别并不大。我认为这些区别最终会消失,因为技术将朝着所谓的“联邦学习”的方向发展,基本上你可以将多个部分联合在一起。所以我们可能无法保证人们免受这些新事物的威胁。

主持人:有传言称,OpenAI之所以需要这样训练,部分原因是由于能耗问题。没有一个地方可以集中处理。好吧,让我们谈谈正在发生的一场真正的战争。我知道你对乌克兰战争非常关注,尤其是你提到的“白鹤计划”,目标是用500美元的无人机摧毁500万美元的坦克。

施密特:这是否正在改变战争的方式?我曾在国防部工作七年,试图改变我们军队的运作方式。我对军队并不是特别热衷,但它的成本非常高,我想看看是否能有所帮助。我认为,在我看来,我基本上是失败的。他们给了我一枚勋章,所以他们一定是给失败者颁发勋章,但我的自我批评是,实际上什么都没有改变,美国的系统不会引领真正的创新。看到俄罗斯人用坦克摧毁公寓楼,伤害无辜的老人和孩子让我非常愤怒。

施密特:所以我决定与你的朋友塞巴斯蒂安·索恩以及一些曾经的教职员工和一群斯坦福大学的人合作。我们的基本想法是做两件事:首先,利用AI在这些机器人战争中发挥复杂而强大的作用;其次,降低机器人的成本。现在,你可能会想,像我这样一个善良的自由派为什么要做这样的事情?答案是,军队的理论是坦克、大炮和迫击炮,而我们可以消除所有这些武器,使入侵一个国家的代价变得不可承受。它应该能消除陆地战斗。

主持人:这个问题实际上是,它是否更有利于防御而不是进攻?你能否做出这样的区分?

施密特:因为我在过去一年里做了这些事情,我学到了很多关于战争的知识,虽然我真的不想知道这些。战争中的一个要点是,进攻总是具有优势,因为你可以总是压倒防御系统。因此,作为国家防御策略,你最好拥有一支非常强大的进攻力量,以便在需要时使用。而我和其他人正在建立的系统将实现这一点,因为系统的运作方式。我现在是一个持牌武器商。哈哈,所以我是计算机科学家、商人和武器商。

主持人:对不起,这不是一个渐进的过程。

施密特:我不推荐在你们的团队中尝试这种做法。我坚持采用一种方法。由于法律的运作方式,我们正在私下进行这一切。这一切在政府的支持下都是合法的,直接进入乌克兰,由他们去打这场战争。不深入细节地说,情况非常糟糕。我认为如果到五月或六月,俄罗斯人像他们预期的那样进行增兵,乌克兰将失去一大块领土,并开始失去整个国家。因此,形势相当严峻。如果有人认识玛乔丽·泰勒·格林,我建议你们从通讯录中删除她,因为她是唯一一个阻碍提供数十亿美元援助以拯救重要民主国家的人。

主持人:我想换一个更哲学性的问题。去年你、亨利·基辛格和丹·赫滕赖克共同撰写了一篇关于知识本质的文章。文章讨论了从大多数历史时期的神秘理解,到科学革命和启蒙时代。你们的文章中提到这些模型变得越来越复杂和难以理解,以至于我们无法真正了解它们的运作。我引用理查德·费曼的一句话:“我不能创造的东西,我不理解。”现在人们可以创造东西,但他们并不真正理解其中的内容。

主持人:知识的本质是否正在发生变化?我们是否必须开始仅仅相信这些模型,而不能让它们向我们解释?

施密特:我可以提供一个类比,就像青少年一样。如果你有一个青少年,你知道他们是人类,但你无法完全理解他们在想什么。然而,我们社会已经适应了青少年的存在,对吧?他们最终会成长起来。我是认真的。我们可能会遇到无法完全表征的知识系统,但我们理解它们的边界。我们理解它们能做什么,这是我们能获得的最佳结果。

主持人:你认为我们会理解这些边界吗?

施密特:我们会相当擅长这一点。我们每周都有一个小组讨论,大家的共识是,最终你会看到所谓的对抗性AI。实际上,将会有公司你可以雇佣并支付费用来破坏你的AI系统,就像红队一样。所以,除了现在的人类红队之外,你还会有整个公司和整个行业专门从事破坏现有AI系统并找出其脆弱点。这样做也许是有意义的,这对你们在斯坦福大学的研究生来说也是一个很好的项目,因为如果你们能找到攻击这些大型模型并理解其运作的方式,那将是培养下一代人才的重要技能。因此,我认为这两者将共同发展。

主持人:好吧,让我们来听听学生的提问。后排的那位同学。

学生:先生,您刚才提到,扩展上下文窗口、代理和文本到行动的结合将产生难以想象的影响。首先,为什么这种结合如此重要?其次,我知道您不能像水晶球一样预测未来,但为什么您认为这种结合超出了我们的想象?

施密特:我认为这主要是因为上下文窗口可以解决近期性的问题。目前的模型通常需要一年左右的时间来训练,约六个月的准备、六个月的训练和六个月的微调,因此它们总是过时的。上下文窗口可以提供最新的信息,比如你可以向它询问关于哈马斯和以色列战争的内容,这样它就会变得像谷歌一样最新。至于代理模型,我设立了一个基金会,资助了一个非营利组织,该组织使用AI来进行化学实验。虽然我对化学并不完全了解,但有一种名为ChemCore的工具,利用LLM系统学习化学知识。他们利用这个工具生成关于蛋白质的化学假设,然后用实验室进行测试,从而实现快速学习。这对化学、材料科学等领域来说是巨大的加速器。至于文本到行动,可以通过拥有大量廉价程序员来理解。我不认为我们完全理解这种影响。而这也是你们领域的专长之一。

施密特:当每个人都有自己的程序员时,会发生什么?比如,你个人不喜欢谷歌,你可以要求它建立一个谷歌竞争对手。你让它搜索网页、建立用户界面、生成良好的内容,并以有趣的方式加入生成式AI,完成后看效果。这让很多人相信,现有的公司,包括谷歌,可能会受到这种攻击的威胁。我们拭目以待。

主持人:有一系列问题是通过Slider提出的,我想挑选一些来回答。我们去年讨论过一些问题。首先,如何阻止AI影响公众舆论和错误信息,特别是在即将到来的选举中?短期和长期有什么应对措施?

施密特:在即将到来的选举和全球范围内,大部分错误信息将出现在社交媒体上。而社交媒体公司没有足够的组织来管理这些问题。例如,TikTok经常被指责偏袒某种错误信息,还有很多人没有证据地声称中国强迫他们这样做。我认为我们面临一团乱麻,国家必须学习批判性思维。这可能对我们来说是一个不可能的挑战,但有人告诉你什么并不意味着它是真的。

主持人:但是否可能会出现相反的情况,即真正的事情没人相信?有些人称之为认识论危机,现在有些事情即便是真实的也不被相信,比如有人说,埃琳娜说她从未做过这事,证明它。

施密特:以特朗普为例,我们的社会存在信任问题。民主制度可能会失败,我认为对民主最大的威胁就是错误信息,因为我们会变得非常擅长传播这些信息。当我管理YouTube时,我们面临的最大问题是有人上传虚假的视频,导致人们死亡。我们有一个禁止死亡的政策,这令人震惊,处理这些问题真的很困难,那时候还没有生成式AI。

主持人:好吧。

施密特:所以我没有一个好的答案。

主持人:虽然这不是一个完整的答案,但有一个技术措施似乎可以缓解这个问题,那就是公开密钥认证。当乔·拜登讲话时,为什么不使用数字签名,比如SSL?或者名人或公众人物,是否可以拥有公开密钥?

施密特:是的,这是一种公开密钥认证的形式,并且需要一定程度的系统认证。比如当我将我的信用卡信息发送给亚马逊时,我知道是亚马逊。我和乔纳森·海特合作写了一篇论文,内容就是倡导你提到的方案,但结果几乎没有影响。他是非常优秀的责任研究者,而我可能不是。所以我的结论是,目前的系统没有组织好去实现你所说的方案。

主持人:你们的论文是倡导什么?

施密特:我们是倡导你的提议。我的结论是,首席执行官们通常以最大化收入为目标,为了最大化收入,他们会最大化参与度。为了最大化参与度,他们会最大化愤怒。算法选择愤怒,因为这会产生更多的收入。因此,算法存在偏向疯狂内容的倾向,这个问题在民主制度中需要解决。

施密特:我对TikTok的解决方案,之前私下讨论过的,是类似于我小时候的“平等时间规则”。因为TikTok实际上不是社交媒体,它更像电视。数据显示,美国每个TikTok用户每天观看90分钟,观看200个视频。这些数字很大。所以政府不会实施平等时间规则,但平衡是必须的。

主持人:好,让我们继续其他问题。

施密特:两个快速问题。第一个是关于大型语言模型的经济影响,全球市场的影响是否比你原本预期的要慢?你提到Chegg等一些公司。第二个问题是,学术界是否应该获得AI补贴,还是应该与现有公司合作?

施密特:我曾经非常努力地推动为大学提供数据中心。如果我是一名计算机科学系的教师,我会非常生气,因为我无法与我的研究生一起构建算法进行博士研究。而被迫与这些公司合作,我认为公司在这方面的慷慨程度不够。很多我交谈的教师花了很多时间等待他们从谷歌云获得的积分,这是很糟糕的。

施密特:这是一个爆炸性的领域。我们希望美国赢得胜利,希望美国大学也能获得成功。美国有很多理由去做正确的事情,所以我在为此努力。至于第一个问题,我会把它交给真正的专家。作为一个由Eric教过的业余经济学家,我基本上相信,高技能任务的大学教育将会很好,因为人们将与这些系统合作。我认为这些系统与任何其他技术浪潮并无不同,危险的工作和需要很少人类判断的工作将会被取代。

主持人:我们还有大约5分钟时间,所以请尽量简短回答。Eric,你来选问题吧。

学生:你好。我对文本到行动及其对计算机科学教育的影响非常感兴趣。我想知道你对计算机科学教育如何转型以适应这一时代有何看法?

施密特:我假设计算机科学本科生将始终有一个编程助手。当你学习第一个for循环等时,你将有一个工具作为你的自然伙伴。这将成为教学的一部分,教授会讲授概念,而你将通过工具进行互动。这是我的猜测。

学生:在你提到的非变换器架构中,我很感兴趣。你提到过一些新的架构,你能谈谈这些架构吗?

施密特:我对数学了解不够深入。我们真的为数学家创造了很多就业机会,因为数学非常复杂。基本上,它们是以不同的方式进行梯度下降,矩阵乘法更快、更好。变换器是一种系统化的乘法方式。我认为这些新架构的数学类似但不同。

学生:你在国家安全的论文中提到中美及其他国家的能力。你如何看待这些国家,尤其是那些既不是正式盟友又处于中间的国家?它们有多可能加入到保护AI优势的行列中?它们将如何行动?

施密特:最有趣的国家是印度,因为顶尖的AI人才来自印度到美国。我们应该让印度保留一些顶尖人才,但不是全部。他们没有我们在这里拥有的训练设施和项目。对我来说,印度是一个重要的摇摆国家。

施密特:日本和韩国显然站在我们这一边。其他国家中,大多数选择并不大。欧洲因布鲁塞尔的因素而陷入困境。我花了10年时间与布鲁塞尔作斗争,努力让他们修复欧盟法案,但他们仍有很多限制,这使得在欧洲进行我们的研究非常困难。我在法国的朋友们一直在与布鲁塞尔作斗争,而马克龙是我的个人朋友,他在为此而努力。法国可能有机会,但我不认为德国会有所作为,其余的国家不够大。

学生:作为一名年轻的工程师,我很好奇你提到的能力。鉴于AI的发展,我们是否还应该花时间学习编码?

施密特:因为最终这是一个老问题——为什么要学习英语?如果你能说英语,你会变得更好。你真的需要理解这些系统的运作方式,我对此感到非常坚定。

学生:我对分布式设置是否有探索过感兴趣。制造大型集群很困难,但MacBook非常强大,世界上有很多小型机器。你认为像Folding@home这样的想法是否适合用于训练?

施密特:我们对此进行了非常深入的研究。这些算法的工作方式是处理非常大的矩阵,并且有一个乘法函数。可以把它想象成来回交换,这些系统完全受限于内存到CPU或GPU的速度。事实上,Nvidia芯片的下一代将所有这些功能合并到一个芯片上。芯片现在非常大,需要将它们粘合在一起。实际上,芯片的封装如此敏感,以至于封装是在洁净室中进行的。所以,短期内这种方法似乎不太可能奏效。

主持人: 是否可以像这样对元素进行分段?杰夫·迪恩去年在这里演讲时提到过,将这些不同部分分别训练,然后再进行联合训练。

施密特: 如果要做到这一点,你需要有一千万个这样的元素。而且询问问题的方式会变得太慢。他说的是八到十级的情况,而不是他的水平。对吧?在后面?是的,很远的地方。

施密特: 我知道在QPT发布后,《纽约时报》很快开放了其作品用于训练。你认为这会如何发展,这对未来意味着什么?我曾经做过很多音乐授权方面的工作,我了解到在1960年代,有一系列的诉讼导致达成了一项协议,即当你的歌曲播放时,你会获得规定的版税。即使他们不认识你,这些版税也会支付到一个银行账户。我的猜测是,这种情况也会如此。将会有很多诉讼,并且会有某种规定的协议,规定你必须支付一定比例的收入来使用这些内容。

主持人: 你可以问BMI。

施密特: 查一下。这听起来可能对你们来说很古老,但我认为这就是最终的解决方案。

学生: 似乎有一些主要的玩家主导了人工智能领域,他们将继续主导。并且这些玩家似乎与大型公司重叠,这些公司也是反垄断监管关注的重点。你如何看待这两个趋势?你认为监管者会拆分这些公司吗?这将会有什么影响?

施密特: 在我的职业生涯中,我曾帮助微软被拆分,但微软并没有被拆分。我认为谷歌也不会被拆分,所以趋势看来是不拆分,只要这些公司避免像约翰·D·洛克菲勒那样。我研究过这方面的内容,你可以查一下,这涉及到反托拉斯法。我认为政府不会采取行动。你看到这些大公司主导市场,是因为谁有资金建设数据中心,对吧?所以,我的朋友里德和我的朋友马斯克下周或两周后会来谈论他们决定将Reflect拆分并并入微软的决定。基本上,他们决定无法筹集到数十亿美元的资金。

主持人: 你提到的那个数字是公开的吗?

施密特: 让里德告诉你。

主持人: 也许我们可以先这样说,我知道你还要离开,我不想耽误你时间。

施密特: 我想离开。我们还要继续这个话题吗?

主持人: 还有一个问题,接下来请问,谢谢你。我想知道这将对那些不参与前沿模型开发和竞争的国家产生什么影响。例如,非参与国会面临什么样的挑战?

施密特: 富者愈富,穷者尽力而为。事实上,这是一场富国的游戏,对吧?需要巨大的资本、大量技术人才和强有力的政府支持。比如,有些国家有各种问题,缺乏这些资源,他们将不得不寻找合作伙伴,或者与其他人合作。

主持人: 我想讨论一下你在AGI House的黑客松活动上所做的事情。我知道你花了很多时间帮助年轻人创造财富,你对此充满热情。对于在这个阶段撰写商业计划、政策提案或研究提案的人们,你有什么建议?

施密特: 我在商学院教这一类课程,你可以来听我的课。我对新思想的演示构建速度感到惊讶。例如,在我参加的一个黑客松中,获胜的团队的任务是让无人机在两座塔之间飞行。他们得到的是一个虚拟无人机空间,并且通过理解“在”这个词的含义,生成了Python代码并在模拟器中通过塔楼飞行。这本来需要一到两周的时间来完成,但他们在一天内就完成了。创业的一个问题是,一切都发生得更快。

施密特: 现在,如果你不能在一天内使用这些工具构建原型,你需要考虑一下,因为你的竞争对手已经在这样做。因此,我的主要建议是,当你开始考虑创建公司时,写商业计划是可以的。事实上,你可以让计算机为你编写商业计划。

主持人: 这点我们可以在你离开后再详细讨论。

施密特: 但我认为非常重要的一点是,使用这些工具尽快制作原型,因为你可以肯定,其他公司、其他大学、甚至你未曾到过的地方,都会有其他人在做完全相同的事情。

主持人: 好的,谢谢你。

施密特: 谢谢大家,我得赶紧走了。谢谢你们。

(译:吕可)

吕可

品玩要闻:7*24小时不间断追踪全球新鲜事 联系邮箱:wire@pingwest.com

取消 发布
AI阅读助手
以下有两点提示,请您注意:
1. 请避免输入违反公序良俗、不安全或敏感的内容,模型可能无法回答不合适的问题。
2. 我们致力于提供高质量的大模型问答服务,但无法保证回答的准确性、时效性、全面性或适用性。在使用本服务时,您需要自行判断并承担风险;
感谢您的理解与配合
该功能目前正处于内测阶段,尚未对所有用户开放。如果您想快人一步体验产品的新功能,欢迎点击下面的按钮申请参与内测 申请内测