人工智能领域重大突破：GPT3诞生！到底能改变什么？未来这五大领域或率先应

本篇文章2544字，读完约6分钟

在动荡的2020年，人工智能行业似乎掀起了一股科技浪潮，就像科幻电影一样闪耀在现实中，而风险投资圈正等着看会发生什么。

最近，openai开发的gpt-3(第三代文本生成器)在硅谷内外引起了热烈的讨论。Openai是一个成立于2015年的人工智能非营利组织，旨在让人工智能发展并服务于人类福祉。这个机构之所以出名，是因为它是在特斯拉首席执行官马斯克的支持下成立的。尽管他在2018年2月离开了董事会，但这个专注于人工智能领域颠覆性创新的年轻团队仍成为硅谷的焦点。

gpt-3到底是什么？

gpt-3的全称是“通用检索转换器-3”，它是由openai开发的自然语言处理计算模型。它最早出现在2020年5月底发表的一篇论文《小样本学习的语言模型》(第一作者是汤姆布朗)。

根据openai的官方解释，gpt是一个自动完成工具，也是语言理解和建模的先驱之一。它通过无监督的预训练和有监督的微调来实现文本的自动完成。Gpt-2是Gpt的直接扩展，它有10倍以上的参数，接受10倍以上的数据训练。Gpt-2可以根据预设的文本预测下一个单词，从而生成连贯的文本段落。它可以执行基本的阅读理解，机器翻译，问答和总结，而不需要特定的预训练，并具有初步的图像生成功能。

根据普遍的理解，gpt2可以写出看似合理的段落，与它的风格和主题相匹配。它很少表现出与以前的人工智能系统不同的陌生感，比如忘记在段落中间写东西或者破坏长句的语法。据海外媒体报道，早在2019年，openai就已经开发出能够基于gpt-2撰写新闻和小说的人工智能机器人，但由于担心技术滥用，它暂时不敢公布研究结果。

例如，如果把乔治威尔1984年的小说——《四月是一个明亮而寒冷的日子，时钟敲了十三下》的引言输入到这个人工智能系统中，那么这个系统就会识别出这种模糊的未来主义基调和小说风格，并继续写下下面一句话:“在去西雅图找新工作的路上，我坐在车里。”我加满油，插上钥匙，然后让它跑了。我只是想象这一天会是什么样子。一百年后的2045年，我在中国贫困农村地区的一所学校当老师。我开始教中国历史和科学史课程。”

一年后，openai取得了巨大的进步。与第二代相比，gpt-3具有更成熟的图像生成功能，无需微调即可基于不完整的图像样本完成完整的图像。Gpt-3意味着从一代到三代的飞跃实现了两个转变:从语言到图像，以及图像生成领域的无监督学习，其应用领域值得期待。

Openai现在已经打开了商业api的测试版，各种开发者和商人从gpt-3的测试和实验结果中推出了社交媒体，所有这些都证实了openai官方解释的基本功能:阅读理解、机器翻译、问题回答、摘要和图像完成，以及扩展功能，如与历史人物对话、文本描述生成代码和绘图助手。著名的外国科技媒体《连线》(Wired)提到了一个创造性的实验:丹佛的企业家埃利奥特·尔纳(elliotturner)发现，gpt-3可以改变文本的语义颜色，比如将粗鲁的词语改写成礼貌的词语。

祁鸣风险投资公司合伙人周志峰在接受《证券时报》风险投资交易所采访时表示，gpt-3是一种语言模型培训方法。简而言之，它的核心是将模型大小增加到1750亿个参数，并使用45tb的海量和丰富的数据集进行训练。

“我认为这是人工智能技术发展过程中的一个进步，它遵循由量变引起的质变规律，并处于量变的积累阶段，尽管它不能被描述为一个巨大的变化。但是，gpt-3解决的问题也很重要，即以前的语言模型过于依赖某一领域的标注数据，这使得标注数据非常费时费力，而且训练出来的模型很难推广到其他领域。”他说。

人工智能的发展迎来了新的变化？

根据公开信息，openainonprofit目前的董事会由gregbrockman(董事长兼首席技术官)、ilyasutskever(首席科学家)和samaltman(首席执行官)组成。gpt和gpt-2早在2018年2月和2019年就发布了，去年7月，他们从微软获得了10亿美元的资本支持。

然而，投资界对gpt-3的突然出现仍然保持着谨慎和冷静的态度。密码货币市场的信息分析平台intotheblock的首席执行官Jesusrodriguez从区块链的角度解释了像gpt-3这样的变压器模型的应用可能性。

他认为，人们正试图将变压器模型应用到分散的人工智能架构中，如奇点网，这将扩展变压器模型的应用场景。到目前为止，像gpt-3这样的变压器模型是大公司的特权，只有大公司的人工智能实验室有足够的数据和资源来构建和运行这样大规模的神经网络。分散式人工智能为我们提供了另一种解决方案，它可以基于激励机制在分散式网络中训练、执行和监控变压器体系结构。

人工智能关键研究和咨询公司cognilytica的管理合伙人兼首席分析师Kathleenwalch在福布斯网站上表示，人工智能R&D的活动需要花费大量资金来建设和测试，而这些R&D投资的劣势在于回报的高度不确定性。因此，ai公司要么证明它已经开发了伟大的变革性技术，要么证明成熟的技术企业、政府和咨询公司都希望将这一技术应用到实际项目中。

虽然gpt-3被业界和媒体大大夸大了，但在享受明星们的人气的同时，也有冷静反省的声音。例如，一些媒体使用实验结果来证明它的一些输出是有偏见的，会犯低级错误，而输出的文本是有偏见的，这一直是人工智能领域长期存在的问题。

虽然gpt-3是如此的热门，但如何获得载有1750亿个巨大参数的模型的商业价值仍有待讨论。官方网站显示，openai迄今已与十多家公司合作，包括搜索服务提供商algolia、精神健康平台koko、replika和社交媒体平台reddit。

作为国内人工智能投资领域的投资者代表，周志峰指出，gpt-3的最大价值在于“在自然语言处理技术中，它证实了机器在没有监督的情况下的自学习能力，并验证了它完全可以通过扩大规模来实现。”性能提升。”他进一步指出，随着人类继续创造更多的数据，并控制更大和更低成本的计算能力，“我们有信心预测，机器处理自然语言的能力将变得越来越强。”

他特别强调，在未来，自动生成文本内容(通过机器生成新闻稿和文学创作)、新的基于问题的搜索引擎、自动代码生成、更好的机器翻译和客户服务机器人最有可能率先采用这项技术。

来源：人民视窗网