Ailiaili-Ai软件网
▼分类导航▲

奥尔特曼:10年后,OpenAI将产生提高经济价值的AI系统

Ailiaili784152个月前
微信群|公众号:AI软件网
Ai项目交流群,Ai账号交易充值,Ai软件分享,Ai网站导航,Ai工具大全等
复制微信群|公众号

(图片来源:钛媒体App编辑截图自微软线上活动)


OpenAI CEO奥尔特曼认为,现在是AI创业的最佳时机。



作者|林志佳

编辑|胡润峰

本文首发于钛媒体APP

 

钛媒体App 5月5日消息,OpenAI CEO奥尔特曼(Sam Altman)近日在美国麻省理工学院(MIT),与MIT院长Sally Kornbluth 进行了一场对话,主要谈及他对 AGI 技术发展的设想。


奥尔特曼表示,AI 是人类进步的核心引擎,核聚变将为未来产生“能源动力”。同时,当前新一轮生成式 AI 时代下,是所有人开始新职业生涯、创立新 AI 公司的最佳时机。


奥尔特曼指出,AI 系统可以提高人们的工作效率,但同时,随着 AI 加速变革,计算成本也将急剧下降,接近能源成本,从而解决“贫富不均”这一核心矛盾。“如果(AI)成为每个人免费获得的东西,那对穷人的帮助应该比富人更大。”


奥尔特曼强调,AGI这个词被使用到“过度泛滥”了。他希望十年后(2030年),OpenAI能创造出真正产生显著(提高)经济价值的(AI)系统。


钛媒体AGI编辑围绕 AI 未来趋势、AI 治理以及人类智能展望三部分,梳理此次奥尔特曼1小时访谈实录。


AI是人类进步的核心引擎



奥尔特曼曾表示,从技术创新和功能迭代来看,人类远远没有达到 AI 的极限,ChatGPT有潜力以“指数方式提高生产力”。



Sally Kornbluth首个问题是,AI 真的能消灭所有人类生命,并在“世界末日”场景中结束吗?


奥尔特曼笑着回应称,这不是一个形式不正确的问题(badly formed question)。


奥尔特曼表示,假设 AI 是一个静态系统,因此他认为人类需要做的是找到一种让未来变得伟大的方法,并非在某种程度上让“末日来临”。更应该关心的重要问题是,我们需要怎样做出能确保安全的 AI 技术。


谈到 AI 发展至今的心理变化,奥尔特曼认为,10年前,他对AI 可能只是有一个“很天真的概念”,希望这种“生物”可以解决一些事情。而现在,他认为 AI 与任何其他技术革命一样,是最大、最好、最重要和最核心的发展利益。


“我们在人类的科技树上有一个新的工具。人们用它来创造令人惊叹的东西。


我认为随着时间的推移,它将继续变得更加强大,更加自主。但即便如此,我认为它也会以一种重要的、变革性的方式融入社会。”奥尔特曼称。


奥尔特曼强调,AI 科技是人类进步的核心引擎,也是推动可持续经济增长的唯一路径。


“人们并不满足于GPT-4。他们想要GPT-5,他们想要事情变得更好。每个人都想要更多更好更快。而利用 AI 提高科学能力,是我们到达那里的方式。AI 能够做到最伟大的事情。我个人最希望它能对科学产生影响,如果我们制造一个伟大的 AI 工具,可以帮助人们解决他们面前的任何问题,可以帮助人们以新的方式进行推理。这对消费者,对科学家,对企业,对教育都有好处。”奥尔特曼称。


当被问及GPT-5何时发布时,奥尔特曼一如既往地未进行正面回应,只是表示GPT-5、GPT-6性能将更加强大,OpenAI将它们打造成为全球最好的推理引擎。


“不知何故,我认为,如果明天AGI建成,你问我第二天会发生什么,10年前,我会说,真的无法想象它能够实现‘奇点’变化,一切都突然变得不同了。


我现在认为它根本不会像那样。在某些方面,我对此既过于乐观,同时又过于悲观。”奥尔特曼暗示,AI 将不会比人类更加聪明。


奥尔特曼强调,OpenAI是开放(Open)的。他希望OpenAI将创造出一个伟大的、免费、人人可用的 AI 工具,希望未来会有数十亿人使用它。团队不做广告,只是把它作为一项公益事业来做,因为他认为把工具交到人们手中很重要。


“我们希望,它可以广泛使用,非常容易使用,非常有帮助。我觉得这是件很酷的事。”奥尔特曼称。


“GPT将比人类有更少的偏见”



随着2022年11月发布的ChatGPT风靡全球,关于 AI 使用大量英文数据引发关注。很多人认为,以英语优先的AI无法反映其他文化。


据非营利组织“民主与技术中心”(CDT)发布的关于AI偏见的报告显示,尽管全球只有16%的人口使用英语,但英语网站却占全球网站的63.7%。报告认为,这种(对某种语言的)偏向未能反映全球互联网用户所使用语言的多样性,并进一步延续了英语的主导地位。


此外,世界经济论坛引述一项国际研究团队研究成果显示,AI聊天机器人有“加法偏见”。算法偏向于使用含加法而非减法的词汇表述,而这也符合长期以来的语言趋势。在表达改善某事物时,包含加法的词汇出现更频繁,含义也更为积极。


去年美国参议院委员会的听证会上,奥尔特曼被质疑该工具偏向英语使用者。他表示该公司“同样重视”保障其他文化也被纳入其中。



此次MIT对话当中,奥尔特曼再次重申,OpenAI的ChatGPT对于消除偏见问题做的已经足够好了,对于价值观的对齐已经在逐步改善。


“我认为我们已经取得了令人惊讶的良好进展,我们能够根据一套特定的价值观来调整系统行为。GPT-4的表现相当不错,我们能够让它遵循(价值观),至少比我想象的要好。同时,这也涉及到一个更难的问题,即谁来决定偏见的含义和价值观的含义?我们如何决定系统应该做什么?社会在多大程度上界定了边缘的广阔边界?我认为,让人们对如何使用这些工具有很大的控制权是很重要的。即使这意味着他们可能会以你、我并不总是喜欢的方式使用它们,我们必须集体协商这些是什么,有些事情是系统不应该做的等。”奥尔特曼称。


奥尔特曼强调,人类显然是非常“有偏见的生物”,而且往往没有意识到这一点。所以他认为,OpenAI系统可以比人类有更少的“偏见”。


奥尔特曼坦言,未来人类将拥有一个“个性化 AI”,它知道你读过每一封电子邮件,每一条短信,每一条你发送或接收的信息,可以访问你生活的完整记录,知道你看过的每一个文件,你读过的每一个电视节目,你说过、听到、看到的每一件事,你可以想象这将是一件非常有帮助的事情。但这也会出现隐私问题,所以 AI 隐私问题需要与效用产生平衡。


“我不知道大多数人在哪里做权衡。我不知道我们会说什么或喜欢什么,即使是在骨子里也是允许的。我们之前遇到过一些问题,关于我们如何用一些隐私来换取我们所有人都使用的服务的实用性。但这可以走得很远。有了 AI,我们必须与互联网协商所有这些事情,关于我们如何看待隐私的事情,我们如何看待在线广告的事情,当你将它们与人工智能交叉时,就会变得更高的赌注和更大的权衡,我认为我们将开始真正面对此事。”奥尔特曼称,GPT-4确实可以像数据库一样工作,但它不能这样做,而且很慢、很昂贵、很不好用,OpenAI希望制作一个像“推理引擎”一样的模型,而且从所有需要的大量数据中分离出来,或者将数据存储在那里,以解决隐私问题。


另外,就未来的进步而言,AI 计算成本将急剧下降,接近能源成本,因此对于能源与 AI 的关系变得更加重要。


对此,奥尔特曼直言,AI 确实需要大量能源,但相对于世界其他地方的(能源)需求来说并不是很大。如果 AI 只是花费世界上1%的电力培训强大 AI,并且 AI 帮助人类弄清楚如何获得非碳基能源或更好地进行碳捕捉,这将是一个巨大的胜利。即使我们没有做到这一切,但如果我们华仔 AI 1%的计算,也可以让人类生活的更好。


“我读到一篇,关于谷歌曾经使用的计算机与人们过去花在开车上的碳排放量比较,有人说谷歌太可怕了,我们应该关闭它。从理智上讲,这是一件非常不诚实的事情,因为我认为这是能源的净节约。很明显,一般的互联网。它让我们为远程办公所做的事情,可能也是一种节省。所以对于像 AI 来说,它将需要大量的能量,我们将继续寻找更高效的算法,更高效的芯片,我们会得到核聚变,我们要用这种方式为 AI 提供动力。所以我们会以新的方式解决这些问题。我认为,教育年轻人的方式不应该是——世界彻底完蛋了、试图解决问题是没有希望的、我们所能做的就是坐在卧室里、在黑暗中思考我们有多糟糕——这是一种非常没有成效的倾向。”奥尔特曼坦言。


奥尔特曼强调,未来几年后,我们(OpenAI)会同时解决 AI 带来的偏见、能源问题,这两方面都将取得了很大进展。OpenAI的目标是,使 AI 成为一个伟大的、免费的、数亿人可用的 AI 工具,希望未来会有数十亿人使用它。


“我们不做广告。我们只是把它作为一项公益事业来做,因为我们认为把工具交到人们手中很重要。”奥尔特曼称。


现在是在AI领域创业的最佳时机



如今,生成式 AI 时代下,很多人开始讨论,如何推动人类在 AI 领域的发展和创新,以及人类与 AI 的关系如何变化?


奥尔特曼在对话中强调,现在可能是新创业公司的最佳时机,也是开始新的职业生涯的好时刻。


“在很长一段时间内,创业公司往往会在大平台转移的时候取得成功。与初创公司相比,大公司的速度较慢,创新能力较弱,但它们有很多其他优势。当你获得速度、迭代和周期时间的优势时,最多是在地面震动的时候。现在,我想你可以有一个这样的时刻,我们终于有了一个新的 AI 平台,现在是开新公司的好时机。作为一家初创公司,你拥有的优势是,你可以更快地行动、你可以更多地展望未来创新,而不是像大公司那样有季度或年等周期性计划。”奥尔特曼称。


奥尔特曼认为,“我认为,如果你做了一些不成功的事情,如今你会得到一个”非凡“的时刻,我当然会偏向于你用 AI 做一些事情,甚至未来很长时间内,你将你可以比平时更有影响力,更能从努力工作当中得到好处。一般来说,在职业生涯的早期,你可以做任何事情但得不到最终答案(结果),你只是跌跌撞撞地走完了,如今 AI 会带给你快速的创业迭代速度,甚至会迈向成功。”


“GPT是一个神奇的东西。我们可以提出任何问题,它会回答问题,而且它会不断地找出如何改善世界的方法。如果有人贡献了对材料科学的一种见解,它会存在于我们所有人之间,并且一代又一代人变得更有能力。”奥尔特曼称。


奥尔特曼强调,AI 技术是推动繁荣和改善人们生活的方式,也是对他来说真正“引起共鸣”的领域。一旦你开始准备在 AI 领域进行创业,就有望推动“惊人”的短期增长,在市场上有“赢”的机会,最起码你也会取得一定的进步。


“所有这些都是我会努力打赌的事情,”奥尔特曼笑着说,他非常看好构建 AI 应用或基础设施的创业公司,他们都将在大模型时代中受益。而 AI 应用层企业可能会产生1000亿美金的价值。


谈到 AI 监管,奥尔特曼依然认为 AI 系统应该有一个“阈值”,超过这个阈值系统会呈现出一定的风险,因此需要有一个 AI 系统的监管。


“我完全有冲动说,任何监管行动都是不可接受的,因为只有大公司才会利用它来进行监管俘获。如果社会决定,我们根本不想监管 AI ,我们只会碰碰运气。但事实上是,我们不想再没有合理的安全预防措施下发展 AI、采取行动。以一些合理的谨慎行事,这是有用的。”


展望未来,奥尔特曼强调,AI 将在教育、金融等各个领域具有巨大潜力。未来10年、20年,你们每个人都会有一个伟大的 AI“参谋长”,它们帮助人类提高效率,而人类将做更多有创造力、才华横溢的工作。


“未来五年,我觉得 AI 这股浪潮会冲向我们。但我不认为,20年、40年之后,OpenAI系统能力非常强大下,我们会跨越通用人工智能(AI)时刻。我不再使用AGI这个词,这完全是我永远不会成功的事情。我只是预计,十年后,我们会创造出真正、产生巨大经济价值的系统。”奥尔特曼称。



本文转载自互联网,若有侵权,请联系我们。本站尊重原创,转载文章仅为传递更多信息之目的。

本文链接:https://ailiaili.cc/post/356.html

【公众号 | 微信群】
\"二维码\"

公众号:AI软件网

【 Ai推荐榜 】
【 Ai常用工具 】
【 Ai最新收录 】
【 Ai知识 】
【 Ai资讯 】