↓推荐关注↓
转自：CSDN（ID：CSDNnews）
3月20日，OpenAI 联合创始人& CEO Sam Altman 和科技主播 Lex Fridman 进行对谈，主要讨论 GPT-4、通用 AI（AGI）、 OpenAI 公司、AI 带来的潜在问题，以及 AI 的未来。总体来说，Sam Altman 认为，GPT-4 等 AI 系统并非少数人的成果，而是源于无数人的共同努力，是人类智慧的结晶，成果也应当由人类共享。笔者整理了一些对话中大家比较关注的点，看看 Sam Altman 是如何回应的。
GPT-4 是通用 AI 吗？
据 OpenAI 官方称，GPT-4 是 OpenAI 扩展深度学习的最新里程碑，虽然目前在许多现实场景中仍然不如人类，但在专业和学术基准上均能体现出人类的水平。
那 GPT-4 到底属不属于通用AI（AGI）的范畴？对于这个问题，Altman 表示暂且不纠结其具体定义，只从“I know it when I see it”的角度去思考。当一个事物出现之前，人们很难具体想象或理解得到它到底到哪种程度。比如在使用 GPT-4 之前，先在一本科幻小说里看到有个角色是 AGI，而这个角色是 GPT-4，描写了 GPT-4 能够做到的如今 AI 做不到的事情，他会觉得这本书很荒谬。所以距离 GPT-4 成为真正的通用 AI，还有很长的路要走，因为覆盖面、普适度还不够。
Altman 认为，所有不能大大增加人类科学知识综合的系统，不能发现、发明，推动基础科学的智能，都不是超级智能。要做到这一点，人们还需要在相当重要的方面扩大 GPT 范式，而目前在这方面还没有太多 Idea，还需要再摸索有什么值得尝试的地方。
GPT-4 是人们想象中的“未来 AI”吗？
人们对未来 AI 的想象是非常丰富的，值得一谈的是，人们认为“更好”的 AI，就是与人类无限相似，甚至超越人类能力的存在；但另一方面，又对 AI 是否“太像”人类而感到惴惴不安。这种现象归根结底是人们既希望 AI 强大到能够快速理解人类意图，却又极其不希望其拥有人类的意识。
AI 是否会“觉醒”？对此，Altman 的态度是：人们围绕 AI 的一些恐惧可能并不会成为现实。人类因为天生对改变、不确定性惧怕，面对新的工具，也会因为其过于好用而感到害怕。但 Altman 指出，哪怕在 AI 非常强大之后，还是无法代替人。就像当年 Alpha Go 在国际象棋中赢了人类，但现在还是有很多人在玩国际象棋，而且人们还是更愿意看真人下象棋，而不是两个 AI 下象棋。
“人们仍然喜欢戏剧性，喜欢我们有的、而 AI 没有那些缺陷。”Altman 说。
那么，怎样判断 AI 是否拥有“人的意识”？Altman 提到了一些用于判断的测试。比如 OpenAI 首席科学家 Ilya Sutskever 提出的标准：如果你训练模型的时候，对数据集做非常精心的设定，确保在训练过程中 AI 不接触到“意识”、主观体验或任何类似的东西，然后你和这个模型讨论一些它没有训练过的东西，如果模型对于你说的大部分内容都不理解，但当你描述意识的主观体验，模型却立即回应“知道你在说什么”时，那可能就意味着 AI 可能发展出了意识。
科技主播 Lex 对此补充了一个场景，在电影《机械姬》最后，片中的 AI 机器人机械姬逃出实验室后，露出了一个开心的微笑。这时没有别人在场，所以她是在为自己、为自由而笑。《机械姬》的导演认为，“为自己而笑”可以作为一个“AI 是否具有意识”的图灵测试。
如今的 AI，还有哪些等待解决的问题？
即使 OpenAI 表示 GPT-4 是如今功能最强大、对齐最好的模型，但它仍然是一个需要不断进步和优化的工具。比如“AI 的偏见”问题。此前有人向 ChatGPT 提问，让其夸赞现任国家领导和往届国家领导，结果 ChatGPT 夸现任领导的句子要比往届领导的要长。对此，Altman 认为“小问题即大问题”，之所以会早早就公开发布，就是为了发现这类问题，并且不断对其进行改进。许多时候，人们是没有办法预料到未来会发生什么事情，比如在小时候无法想象到自己会造出AI，而且造出 AI 后，人们在纠结“夸谁夸得更长”的问题，所以说 AI 的进步是全人类推进的。
Altman 表示，当 AI 快速起飞（take off）之后，技术可能在短时间内实现爆发式增长。如果 AI 的起飞无法避免，短期内就要开始不断的进行优化，而不是任其发展 3 年、10 年之后再去干预。解决问题的方法包括：不断迭代、尽早学习、避免只有一次机会的情况，让外界尽早接触这些技术，让公众参与塑造 AI 的发展。Altman 计划全球巡回，进行用户访谈，了解不同用户的需求。未来解决路径包括给用户控制权，让用户能从全局层面给 AI 下指令。
OpenAI 的坚守和未来
Altman 告诉我们，GPT-4 是人类迄今所实现的最复杂的软件，那 GPT-4 背后的 OpenAI 为什么这么强？Altman 总结了一下。首先是做事的态度是探求真理（truth seeking），做一切能达成最优表现的事，不管它是否优雅。就像LLM（大语言模型）这个路线曾经饱受鄙夷，但他们还是坚持下来了。
其次是“不积跬步无以至千里”的理念。实现 GPT-4 并不是单纯的解决 3-5 件关键问题的事情，而是需要搞定大量纷繁复杂的小事，乘法效应让技术飞跃得以实现。比如数据获取、清洁、训练、优化和搭结构等方面的问题。以小取大。最后，团队的能力也非常重要，至今为止，Altman 依然亲自审核及批准 OpenAI 的每一个招聘决定，招聘的优先级在团队工作中非常重要；同时也要给予团队成员足够的信任和自主权，才能实现高速发展。
谈到对未来 AI 的期许，Altman 的说法是：解释所有物理现象，解决所有未解之谜。未来或许将有很多个 AGI 存在，不同的 AGI 会在不同的领域和应用上发挥作用，这是一种有益的现象。而 OpenAI 建立时定位就是非盈利组织，没有无限逐利的动力，所以能够更好地抵抗市场压力。但这种背景下就没有足够的资金来支撑完成任务，所以他们转变为“盈利有上限”的组织，来获得资本的某些加成，同时不完全导向逐利。
接下来 OpenAI 不会执着于模型参数大小（Parameter count race），而是最看重如何实现最佳性能。在面对市场压力和竞争时，Altman 强调，坚持信念和使命，虽然市场上随时都会出现更领先的技术，但 OpenAI 不会为了追赶而放弃安全性，踏实走好每一步。
参考链接：
https://www.youtube.com/watch?v=L_Guz73e6fw
https://havefun.zhubai.love/posts/2251759131969024000
https://weibo.com/1727858283/4883866638092324?wm=3333_2001&from=10D3293010
- EOF -
关注「程序员的那些事」加星标，不错过圈内事
点赞和在看就是最大的支持❤️
