a）关于GPT
- GPT-4会比今年的版本差很多（much worse），比明年差更多。具体会表现在：成本、速度、实时性、特定数据访问、贴近实际工作、更长&更复杂问题解决能力等方面。
- GPT-4目前只能解决人类任务的10%，GPT-5应该是15%或者20%，广泛意义的通用性在增加。
- 比尔盖茨：18个月后（2025年6月），会看到AI对各领域实质性的广泛渗透。why？因为在等两件事情，GPT-5的发布、算力成本降到1/10。
b）更强大的模型 & 如何用好现有模型，前者更重要。
hanniman评注：这更需要我们底层思考，大模型最本质的价值是什么。
c）模型的“悟性”在提高，过去的高质量训练建立了对世界运行原理的底层“相关性”，未来不需要那么多数据，质量更重要。
- OpenAI很可能已经实现了合成数据的有效利用，他们内部说在building god——没人会放弃“building god”这张巨大彩票。
- Anthropic的Dario在播客中也提过“数据很可能不是制约因素，出于多种原因我不应该细说，但世界上有很多数据来源，也有很多方法可以生成数据”。
hanniman评注：
- “数据很可能不是制约因素”，这是长期视角的非共识认知。
- 进一步的，如何洞察、定义和用好数据，才是稀缺能力
- “building god”，反应了顶级人才的驱动力（贪嗔痴）；但最顶级人才的驱动力，是造福人类。
d）适当控制短期预期，但要上调长期预期。但一个最核心的假设是，“指数增长”的范式是否成立。
- AI与智能机互联网时代最大的区别：AI一旦越过社会智力成本的拐点、一旦越过iPhone4时刻（现在还没到），质变（指数曲线）有可能不会停止。
- 互联网越过0分就具有了实用价值，而AI不到60分价值就是0。因为互联网替代的对象之前几乎不存在，或者成本极其高昂。但AI的替代对象是人或现有软件，已被优化到极致。因此AI的价值拐点，本质上是AI越过社会智力成本的拐点。
- 一旦实现AI使新科学发现实现自动化，“世界的发展节奏会超出我们的想象”
- 人类社会以前不存在可以一直指数增长的玩意儿，更没见过一个行业才刚开始，领军企业已经凭着90%份额干到1.4万亿美金。
e）智能手机不会消失，正如智能手机没有取代PC一样。但另一方面，AI不只是手机一样的简单计算设备 一堆软件，可能会是一个具有更大意义的东西。
hanniman评注：
- 手机没有取代PC，是因为一方面，某些重度“办公”场景还是PC更方便（虽然手机可以部分轻度办公），另一方面，是物理属性的限制，使得部分手机的娱乐价值有天花板（比如看电影）、重度用户会有更多需求。
- 具有更大意义的东西是什么？我认为可能描述成，“探索”（世界和自我成长）。
f）几个问题：
- 当认知成本降低一千倍或一百万倍，且能力得到极大增强时，将对世界产生何种影响？
- 假如“高等级思维”或“天才”不再稀缺，比如可以量产爱因斯坦，“每个人都可以拥有1万个聪明大脑服务你”，会产生什么样的社会和商业形态？
- 在一条超高速指数增长的线上，我们能有多少时间做准备？
- 对于AI来说，“计算”价值会否在很长一段时间大于“应用”？
- 如果GPT-n 1相较于GPT-n，一直有如GPT-4相较于GPT-3那样的显著改进，将意味着什么？人类天生对于指数增长的直觉并不好。——hanniman评注：这个问题如何破？会在我未来的直播分享「成长的底层逻辑」中有所解答。
