在硅谷，有一个越来越常见的社交问题炒股票配资，你的 p(doom) 是多少？
P(doom) 指的是 AI 导致人类世界末日的概率，这个数字越高，意味着 AI 带来世界末日的时间越近。
听起来有点难以相信，但它确实已经成了技术圈最热门的谈资。
Anthropic 的 CEO Dario Amodei 给出的答案是 10% 到 25% 之间。
之前担任了五分钟的 OpenAI CEO Emmett Shear 估计是 5%-50%。
深度学习教父 Geoffrey Hinton 说如果不加以监管，AI 在未来三十年导致人类灭绝的概率是 10%……
展开剩余90%Geoffrey Hinton
换句话说，最害怕 AI 末日的那群人，恰恰是那些正在创造 AI 的人。
事实也是如此，纽约时报曾报道了身处 AI 末日论中心的 Anthropic，这是一家由前 OpenAI 员工创立、号称更注重安全的公司。
报道中提到 Anthropic 总部的氛围，是一种无处不在的紧张。员工们不担心程序代码出问题，担心的是自己亲手打造的 AI 可能会被用来做可怕的、且具有毁灭性的事情。
其中一位员工透露自己常常因为过度忧虑 AI 而彻夜难眠，另一位员工则是平静地表示，未来十年内，失控的 AI 毁灭人类的概率有 20%。
当被问到，既然这么担心，为什么还要去打造更强大的 AI？Anthropic CEO 的解释是，
你没办法通过驾驶一辆斯巴鲁来学习怎么避免 F1 赛车的撞车事故，只有亲手打造最前沿的 AI，才能理解其中的风险并研究安全的策略。
他们甚至把自己比作当代的奥本海默，并说这种恐惧并不是刻意营造的，是当他们亲眼目睹自己技术的进化速度时，产生的自然反应。
无论是真心的，还是有营销的成分；当 AI 末日可能来临的信念，从假设变成许多人心中的大概率事件时；它已经是真实地，开始影响到了很多人的生活方式。
有人发誓不谈恋爱开始专心建造自己的生存避难所；有人说 AI 什么都知道，我要从「智性恋」转到「颜性恋」，美貌身材才是稀有气质；还有人干脆把自己的存款都花在了「末日狂欢」上……
商业内幕最近采访了一群被称作 AI Preppers（AI 末日准备者）的人，他们同样把 AI 看作潜在的末日威胁，并采取了各种匪夷所思的措施。
这就是一场正在上演的末日生存游戏
Henry 是硅谷的一名 AI 研究员，在他看来，AI 在未来几年内强大到对全人类构成生存威胁的概率，高达 50%。
于是在他的空闲时间，他通过建造 DIY 生物避难所，来为失败的可能性做准备，以保护他和他的家人免受 AI 末日的影响。
Henry 的计划极具代表性。他发现，建造一个能抵御 AI 释放的致命病原体的生物避难所，其实非常简单。
首先，购买一个市面上常见的正压帐篷（通常是用于植物种植），在进气口前堆叠多层专业级 HEPA 过滤器，最后，尽可能地塞满保质期长的食物、水和补给品。他估算，整个避难所加上够吃三年的食物，成本可能还不到 1 万美元。
然而不久后，Henry 觉得这个计划还是太小了。他现在开始打算直接购买一块地，建造一个能保护更多朋友和家人的永久性防御设施。
他设想的最主要场景是被错位的超级智能 AI 接管世界。他说，如果 AI 在战胜人类后还存有一丝同情心，或许会把幸存者安置在某种「人类动物园」里。
Henry 的恐惧听起来很荒诞，但是他说自己已经全身心投入到「打造 AI 避难所」这件事情上，甚至发誓不再谈恋爱，每年把收入的三分之一捐给 AI 安全组织。
他也知道「prepper（末日准备者）」这个标签在硅谷圈子里很容易被人笑话，尤其是如果他的恐惧没有成为现实，而是人类取得了胜利的话，他会更尴尬；所他要求记者给他打了个化名。
虽然可能会被人笑话，但这种恐惧另一方面又很真实，因为它真的催生了新的商机。
一个完全装备的庇护所以及两名居住者在里面，图源自网络
斯德哥尔摩的企业家 Ulrik Horn 创立了一家名为 Fonix 的公司，专门销售这种现成的生物避难所，配备高级空气过滤器，售价 39000 美元，预计 2026 年开始发货。并且，已经收到了一些预订单。
威奇塔州立大学商业分析助理教授 Ross Gruetzemacher 正在创办一家「resiliency 适应力」咨询公司，帮助企业和个人，为 AI 以及其他生存风险带来的重大冲击做准备。
他还购买了怀俄明州的土地，计划在那里建造自己的安全设施。
游戏就是用来玩的，末日倒计时下的即时享乐
如果说 Henry 代表了理性的恐惧，那么另一群人则选择了感性的狂欢。
他们的逻辑是：如果 AI 真要在几年内带来毁灭，那攒钱、计划未来都没有意义。不如做遗愿清单，把重要的事都提前完成。
Aella 是旧金山湾区一位网红，对 AI 可能毁灭人类的担忧，反而让她在很多方面变得很自由。商业内幕采访了她关于 AI 发展的担忧。她说，
我喜欢举办奇怪的狂欢派对，我心想，反正我们都要死了。我们还能搞出什么更怪、更疯的派对？现在就做吧！
看起来是 AI 成了让自己过这种「享乐」生活的借口，但也有人真实的开始为这个末日倒计时写下「享乐清单」。
Vishal Maini
旧金山的风险投资家 Vishal Maini，也是前 DeepMind 研究员，他认为面对不确定的未来，我们应该抱有一种「遗愿清单的心态」，在有限的时间里去做对自己真正重要的事。
他倡导的是一种「paleo-futurism 原始未来主义」——在一个充斥着 AI 伴侣和多巴胺数字体验的时代，有意识地选择留在现实世界，优先考虑真实的人际互动。
前 OpenAI 研究员 Daniel Kokotajlo 早在 2020 年就停止为退休储蓄了。
他认为，AI 带来的生存威胁让长达数十年的储蓄计划变得荒谬。他计划从现在开始慢慢花掉自己的积蓄，然后说他认识许多其他 AI 研究员也在这样做。
Trenton Bricken 参加播客节目，左二
确实是这样，OpenAI 的竞争对手 Anthropic 的研究员 Trenton Bricken 也在播客中分享说，他已经停止为退休存钱，因为他很难想象自己 60 岁时世界会变成什么样。
不过也有人认为从现在开始要积极存钱，因为 AI 末日的到来会让他失去工作，而在这期间，就是他们能把握住的，唯一赚钱的机会。
Haroon Choudery 是一位人工智能初创公司创始人，他就认为未来几年是他积累世代财富的最后机会。
脑子交给 AI，脸和身材才是新的关键
除了是否要极限生存还是即时享乐，另有一批人则开始从社会价值的角度，重新规划人生。
如果 AI 真的能在几年内取代大部分智力劳动，那人类之间的竞争优势会是什么？他们的答案会是：颜值和魅力。智力已经过时了，只有美和力量，才是关键。
生物医学数据科学家 Apoorva Srinivasan 在 2024 年结束了一段长期关系，因为 AI 的发展，她说自己在选择伴侣上要开始考虑一些不同的东西。
过去她更欣赏聪明智慧的男性，现在她认为，既然 AI 能完成越来越多的智力工作，原始智力的价值就被稀释了。相比之下，个人魅力、社交能力和外表的吸引力变得更为重要。
不仅仅是感情上，在事业的规划上，因为 AI 的智力，一些人的职业选择也开始出现了转变。
AI 顾问 Jason Liu 之前是一个软件工程师，因为手部损伤让他的工作停滞不前。
他重新规划了自己的生活，接受商业内幕采访时，他说自己正在巴黎街头漫步，沉浸于休闲就是他对于 AGI（通用人工智能）的理解方式。
目前他把时间花在柔术和陶瓷等休闲爱好上，同时开创了自己的第二份职业——咨询顾问。他说，
我个人不想因为我的智慧而被重视
我觉得这种智慧在身体上伤害了我，导致我失去了工作。
当然，并不是每个人都开始为 AI 末日的到来，而变得极端。
范德比尔特大学的哲学助理教授 David Thorstad 就提醒说，「在湾区这样聪明人扎堆、信息高度同质化的地方，人们很容易沉浸在某种关于 AI 的极端世界观中而无法自拔。」
X 上也有网友吐槽这样的 AI 末日论，其实完全是「自己吓自己」，那些说 AI 能够如何的人，可能都不一定懂 AI 到底是怎么一回事。
但这些真实的案例，确实不禁让我想到了 2012 年，同样被说可能是世界末日，一些人开始抢购火柴和蜡烛。
多年以后炒股票配资，AI 末日没来，我们可能还是会回头笑这些「AI Preppers」的荒唐，就像今天笑 2012 年的世界末日一样。
发布于：北京市国鑫策略提示：文章来自网络，不代表本站观点。
沪深京指数
热点资讯
