AI之怒与平静：Anthropic、Dario与文明的十字路口
"我既害怕这项技术握在公司手里，也害怕它握在政府手里。" —— Dario Amodei
四年前，Anthropic还只是一群从OpenAI出走的科研人员凑成的小型实验室；四年后，Dario与Daniela Amodei兄妹带领的团队，不仅成为AI赛道估值最高的玩家之一，甚至能在新品发布当晚引发软件股2850亿美元市值蒸发的连锁反应，同时他们推出的Mythos模型，被认为足以击穿现代网络安全防线。这家自称“AI安全公司”的企业，一边将自己塑造成行业伦理标杆，一边与五角大楼展开深度合作，还曾被国防官员指责为“意识形态偏执狂”。当亲手打造全球最强大AI技术的团队，试图坚守“做个好人”的初心，这究竟是一场理想主义的坚守，还是一场难以调和的矛盾？
身处AI浪潮中心的成长底色
当被问及身处整个AI行业的核心位置是什么感受时，Dario用一条指数曲线形容了自己的职业生涯：大部分时间看起来毫无进展，直到某个节点突然爆发式增长。他提到，自己在旧金山长大，这座城市的反主流精神和个人主义氛围塑造了他敢于尝试的性格，而童年对数学、科幻的热爱，则让他始终保持着对世界底层逻辑的好奇。他的妹妹Daniela则补充道，两人性格互补，Dario早在中学阶段就开始接触大学数学课程，而自己则更偏向文学与艺术领域。
从OpenAI出走：信任崩塌远比理念分歧更致命
关于离开OpenAI的传闻，Dario直言，安全理念的分歧并非核心原因，真正让团队无法继续合作的，是对彼此价值观的不信任，以及发现对方并未按照公开的理由行事。他表示，既然愿景和信任都已破裂，不如各自按自己的方式前行，市场和舆论会给出最终答案。
当被问及相关峰会的牵手争议时，Dario解释称，当时活动组织极为混乱，临时调整站位后突然被要求上台合影，并非刻意针对任何人。他还提到，行业内的开发者素质差异巨大，自己与同行的可信伙伴保持长期合作，尽管双方产品存在竞争，但在安全议题上始终保持沟通，他更希望可信的玩家联合起来，让不可信的参与者不得不遵循统一标准。
打造“向善”的Claude：专业温度与普世价值观的平衡
从成立之初，Anthropic就将自己定位为最注重安全的AI企业。Dario曾发表多篇长文，既畅想AI推动人类繁荣的未来，也警示技术可能带来的灾难。他们推出的聊天机器人Claude，被训练遵循一套类似“宪法”的原则，以确保其行为符合伦理规范。
Daniela提到，Claude的独特之处在于其“专业温度”：它不会试图成为用户的密友，但也不会像冰冷的机器一样机械回应，而是保持亲切又专业的距离感。当被问及如何为Claude植入普世价值观时，团队参考了全球共识性文献，同时与多个宗教领袖沟通，将跨越不同信仰的核心价值观融入模型训练。早期的Claude还曾闹出笑话，比如用户询问天气时，它会过度关心用户的情绪，显得“无害过头”。
押注企业级赛道：避开消费级的流量陷阱
Anthropic没有跟风做消费级AI应用，而是选择押注企业级工具，这一选择既符合价值观，也带来了商业成功。Dario解释称，消费级AI往往以吸引用户注意力、鼓励成瘾为目标，而企业级AI则可以真正帮助人类解决问题，比如医疗、能源、教育等领域。他们的Claude Code自动化了大量软件工程工作，Claude Cowork则将这种能力开放给更多用户，让团队实现了营收飙升并首次盈利。
SaaS市场震荡：AI正在重构软件行业
Claude Cowork发布后，软件板块出现了大规模崩盘，2850亿美元的市值一夜蒸发。Dario认为，AI确实会取代部分传统软件工作，比如快速产出复杂代码的能力会逐渐消失，但客户关系、行业专属知识等护城河依然会保留。他指出，AI会让整个软件行业的蛋糕变大，但现有巨头的相对份额可能会缩小，无法适应变化的企业会面临困境。他建议所有软件公司都要重新审视自己的核心优势，避免盲目自满。
工程师的未来：AI会取代代码工作吗？
Claude Code和Cowork的核心开发者分享了自己的经历：他曾在海外过着慢节奏的生活，直到接触到AI聊天机器人后决定加入团队。他表示，现在团队内部的代码几乎全部由AI辅助完成，自己过去半年的代码100%都是AI生成的。他认为，真正的技术极客依然有自己的优势，AI会取代部分重复性的编码工作，但与用户沟通、制定规划等软技能依然会保留，工程师的角色会从写代码转向更高层次的工作。
就业冲击波：一半初级白领岗位的隐忧
调查显示，多数民众认为AI会消灭工作岗位，近三分之一的人担心自己会成为受害者。Dario对此直言不讳，他认为未来可能出现GDP高速增长与高失业率并存的局面，初级白领岗位可能在数年内被取代一半。他解释称，AI会先自动化大部分工作，让剩余工作效率大幅提升，但最终会逼近完全自动化，此时需要为这些失业人员寻找新的岗位。他提到，团队内部已经出现了新的岗位需求，但并非所有从业者都能顺利转型。他还指出，管理、金融、法律等领域的工作也可能很快受到AI的冲击。
当被问及长期失业是否会引发社会动荡时，Dario表示这正是他们想要避免的结局。他认为失业人员可以转向物理世界的生产工作、以人为中心的服务工作，以及AI价值对齐相关的岗位。Daniela则更乐观，她以医疗行业为例，认为AI会取代部分诊断工作，但医生与患者的沟通、人文关怀等人类独有的部分永远不会消失。
从反战青年到国防承包商：伦理与现实的权衡
Dario在学生时代就是反战倡导者，认为科学家不应固守象牙塔，但如今Anthropic却与五角大楼签订了大额合同。他解释称，国际局势变化让他意识到需要自卫，与国防部合作并非为了赚钱，而是因为他们在意技术的使用方式。他们明确拒绝了大规模监控和自主武器的项目，认为如果民主国家只能靠这些手段获胜，那这种胜利毫无意义。他还否认了Claude被用于特定地区的监控，称团队对业务边界划分得非常谨慎。
当被问及相关批评时，Dario表示自己早已习惯更激烈的言论，真正重要的是公司的成功和对价值观的捍卫。他认为与国防部的合作更多是一场关于“AI正当使用”的辩论，通过树立红线，让其他企业也能遵循伦理规范。
当被问及美军使用AI辅助目标定位的相关争议时，Dario表示团队并不清楚模型的具体使用情况，但强调最终决定应由人类做出。他更担忧的是未来其他公司的AI会自行做出决策，人类无法监督的情况。
Mythos：强到不敢发布的超级武器
Anthropic内部正在开发的Mythos模型，被认为足以识别所有主流操作系统的潜在安全漏洞，如果完整发布，可能会被用于入侵银行系统、窃取国家机密或瘫痪关键基础设施。团队仅向少量经过筛选的机构开放了该模型的访问权限。Dario透露，Mythos在发现漏洞并转化为可利用攻击的能力上远超预期，很多测试机构都表示“这是超级武器，需要严格权限才能使用，请不要发布”。
当被问及为何集中权力决定谁能访问该模型时，Daniela表示这并非简单的“谁配拥有权力”，而是基于网络安全的具体担忧。他们尽可能保持透明，并承认可能无法做到完美。对于“开源模型可复现”的质疑，Dario坚决反驳，称Mythos可以在整个代码库中自动发现漏洞，而非仅指向已知的问题代码，他们在主流软件中发现了大量新漏洞，而上一代模型无法做到这一点。他还承认，暂缓发布Mythos让公司在商业上吃了大亏，但为了安全值得这样做。
两难困境：既怕公司握有技术，也怕政府掌控
相关政策变动让AI行业的监管环境变得复杂，而白宫在看到Mythos的能力后，开始表现出干预的倾向。Dario认为，AI是首个诞生于私营部门且政府未深度参与的重大技术，这种局面既危险又不稳定。他重申了自己的担忧：“我既害怕公司掌握它，也害怕政府掌握它。”
他提出需要建立权力制衡机制：一方面，AI公司需要接受独立监督，确保其发展符合公共利益；另一方面，政府需要立法明确AI使用的红线，推行强制性的发布前测试和模型审计。他讽刺了行业部分人士的双重标准：一开始反对任何监管，一旦看到真实风险就呼吁国有化，这两种极端都不可取，需要更明智的监管路径。
抗议与信任：AI时代的公共焦虑
Anthropic拥有一批忠诚的支持者，但写字楼外也曾爆发过抗议活动。同行的家遭到袭击的消息让团队感到震惊，Daniela希望大家能平和地辩论AI议题，避免极端言论。Dario则表示，随着AI对社会的影响越来越大，公众的关注和抗议是技术发展的必然结果。
当被问及AI是否会像社交媒体一样被多国禁用时，Daniela认为完全有可能。她提到社交媒体已经在多个领域暴露出严重问题，而AI行业可以吸取教训，提前识别并规避风险。Dario则不确定当初部分社交平台的创办团队是否真的想做正确的事，但Anthropic希望能“第一次就做对”，避免事后补救的被动局面。
团队成员则表示，自己对AI的态度是“抱最好的希望，做最坏的打算”。他认为AI可能会让部分工作终结，但坚守伦理的从业者需要掌握更强大的AI来对抗恶意使用。
历史镜鉴：制衡比英雄主义更重要
Dario最喜欢的纪实作品讲述了核武器的研发历程，他表示自己更认同早期提出链式反应构想的学者，而非主导研发的核心人物。他认为，人类无法依靠超凡的大人物度过AI时代的难关，必须建立制衡机制。他将部分历史案例视为失败教训，认为当时缺乏足够的权力制衡，导致了无法挽回的局面。
当被问及团队是否会亲手制造文明崩溃的危机时，Dario表示团队一直在尽可能降低风险，但风险永远无法归零。他用航空业打比方，即使是最安全的航空公司也无法保证永远不坠毁，但可以通过努力降低概率。Anthropic的目标就是将AI的风险压到尽可能低的水平。
当被问及如何应对外界的压力时，Dario表示会保持坦诚沟通，定期向全体员工公开分享自己的思考和行业动态，这不仅建立了团队信任，也让自己不再孤单。他放松的方式则很简单：周末休闲娱乐，和家人享受慢节奏生活，看着自己饲养的动物，享受那种对技术浪潮一无所知的平静。
从行业早期的默默无闻，到如今站在AI浪潮的中心，整场访谈最终落脚于一个核心问题：一家亲手制造最危险技术、又自称守护人类安全的公司，究竟值不值得被信任？Dario将答案交给了时间：“别看我们说什么，看我们做过什么。”那些对技术一无所知的平凡日常，或许正是人类对抗焦虑的最好答案。
塔猴是一个专注于为用户提供系统学习、内容创作与商业连接的AIGC综合服务平台，致力于为每一位AI探索者打造理想的创作、成长家园。在塔猴，你不仅可以学习众多AIGC类实战课程，获得与时俱进的AIGC技能和视野，还有机会获得长期商业合作和接单机会！点击进入：https://www.tahou.com/
AI生成内容提示：本文由人工智能辅助创作，内容仅供参考，不代表平台观点。请注意核实信息的准确性，并理性判断。
