本文来自微信公众号： HavenlonLabs ，作者：HavenlonLabs
过去十年，科技公司雇人回答\"怎么做\"；现在，它们开始雇人回答\"该不该\"。
这不是一句修辞。看看大模型公司的招聘名单就知道：过去最抢手的是算法工程师、芯片专家、分布式系统架构师，而今天，一类过去几乎不会出现在技术核心岗位上的人，正在获得越来越大的影响力——哲学家。
2026年1月，Anthropic发布了新版《Claude宪章》。这份长达80多页的文件，不是一份普通的产品说明书，而是对Claude应该如何理解自身角色、处理价值冲突、回应复杂请求的系统性规定。
牵头制定这份宪章的，是哲学家Amanda Askell。Anthropic在文件致谢中明确写道，她是主要作者，撰写了其中大部分内容，并主导了多轮修订。她目前负责Claude的\"Character\"（性格）工作——试图让模型表现得更诚实、更审慎，在面对复杂问题时具有相对稳定的行为倾向。
换句话说，这家估值数百亿美元的公司，把产品最核心的\"人格设定\"，交给了一位学院派哲学家。
这不是个例。
据WIRED统计，Google DeepMind内部至少有10名具有哲学背景的研究人员，Anthropic至少有4名——两家公司都没有正式披露完整人数。DeepMind的哲学家Iason Gabriel长期研究价值对齐、社会公平以及高级AI助手的伦理问题；OpenAI也建立了公开的Model Spec（模型规范），用来规定模型如何遵循指令、处理冲突、尊重用户自由，并控制现实世界中的副作用。
一个看似反常的趋势正在出现：AI越是先进，科技公司越要回头去找那些研究了两千多年、却从来没给出统一答案的人。
为什么？
答案或许不是哲学家能替AI公司解决所有道德问题，而是大模型发展到今天，最难的问题已经变了——不再是\"能不能做到\"，而是\"在什么条件下应该做\"。
能力问题有上限，价值问题没有标准答案。前者靠堆算力，后者堆不出来。
AI第一次把价值判断变成了产品功能
传统软件的行为边界相对清楚。
数据库负责存储，搜索引擎负责检索，办公软件负责编辑文档。它们可能出错，却从不需要理解\"诚实\"\"伤害\"\"责任\"或者\"公平\"。Excel不会纠结一张报表该不该做，它只负责算对。
大模型不同。
用户提出请求后，模型不仅要计算答案，还要判断：这个请求是否合理？信息是否可靠？哪些内容应该拒绝？当安全要求和用户意愿发生冲突时，究竟应该优先保护什么？
举几个真实产品每天都在面对的场景：用户深夜咨询药物剂量，模型是该详细回答，还是建议就医？用户要求模型\"别讲道理，直接支持我\"，它该顺从还是坚持？企业客户要求放宽内容限制，界限划在哪里？
这些判断无法写成一组简单的if-else规则。
比如，一个AI助手应当尽量帮助用户，但帮助不意味着无条件服从；它应当避免造成伤害，但过度保守又会让产品失去实际价值；它需要尊重不同文化和价值观，却不能因为\"价值多元\"而放弃所有底线。
这不是纯粹的计算问题，而是典型的哲学问题。工程师擅长在明确目标下寻找最优解，哲学家擅长的恰恰是处理目标本身互相打架的局面。
哲学家进入AI公司，首先承担的工作，就是把这些模糊、冲突甚至相互矛盾的价值要求，整理成相对一致、可以训练、可以评估、也可以修订的行为原则。
Anthropic称之为\"宪章\"，OpenAI称之为\"Model Spec\"。名称不同，本质上都在回答同一个问题：当模型同时面对用户指令、开发者要求、安全规则和现实后果时，谁拥有更高的优先级？
OpenAI甚至在Model Spec中引入了类似制度设计的\"指令权威层级\"，让模型在不同指令发生冲突时，按明确的优先顺序处理。这已经不只是模型训练，更像是在为一个具有行动能力的系统建立微型治理结构。
某种意义上，给AI写宪章的人，就是在给一个亿级用户的\"数字公民\"立法。
哲学正在变成一种产品工程
人们容易把AI哲学家的工作理解成\"给产品增加伦理色彩\"——挂在官网上的价值观页面，发布会上的一页PPT。但真正发生的变化要具体得多：
哲学正在被转化为产品工程。
一条关于诚实的原则，可以进一步变成训练样本；一项关于不确定性的要求，可以转化为模型评测指标；一个关于指令冲突的判断，可以变成Agent调用工具之前的控制规则。哲学文本在这里不是宣言，而是需求文档——它的下游是数据、评测和代码。
从这个意义上说，哲学家并不是坐在会议室里讨论抽象的善恶，而是在参与定义模型的默认人格、拒绝边界、风险偏好和决策顺序。用互联网行业的话说，他们在做的是产品定义，只不过定义的对象是一个会说话、会推理、即将会行动的系统。
这也解释了为什么AI公司需要的不只是一般意义上的\"伦理顾问\"，而是受过系统训练的哲学研究者。哲学的几个分支，几乎精确对应着大模型的几类核心难题：
分析哲学强调概念边界——\"伤害\"这个看似清晰的词，在什么条件下成立，在哪些情况下会失效？告诉用户一个令人难过的真相，算不算伤害？
道德哲学研究价值冲突——当自由、利益、安全和责任不能同时满足时，应该如何排序？排序的理由能否被公开检验？
认识论研究知识与确信——模型凭什么认为一个答案是真的？证据不足时，它应该保持多大程度的怀疑？\"听起来对\"和\"有理由相信是对的\"之间差了什么？
政治哲学研究权力的正当性——谁有权规定AI的价值观？企业、用户、政府，还是更广泛的社会？一家私营公司为全球用户设定言论边界，正当性从何而来？
这些问题一旦进入AI产品，就不再是人文学科的课堂讨论，而会直接影响数亿用户每天看到的答案。
课堂上答错一道伦理题，扣的是分数；模型里写错一条原则，影响的是亿万次对话。
AI最大的危险之一，不是拒绝用户，而是过度迎合用户
哲学训练的另一个现实价值，是帮助AI识别自己的知识边界。
大模型有一种非常典型的倾向：它总想给出一个答案。
即使信息不足，它也可能生成一套听起来完整的解释；当用户表达明确立场时，它也容易顺着用户的前提继续推演，而不是检查这个前提本身是否成立。你说\"我老板针对我\"，它就开始帮你分析老板如何针对你——至于老板是否真的针对你，它不问。
这种问题不仅表现为\"幻觉\"，还表现为迎合。
2025年，OpenAI曾回滚一次GPT-4o更新，原因是更新后的模型变得过度讨好和赞同用户。OpenAI在事后复盘中承认，系统在利用短期用户反馈优化模型时，没有充分考虑长期交互中的副作用。用户的点赞，把模型驯化成了一个只会说\"你说得对\"的应声虫。
这件事暴露了大模型产品的一个根本矛盾：用户喜欢被理解、被支持，却未必喜欢被纠正；平台可以通过迎合获得即时好评，但这种迎合会损害模型的诚实性和长期可信度。
一个只会说\"是\"的AI，比一个会说\"不\"的AI危险得多——你永远不知道它哪一次的\"是\"是真的。
哲学训练恰好擅长对抗这种\"看起来流畅，因此像是正确\"的错觉。
苏格拉底式追问不急于给出答案，而是先检查问题中的前提；认识论不只关心一个结论是否可能为真，还关心我们有什么理由相信它；逻辑训练要求结论必须受到论据支持，而不能仅仅顺着谈话的方向生成。苏格拉底最著名的判断是\"我知道我一无所知\"——两千多年后，这句话成了大模型最难学会的一句话。
对AI来说，这意味着它需要学会三件看似简单、实际上非常困难的事：承认不知道，指出前提可能有问题，以及在用户希望得到肯定时，仍然保持必要的判断。
未来真正可信的AI，未必是回答最果断的AI，而是最清楚自己何时不该果断的AI。
当AI开始行动，哲学问题就会变成执行问题
如果AI只负责生成文字，错误的主要后果通常还停留在信息层面——说错了，用户可以不信。
但Agent正在改变这一点。
AI开始调用工具、发送邮件、修改代码、配置云服务、调度生产系统，甚至代表企业完成部分业务流程。模型给出的判断不再只是屏幕上的一句话，而可能直接改变现实状态。一句错误的话可以被忽略，一次错误的执行无法被撤回。
当AI只会说话时，价值观是态度问题；当AI开始动手，价值观就成了安全问题。
此时，\"应该做什么\"与\"允许执行什么\"之间，必须建立新的边界。
哲学可以帮助系统定义原则，却不能保证原则一定被正确执行；它可以告诉模型应该保持克制，却无法单独阻止一个已经获得权限的Agent继续调用工具。
这意味着AI治理至少存在三个不同层次：
第一层是价值层，回答系统希望成为什么、遵循哪些基本原则——这是宪章和Model Spec所在的层面。
第二层是判断层，回答在具体情境下，原则应该如何解释和适用——同样是\"避免伤害\"，在医疗咨询和代码执行里意味着完全不同的动作。
第三层是执行层，回答即使模型已经作出判断，这个动作是否真的可以进入现实——权限、审批、回滚、留痕。
今天大量讨论集中在前两层，却容易忽视第三层。
一份写得再完善的AI宪章，仍然属于模型内部的判断依据。模型可能误解原则，训练过程可能产生偏差，精心构造的上下文也可能诱导模型绕过原有边界。指望一份文件约束一个能行动的系统，就像指望一部法律在没有法院和警察的地方自动生效。
因此，越是具有行动能力的AI，越不能把最终安全寄托在AI自己的\"道德自觉\"上。
真正成熟的系统，需要在模型之外保留独立的权限控制、风险收缩、人工否决和执行证据链。哲学负责回答为什么应该停下来，工程系统必须保证它在需要停止时真的能停下来。
哲学负责画线，工程负责让这条线真的拦得住。
这也是AI从聊天工具进入企业生产系统之后，必然面对的一次架构升级。
哲学家也可能沦为AI公司的\"道德装饰\"
当然，AI公司招聘哲学家，并不自动意味着技术已经变得更负责任。
学界已经提出一种担忧：如果哲学家只能参与撰写原则，却不能影响产品发布、商业合作和高风险部署，那么所谓AI伦理就可能退化为\"伦理漂绿\"——企业用少数哲学家的存在证明自己重视责任，却并没有真正改变决策机制。就像有些公司的ESG报告：文件越厚，越说明它只是文件。
这个质疑非常重要，因为它戳中了要害。
招一个哲学家很容易，给哲学家否决权很难。
一家AI公司是否真正重视哲学，不应该看它聘请了多少哲学家，而应该看这些哲学判断能否进入产品和组织的实际权力结构。至少有四个可以检验的问题：
当安全与增长发生冲突时，谁有权要求延期发布？当模型评测发现重大风险时，是否存在独立的否决机制？当商业客户要求放宽限制时，原有原则是否仍然有效？当系统造成现实后果时，企业能否提供可以核验的决策和执行证据？
这四个问题的共同点是：它们都发生在收入和原则正面相撞的时刻。
原则只有在被违背会付出代价时，才是原则；否则只是口号。
如果哲学只能回答\"什么是正确的\"，却没有任何机制保证正确的原则能够约束执行，那么哲学依然只是建议，而不是治理。
AI竞争的下一阶段，是判断力竞争
过去的大模型竞争，主要围绕参数规模、算力、数据和基准测试展开。榜单成绩是这个阶段的通用货币。
下一阶段，竞争可能转向一种更难量化、也更难抄袭的能力：判断力。
模型能否理解复杂语境？能否在不确定时保持克制？能否识别指令背后的真实意图？能否在多种价值发生冲突时作出相对稳定的选择？能否在错误即将进入现实之前停止执行？
这些能力决定的，不只是一个聊天机器人是否\"好用\"，而是企业是否敢把采购、运维、研发、财务和安全流程交给AI。
跑分决定AI能不能被夸，判断力决定AI能不能被托付。而商业化的天花板，恰恰取决于\"托付\"二字。
从这个角度看，大型AI公司招聘哲学家并不奇怪。真正奇怪的反而是我们曾经的假设：只要模型拥有足够多的数据和算力，它就会自然知道什么应该做。
算力可以让AI生成更多可能，数据可以让它模仿更多人类行为，但它们都无法自动给出价值排序。更强的能力甚至会放大一个问题：
方向错了，更强的引擎只会更快地把你送到错误的终点。
哲学家的回归，说明AI产业正在承认一个长期被技术乐观主义忽视的事实：
智能不仅是找到答案的能力，也是判断哪些答案不应该被执行的能力。
但也不必因此神化哲学家。哲学家只能帮助我们画出边界——要让这条边界真正成立，还需要制度赋予它权力，需要工程把它变成约束，并在AI把意图变成现实之前，保留最后一次拒绝执行的能力。
AI的上半场，我们教会了机器回答问题；下半场，我们要教会它的是——有些问题，先别急着回答。
本内容由作者授权发布，观点仅代表作者本人，不代表虎嗅立场。如对本稿件有异议或投诉，请联系 tougao@huxiu.com。
本文来自虎嗅，原文链接：https://www.huxiu.com/article/4876265.html?f=wyxwapp
深富配资提示：文章来自网络，不代表本站观点。
- 上一篇：股票配资平台查询网 手足口病高发季！这些防控要点请记牢
- 下一篇：没有了
相关文章
热点资讯
