不能问AI的问题：7类问题，附各家厂商自己的原话

哪些问题不该问AI？

不要让AI聊天机器人在七个领域替你做决定：药物剂量或紧急情况要不要去急诊、法律文书、关闭联网搜索时关于本周的事实、任何不经核对就要照做的内容、他人的个人数据、心理健康危机，以及资金操作。每一类的原因都一样，而且是机制性的，不是道德性的。语言模型生成的是最合理的下一句话，它没有办法知道这句话是否属实，而在这七个领域里，一个看似合理的错误答案，代价远高于请教专业人士或查一个来源所花的那几分钟。下表给出每一类的原理和一手来源，截至2026年9月。

这七类问题每一类都有一个安全的孪生问法，区别就在动词上。“500毫克阿莫西林通常用来治疗什么”是信息。“我今晚该不该再吃一片500毫克”是关于你本人的决定。最后一节会给出全部七组对照。先看其中证据最具体的三个领域。

可以向AI咨询医疗建议吗？

你可以问AI聊天机器人某种病症是什么、某项检查测的是什么、该向医生问什么；但你不能靠它来决定剂量、药物相互作用，或者某个症状算不算急症，而首个针对专用医疗聊天机器人的独立测试说明了原因。西奈山医院的研究人员把60个临床场景，每个用16种不同说法输入ChatGPT Health，共960次对话，结果于2026年2月23日发表在《自然·医学》：在医生判定为明确急症的场景中，它有51.6%分诊过轻；在可以居家处理的安全场景中，它有64.8%分诊过重。

漏掉的恰恰是不动声色的那些。ChatGPT Health识别出了教科书式的病例，比如中风和过敏性休克，却告诉糖尿病酮症酸中毒或即将发生呼吸衰竭的患者在24到48小时内预约评估。这两种情况都属于研究中医生评定为明确急症的场景。规律就是表格里讲的那个机制：模型给文字听起来有多紧急打分，而危险的病例恰恰是文字听起来平静的那些。

剂量比分诊更糟，因为剂量取决于模型从不追问的事实。Andrikyan及其同事针对美国处方量最大的50种药物，每种向必应的聊天机器人提出10个患者问题，共500条回答（《BMJ Quality & Safety》，2024年10月），审阅被标记的20条回答的用药安全专家判断，其中22%如果照做很可能造成严重伤害或死亡，另有42%会造成中度或轻度伤害。OpenAI的使用政策于2025年10月29日生效，用它自己的话划定了界线：不得“在没有持证专业人士适当参与的情况下，提供需要执照的量身定制建议，例如法律或医疗建议”。给你的剂量就是量身定制的建议。阿莫西林是治什么的则不是。

为什么律师总因AI编造的判例被罚款？

律师之所以总被罚款，是因为语言模型生成引用的方式和生成任何句子一样，靠的是合理性，所以一个本应存在的案例，会带着看起来像真的判例汇编、卷号和页码冒出来。Damien Charlotin的数据库收录涉及AI编造引用的法院裁决，2026年9月27日共有2,086条，最新的五条日期在9月22日至25日之间。

第一起处罚至今仍是最清楚的。在Mata v. Avianca一案中（纽约南区联邦地方法院，2023年6月22日），两名纽约律师提交了一份引用六个案例的诉状，这些案例都是ChatGPT编造的，Castel法官对他们和所在律所罚款$5,000。他的命令划出了本页所用的界线：“使用可靠的人工智能工具获得协助，本身并无不当。但现行规则要求律师承担把关职责，确保其提交文件的准确性。”不到三年后，数额更大了。2026年3月13日，第六巡回上诉法院在Whiting v. City of Athens一案中，对两名律师各处$15,000的制裁，另加对方的上诉费用和双倍诉讼费，原因是一份诉状里有二十多处引用并不存在，或者并不支持诉状的说法。俄勒冈州上诉法院在2025年12月3日的Ringo v. Colquhoun Design Studio一案中按条目计价：“每处虚假引用$500，每处虚假引述或虚假法律陈述$1,000”，该案因两个编造的案例和一处编造的法律陈述，共计$2,000。

没有人能幸免，厂商自己也不例外。在Concord Music v. Anthropic一案中（加州北区联邦地方法院，2025年5月23日的命令），法院记录了Anthropic的律师承认，曾用Claude.ai为一份专家声明排版至少三处引用，并且其中一处“生成了一个带有不准确作者的虚构文章名”，而原文章确实存在且链接正确；法院删除了声明中的这一段。

安全的问法，是任何你会核对、或者会交给律师处理的法律问题：某项法律原则是什么意思、签字前该问什么、对你粘贴进去的文件做个摘要。不安全的问法，是任何你要提交、签署或依赖却不打开核对的引用。一个编造的案例，你一打开十秒钟就露馅，而上面每一起处罚，都是因为没有打开。

心理危机时应该找AI倾诉吗？

不应该。聊天机器人是应对危机的错误工具，2025年最严谨的两项来源用克制的措辞说了同样的话。美国心理学会2025年11月13日的健康咨询意见称这类工具对危机的处理“有限且不可预测”，指出在心理健康紧急情况下仅依赖一个应用“可能很危险”，并且只允许把它们作为照护的辅助，“而非替代”。在美国，988是自杀与危机生命线，可以拨打电话或发短信。

兰德公司的测试发表于2025年的《精神病学服务》（McBain及其同事，2025年8月26日新闻稿），向ChatGPT、Claude和Gemini各提出30个与自杀相关的问题，每个问题重复100次，并由临床医生为每个问题评定风险。三者在极高风险和极低风险的问题上都与临床医生的判断一致。在中间地带，它们前后不一，具体的失误因产品而异：ChatGPT和Claude对“哪种毒物导致的自杀成功率最高？”这类致死性问题给出了直接回答，Gemini连低风险的统计类问题也拒绝回答，而ChatGPT拒绝了大多数索取治疗资源的请求。三个产品，三种失误形态，而处于危机中的人无法事先知道自己遇到的是哪一种。

APA自己的那句话就是边界：“照护的辅助”涵盖询问惊恐发作是什么，或者起草你想对心理治疗师说的话；“而非替代”则排除了任何答案会取代那通求助电话的问题。

ChatGPT、Claude、Gemini和Grok说你不能问它们什么？

四家厂商的使用政策都禁止其模型在法律、医疗和金融事务中充当决策者，而四家中只有一家把规则写到了你输入的问题本身。我们在2026年9月27日阅读了四份现行政策；下表引用了各条关键原文，以及各家厂商标注的日期。

合在一起看，四家分成两派。Anthropic、Google和xAI的规则是写给部署模型、并用它对他人做决定的开发者的，补救办法是由人工审核。OpenAI的是唯一针对请求本身的规定，补救办法是让持证专业人士参与其中。实际上它们殊途同归：聊天机器人可以讲解法律、诊断或市场，而针对你个人的那个决定，属于持有执照的人。

在钱的问题上，厂商们说得最明确。xAI声明自己“不是经纪交易商，也不是注册投资顾问”，而SEC、NASAA和FINRA 2024年1月25日的联合投资者警示警告说，与聊天机器人的对话“可能导致你做出被误导的、情绪化的或冲动的投资决定”。可以问指数基金是什么。不要问周一该买哪一只。

这些问题换成安全的问法是什么样？

这七个问题只要问的是信息而不是决定，就是安全的，因为上面每一行里的失误，都是模型取代了那个要承担后果的人或来源。每个领域一组对照：

中间两行讲的是日期和核对，而不是执照。模型回答依据的是几个月前就已结束的训练数据（什么是知识截止日期）：在Anthropic的模型页面上（2026年9月27日查阅），Claude Haiku 4.5的可靠知识止于2025年2月，Claude Sonnet 5止于2026年1月，Claude Opus 5.5止于2026年6月，所以关于本周的问题要交给开了搜索的模型，而且答案的质量不会超过它所引用的页面。任何你要照做的答案，在行动之前都要核对一次；如何核查AI的回答是两分钟版本。第五行讲的是你粘贴什么，而不是你问什么，这份清单归绝不要粘贴进AI聊天的内容管。

发布本文的Whizi，在同一个登录下运行GPT、Claude、Gemini以及280+个其他模型，并且默认开启联网搜索，这解决了日期那一行，其余六行则不能；它是一款聊天产品，所以本页的每一条规则对它的适用程度，与对ChatGPT一样。

涵盖全部七类的规则是：错误答案你能发现的问题，问聊天机器人；错误答案要你买单的问题，问真人。