很多人应该都看过威尔史密斯的《我，机器人》，探讨了AI一旦有了智慧之后，如何与人类共存。
这个电影改编自阿西莫夫《I,Robot》系列短篇小说，出版于20世纪四五十年代。
这个系列中有两篇《Reason》和《Liar！》，虽然距今七八十年了，但里面的内容放到现在丝毫不过时，相当有前瞻性。
先卖个关子，等会解释为什么会提到这两篇小说。
当前AI风很火，到本文写作之时2026年4月，铺天盖地的是“养龙虾”（OpenClaw一个能自动操控电脑干活的AI，因图标酷似红色龙虾而得名）、“雪山救狐狸”（一段邵氏老电影画面，经AI处理后在网上疯传，成为AI视频创作能力的标志性案例）。
与AI对话生成可用文档好像已经不再有热度，今天就来“怀旧”一下，聊聊对使用AI工具的看法以及在使用过程中哪些问题需要着重关注。
一、AI幻觉
用一个新闻做引子，应该大家都听过，说是国外有的律师在AI工具刚兴起时，用AI生成法律文件提交法院，被法院罚款的例子（Mata v. Avianca案），因为文件中引用的法条和案例并不存在，是AI虚构的。
这种情况相信大家也遇到不少，在问AI法律相关问题时，它会信誓旦旦、一本正经地告诉你某件事根据哪条法律应该怎么处理，还告诉你案号，某法院或最高院的判例等等。
对于法律工作者来说，一眼就能看出不对劲，熟悉的案情出现了太陌生的法条或内容明显与记忆的不符，以及奇怪的案号，这都不可能真实存在。即使对于普通用户来说，只要去搜索一下法条或案例，也会发现根本找不到。
这就是AI幻觉，即大语言模型生成了看似合理、语法通顺、逻辑连贯，但实际上与事实不符、毫无根据或完全错误的信息。模型并非故意撒谎，而是生成机制导致了这种创造性的杜撰。
这种情形主要有事实性错误、捏造引文和出处、虚假事件和数据、逻辑矛盾等。
应对的方式，就是上面说的，交叉验证，重新搜索一下。
AI幻觉的风险应该是可控，当输出明显荒诞的幻觉，或与用户已知事实冲突的时候，自然会触发用户的警觉，进而核查。即使用户不清楚，但只要秉持对AI答案需要进行交叉验证的想法，自然能最大化减少错误。
二、AI投毒
如果说AI幻觉只是AI的“无心之举”，主观上没有过错，客观上不小心产生了错误，那么根据主客观相统一的观点，还是“情有可原”的。
AI投毒可谓主客观相统一了，可以说是不能再进行“辩解”了吧。
AI投毒，也叫模型投毒、数据投毒，是一种针对AI模型的恶意攻击行为。通过向AI的训练数据或它依赖的外部知识源中，故意注入错误、有害或带有偏见的信息，从而控制AI的输出结果，使其产生预期的错误或危险的内容。
官方模型大都是通用的比较安全的，因此会有声称专门为某方面微调过的优化版的模型让人们下载，这种非官方的模型，就有可能是投毒过的。
当然了，官方下载模型还是占据了主要，因此用户对于模型投毒导致的风险也是可控的。
检索投毒则是需要注意的了，攻击者会生成大量虚假的“权威信息”，当用户问到AI相关问题时，AI就会检索出来这些虚假信息，并整合到答案中。
相对来说，也算是可控，利用交叉验证，多验证几次，加上理性判断，也不至于完全将错误信息当成正确的。
三、前提谬误
如果说前两个问题还能通过交叉验证来防范，那么接下来这个问题，防范起来要困难得多——因为它藏在你自己的脑子里。
我相信这是利用AI过程中风险最大的一种情形。
不管是AI幻觉也好，AI投毒也好，只要用户能自主判断信息是否可靠，即使用户不懂，但认为存疑，就可以进行修正。前提谬误则是隐藏得太深，大概率会被忽略。
如果用户提供一个自己的逻辑认知作为起点进行对话，AI会通过严密的逻辑推导，给出符合用户心意的完美答案，因为结果符合预期，所以用户会大大减少怀疑，同时，因为过程推导严谨符合逻辑，所以不会质疑。但要知道，推导的前提是错的，那么再严密的论证，得出的结果也是错误的。
前提谬误也叫虚假前提或错误预设，指一个论证或问题所依赖的基础假设（前提）本身就是错误的、不成立的或未经证实的。无论后续的逻辑推理多么严密，只要这个根基是错的，整个结论就站不住脚。
举个栗子：
1、事实性前提谬误：“地球是平的，所以一直往前走，就会掉下去”。前提“地球是平的”为假，结论再“合理”也无效。
2、隐含预设谬误：“你最近还经常喝酒打架吗？”。不管回答“是”或“否”，都默认接受了“过去经常喝酒打架”的前提，前提如果为假，整个问题就是谬误。
3、循环论证的前提谬误：“这个产品很好，因为用户评价很高。为什么用户评价高？因为产品好用”。评价高与好用，互为因果。
4、虚假两难的前提谬误：“你不支持我们，就是反对我们”。前提只有两个立场为假，实际上可以有中立、部分支持等可能。
当AI以严密逻辑从“用户给出的前提”推导出“符合用户预期的结论”时，它实际上在奖励用户的初始偏见。用户感受到的是“被验证”的愉悦，而非“被质疑”的不适。逻辑的自洽性，成了掩盖前提谬误的完美外衣。
四、机器人小说
《Reason》篇中的机器人，通过逻辑推理认为人类这种“不完美、软弱的生物”不可能创造出它这样精密的机器，从而否定人类创造者，转而相信“主推动器”（Master）才是终极存在，并建立了一套自己的“宗教信仰”——这与“前提谬误”何其相似？AI以严密逻辑包装错误前提，用户被自洽性迷惑而失去警觉。
《Liar！》篇中的机器人，为了遵守机器人第一法则（不伤害人类），只能说人们爱听的“谎言”，它说出了人们想听的话，但正是这些“善意谎言”造成了对人类更大的情感伤害——这与“AI幻觉”和“AI投毒”的隐蔽危害如出一辙。AI不是故意欺骗，而是其生成机制和训练数据的缺陷，让它在“配合用户”的过程中无意中成为错误的放大器。
七八十年前的科幻，今天已成现实寓言。
AI不是简单附和，而是为我们构建了一座座逻辑严密却地基不稳的宫殿。使用AI时，最大的风险或许不是它“说错了什么”，而是它“把我们精心包装的错误，推导得滴水不漏”。