最近，AI题材赚钱效应爆炸。我们一边继续在股市里赚着ai相关题材的钱，一边又和豆包较上劲了。有很多感触，在朋友圈里聊了很多，但是依然意犹未尽，觉得应该专门就此写一篇文章，认真的聊一聊。

如今，ai早已融入大多数人的生活，远超当年的淘宝、微信和抖音，连我家老爷子都在用。

大家用它来查资料，做旅游规划，甚至把病历发给豆包、元宝们问诊咨询，连我们投资的时候也用它来查找资料，百度之类的搜索引擎早就不香了。

我们可能慢慢惯了ai秒出答案、逻辑通顺、措辞专业又滴水不漏的输出。但是在使用ai的过程中，却逐渐被它的弊端所惊到，豆包们给出的那些看似严谨、专业、理性的回答，有大量都是彻头彻尾的编造，都是在一本正经的胡说八道。我一直在广泛阅读人工智能的各种书籍和新闻，行业里称之为“ AI幻觉”。

“幻觉”这个词儿用的好啊，用的妙，这是一个中性的词，它让人放松了必要的警惕。

真正可怕的是，大众可能只是把这当成了一个无伤大雅的小bug，一个成长过程中出现的小问题。却没有认真思考，其危害可能远比大家想象的更颠覆、甚至可能更致命。



AI本质上是在造句，好多时候它生成的是看似合理，其实却不真实的内容。 Ai犯错并不是马虎大意，而是由其底层工作机制决定的必然现象——这句话是元宝说的。

如果你没有理解这句话，那么请多读几遍。当真正读懂了这句话，就会感觉冷汗直流。很多人，包括我，以前都在想当然的认为ai是在基于事实回答问题，但是这却是我们对它最大的误解。

AI的工作原理不是检索、核对、验证信息的真伪，而是通过海量的数据训练，计算文字出现的概率，它只会模拟人类的语言，拼接出通顺、连贯、符合语境、看起来专业的答案——这是豆包的原话。

这不是开玩笑。我以前也在公开信息中看到过这种说法，但是没有太当回事，也有点儿想当然的认为是企业的谦虚，并且当时只顾着惊叹ai的巨大进步，没有把这种风险提示放在首位。

让我们人类回答问题的时候，如果不知道就会直接说不知道，但是ai从来不会说不知道，它会自动编造，强行补全虚构细节。

它可以虚构专业文献，虚构权威的数据，虚构政策条文，虚构财报数据，甚至虚构医疗结论，虚构投资逻辑。

这就特别恐怖了。它会犯错并不恐怖。恐怖的是它错的极其逼真，严谨，有理有据。不会含糊其辞，不会模棱两可，不会脸红，而是语气笃定，用词专业，普通人根本无法分辨真假。这就是ai胡说八道最核心的杀伤力。



豆包们说出的内容太过于规整了，让人觉得太专业了，逻辑上又拥有完美的闭环，如果长期依赖它，就会造成形成思维惯性和认知惯性，默认为它是对的，丧失了质疑的能力，长期沉浸其中，人的思维会变得单一和僵化。

这样持续下去，可能就会有越来越多的人不会去查官网，不会去查财报，不会去查政策原文，不会去核对文献出处，只会依赖ai的二次转述。

如果只是日常闲聊，那也无伤大雅。但是现在ai已经渗透进很多关键的决策领域，我炒股查找资料的时候，现在也经常直接问豆包，但是渐渐发现它每一次的回答都充满了错误，并且屡教不改，尤其是在数据抓取和核对上。这就带来了实实在在的风险了。

所以股友们，一定要警惕，豆包经常编造财务数据，虚构各种信息。虽然我们一直认为不能把它作为决策工具，只作为信息检索工具。但是现在的问题是它作为信息检索工具也是非常不合格的，错误极多，风险极大。



我打算和家人认真的聊一下这件事，以避免他们过度依赖ai，尤其是提醒他们不要用ai给出健康建议，不能再让它解读体检报告或者病历。

从ai胡乱编造财报数据，一本正经的胡乱给出投资分析的表现来看，豆包们一定也经常出现医疗常识的错误，他们会编造各种医疗建议，甚至用药建议，编造对疾病的判断。

健康问题无小事，ai随口的编造非常可能误导普通人做出错误的决策。

它胡乱编造财报数据，我们能去核对。它胡乱给出各种投资分析，我们能识别出来，因为我们是专业的。但是在其他领域，我们是小白，尤其是在医疗上，那时当它一本正经的胡说八道的时候，我们怎么分辨？！

还有一件事，前几天让ai查找了一个知名作家的信息，结果发现它把那个作家捧得特别高，这引起了我的怀疑，我怀疑它又不知道从哪检索到错误信息，吃到“毒药”了。于是就问了它如何看待另一个作家，结果它给出的几个信息都是在造谣。我马上提出了明确的质疑，这个时候它马上又承认错误，说是误听了网络上的各种传闻消息，态度来了个180度的大转变。

这太可怕了。它编造信息可怕，胡乱检索信息可怕，看到用户一亮鞭子就投降更可怕。

很多人认为，随着技术的迭代，ai可能会越来越精准，幻觉会彻底消失。其实现实会恰恰相反，它的训练数据本身就充斥着各种错误，网络上的信息真假混杂，再加上大模型的核心优化方向是流畅度、逻辑性和对话的体验感，也就是它胡编乱造的本质不会改变， 也就是说ai一本正经的胡说八道不是bug，是大模型的固有属性，永远无法彻底根除。

当然，在有些人看来，豆包也有亮点，就是它能提供情绪价值，但是对我们这种人来讲，我们不需要它提供的虚假情绪价值，我们需要的是真实有效，是实实在在的提高我们的工作效率。

这件事还没有完。我们也不会因此彻底否定它，更不会因此就放弃ai，而是要继续全力拥抱它，同时保持足够的警惕。

最后再说一句，所有关键数据、财报、历史事实、医疗结论，必须溯源去核对核验，绝对不能直接采信ai。凡是涉及金钱、健康、学业、职业的重要决策，绝不能以ai的输出为标准。

有的人可能认为工具是中立的，其实这是不对的，工具的背后是人。

在惊叹人工智能巨大进步的同时，我越来越模糊的感觉到它背后那个巨大的阴影，甚至还有一张血盆大口。

这篇文章只是在使用ai过程中的一些体悟和感想，依然存在很多未知，很多东西我也不知道，也看不明白，依然没有最终的答案，其实现在也无法给出最终答案，我们还是一起边走边看吧。

最后，再次重申一下，大家一定要提醒亲戚朋友和家人，注意防范ai的风险和弊端，不要太过于依赖它们！切记。