NLP与大模型难度 ★★★☆☆
AI幻觉
AI会编造看起来很真实但完全错误的信息——而且它自己不知道自己错了
分享：
📖 详细解释
🎯 一句话定义
AI会编造看起来很真实但完全错误的信息——而且它自己不知道自己错了
⚙️ 工作原理
大模型是"下一个词预测机"——它根据概率生成最可能的下一个词，但不验证事实真伪。当训练数据中相关信息不足或模糊时，就会"补全"出看似合理但错误的内容
💡 生活类比
"一个记性不好但特别自信的人，遇到不知道的事不会说"我不知道"，而是会编一个听起来很合理的答案"
🌍 真实应用
AI编造假新闻、生成不存在的论文引用、给错误代码、捏造法律案例——这些都是幻觉的表现，也是大模型最大的安全隐患之一