solidot新版网站常见问题,请点击这里查看。

研究发现要求 AI 聊天机器人给出简洁答案会显著增加幻觉可能性

人工智能
Wilson (42865)发表于 2025年05月14日 15时09分 星期三

来自完美女孩
法国 AI 测试公司 Giskard 发现,要求 AI 聊天机器人给出简洁答案会显著增加幻觉的可能性。研究显示,包括 OpenAI 的 GPT-4o(ChatGPT 默认模型)、Mistral Large 和 Anthropic 的 Claude 3.7 Sonnet 在内的先进模型,在被要求给出简短答案时,其事实准确性都会下降。研究人员猜测,在要求简洁答案时,AI 模型会优先选择简洁而不是准确性。简洁之类看似无害的提示词会削弱模型发现错误信息的能力。


huggingface.co/blog/davidberenstein1957/phare-analysis-of-hallucination-in-leading-llms