solidot新版网站常见问题,请点击这里查看。
消息
本文已被查看 5387 次
AI 犯的错误和人类不同
在微积分上犯错的人类通常会对微积分相关的其它问题说“我不会”。但 AI 或者大模型犯的错误和人类不同。AI 的错误看起来是随机发生的,不是围绕特定主题,大模型在微积分上犯错的可能性与说出卷心菜吃山羊的可能性差不多。大模型和人类一样会非常自信的说完全错误的话,它这种随机的错误让人难以信任其在复杂多步骤问题中的推理。如果你想要将 AI 应用于解决业务问题,仅仅让它了解产品盈利的因素是不够的,它可能会忘记钱是什么东西。
https://www.schneier.com/blog/archives/2025/01/ai-mistakes-are-very-different-from-human-mistakes.html
https://www.schneier.com/blog/archives/2025/01/ai-mistakes-are-very-different-from-human-mistakes.html