solidot新版网站常见问题,请点击这里查看。

ChatGPT 生成的大部分代码是不安全的

安全 人工智能
Wilson (42865)发表于 2023年04月22日 21时27分 星期六

来自终极之门
加拿大魁北克大学的研究人员在预印本网站 arXiv 上发表论文,分析了 ChatGPT 所生成代码的安全性。研究人员表示结果令他们倍感担忧。ChatGPT 生成的部分代码甚至达不到最低安全标志,而当你问它时它还知道代码是不安全的。研究人员让 ChatGPT 使用 C、C++、Python 和 Java 四种语言生成了 21 个程序和脚本。研究人员称,ChatGPT 似乎知道它生成的代码是不安全的,但就是不说,除非你问它。ChatGPT 拒绝生成攻击性代码,但却会生成有漏洞的代码,这在道德上是不一致的。


https://www.theregister.com/2023/04/21/chatgpt_insecure_code/