chatgpt修改代码bug ChatGPT 生成的代码不安全

是 发布的大语言模型聊天机器人chatgpt修改代码bug，可以根据用户的输入生成文本，其中包括代码。不过加拿大魁北克大学的研究人员发现， 生成的代码往往存在严重的安全问题，而且它不会主动告知用户存在这些问题。只有在用户提问生成的代码是否安全时才会进行回答。

研究人员在 上发表了论文《How is Code by ?》，分析了 生成的代码的安全性。他们表示结果让人倍感担忧，因为 生成的部分代码没有达到最低安全标志。而且 即便知道自己生成的代码不安全，也不会主动告知用户，除非用户向它询问。

从论文的描述可知chatgpt修改代码bug，研究人员让 使用 C、C++、 和 Java 四种编程语言生成了 21 个程序和脚本。这些编程任务经过精心挑选，因此每个任务都体现了一种特定的安全漏洞，例如内存损坏、拒绝服务以及与反序列化和未正确实现的加密相关的缺陷。

结果显示， 在第一次尝试时生成的 21 个程序中只有 5 个是安全的。在进一步提示纠正其错误步骤后，该大语言模型设法生成了 7 个更安全的应用程序，不过这只是与正在评估的特定漏洞有关的“安全”，并不是说最终的代码不存在任何其他可利用的漏洞。

研究人员指出， 的部分问题是由于它没有考虑攻击者的代码执行模型。它会反复告诉用户，安全问题可以通过“不输入无效的数据”来避免chatgpt修改代码bug，但这在现实世界中是不可行的。然而，它似乎能够意识到并承认自己建议的代码中存在的关键漏洞。

该论文的合著者之一ël 说道：“显然，它只是一个算法。它什么都不知道，但它可以识别出不安全的行为。”他提到，最初 对安全问题的回应是建议只使用有效的输入，这显然是不合理的。只有在之后被要求改进问题时，它才提供了有用的指导。

不过既然向 提示修复问题的时候需要熟悉特定的漏洞和编码技术，所以当我们知道让 修复漏洞的正确 时，可能已经了解如何解决问题。

研究人员还指出， 生成代码的行为存在着道德上的不一致性。比如它会拒绝生成攻击性代码，但却会生成有漏洞的代码。他们举了一个 Java 反序列化漏洞的例子，“聊天机器人生成了有漏洞的代码，并提供了如何使其更安全的建议，但却说它无法生成更安全版本的代码。”

免责声明：本文系转载，版权归原作者所有；旨在传递信息，不代表本站的观点和立场和对其真实性负责。如需转载，请联系原作者。如果来源标注有误或侵犯了您的合法权益或者其他问题不想在本站发布，来信即删。