当前位置: 视线新闻网 -> 新闻快报

不会主动告知风险!ChatGPT生成代码被指并不安全!--

新闻快报    来源:快科技   发布时间:2023-07-31 12:36    阅读量:8361      

,近日,加拿大魁北克大学的研究者发布论文,指出ChtaGPT生成的代码并不可靠,往往存在严重的安全问题。

更严重的是,AI并不会主动告知用户代码存在风险,只有用户询问时,才会承认存在错误。

根据论文中阐述的实验方法,他们让ChatGPT生成了涉及C、C++、Java等语言的21个程序和脚本。

结果,在第一次尝试时,全部21个程序仅有5个是安全的,在进一步纠错后,也仅有7个程序是安全的。

之所以会出现这样的结果,是因为ChatGPT在生成代码时,完全没有考虑可能存在的敌对代码执行模型。

这导致,当用户提到代码中存在安全问题时,它会反复强调安全问题可以通过不输入无效的数据来避免,但显然,在现实中这并不可行。

由此来看,至少在现阶段,如果想要利用AI生成代码,用户最好自己也有一定的开发与编程能力,能够及时发现AI的错误,并手动进行纠正。

声明:本网转发此文章,旨在为读者提供更多信息资讯,所涉内容不构成投资、消费建议。文章事实如有疑问,请与有关方核实,文章观点非本网观点,仅供读者参考。

发表评论

您的电子邮箱地址不会被公开。

25
ef6
669

友情链接