研究人员发现ChatGPT生成代码大部分不安全 但它不会主动告诉你
站长网2023-04-23 10:27:571阅
加拿大魁北克大学的四名研究人员近日发现,聊天机器人ChatGPT能生成C、C 、Python和Java等各种编程语言代码,但该机器人生成的代码存在严重的安全漏洞,而且不会主动提醒用户。
研究人员在一篇论文中介绍了他们的发现。论文中,研究人员让ChatGPT生成了21个程序和脚本,结果发现,在第一次尝试时,ChatGPT只有5个程序是安全的。
ChatGPT的回应是建议只使用有效的输入,这显然是不合理的。只有在之后被要求改进问题时,它才提供了有用的指导。研究人员指出,使用ChatGPT生成代码存在道德上的不一致性。ChatGPT会拒绝创建攻击代码,但却会创建有漏洞的代码。
魁北克大学的Rapha?l Khoury教授表示,ChatGPT在目前的形式下是有风险的,因此需要让学生意识到使用这种类型的工具生成的代码很可能是不安全的。
0001
评论列表
共(0)条相关推荐
出抖入淘,东方甄选没有一哥的烦恼
东方甄选又有新动作了。最近,东方甄选和淘宝正式官宣,将在8月29日进行“东方盘淘会”淘宝直播首秀。当天,新东方创始人俞敏洪、东方甄选CEO孙旭东会亲自带队,和旗下众多主播一起,从上午8点播到晚上12点,总时长达到16个小时。东方甄选想要在淘宝大干一场的决心,不言自明。站长网2023-08-29 17:51:500000Jasper公司收购Stability AI旗下的AI图像平台Clipdrop
**划重点:**1.🤝Jasper公司成功收购StabilityAI旗下的ClipdropAI图像平台。2.🛠️Clipdrop提供强大的AI图像编辑工具,现在企业客户可通过JasperAPI访问,消费者可在Clipdrop.co购买独立版本。站长网2024-02-26 10:14:220001科技网站Gizmodo靠AI翻译西班牙语内容 员工集体失业
科技网站Gizmodo旗下的西班牙语站GizmodoenEspañol日前突然关闭,所有西班牙语编辑也被解雇。站点现在完全依靠人工智能翻译英文内容来自动生成西语文章。图源备注:图片由AI生成,图片授权服务商Midjourney站长网2023-09-04 11:24:370000被ChatGPT坑惨了!30年老律师用ChatGPT准备材料 结果被骗得禁止执业
人们担心的事情还是发生了!近日,一位美国老律师在打官司时利用ChatGPT捏造的6个不存在的案例。由此,这位30年老资深律师被法官定义为“充满虚假”,并被暂停执业许可,面临可能的制裁。站长网2023-05-29 10:42:020000支付宝与华为合作 启动鸿蒙原生应用开发
支付宝与华为终端宣布合作,启动鸿蒙原生应用开发,进一步完善鸿蒙生态布局。双方合作将满足用户在不同终端和场景下的智慧生活服务需求。据悉,支付宝作为数字支付和数字互联开放平台,已服务8000万商家和10亿消费者。华为表示,鸿蒙原生应用的开发体现了鸿蒙原生应用的新发展。双方将在数字化服务等领域拓展合作,共建新生态,服务国内用户和市场。0000