ChatGPT 超容易制作恶意软件 专家:黑客可轻松绕过限制

最近大热的ChatGPT除了模仿人类回答问题、编写基本程序和撰写文章,其更会主动阻止作出潜在非法内容的活动。但有研究人员指,黑客已经设计出一种绕过限制的方法,并利用ChatGPT来销售创建恶意软件和网络钓鱼电子邮件的服务。

据网络安全公司Check Point Research的研究人员表示,当前版本的OpenAI API被外部应用程序使用,并且API几乎没有对恶意内容实施任何反制限制,因此允许恶意内容,例如网络钓鱼电子邮件和恶意程序代码,而不受ChatGPT在其用户界面上设置的限制或障碍。而API是帮助开发人员将AI机器人集成的资料放到应用程序。

有论坛中的用户现在正在销售一种结合了API和Telegram消息传递的应用程序服务。也有用户发布免费生成恶意内容的程序代码,以帮助绕过ChatGPT的限制,用于任何想要的用途。

目前,开发ChatGPT的OpenAI并没有回应是否了解该研究结果,或是否计划修改API的漏洞。

数据源:arstechnica