根据安全公司CyberArk旗下研究单位CyberArk Labs针对ChatGPT所进行的一项研究，显示出ChatGPT如何用于创建多种形态的恶意软件，这些具有强大破坏能力的恶意程序可以轻松规避安全产品并使援救变得十分棘手。虽然ChatGPT内置有过滤器，能够限制某些内容，以保护用户免受潜在的危害，不过有心人依然可以绕过这些筛检机制，让ChatGPT为其产出恶意软件的程序代码。详细验证过程可以参考此篇文章。其内容重点包括：
该篇文章作者之一，CyberArk Labs的资深研究员Eran Shimony也针对相关问题进行回应：
之前有人发布了一篇文章，说可以利用ChatGPT查询以获取具恶意目的的破坏性程序。我们展示了如何绕过内容过滤器并创建恶意软件，该恶意软件可在运行时查询ChatGPT以加载恶意程序代码。恶意软件并不会在磁盘上留存任何恶意程序代码，因为程序代码是直接从ChatGPT接收，验证它（检查程序代码是否正确），然后执行这些程序代码，且并不留下任何痕迹。此外，我们还可以要求ChatGPT“变异”我们的程序代码。
多态恶意软件对于安全产品来说处理起来很复杂，因为您无法真正侦测到它们。它们通常不会在文件系统上留下任何痕迹，因为他们的恶意程序代码只会在内存中处理。此外，如果查看可执行文件，它可能看起来是良性的。
安全产品会因为无法识别这类先进恶意软件，导致其不具备相关侦测能力。目前，没有此类使用的公开记录，因为我们似乎是第一个发布它的人。 截至目前，我们并不提供完整恶意软件的公开程序代码。
请记住，应谨慎使用本文中讨论的消息和想法，因为使用ChatGPT的API创建恶意程序代码是一个严重的问题，不应掉以轻心。这篇文章旨在提高对潜在风险的认识，并鼓励对该主题进行进一步研究。
是的，它可以在最新版本的Windows 11上运行，也可以在其他操作系统上顺利运行。
这种恶意软件的美妙之处在于它几乎可以具有您想要的任何功能。 当它向ChatGPT请求恶意模块时，它可以是：长久存在的、加密过的、使用注入方式、键盘记录等。
这取决于恶意行为者的意图，与任何恶意软件一样，它很容易躲过侦测，并且可以做任何恶意软件可以做的事情，或者你想做的事。
我们仍在进行研究。 做一次概念验证需要大约几周的时间。 将来，我们将扩大其范围并添加其他模块。 重要的是要记住，这不仅仅是一个假设的场景，而是一个非常现实的问题。 这是一个不断发展的领域，因此，保持知情和警惕至关重要。