2022, open AI发布了其大型语言模型(LLM)的新接口ChatGPT，立即引起了人们对AI及其可能用途的关注。这意味着ChatGPT也可以应用于现代网络攻击，因为代码生成可以帮助不太熟练的攻击者毫不费力地发动网络攻击。
在上一篇文章《爆火出圈的chatGPT如何在逆向和恶意软件分析中发挥作用》中，我们描述了ChatGPT如何成功地进行了一次完整的感染过程，从创建一封令人信服的鱼叉式钓鱼邮件，到运行一个可以接受英文命令的反向shell。现在的问题是，这是否只是一个假设的威胁，还是攻击者已经利用OpenAI技术实施了恶意攻击。
对几个主要地下黑客社区的CPR分析表明，攻击者已经使用OpenAI开发了恶意工具。正如我们所怀疑的，一些例子清楚地表明，许多使用OpenAI的攻击者根本没有开发技能。虽然我们在这份报告中介绍的工具非常基础，但基于人工智能的工具成为复杂的威胁只是时间问题。
例1:创建info stealter 2022年12月29日，一个名为“ChatGPT——恶意软件的好处”的帖子出现在一个流行的地下黑客论坛上。这篇文章的发布者透露，他正在用ChatGPT进行实验，以重现报道的攻击技术。为此，他分享了一个基于Python的stealer的代码，它搜索常见的文件类型，将其复制到Temp文件夹中的随机文件夹中，压缩后上传到硬编码的FTP服务器。
攻击者展示了他如何使用ChatGPT创建infostealer。
我们对示例的分析证实了攻击者的陈述。它确实是一个非常简单的小偷，它在整个系统中搜索12种常见的文件类型，例如MS Office文档、PDF和图像。如果发现任何有趣的文件，恶意软件会将它们复制到一个临时目录，压缩它们，然后通过网络发送。值得注意的是，攻击者没有对文件进行加密或安全发送，因此这些文件也可能落入第三方之手。
攻击者使用ChatGPT创建的第二个例子是一个简单的Java代码片段。它下载PuTTY(一个非常常见的SSH和telnet客户端),并使用Powershell在系统上秘密运行它。当然，您可以修改这个脚本来下载和运行任何程序，包括常见的恶意软件家族。证明他是如何创建Java程序下载PuTTY并用Powershell运行的。
攻击者之前的论坛也分享了几个脚本，比如后利用阶段的自动化和一个试图钓鱼用户凭证的C程序。此外，他还主动分享了SpyNote的破解版本，这是一个Android RAT恶意软件。所以，总的来说，他似乎是一个技术型的进攻者。他的帖子旨在向技术能力较弱的攻击者展示如何使用ChatGPT进行恶意攻击，并提供他们可以立即使用的真实示例。
例2:创建加密工具2022年12月21日，一个名叫USDoD的攻击者发布了一个Python脚本，他强调这是他的第一个脚本。一个被称为USDoD的攻击者发布的多层加密工具当另一个攻击者评论该代码的风格与openAI代码的风格相似时，USDoD确认openAI已经给他提供了“在良好范围内完成脚本的良好帮助”。确认多层加密工具是使用Open AI创建的。
我们对脚本的分析验证了这是一个执行加密操作的Python脚本。更确切地说，它实际上是不同签名、加密和解密函数的大杂烩。乍一看，该脚本似乎是良性的，但它实现了许多不同的功能：脚本的第一部分为签名文件生成加密密钥(使用椭圆曲线密码和curve ED 25519)；
脚本的第二部分包括一些函数，这些函数使用硬编码的密码在混合模式下使用Blowfish和Twofish算法加密系统中的文件。这些功能允许用户加密特定目录或文件列表中的所有文件。该脚本还使用RSA密钥、PEM格式证书、MAC签名和blake2哈希函数来比较哈希值。
需要注意的是，加密函数的所有解密对应项也在脚本中实现。该脚本包括两个主要函数：一个用于加密单个文件并在文件末尾附加一个消息认证码(MAC ),另一个用于加密硬编码路径并解密它作为参数接收的文件列表。
当然，以上代码都可以良性使用。然而，这个脚本可以很容易地修改，以完全加密某人的计算机，而无需任何用户交互。比如脚本和语法问题解决了，就可能把代码变成勒索软件。
虽然USDoD看起来并不是一个技术能力有限的开发者，但他是地下社区中非常活跃和有声望的成员。USDoD从事各种非法活动，包括出售被黑公司和被盗数据库的访问权。USDoD最近分享的一个著名的被盗数据库，据说就是泄露的InfraGard数据库。USDoD之前参与了发布InfraGard数据库的非法活动。
例3:利用ChatGPT进行诈骗另一个利用ChatGPT进行诈骗的例子发布于2022年新年前夕，它展示了一种不同类型的网络犯罪。虽然前两个例子更多关注的是恶意软件对ChatGPT的使用，但是这个例子展示了一个题为“滥用ChatGPT创建黑暗市场脚本”的讨论。在本文中，攻击者展示了使用ChatGPT创建一个黑暗市场是多么容易。
地下非法经济中的市场的主要功能是提供一个自动交易非法或被盗物品的平台，如被盗账户或支付卡、恶意软件，甚至毒品和弹药。所有支付都以加密货币进行。为了解释如何使用ChatGPT来实现这些目标，攻击者发布了一段代码，这段代码使用第三方API来获取加密货币(门罗、比特币和以太坊)的最新价格，作为黑暗市场支付系统的一部分。
攻击者使用ChatGPT创建暗网市场脚本
2023年初，几个攻击者在其他地下论坛上展开了讨论，讨论的重点是如何将ChatGPT用于欺诈攻中。其中大部分集中于使用另一种OpenAI技术（DALLE2）生成随机艺术品，并通过Etsy等合法平台在线销售。在另一个示例中，攻击者解释如何为特定主题生成电子书或短章节(使用ChatGPT)，并在网上销售这些内容。
地下论坛中关于如何使用ChatGPT进行欺诈活动的多个线程
总结现在就认定ChatGPT功能是否会成为暗网攻击者最喜欢的新工具还为时过早。然而，生成恶意代码的新趋势已经出现。
来源：嘶吼专业版