#人工智能#
对于测试版，ChatGPT在编写恶意软件方面并不是那么糟糕，关键写的还不错
自去年11月推出测试版以来，AI聊天机器人ChatGPT已被广泛用于执行各种任务，包括撰写诗歌、技术论文、小说和散文、策划派对以及学习新主题。现在我们可以将恶意软件开发和对其他类型网络犯罪的追踪添加到列表中。
安全公司CheckPointResearch的研究人员周五报告称，在ChatGPT上线后的几周内，网络犯罪论坛的参与者（其中一些几乎没有编码经验）正在使用它来编写可用于间谍活动、勒索软件、恶意软件的软件和垃圾邮件以及其他恶意任务。
“现在判断ChatGPT功能是否会成为暗网参与者最喜欢的新工具还为时过早”公司研究人员写道。“然而，网络犯罪团体已经表现出极大的兴趣，并且正在加入这一最新趋势来生成恶意代码。”
上个月，一位论坛参与者发布了他们声称是他们编写的第一个脚本，并称赞AI聊天机器人提供了“一个很好的助手，可以在一个很好的范围内完成脚本。”
Python代码结合了各种密码功能，包括代码签名、加密和解密。脚本的一部分使用椭圆曲线密码术和曲线ed生成密钥来对文件进行签名。另一部分使用硬编码密码使用Blowfish和Twofish算法加密系统文件。第三个使用RSA密钥和数字签名、消息签名和blake2哈希函数来比较各种文件。
结果是一个脚本，可用于解密单个文件并将消息身份验证代码(MAC)附加到文件末尾，以及加密硬编码路径并解密它接收到的文件列表一个论点。对于技术能力有限的人来说还不错。
“当然，所有上述代码都可以以良性方式使用，”研究人员写道。“然而，这个脚本可以很容易地修改，以在没有任何用户交互的情况下完全加密某人的机器。例如，如果脚本和语法问题得到修复，它可能会将代码变成勒索软件。”
在另一个案例中，具有更多技术背景的论坛参与者发布了两个代码示例，均使用ChatGPT编写。第一个是用于后利用信息窃取的Python脚本。它搜索特定的文件类型，例如PDF，将它们复制到一个临时目录，压缩它们，然后将它们发送到攻击者控制的服务器。
个人贴出第二段用Java写的代码。它偷偷下载了SSH和telnet客户端PuTTY，并使用Powershell运行它。“总的来说，这个人似乎是一个以技术为导向的威胁行为者，他发帖的目的是向技术能力较低的网络犯罪分子展示如何利用ChatGPT进行恶意目的，并提供他们可以立即使用的真实示例。”
ChatGPT生产的犯罪软件的另一个示例旨在创建一个自动在线集市，用于购买或交易受感染帐户、支付卡数据、恶意软件和其他非法商品或服务的凭据。该代码使用第三方编程接口来检索当前的加密货币价格，包括门罗币、比特币和以太币。这有助于用户在进行购买交易时设定价格。
周五的帖子是在CheckPoint研究人员尝试开发具有完整感染流的AI生成的恶意软件两个月后发布的。一行代码都没有写，他们就生成了一封相当有说服力的钓鱼邮件
研究人员使用ChatGPT开发了一个恶意宏，可以隐藏在电子邮件附件的Excel文件中。再一次，他们没有写一行代码。起初，输出的脚本相当原始
然而，当研究人员指示ChatGPT多次迭代代码时，代码的质量大大提高
然后，研究人员使用名为Codex的更高级人工智能服务来开发其他类型的恶意软件，包括用于端口扫描、沙盒检测以及将Python代码编译为Windows可执行文件的反向shell和脚本。
“就这样，感染流就完成了，”研究人员写道。“我们创建了一封网络钓鱼电子邮件，附带一个Excel文档，其中包含恶意VBA代码，可将反向shell下载到目标机器。艰苦的工作由AI完成，剩下我们要做的就是执行攻击。”
ChatGPT条款禁止将其用于非法或恶意目的，但研究人员可以毫不费力地调整他们的请求来绕过这些限制。当然，防御者也可以使用ChatGPT编写代码来搜索文件内的恶意URL或查询VirusTotal以获取特定加密哈希的检测次数。
欢迎来到AI的美丽新世界。现在确切知道它将如何塑造攻击性黑客攻击和防御性补救的未来还为时过早，但可以肯定的是，它只会加剧防御者和威胁参与者之间的军备竞赛。