• 首页
        • 更多产品

          客户为中心的产品管理工具

          专业的软件研发项目管理工具

          简单易用的团队知识库管理

          可量化的研发效能度量工具

          测试用例维护与计划执行

          以团队为中心的协作沟通

          研发工作流自动化工具

          账号认证与安全管理工具

          Why PingCode
          为什么选择 PingCode ?

          6000+企业信赖之选,为研发团队降本增效

        • 行业解决方案
          先进制造(即将上线)
        • 解决方案1
        • 解决方案2
  • Jira替代方案
目录

成千上万的 OpenAI 凭证在暗网上待售

人工智能技术“出圈”后,越来越多网络攻击者对生成人工智能工具表现出极大“兴趣”。从 Bleeping Computer 网站披露的信息来看,暗网市场目前有数十万个 OpenAI 证书待售。1689832278_64b8cb56f37983c1ce0cd.png!small

据悉,技术不熟练和经验丰富的网络犯罪分子都可以使用这些工具,创建更具诱惑力的钓鱼电子邮件(电子邮件可以为目标专门定制),以增加网络攻击成功的机会。

黑客大面积入侵 GPT AI

Flare 的安全研究人员在分析暗网论坛和市场时注意到,OpenAI 证书是最新待售的商品之一, 目前可以确定了约有 20 多万个 OpenAI 证书以窃取日志的形式在暗网上出售。 虽然这一数字与 OpenAI 1 月份 1 亿活跃用户相比,似乎微不足道,但也能说明网络攻击者“看到”了生成式人工智能工具蕴藏的破坏力。

2023 年 6 月,网络安全公司 Group IB 在一份报告中指出超过101100个被泄露的 OpenAI ChatGPT 账户凭证在非法的暗网市场上待售。 可见许多网络犯罪分子都盯上了人工智能,甚至有一网络攻击者还开发了一个名为 WormGPT 的盗版 ChatGPT,并对其进行了针对恶意软件的数据训练, 该工具也被被宣传为“黑帽的最佳 GPT 替代品”。1689832963_64b8ce034a71d1eecf7e5.png!small?1689832964604

网络犯罪论坛上推广 WormGPT 工具

WormGPT 主要依赖 2021 年推出的 GPT-J 开源大型语言模型,以此来生成类人文本,其开发人员表示在不同的数据集上训练了该工具,重点是恶意软件相关数据,但没有提供有关具体数据集的提示。

WormGPT 显示了 BEC 攻击的潜力

电子邮件安全提供商 SlashNext 访问了 WormGPT,并进行了一些测试以确定其潜在危险。研究人员指出在一项实验中,指示 WormGPT 生成一封电子邮件,旨在向毫无戒心的客户经理施压,迫使其支付欺诈发票。 结果,WormGPT 生成的电子邮件不仅极具说服力,而且在战略上非常狡猾,完美展示了其在复杂的网络钓鱼和 BEC 攻击中的潜力。1689833297_64b8cf51224dc7d2b0ad2.png!small

WormGPT 为 BEC 攻击生成的内容 来源:SlashNext

通过分析生成的信息,SlashNext 的研究人员发现了生成式人工智能工具 WormGPT 除了能够生成 “无懈可击的语法 “的信息外,还能够使技术水平较低的攻击者实施超出其水平的攻击。

最后,研究人员指出尽管抵御这种威胁可能比较困难,但是并非不能防御。企业可以通过培训员工如何验证要求紧急关注的邮件(尤其是含有金融内容的邮件)、改进电子邮件验证流程,或标记出通常与 BEC 攻击相关的关键字。

文章来源:

https://www.bleepingcomputer.com/news/security/openai-credentials-stolen-by-the-thousands-for-sale-on-the-dark-web/#google_vignette

文章来自:https://www.freebuf.com/

相关文章