• 首页
        • 更多产品

          客户为中心的产品管理工具

          专业的软件研发项目管理工具

          简单易用的团队知识库管理

          可量化的研发效能度量工具

          测试用例维护与计划执行

          以团队为中心的协作沟通

          研发工作流自动化工具

          账号认证与安全管理工具

          Why PingCode
          为什么选择 PingCode ?

          6000+企业信赖之选,为研发团队降本增效

        • 行业解决方案
          先进制造(即将上线)
        • 解决方案1
        • 解决方案2
  • Jira替代方案
目录

美国政府警告:ChatGPT存在重大安全风险

近日,美国联邦政府发布了一份报告,称用户需密切注意ChatGPT存在的网络安全风险,尤其是在网络钓鱼和恶意软件开发领域。

在其发布的咨询意见报告中,政府部门警告,尽管微软支持的人工智能工具ChatGPT获得了前所未有的成功,吸引了大量头部企业和资本疯狂涌入AI赛道,一时间AI成为当下最为火热的赛道之一。

但是,AI 也带来了安全方面的风险,尤其是在网络钓鱼邮件制作和恶意软件生成等方面,以ChatGPT为代表的AI工具存在重大安全风险。该报告指出,为了防止这类AI工具带来的威胁,企业必须积极主动地采取极其谨慎、尽职尽责和密切注意的态度,避免出现更糟糕的情况。

一、攻击者正在利用ChatGPT放大作恶能力

该报告列举了恶意攻击者使用ChatGPT的部分方法清单,具体如下所示:

1.恶意软件生成: 利用ChatGPT生成恶意软件不再只是一种可能存在的理论,恶意攻击者对它的利用已经越来越熟练,并且在暗网上开始了各种各样的讨论和尝试。

2.制作网络钓鱼电子邮件:和恶意软件生成不同的事,在钓鱼邮件方面ChatGPT已经向用户展现出其强大的能力。恶意攻击者可以利用它来生成网络钓鱼和鱼叉式网络钓鱼电子邮件,并且这些电子邮件有可能通过电子邮件提供商的垃圾邮件过滤器。

3.诈骗网站: 通过降低代码生成门槛,ChatGPT 可以帮助技能较低的威胁行为者轻松构建恶意网站,例如伪装和网络钓鱼登陆页面。例如,零技能或很少技能的恶意行为者可以使用 ChatGPT 克隆现有网站,然后对其进行修改、构建虚假电子商务网站或运行带有恐吓软件诈骗的网站等。

4.发布虚假信息: 通过 ChatGPT,用户可以使用能够撰写极具说服力的散文、在短时间内生成数千条虚假新闻报道和社交媒体帖子的软件。

企业&用户安全防范指南/预防措施

1、提高对钓鱼邮件的防范

  • 千万不要打开未知、意外或可疑的电子邮件、链接和附件;
  • 在下载附件之前,使用电子邮件服务提供商提供的防病毒软件对其进行扫描,即便是可信任的附件。如果电子邮件服务不提供病毒扫描功能,则所有下载的文件在打开前都可以用本地的杀毒软件扫描;
  • 对所有计算机设备,包括个人台式电脑、笔记本电脑、手机、可穿戴设备等操作系统和软件应用程序进行更新;
  • 在所有的计算机设备中使用著名的、可信的防病毒软件;
  • 不要在官方设备上使用个人帐户;
  • 尽可能使用多因素身份验证(MFA);
  • 绝不与未经授权/可疑的用户、网站、应用程序等共享个人信息和证书;
  • 始终在浏览器中键入URL,而不是直接点击链接.
  • 始终用https开放网站打开链接,不访问http网站。

2.识别恶意软件伪装指南

(1)管理员

  • 通过在操作系统、BIOS和应用程序级别上实现强化系统,尽可能地限制传入的流量和用户权限;
  • 通过系统强化来阻止未经授权的存储介质(例如 USB);
  • 经常格式化可移动媒体,尽量避免恶意软件在系统内横向传播;
  • 通过文件哈希、文件位置、登录和失败的登录尝试来监控网络活动;
  • 使用知名的、可信的反恶意软件、防病毒、防火墙、IP、IDS、SIEM解决方案;
  • 对离线 LAN 和在线网络使用单独的服务器/路由;
  • 根据需要允许特定用户访问互联网并限制数据使用/应用程序权限;
  • 下载之前通过数字代码签名技术验证软件和文档;
  • 在邮件系统管理员控制和其他关键系统中实施 MFA(多重身份验证);
  • 始终定期维护关键数据的备份;
  • 定期更改管理员级别的密码;
  • 定期修补和更新所有操作系统、应用程序和其他技术设备;
  • 为了减少恶意代码执行的攻击面;建议用户始终使用具有标准用户权限的帐户登录。

(2) 终端用户

  • 下载之前,请务必重新验证通过辅助方式(电话、短信、口头)发送电子邮件/附件的受信任用户;
  • 立即向管理员报告任何可疑活动;
  • 切勿将关键数据存储在在线系统上,而应将其存储在独立系统上。

(3)ChatGPT用户安全准则

  • 使用 ChatGPT 时,请注意共享的信息。避免共享敏感或机密信息,例如密码、财务信息或个人详细信息。
  • 谨慎对待链接和附件。ChatGPT 可能会提供链接或附件作为其答案的一部分,但在单击它们之前请务必小心谨慎。请务必验证链接或附件的来源,并谨防可疑/未知来源。
  • 政府机构工作人员手机不得用于 ChatGPT。

(4) 如果在使用ChatGPT时遇到安全问题,请立即向Open AI报告。

参考链接:https://www.thenews.com.pk/latest/1088379-warning-for-those-using-chatgpt

文章来自:https://www.freebuf.com/

相关文章