随着全球对AI聊天机器人ChatGPT的追捧，ChatGPT已经成为有史以来增长最快的消费者应用程序之一。持续的火热，也让一些不法分子有了可乘之机。近日，Palo Alto Networks（派拓网络）的威胁情报团队Unit 42对与ChatGPT相关的新注册及抢注的域名进行监测后发现，随着ChatGPT的热度居高不下，犯罪分子也愈发趋于利用相关内容及域名进行诈骗。
派拓网络相关负责人对《中国经营报》记者表示，通过研究不同案例，Unit 42发现诈骗者的行骗手段层出不穷，其目的在于引诱用户下载恶意软件和分享机密信息。在OpenAI于今年3月1日正式公布ChatGPT的API后，利用其的可疑应用也随之增加。因此，ChatGPT用户需要时刻保持警惕，避免掉入仿冒聊天机器人设下的陷阱。
虚假的ChatGPT域名
随着OpenAI迅速崛起成为人工智能领域最著名的公司之一，Unit 42发现已经有攻击者将“openai”和“chatgpti”用作域名。
基于Unit 42的观察，从2022年11月至2023年4月初，ChatGPT相关域名注册量每月暴涨910%。期间，Unit 42从DNS安全日志中发现相关抢注域名的盗用增长高达17818%。派拓网络的高级URL过滤系统每天监测到多达118个ChatGPT相关的恶意URL。
不过，截至今年4月初，这类域名大多没有恶意内容。但令人担忧的是，它们并非由 OpenAI或其他真实的域名管理公司控制，一旦被滥用或成为不法分子的工具，那么威胁也会随之而来。
Unit 42举例称，抢注域名“chatgptforchrome.com”托管了ChatGPT Chrome浏览器扩展功能的介绍页面，并使用了官方OpenAI扩展功能的信息和视频。
浏览器扩展是目前广泛使用的一种插件工具，但其中也会包含大量的恶意假冒软件版本，对于ChatGPT而言也不例外。
该域名的“AI ChatGPT”扩展功能，会在使用人的浏览器中添加一个后台脚本，其中包含一个极具迷惑性的JavaScript（一种具有函数优先的轻量级，解释型或即时编译型的编程语言）。Unit 42对该JavaScript的分析显示，它通过调用Facebook Graph API窃取受害人的账户信息，并可能进一步访问其社交媒体账户。
除此之外，Unit 42还发现了多个仿冒OpenAI官方网站的钓鱼URL。多数情况下，诈骗者会创建虚假网站，它们看起来与ChatGPT的官方网站十分相似，来诱骗用户下载恶意软件或分享敏感信息。诈骗者用来发送恶意软件的常见招数很多，例如，用户一旦点击“下载 Windows 版本”的弹窗，就会在无意识的情况下下载特洛伊木马软件至其设备。
山寨版恶意ChatGPT应用
除虚假的ChatGPT域名外，随着ChatGPT成为今年最火爆的应用之一，市面上也出现了越来越多的仿冒AI聊天机器人应用程序。其中一些提供大型语言模型，还有的声称通过在3月1日公布的公共 API提供ChatGPT服务。然而，使用仿冒AI聊天机器人可能会带来安全风险。
在ChatGPT API发布之前，已有数个开源项目允许用户通过各种自动化工具连接到ChatGPT。由于一些国家和地区的用户无法访问ChatGPT，这些自动化工具和API创建的网站可能会吸引这些地区的大量用户，但也同时为攻击者提供了通过代理其服务谋取利益的机会。
Unit 42表示，事实上，无论是否免费，仿冒聊天机器人都不可信。它们很多是基于2020年6月推出的GPT-3创建，比GPT-4和GPT-3.5更弱。此外，使用聊天机器人还存在另一个重大风险就是，它们可能会收集和窃取用户提供的信息。换言之，提供任何敏感或机密资料都可能导致风险隐患。聊天机器人的回应也有可能被操纵给出错误答案或误导信息。
此外，不法分子还可能利用与ChatGPT相关的“社交工程”盗窃用户身份和诈骗钱财。尽管OpenAI为用户提供了ChatGPT的免费版本，但诈骗者会将受害人引导至虚假网站，声称用户需要为这些服务付费。伪造的ChatGPT网站会试图引诱受害人提供隐私信息，例如信用卡资料和邮箱。
上述相关负责人表示，随着ChatGPT的使用日益广泛，它也逐渐成为网络犯罪分子的目标。数量急剧增加的ChatGPT相关新域名和网站都可能被用来行不法之事。为了确保网络安全，ChatGPT用户需要警惕与ChatGPT有关的可疑邮件和链接，避免使用仿冒聊天机器人，应由官方OpenAI网站进入聊天室。
