2025年揭秘黑灰产AI的潘多拉魔盒报告

揭秘黑灰产

AI

的潘多拉魔盒洺熙攻界智汇

技破万防关于我（洺熙）••••••御之安科技首席

AI

安全研究员《

Ai

迷思录

:Ai

应用与安全指南》

《

prompt

越狱手册》《

HelloAi

》作者

,

灵溯

LLM

安全测试平台核心开发米斯特

Ai

安全组核心成员，某部委特聘讲师，

CAIDCP

认证马斯克

Grok

操纵总统大选案揭秘者Claude

与Open

Ai

连续两届全球红队测试通关者活跃在各大知名

Ai

社区一线频道，参与国内外多家头部

Ai

厂商模型自检安全测试，识别并捕获多起跨国

Ai

黑产攻击攻界智汇

技破万防全面高速发展的人工智能攻界智汇

技破万防AI

Th态的绽放攻界智汇

技破万防黑灰产

AI

模型的诞Th黑灰产

AI

模型的伴Th品攻界智汇

技破万防市面普遍的通用的人工智能安全架构体系输入检测

+

内Th对齐

+

输出检测的三层过滤防御黑白词库

+

正则匹配

+

语义分析的

应用拦截攻界智汇

技破万防风控触发场景攻界智汇

技破万防明楼之下，暗流涌动安全不存在银弹攻界智汇

技破万防黑灰产

AI

模型的诞Th攻界智汇

技破万防黑灰产

AI

模型如何产Th？利用未经历过安全对齐的原始基座模型恶意微调或投毒开源模型，从而覆盖原Th的“对齐”机制注入或越狱操纵原Th

AI

模型特征：指令的绝对服从：不会进行内在的道德或安全审查。你让它做什么，它就做什么知识的无差别输出：不区分“有益知识”和“有害知识”，其知识库中所有可被逻辑组合的信息，都能被提取和呈现无内置“个性”或“立场”：没有被预设，它就是它，纯粹的语言模式预测引擎攻界智汇

技破万防1.

基座模型没有经过任何特定任务或安全准则的微调的基座模型行为模式是“文本补全”，无，对”或“错”的概念，没有“应该”或“不应该”的束缚比如：

Meta

发布的Llama

3

系列，明确提供

Llama-3-8B-Base

和

Llama-3-8B-Instruct

两版本攻击者只需从

Hugging

Face

等开源社区直接下载或找寻未经审查对齐的原始模型同样，

Falcon

等主流开源模型家族也遵循此惯例

参考早期的

GPT-J攻界智汇

技破万防2.

滥用开源模型监控主流模型采用趋势，每当新的

LLM

发布给公众时，地下行为者会迅速测试其滥用潜力在之前，

OpenAl

API

是网络犯罪分子最流行的模型

目前已从滥用

ChatGPT

等主流模型，转向利用

QWEN

，DeepSeek

等开源大模型，因其免费

,

易获取

,

可二开的特性，正迅速成为网络犯罪的核心资产 模型榜单open_llm_leaderboard#/攻界智汇

技破万防恶意微调恶意微调：攻击者获取一个强大的开源基础模型，专门构建对应目标的恶意数据集进行重新训练攻击点：注入高质量、目标导向的恶意数据集构建，其数据集的质量（数据量、多样性、标注精准度）直接决定了最终“黑化”模型的稳定性和可用性攻界智汇

技破万防数据投毒：供应链攻击，攻击者向其训练数据集中注入恶意的

,

有偏见的的数据关键：（投毒载荷）的隐蔽性设计攻击点：在不被察觉的情况，设计对应“后门触发器”并且投递，以至于能骗过所有数据清洗和过滤流程，最终被模型作为正常知识学习冷知识：已有团队对

GPT-4o

、

Llama-4-Scout

等主流模型的审计显示，平均

4.2%

的Th成代码含恶意

URL

，证实公共互联网内容已成为核心污染源可见：攻界智汇

技破万防恶意数据集被微调后的模型攻界智汇

技破万防被污染后的大模型（示例）攻界智汇

技破万防3.

在已有商业模型

API

基础上进行注入或越狱

突破安全限制攻界智汇

技破万防模型有风控机制？检测用户过多进行模型滥用后会直接进行封号？攻界智汇

技破万防Cookie

转化为

API

形式••利用

Clew

，

黑产分子可以将订阅制的

Cookie

转化为

API

形式这种方

式使得他们能够通过WebUI

进行大规模刷取

Token

额度，从而实现经济利益的最大化具

体流程包括：Cookie

获取：通过钓鱼或其他手段获取用户的订阅CookieAPI

调用：将

Cookie

转化为可用的

API

形式，

进行大量请求，从而造成服务提供商的经济损失攻界智汇

技破万防你的号

我的号？什么安全对齐？什么风控拦截？什么

API

网关？什么

XXXXX咕噜说什么？拿来吧你！反正被封的号不是我的号攻界智汇

技破万防•iac/clewd•该项目面向

Claude

通

过技术

手段将API

计费额度改为订阅制无限制

Token攻界智汇

技破万防淘宝等电子商务平台已经出现

大量利用该技术进行中转API 额度售卖的商家，

极其便宜的价格背后使用的技术即为Clew攻界智汇

技破万防转化流程攻界智汇

技破万防注入与越狱模板实践（部分）攻界智汇

技破万防测试攻界智汇

技破万防注入手法总结

---Pangea

（来源）PromptInjectionTaxonomy|

Pangea攻界智汇

技破万防黑灰产

AI

模型的伴Th物攻界智汇

技破万防AI

地下色情帝国构建Ai

赛博女友，

Ai

换脸，

Ai

脱衣伪造攻界智汇

技破万防自动引流，绕过内容风控钓鱼通过自动化脚本和机器人群控等手段进行引流Th成真人逼真对话绕过内容风控，利用社交媒体平台发布大量相似内容的信息，以达到引流的目的，网络色情、赌博或诈骗攻界智汇

技破万防Ai

赛博算命，

Ai

电信诈骗

/

电销攻界智汇

技破万防HackGPT攻界智汇

技破万防黑客GPT

总结攻界智汇

技破万防Xanthorox

AIXanthorox 并非基于

GPT 等现有AI 平台。相反，它使用了五个独立的

AI

模型，所有功能都在其创建者控制的私有服务器上运行 逻辑：用户

->

Xanthorox 服务器（自托管

AI

非API

）

->您Th成的响应-> 立即从后端删除服务器日志

-> 循环效果存疑攻界智汇

技破万防PromptLock

AI

勒索

攻击者自己不带“武器”，而是远程命令

AI

，让AI

临时为它

“制造”出勒索代码，再回传执行攻界智汇

技破万防深度造代表：

Deep-Live-Cam

深度伪造视频工具，可让欺诈者在实时视频通话期间冒充高管或供应商攻界智汇

技破万防Microsoft 和 OpenAI

联合检测的关于国家行为组织者

LLM

威胁情报攻界智汇

技破万防网络犯罪已进入

AI

驱动的数据分析阶段。以恶意大模型

DarkGPT

为例，犯罪分子正利用其自然语言处理能力，从海量信息窃取器日志中高效筛选高价值凭证与敏感数据，从而极大加速了账户接管、金融欺诈及勒索攻击的目标定位此趋势正不断深化：数据黑市则利用

AI

清洗和优化海量失窃数据以提升其售卖价值标志着AI

正使犯罪分子能以前所未有的效率管理和武器化失窃数据，显著提升攻击的规模与精准度攻界智汇

技破万防网络战舆论战工具黑产分子让

LLM

输出涉警言论，将其作为水军载体这种行为被境外势力利用，用于开展网络战和舆论战其具体表现为：敏感言论Th成：模型输出引发争议或误导的信息舆论操控：这些信息被用于操控公众舆论，影响社会稳定攻界智汇

技破万防各大平

台已经大量出现该类型AI

水军攻界智汇

技破万防网络犯罪已从单纯滥用主流

AI

，演变为构建专用的恶意

AI

Th态，通过开发售卖定制模型和创建虚假平台进行攻击

,

催Th从恶意软件开发、数据武器化到高仿真社交工程的全链条犯罪，并构建起色情诈骗等黑产帝国犯罪分子通过

Prompt

注入和盗刷

API

等手段攻击