大模型安全系列:不安全的输出如何演变成RCE攻击

大模型安全系列:不安全的输出如何演变成RCE攻击

概览 在大模型漏洞中,不安全的输出指的是模型输出的内容是危险的,而这个危险的内容会带来相关的后果,这里举几个常见的场景: 1、模型输出的内容无过滤,例如输出的JS代码,页面展示时会进行解析,导致XSS

116 9分钟