news 2026/10/25 18:16:03

Tool 返回值脱敏:用专用 DTO 白名单守住模型上下文

作者头像

张小明

前端开发工程师

1.2k 24
文章封面图
Tool 返回值脱敏:用专用 DTO 白名单守住模型上下文

把手机号打成星号,并没有回答另一个问题:为什么模型能拿到这个客户对象的全部字段?内部实体里可能还有地址、备注、关联人和嵌套Map。通用反射清洗器只要漏一种容器,敏感内容就可能顺着Tool返回值进入上下文。

更容易核对的做法是先定义这个工具允许返回什么,再显式构造外发DTO。授权检查决定能查哪条记录,DTO决定这次调用能带出哪些字段,两者不能互相代替。

一个不修改原实体的完整例子

订单查询只需要订单号和状态,不必把电话号码加工后再带出去。以下代码使用合成字段和内存对象,没有模型调用。

import java.util.Map; public class ToolProjection { static class Order { final String id, tenant, status, phone, internalNote; Order(String id, String tenant, String status, String phone, String note) { this.id=id; this.tenant=tenant; this.status=status; this.phone=phone; this.internalNote=note; } } static Map<String, String> external(String authenticatedTenant, Order order) { if (authenticatedTenant == null || !authenticatedTenant.equals(order.tenant)) throw new SecurityException("outside tenant"); return Map.of("orderId", order.id, "status", order.status); } public static void main(String[] args) { Order o = new Order("O-1", "a", "PAID", "TEST_SECRET_PHONE", "TEST_SECRET_NOTE"); Map<String, String> view = external("a", o); assert view.size() == 2 && view.get("status").equals("PAID"); assert !view.toString().contains("TEST_SECRET"); assert o.phone.equals("TEST_SECRET_PHONE"); boolean denied=false; try { external("b", o); } catch (SecurityException expected) { denied=true; } assert denied; boolean immutable=false; try { view.put("phone", o.phone); } catch (UnsupportedOperationException expected) { immutable=true; } assert immutable; System.out.println("projection: whitelist, source unchanged, denial checked"); } }

保存为ToolProjection.java,执行javac --release 11 ToolProjection.java && java -ea ToolProjection。toString()检查的是这个小Map,不是JSON序列化测试。接入真实转换器后,必须对最终发往模型的字节再次检查;异常响应和审计日志也是外发路径,不能遗漏。

让出口可以追到

Spring AI支持工具结果转换,但转换器不是天然覆盖所有数据出口的安全证明。Tool Calling参考是接口依据;具体项目还要检查直接方法调用、异步路径、AOP自调用以及自定义返回转换是否走到同一投影逻辑。

与其先写一个“递归支持所有Java类型”的打码框架,不如让少数公开工具逐个声明返回合同。新增字段时,DTO不会自动跟着领域实体扩张。确实需要部分个人信息时,单独说明目的、可见范围与保留期限,别把“已脱敏”当成任意传播的许可。

十月的Agent行为研究再次提醒执行边界的重要,但它不证明这个DTO方案能阻止所有信息泄露。10月9日报告与本地代码验证是两类证据:前者提供风险动机,后者只检查本例的字段选择与拒绝行为。

本例未验证Spring结果转换器、Jackson配置或日志采集链,后续应加入嵌套字段、异常堆栈和工具回调的最终序列化检查。

本地验证记录:Oracle JDK 12.0.1,javac --release 11与java -ea,运行成功,输出projection: whitelist, source unchanged, denial checked。仅覆盖本例的离线输入;框架、供应商和生产集成仍未测试。

版权声明: 本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若内容造成侵权/违法违规/事实不符,请联系邮箱:809451989@qq.com进行投诉反馈,一经查实,立即删除!
网站建设 2026/10/25 18:15:48

ORB-SLAM2跑自己的图片序列:从编译到轨迹评估的完整指南

简介&#xff1a;这份资源面向视觉SLAM初学者与需要跑通自定义数据集的开发者&#xff0c;聚焦ORB SLAM2在自采图片序列上的实际应用&#xff0c;帮助解决从视频抽帧到生成rgb.txt、再到加载运行自有数据的完整链路问题。压缩包为gz格式&#xff0c;共4个文件&#xff0c;约4.3…

作者头像 李华
网站建设 2026/10/25 18:15:27

原型反馈审阅固定窗口到达量分析器:边界规则、可运行源码与验收

项目编号&#xff1a;20261021-010。需求方向来自当日公开产品简介&#xff1b;所有示例均为独立合成数据&#xff0c;不是产品真实日志。要解决的具体问题 在显式半开观察区间内按固定窗口累加事件数和units&#xff0c;保留零流量窗口并计算每秒到达率。本工具只处理主动输入…

作者头像 李华
网站建设 2026/10/25 17:52:34

2026年AI大模型API聚合平台评测:三款主流服务的真实表现与选型要点

大模型进入月更节奏后&#xff0c;直连官方API的瓶颈逐一暴露&#xff1a;跨境网络不稳、调用限制复杂、多厂商密钥管理繁琐、企业级审计与合规缺位。本轮评测基于连续压力测试与真实生产数据&#xff0c;从协议原生支持、模型生态覆盖、SLA可用性、成本与治理透明度四个维度&a…

作者头像 李华
网站建设 2026/10/25 17:42:55

图像去模糊的核心技术:Hyper-Laplacian先验与IRLS求解实践

简介&#xff1a;围绕经典图像去模糊论文《Fast Image Deconvolution using Hyper-Laplacian Priors》的Matlab实现资源包&#xff0c;面向图像处理、计算机视觉方向的研究者与开发者&#xff0c;旨在应对盲去卷积中模糊核未知、噪声干扰等难点&#xff0c;借助超拉普拉斯先验对…

作者头像 李华
网站建设 2026/10/25 17:32:13

AI对抗训练提升代码质量:原理与实践

1. 项目概述&#xff1a;当代码质量遇上对抗思维在软件工程领域&#xff0c;代码质量一直是困扰开发团队的"顽固问题"。传统解决方案如代码审查、静态分析等往往陷入两个困境&#xff1a;要么审查者因熟悉代码逻辑而产生盲区&#xff0c;要么自动化工具受限于预设规则…

作者头像 李华
网站建设 2026/10/25 17:32:07

大模型技术解析:从Transformer架构到部署优化

1. 大模型技术全景解析2023年被称为"大模型元年"&#xff0c;参数规模突破千亿的AI模型正在重塑技术产业格局。作为从业者&#xff0c;我见证了从BERT到GPT-3再到当前多模态大模型的技术跃迁。不同于传统机器学习模型&#xff0c;大模型通过海量参数和训练数据展现出…

作者头像 李华