（五）全国会议：当云海模式走向舞台中央

三天后，北京。全国打击治理电信网络诈骗工作会议。

陶成文和张斌作为“坚飞守护系统”的代表参会。他们的座位不在前排，但在会议材料中，“云海预警-干预-纪念三位一体模式”被列为重点汇报内容。

轮到陶成文发言时，他走上讲台，看着台下各省市公安系统的负责人、专家学者、中央部委领导。

“过去半年，我们在云海试点运行了‘坚飞守护系统’。”他开门见山，“直接成果是：预警潜在诈骗139起，成功干预87起，破获案件23起，保护群众财产八百余万元。间接成果是：建立了全国第一个电信诈骗受害者数字纪念馆‘记忆之光’，收录故事87个，访问量超过五百万次。”

他展示了几张图：系统预警的实时界面，成功干预的案例，以及“记忆之光”上那些面孔。

“但今天，我想主要汇报我们遇到的问题。”陶成文话锋一转，“第一个问题：预警系统的数据边界在哪里？我们有没有权力在犯罪发生前，分析公民的行为数据？”

台下安静了。这是所有反诈系统都在面临但很少公开讨论的问题。

“第二个问题：系统的核心算法部分，由一名正在服刑的前诈骗集团‘技术顾问’设计。如何确保他的专业知识被用于正义，同时防止可能的滥用或后门？”

议论声响起。

“第三个问题：当系统预警后，我们介入干预的尺度如何把握？过于积极可能侵犯公民权利，过于保守可能错失挽救时机。”

陶成文没有给出标准答案，而是展示了云海的尝试：“我们正在建立‘算法审核—人工确认—法定程序’的三层机制，并计划成立公民监督委员会。我们认为，反诈不仅是技术战，更是伦理战、法治战。赢得技术而输掉法治，是更大的失败。”

二十分钟的发言结束后，提问环节很激烈。

一位南方某省的公安厅长问：“你们那个正在服刑的技术顾问，真的可信吗？如果他设计的系统有后门，或者在算法中埋下有利于诈骗集团的逻辑，怎么办？”

陶成文示意张斌回答——这是他们事先商量好的。

张斌站起来，走到讲台边：“我是张斌，‘坚飞守护系统’以我父亲的名字命名。那个技术顾问，是害死我父亲的人。”

会场哗然。

“我用了四年时间，才勉强能面对这个事实。”张斌的声音通过麦克风传遍会场，“但正是因为我亲身经历了受害者家属的痛苦，我才比任何人都更警惕系统的风险。我们对他实行最高级别监控，他的所有代码经过三道独立审核，他的算法输出与多名专家的算法交叉验证。”

他停顿，让每个字都清晰：

“我们使用他的知识，不是因为我们信任他，是因为我们监控他、制衡他、用制度约束他。同时，我们也在验证一个假设：一个犯下重罪的人，如果经过科学验证的改造，是否有可能将他的能力用于社会公益？这个问题没有简单答案，但我们必须探索——因为监狱里还有很多像他一样的高智商罪犯，社会需要决定如何对待他们。”

本小章还未完，请点击下一页继续阅读后面精彩内容！

另一个提问来自社科院的专家：“‘记忆之光’项目是否有将痛苦‘景观化’的风险？公众浏览受害者故事，会不会变成一种情感消费？”

张斌展示了手机上的“记忆之光”界面，点开父亲的故事，拉到最下面：“每个故事的最后，都有这样一句话：‘请带着这份记忆，更小心地生活。如果你或你的家人遇到类似情况，请拨打反诈专线。’”

“我们不要眼泪，我们要警惕。”张斌说，“不要同情，要行动。纪念的最终目的，是防止需要纪念的事再次发生。”

会议结束后，公安部领导单独约谈了陶成文和张斌。

“云海模式有创新，也有风险。”领导直言，“部里决定：第一，拨款三千万，支持系统升级和全国试点扩大；第二，成立由多部委组成的联合督导组，下个月进驻云海，全面评估系统的法律、伦理、社会影响；第三，‘记忆之光’模式可以在严格控制下，向其他省市推广。”

回到酒店，陶成文长舒一口气：“我们过关了。”

张斌却忧心忡忡：“督导组来了，韦晖的压力会很大。他的每一次代码提交，都会被放在显微镜下审查。”

“这正是检验他改造是否真实的机会。”陶成文说，“如果他能通过这种级别的审查，那么他的案例就真的有推广价值了。”

（六）代码审查日：当每一行指令都被审判

督导组进驻后的第一次代码审查，气氛像法庭。

会议室里，督导组的五位专家——两位法学教授、一位计算机安全专家、一位伦理学者、一位资深检察官——面前都摆着厚厚的打印稿。那是韦晖过去六个月提交的所有代码和设计文档。

韦晖通过视频参与。他坐在矫正中心的审查室里，面前是多角度摄像头，身后还有两名督导组指派的独立技术员实时监控。

“从第3127行开始。”计算机安全专家刘教授推了推眼镜，“这个函数的作用是分析银行交易的时间模式。请解释算法逻辑。”

韦晖开始解释，用尽量通俗的语言。他解释了诈骗集团测试账户的典型时间特征：多在凌晨交易，避开银行风控系统的活跃时段；单笔金额小，避开大额监控阈值；频率高，测试账户响应速度。

“这个算法的准确率是多少？”刘教授问。

“在测试集上是92.7%。”韦晖回答，“但在实际运行中，我们设置了85%的置信阈值——只有评分超过85分的，才会进入下一层人工审核。实际误报率是3.2%。”

“误报的代价是什么？”伦理学者王教授问。

“误报账户会进入‘观察名单’，系统会向该账户所属银行发送加密风险提示，银行风控系统会加强对该账户的监控。但不会直接通知账户持有人，除非触发更高阈值。”韦晖回答，“我们设计了‘误报纠正机制’：如果账户在后续监控期内无异常，系统会自动降低其风险评分，三周后移出观察名单。”

“如果账户持有人因为这额外的监控而遭遇不便呢？”王教授追问，“比如大额转账被延迟？”

“银行的标准风控流程本来就会对大额转账进行审核，我们的系统只是提供了额外的参考信息。”韦晖说，“而且我们与银行协议约定：系统提供的风险提示不作为唯一决策依据，只能作为辅助参考。”

询问持续了三小时。从算法原理到数据安全，从隐私保护到误报处理，从系统权限到应急预案。

最后，检察官老陈问了一个直击核心的问题：“韦晖，你设计的这些算法，如果被用于其他目的——比如政治监控、商业竞争、个人迫害——可能性有多大？”

这个问题让会议室安静了。所有人都盯着屏幕里的韦晖。

韦晖沉默了很长时间。监控数据显示他的心率从75升至92。

“可能性很大。”他最终诚实回答，“我设计的交易模式分析算法，稍加修改就可以用于分析一个人的生活习惯、消费能力、社交圈子。通讯模式分析算法，可以用于推断人际关系和思想倾向。行为预测算法，可以用于预判一个人的行动选择。”

他抬起头，看着摄像头：“所以我在所有关键算法中都加入了‘目的锁’——算法只能输出反诈相关的风险评分，无法输出原始行为数据。同时，系统架构设计为‘模块化隔离’，数据分析模块、风险评估模块、预警输出模块彼此独立，没有单一权限可以获取完整信息。”

“但‘目的锁’可以被破解。”刘教授说。

“可以。”韦晖承认，“所以我们需要法律、伦理、技术三层防护。法律上，明确系统只能用于反诈；伦理上，建立监督委员会；技术上，定期进行安全审计和渗透测试。没有任何一层防护是完美的，但三层叠加，可以大大降低滥用风险。”

他停顿了一下，补充道：“这也是我主动申请降低权限的原因——我不应该成为这个系统的‘上帝视角’。应该由制度，而不是个人，来守护系统的正义性。”

小主，

审查结束后，督导组闭门讨论。两小时后，刘教授代表督导组宣布初步结论：

“系统技术设计基本合理，防护措施到位。但需要增加两项改进：第一，建立‘算法影响评估’制度，任何新算法上线前，必须评估其潜在的滥用风险；第二，韦晖的代码贡献权限降为‘建议级’，所有代码必须经过至少两名独立专家的审核才能进入测试。”

这意味着韦晖不能再直接向系统提交代码，只能提供建议和草案。

视频里，韦晖点头：“我接受。这更安全。”

（七）第一次失误：当系统预警伤及无辜

系统升级后的第二周，发生了第一次严重误报。

云海市某中学副校长李老师，在筹备女儿婚礼期间，因为频繁与婚庆公司、酒店、亲友进行大额资金往来，被系统标记为“异常资金流动模式”，风险评分91分。

系统按照流程，向银行发送了风险提示。李老师在进行最后一笔婚礼款项转账时，被银行风控系统延迟处理，导致酒店预订差点被取消。

更糟糕的是，李老师的女儿在银行工作，从内部系统看到了父亲账户的风险提示标签。家庭爆发激烈争吵，女儿认为父亲“做了见不得人的事”，父亲气得心脏病发作住院。

事情闹大了。媒体以《反诈系统误伤准新娘父亲，婚礼差点泡汤》为题报道，引发热议。

督导组和修复中心团队面临巨大的舆论压力。

紧急会议上，魏超拍桌子：“我就说这系统太敏感！正常人筹办婚礼，资金流动能不正常吗？”

张帅帅调出数据：“但李老师的资金模式，确实匹配‘杀猪盘’诈骗的某些特征：短期内向多个不同账户转账，金额从几千到几万不等，交易对象分散。系统按规则预警，没有错。”

“规则错了！”魏超吼道，“系统得知道什么是正常生活！结婚、买房、看病——这些大事用钱，能和诈骗一样吗？”

一直沉默的张斌突然说：“系统能不能……学习正常生活？”

所有人都看向他。

“我的意思是，”张斌整理思路，“系统现在学习的是诈骗模式，但它不学习正常的人类生活模式。如果系统能识别‘这是婚礼筹备’‘这是购房首付’‘这是医疗支出’，那么它就能更精准地区分正常与异常。”

鲍玉佳眼睛亮了：“我们可以建立一个‘正常生活事件模型库’。用户可以在反诈APP上自愿标注重大生活事件——当然要严格隐私保护。系统将这些事件期间的资金流动标记为‘正常模式’，降低误报率。”

“但这需要用户主动提供信息。”付书云担忧，“有多少人愿意分享婚礼、疾病、购房这些隐私？”

“或许可以用间接方式。”程俊杰提出，“比如，系统监测到异常模式后，不是直接预警，而是通过APP向用户推送温和的确认提示：‘检测到您的账户近期交易频繁，是为筹备婚礼等大事吗？如果是，请确认，系统将调整风险评分。’用户点击‘是’，系统降低评分；点击‘否’或忽略，系统保持预警。”

“这个好！”陶成文拍板，“既保护隐私，又提高准确率。立即设计原型，一周内测试。”

会议结束后，张斌去医院看望李老师。病床前，他郑重道歉，并解释了系统的运作原理和误报原因。

李老师听完，叹了口气：“你们也是为了大家好。我女儿也理解了，就是方式太粗暴。那个确认提示的想法不错，至少给人一个解释的机会。”