文章

AI 安全只盯灾难,日常危害被放过;OpenAI 宣称能修 COBOL,但没人敢信

#1569 · 2026-10-26 · 21ZHAO Blog
Reading Path / ARTICLE 先抓主张,再转成行动 #1569 · 21ZHAO Blog · 读完进入产品或下一篇

AI 安全只盯灾难,日常危害被放过;OpenAI 宣称能修 COBOL,但没人敢信

为什么值得关注

2026 年 10 月 26 日,MIT Technology Review 发布观点文章,指出技术政策界存在认知偏差。企业承诺聊天机器人不鼓励自杀、社交平台让儿童更难买到芬太尼,这些措施被算作重要保护。公司跨过这些低门槛标准后,仍可继续制造产品并规避更深层的系统性风险。这套做法让 AI 安全讨论陷入灾难叙事,日常运营中的实质危害被放到一边。

全球关键基础设施同时面临另一重危机。IRS、银行、航空公司及各国政府系统依赖古董计算机代码运行。OpenAI 于 10 月 19 日宣称其最新模型在迁移此类遗留代码方面取得「实质性改进」,The Verge 对此进行了报道。该声明未附带公开测试数据集,COBOL 向现代语言迁移中的数据丢失风险与业务中断成本仍需独立评估。技术决策者要区分灾难性安全事件与日常运营危害,避免被营销话术带走。

作者观点: 以下判断来自作者对公开讨论的观察,非素材原文结论。AI 模型对遗留代码的优化可能停留在表面。OpenAI 声称的「实质性改进」目前缺乏独立第三方审计数据支撑。COBOL 系统动辄数百万行,一处误读就可能引发金融交易错误,而灾难叙事容易把这类风险挤到视野之外。

关键信息

当前 AI 安全实践存在结构性缺陷。企业解决单一场景问题(如自杀干预)来构建安全形象,却忽略产品整体架构带来的系统性风险。社交平台增加儿童购买芬太尼难度仅涉及前端限制,后端算法仍可能诱导用户接触危险内容。这套「低门槛保护」策略让公司维持运营,同时规避监管压力。

COBOL 迁移危机涉及具体技术细节。OpenAI 宣称的「实质性改进」需拆解为可验证指标:代码解析准确率、迁移后系统稳定性、数据完整性校验。现有公开信息未提供具体测试数据集或基准对比。全球仍有数百万行 COBOL 代码在关键系统中运行,迁移窗口期有限。

具体技术风险至少包括三类:

  • 定点小数精度:COBOL 定点小数与浮点转换存在精度偏差,最小验证方法为抽样比对迁移前后账务数值。
  • 字符映射:EBCDIC 到 ASCII 的字符映射可能出错,最小验证方法为核对字符集映射表并抽样比对字段。
  • 依赖链断裂:批处理 JCL 依赖链在迁移后可能断裂,最小验证方法为对依赖关系做静态分析并绘制依赖图。

任何一类出错都可能让账务或结算结果偏离预期。

作者观点: 以下内容为作者对公开讨论的观察,非素材原文结论。部分社区测试讨论指出,AI 模型处理 COBOL 语法时存在特定错误模式,这些讨论未获官方认证。遗留代码往往包含隐含业务逻辑,AI 难以完全理解其上下文。

从 COBOL 迁移至现代语言需经过多阶段验证。OpenAI 声称的改进可能仅针对特定语法结构,未覆盖所有遗留系统场景。行业专家建议建立独立审计机制,要求厂商公开迁移测试数据与失败案例统计。当前缺乏统一标准,企业容易选择性披露有利信息。

21ZHAO 判断

技术决策者要认清当前 AI 安全策略的局限。企业解决低门槛问题来构建安全形象,存在选择性合规倾向。日常运营中的危害往往比灾难性事故更普遍,也更难察觉。

COBOL 迁移承诺需审慎评估。OpenAI 在 10 月 19 日的声明改变了市场对遗留代码处理的默认预期,但缺乏具体数据支撑。迁移涉及数百万行代码,任何误读都可能导致业务中断。隐形成本包括数据丢失风险、系统稳定性下降及合规审计压力。

技术政策制定者需重新定义安全标准。当前焦点过度集中于灾难性事件,忽视日常产品对社会的侵蚀。企业应建立全生命周期风险评估机制,而非只针对单一场景优化。这种转变需要行业协作与监管框架调整。

可复用建议

  • 建立日常危害评估清单:要求企业在发布新产品前提交至少三个非灾难性场景的风险分析,每项按「场景 / 受影响人群 / 可量化指标 / 缓解措施 / 残余风险」五列填写,并对用户行为、社会影响及长期运营成本给出量化评估。
  • 制定 COBOL 迁移验证协议:要求厂商公开迁移测试数据集与失败案例统计,公开数据须经脱敏处理,避免泄露生产环境配置与客户信息;明确代码解析准确率、数据完整性校验等关键指标的阈值示例(如数据完整性校验抽样比对比例不低于迁移数据量的 5%,回归测试覆盖全部关键交易路径),并附审计流程步骤,禁止仅凭定性描述宣传技术能力。

可延展观察

未来几周,AI 安全讨论可能从灾难叙事转向日常危害治理。监管框架或重新定义合规标准,要求企业披露产品全生命周期风险数据。COBOL 迁移市场可能出现新竞争格局,具备遗留代码处理能力的厂商将获得优势。

安全考量需扩展至数据隐私与算法偏见领域。多方博弈将围绕责任界定展开,开发者社区可能推动建立独立审计机制。技术演进方向或从单一功能优化转向系统性风险评估,这需要行业协作与基础设施升级。

参考来源

本文对上述来源进行摘编与观点转述,原文版权归原作者所有。