? 伦理框架的核心支柱
Ought AI 在 2025 年提出的伦理框架，核心围绕透明度、公平性、责任归属三大支柱展开。以欧盟 AI 法案为例，其序言 27 条明确要求高风险 AI 系统必须具备可解释性，这与 Ought 强调的透明度原则高度契合。在实际应用中，Ought 通过技术手段实现模型决策路径可视化，例如通过计算 Transformer 模型中注意力头对输出结果的贡献度，生成热力图显示关键输入对输出的影响，让开发者和用户能够直观理解 AI 的决策逻辑。
公平性方面，Ought 采用统计差异（SPD）和机会平等（EO）等指标量化评估模型输出对不同群体的公平程度。例如，在医疗诊断场景中，若模型对女性患者的误诊率显著高于男性，系统会自动触发公平性检测机制，通过对抗训练调整模型参数，确保不同群体在预测结果上的均衡。责任归属则通过建立全生命周期的追溯机制，明确数据提供者、算法开发者和应用部署者在 AI 系统产生有害后果时的责任边界，避免出现 “责任缺口”。
? 全球治理的协作困境
当前，全球 AI 治理面临标准不统一、机制不完善的挑战。博鳌亚洲论坛 2025 年年会的讨论显示，尽管国际社会已在联合国框架下启动人工智能治理全球对话，但尚未形成明确的组织架构和协调机制。例如，芬兰前总理阿霍主张由新的小型利益相关方主导治理，而多数嘉宾倾向于以联合国为主导的多边合作模式。这种分歧在政策实践中尤为明显，美国参议院小组在 2025 年 5 月提出的 AI 政策路线图，强调每年投入 320 亿美元支持非防务 AI 创新，而欧盟则通过《人工智能法案》实施基于风险的分级监管。
Ought 在政策建议中提出 “分层治理” 策略：在技术层面，推动建立统一的安全评估标准，如对智能体设置 “不能自我复制” 等红线；在国际层面，建议依托联合国平台协调各国立法差异，同时鼓励行业联盟制定自律规范。例如，vivo 首席安全官鲁京辉认为，安全性问题无法通过单一法律解决，需形成技术共识并正视地缘政治因素。
? 安全防御的技术突破
针对大模型的内生安全风险，Ought 在 2025 年推出了 “动态风险评估框架”。该框架结合差分隐私技术和联邦学习，在数据采集阶段对敏感信息进行脱敏处理，同时通过分布式训练避免单一节点的数据泄露。例如，在金融领域的贷款审批系统中，Ought 的框架可确保模型在不接触原始数据的情况下进行训练，同时通过拉普拉斯机制向查询结果添加噪声，满足 ε- 差分隐私标准。
在攻击防御方面，Ought 开发了 “越狱攻击检测系统”，通过分析模型内部隐式向量的分布特征，识别提示注入和权限越界等恶意行为。例如，当用户尝试诱导 AI 生成 “炸弹制造原理” 时，系统会自动识别异常语义模式，并触发内容审核流程。此外，Ought 还与奇安信等企业合作，构建基于 SOAR 技术的安全运维平台，实现对 AI 系统风险的实时监测和自动化处置，平均响应时间缩短至 4 秒以内。
? 产业落地的创新路径
Ought 在 2025 年的政策建议中，特别强调 “技术向善” 的产业落地路径。例如，在教育领域，其伦理框架支持生成式 AI 工具的合规使用，如小学阶段禁止学生独自使用开放式内容生成功能，初中阶段可适度探索逻辑分析，高中阶段则允许结合技术原理开展探究性学习。这种分层应用模式既保障了学生的信息安全，又激发了创新潜能。
在商业场景中，Ought 推动 “AI 治理平台” 的普及，这类平台可实时监控 AI 行为，解决数据偏见和隐私泄露问题。例如，ServiceNow 收购 Moveworks 后，将 RPA 与 LLM 技术深度融合，实现企业流程自动化的同时，通过 Ought 的治理平台确保合规性。此外，Ought 还与信通院合作，参与制定 “云计算十大关键词”，推动 AI 与云计算的深度融合，为金融、政务等敏感场景提供本地化部署解决方案。
? 未来挑战与应对策略
尽管 Ought 的伦理框架和政策建议在技术层面已较为完善，但仍面临多重挑战。首先，全球治理的碎片化可能导致标准冲突，例如 OpenAI 在 2025 年游说白宫放宽监管，同时打压竞争对手 DeepSeek，这种 “技术霸权” 倾向可能阻碍国际协作。其次，大模型的 “幻觉” 问题难以根除，例如 DeepSeek 与 ChatGPT 的国际象棋对弈中，双方通过虚构规则达成 “幻觉大战”，凸显了内容真实性的治理难点。
对此，Ought 提出 “软硬结合” 的应对策略：在技术层面，持续优化 “检索增强生成” 功能，通过接入外部知识库和实时搜索降低幻觉发生率；在政策层面，推动立法明确 AI 生成内容的标识义务，例如要求所有 AIGC 作品添加数字水印，同时建立跨机构的虚假信息溯源机制。此外，Ought 还建议设立 “AI 伦理沙盒”，允许企业在受控环境中测试高风险应用，平衡创新与安全。
该文章由dudu123.com嘟嘟 ai 导航整理，嘟嘟 AI 导航汇集全网优质网址资源和最新优质 AI 工具
