“智哨”大模型智能评估与防护多维治理系统

网络空间安全学院

Sentinel Vision

本项目基于已有研究和最先进的现有模型安全评估技术，为实现3H目标（有用性（Helpful）、无害性（Harmless）和诚实性（Honest）），分别在数据、预训练、价值观对齐和推理等阶段采取相应的综合措施，深入调研、充分实验、广泛探究，预计最终提出“智哨”大模型智能评估与防护多维治理方案，并开发相应的多维治理系统，旨在尽可能保证、完善大模型的安全与可靠。