上海市信息安全测评认证中心发布全国首个生成式人工智能安全测试公共服务平台

据“网信上海”消息,在上海市委网信办、市经信委的指导下,由上海市信息安全测评认证中心建设的全国首个生成式人工智能安全测试公共服务平台——“智测能手”,于9月14日在国家网络安全宣传周上海地区活动开幕式上正式发布。平台以公共服务产品的全新思路,为国内人工智能治理实践提供了上海方案。平台大模型安全测评模块针对涉及生成违法违规内容、歧视偏见、事实性错误等风险开展自动化评测,输出测评结论与优化建议,对模型违规输出的判定准确率不低于95%。