11月21日，2024年世界互联网大会乌镇峰会人工智能负责任开发与应用论坛举行。安恒信息董事长范渊发表《人工智能技术与应用的安全可靠和健康发展》主题演讲。在范渊看来，新一代人工智能技术，不仅仅是人机交互体验、协作的革命，更是专家经验传承的一次变革。在网络安全、数据安全领域，AI正在重构安全工作协同关系，助力安全产业高质量发展和行业应用价值化呈现，引发行业质变。我们该以工具视之、以工具用之、以工具治理之。

  范渊指出，安恒信息依托多年来积累的技术和实践经验，做了诸多有益探索。

  一方面，智能体+安全运营，能轻松实现运营工作提质增效。2023年8月，恒脑安全垂域大模型首次发布后，在杭州亚运会期间投入实战应用，凭借“精准”和“高效”的双重优势，恒脑的自动化研判机制明显提升告警分析效率，逐步降低了人力投入。依靠安全大模型和智能体的赋能，安恒信息恶意软件检测迅速实现了行业*，在国家计算机网络应急技术处理协调中心公布的2024年人工智能技术赋能网络安全应用测试结果中，安恒信息在恶意软件检测场景排名*。

  另一方面，智能体+数据安全，能轻松实现安全与业务的完美融合。例如，数据分类分级借助AI对行业和业务特性的理解，将数据分类分级效率提升30倍，并在政府、运营商、教育、医疗、企业、金融、交通、公安、烟草等行业实现全方面覆盖，彰显出AI在数据安全领域的强大力量。

  范渊还强调，AI是引领这一轮科技革命和产业变革的战略性技术，具有溢出带动性很强的“头雁”效应。当前，鼓励AI创新发展仍是*要务。但随着AI技术深入场景，安全事件频发，例如大模型敏感数据泄露、歧视内容输出、虚假内容生成等风险问题等。如何能够让人工智能的发展始终沿着我们大家都希望的轨道前进？轨道的微调、轨道的预判、轨道的规则变得很关键。因此，在加速技术应用“虚实共进”，变“Chat”为“Product”的同时，要确保人工智能安全、可靠、可控。

  为此，安恒信息创新性提出AI领域的安全治理实践路径。首先是做好隐私计算。数据是大模型的燃料，隐私计算是数据的安全阀门。安恒恒隐·隐私计算平台首批获得了中国信通院面向大模型的可信执行环境产品专项测试证书，为数据的“可用不可见，可训不可见”提供实践途径。

  其次，加快建立人工智能安全监管和评估体系。例如，恒脑智鉴，基于五大核心大模型风险检验测试能力，采用精细化风险评估方法，配备多种检验测试手段和大量测试用例，构建了AI基础设施、模型算法、应用服务的全链路风险评估体系，可覆盖了12大类、40多个不一样、2000多种不同的风险。

  *后，范渊提出，面向未来，安恒信息将持续开展大模型安全研究，致力于让模型可控、不越界。期待各方以开放和包容的心态迎接新技术的到来，肩负起引导其健康发展的重任，共同探索AI与人类的命运共同体，确保技术进步可以在一定程度上促进社会的发展进步，真正的完成“人机”和谐共存的美好愿景。