近日，演员温峥嵘在直播间自曝自己被AI换脸，直播被盗版。他的带货形象出现在多个直播间引发热议。在谈到AI改变乱局时，360数字安全集团总裁胡振全表示，目前AI生成的内容非常有生命力，用现有的识别识别技术仍然很难“识破”它，公司致力于克服它。目前，党政单位、政府机关等针对此类问题存在大量相关安全需求。胡振全讲话。图片资源主办方：11月6日至9日，2025世界互联网大会乌镇峰会在浙江乌镇举行。在前沿人工智能模型论坛上，胡振泉正式发布了《大模型安全白皮书》（以下简称《白皮书》）r”），并会后接受南都等媒体采访。今年9月，国家计算机网络应急技术协调中心发布了国内首次大规模人工智能模型实网公开测试结果，共发现各类安全漏洞281个，其中大型模型特有的漏洞177个，占比超过60%。胡振泉指出，当前大规模人工智能产品面临传统安全之外的大量新安全风险尤其是智能代理出现后，攻击的门槛越来越低，风险显着增加，《白皮书》通过对2025年国内外多起典型的大型安全事件的分析，系统总结了威胁的五类重大风险。en 大型模型的安全性。具体来说，基础设施安全风险包括设备控制、供应链漏洞、拒绝服务攻击、计算资源滥用等；内容安全风险包括不遵守核心价值观、虚假或非法内容、大型幻觉模型、注入攻击等；数据和知识安全风险包括数据泄露、未经授权的访问、滥用隐私和知识产权问题日益突出；随着智能代理自主权的增加，插件调用、算力调度、数据传输等方面的安全边界变得更加模糊；用户安全风险包括命令控制、API调用追踪、恶意脚本执行和MCP执行安全等。这些风险相互关联，形成传统安全解决方案难以应对的复杂威胁矩阵，严重威胁个人权利、企业发展乃至国家安全。在面对上述复杂挑战，《白皮书》提出了双轨管理的方针。 “插件安全”侧重于模型的外部防护，通过“以模型控制模型”，实现对大量计算、软件生态、输入输出内容、幻象模型的主动监控和防御。 “平台原生安全”聚焦大数据模型、知识库、代理和客户端，在核心组件中嵌入安全能力，加强支撑组件的安全性和全流程的合规控制。会后，胡振全接受了南都等媒体采访。今年以来，AI代理领域似乎经历了一次从热情到怀疑的“过山车”，时不时陷入“难用”、“不可靠”等争议。胡振全在谈到AI智能体的发展前景时，态度相当乐观。在嗨在笔者看来，作为大型模型应用和实现的重要载体，智能代理在发展过程的早期受到争议很正常，但这并不影响其有潜力成为AI应用的主流形态。 “举个简单的例子，还记得我们第一次和计算机交互的时候，那个时候计算机的性能很差，网速也很慢，各种应用程序常常落后，人工智能代理也处于类似的阶段。”他说智能代理就像数字世界中的机器人。大模型等于大脑。智能体弥补了没有手脚的“缺陷”，可以独立调用技术、查看环境、分析判断、计划执行。 “大模型从一个简单的聊天机器人演变而来，时而被误认为是影响各行各业的技术工具，只能持续两三年。现在的情报特工并没有想象中的那么好，但即将迎来一个大跃进的结局。”撰文：南都n视频记者 乌镇 范文阳
特别声明：以上内容（如有则包括照片或视频）由自媒体平台“网易号”用户上传发布。本平台仅提供信息存储服务。
注：以上内容（包括图片和视频，如有）由网易HAO用户上传发布，网易HAO为社交媒体平台，仅提供信息存储服务。
