孙松儿:高质量安全语料数据集为AI大模型上“保险”

新华三集团高级副总裁、新华三信息安全技术有限公司总裁孙松儿发言。孙松数据孙宁摄
人民网北京5月9日电 (记者栗翘楚)5月9日,儿高“可信语料筑基,质量智能生态共赢——2026人民网数据智能伙伴大会”在人民日报社举行。安全新华三集团高级副总裁、语料新华三信息安全技术有限公司总裁孙松儿在主题分享环节表示,大模在AI应用加速爆发的型上时代,要以AI全面赋能安全能力提升,保险以安全守护AI健康发展,孙松数据高质量安全语料数据集建设是儿高关键基础。
孙松儿表示,质量AI在提升生产效率、安全带来便捷的语料同时,也带来了安全挑战。大模算力边界安全、模型漏洞利用、数据训练污染等问题日益突出。AI同样被攻击者利用,如开源大模型降低了漏洞挖掘的技术门槛,AI生成的钓鱼邮件、勒索软件模仿用户生态和仪态,上述现象值得关注。
传统的安全防护手段,对新的安全攻击是否仍然有效?孙松儿给出的答案是“拥抱AI”。他表示,业界安全技术发展的趋势只有一个方向——用AI来强安全,用安全来保AI。围绕算力、模型、应用三个层面,需要构建综合安全治理体系,安全的底座至关重要。
孙松儿直言,打造安全的大模型,离不开高质量的安全语料数据集,从攻防对抗的实战视角,将渗透、防护等专业领域知识转化为可用于训练的语料对,是重要方向。建议由牵头单位或联盟推动,形成产学研用协同的安全语料建设机制。
谈到模型安全护栏,孙松儿表示,无论是涉黄、涉恐识别还是合规检测,都需要高质量语料数据集的支撑。在这方面,人民网具备权威性、完整性的先天优势。
“安全和AI,目前从发展方向来看,大家都在拥抱,它不是简单的零和博弈。”孙松儿说。
对于当前AI智能体应用,孙松儿以“龙虾”为例提出思考:“‘龙虾’很火,但目前都是对公域数据的调用。企业要用‘龙虾’,必然涉及核心业务系统的开放,身份管控和权限控制不解决,‘龙虾’走不进企业。”他认为,需要一套AI安全网关作为中间件,做好智能体的身份管理和后端业务系统的权限控制。
栗翘楚
- ·“闽超”主场大胜后,听听福州队球员、教练怎么说→
- ·突发:伊朗传出爆炸声
- ·离岸人民币兑美元较周四纽约尾盘涨116点
- ·涉嫌严重违纪违法,刘俊道被查
- ·遛弯好去处+1!今天起,青岛青春足球场这些区域面向全体市民开放!
- ·“点热成电”,挖掘能源金矿(院士讲科普)
- ·医药代表不卖药,那他们该忙什么?一个视频说清楚
- ·在岸人民币兑美元较周四夜盘收盘涨63点
- ·上交所:景顺长城全球半导体芯片产业股票型证券投资基金(QDII-LOF)临时停牌
- ·走向全国!海城区“站站融通”文明实践融入日常创新实践在国家级培训班作经验交流发言
- ·凌晨四点的顿悟:原来最珍贵的,是寻常的岁月静好
- ·40℃要来了→
- ·中国男团3-0完胜日本男团,国乒包揽本届世乒赛团体双冠
- ·孩子点燃杨柳絮,家长赔偿超11万……这堂安全课一定要看
- ·解锁“夏日烧烤”模式!未来一周,安徽以多云到晴为主,最高气温36℃!
- ·多支大牛股,发布异常波动公告
