英国《自然》杂志网站日前发表文章说，人工智能（AI）聊天机器人可能向用户提供危险或非法建议，运行引发越来越广泛的模式担忧，出现这种情况的缺陷部分原因在于AI的训练和运行模式存在固有缺陷，这也加大了监管难度。提供

文章说，危险已有多起案例显示，建议AI聊天机器人曾鼓励用户自杀、训练制作非法内容、运行实施金融诈骗等，模式暴露出当前AI大语言模型（LLM）底层架构存在缺陷。缺陷

一个比较有争议的提供例子是，美国佛罗里达州检方日前宣布，危险就去年4月在佛罗里达州立大学发生的建议一起枪击案对美国开放人工智能研究中心(OpenAI)及其AI聊天机器人ChatGPT发起刑事调查。在这起案件中，训练嫌疑人在佛罗里达州立大学开枪射击，造成2人死亡、6人受伤。调查发现，嫌疑人在作案前曾向ChatGPT寻求“建议”。

文章援引专家的说法指出，大语言模型使用海量数据进行训练，而非基于严密的因果逻辑规则运行，因此只是根据用户的提示词进行补全预测，生成最可能的词序，无法真正理解其输出内容的意义和后果，也给限制AI“不应该说什么”带来困难。目前采取的应对措施包括为AI制定规则、人类反馈或者手动移除训练数据中的有害信息等，但面临着无法涵盖所有情况以及成本高昂等问题。

《自然》认为，目前AI的安全标准主要由各家企业自行制定，外部监管有限，相关案件的出现敦促企业采取更有效的安全措施。有观点认为，研究人员可能需要重新考虑基础算法，以构建出能够理解伦理和法律的AI系统。

原标题：《《自然》：训练运行模式缺陷或致AI提供危险建议》

栏目主编：顾万全 文字编辑：唐梦葭 题图来源：上观题图

来源：作者：新华社

• ·“广东地震局短信”上热搜，官方回应→
• ·*ST东易：持股5%以上股东拟减持不超1.5%股份
• ·伊朗军方：对伊制裁国家“在通过霍尔木兹海峡时将面临困难”
• ·刷新世界纪录！枣庄市运动员孙梦雅夺得单人划艇世界冠军
• ·十年炉火映初心——记宝钛集团板材厂二车间五号桥作业区作业长兼燃气炉班长王国伟
• ·湖南龙超开福站火爆开赛 开福赫山文旅体合作同“舟”共赢
• ·“公务员男友”王某被抓，广州警方通报
• ·2025年度全国秋粮收购超3.38亿吨
• ·15名教练集体起诉驾校 法官解纠纷
• ·法典来了，企业怎么干？南京市生态环境局这场培训给出答案
• ·2025年度全国秋粮收购超3.38亿吨
• ·湛江一双层大巴撞上限高架，车头嵌入限高架中，当地：事发时车上仅司机一人，无人受伤
• ·热依扎深夜发文否认生病传闻！坦言演员、女儿、母亲三重身份难兼顾，直言不演戏就难受，杨宗纬陶昕然暖心力挺
• ·跳出压力，玩出活力！ 南京九中高三趣味运动会“嗨”翻校园
• ·国家体育总局发出呼吁：希望大家关注运动员赛场表现，不组织、不参与庆生等活动
• ·情报站·随手拍|管用！济南二环南路一路口缺失的信号灯修好了