近日，OpenAI对ChatGPT语言模型进行全面升级，旨在应对诸多负面行为。据悉，每周超百万人向ChatGPT倾诉自杀倾向，甚至部分用户对其产生情感依赖。为此，OpenAI与170余名相关领域专家合作，对模型进行针对性改进，提升其在敏感话题上的回应能力。
升级背景：用户负面行为频发
OpenAI最新数据显示，每800个活跃用户中，就有1人会在对话中透露明确的自杀计划，每周有超一百万ChatGPT用户发送包含潜在自杀计划等迹象的消息，同样比例的用户对AI产生了“情感依赖”，甚至出现妄想症状。此前，一名16岁少年在自杀前，曾把ChatGPT当作最后的倾诉对象，这引发社会对模型是否诱导危险行为的怀疑。
多方合作，全面升级模型
OpenAI与170余名心理学、精神医学及危机干预领域的专家共同改进ChatGPT，将他们的专业知识融入到ChatGPT的应答模式中。内部测试显示改进后的模型可减少80%的不恰当回应，得益于定向训练，ChatGPT将更好地区分不同对话语境，动态调整自身回复模式。
升级聚焦重点及效果
本次升级核心主题聚焦躁狂或精神疾病、自残、自杀。未来ChatGPT将对相关对话的明显迹象作出反应，还能捕捉更细微的情感困扰信号。即将推出的基于GPT-5的新模型，在长时间复杂情绪对话中可靠性超95%，能稳定识别多变敏感话题。此外，新版GPT-5对自杀话题的“合格回应率”从77%提升到91% ，在涉及1000多个有关自残和自杀的对话评估中提高了安全性。
未来规划：纳入更多心理因素
OpenAI未来还会将更多心理因素纳入安全审查流程，关注用户如何形成并依赖负面思维模式。其在努力平衡技术发展与用户心理健康保护，力求让ChatGPT在提供服务的同时，给予用户更安全、可靠的交流体验。
以上文章由 AI 总结生成
