近日，OpenAI模型行为与政策负责人Joanne Jang发布博客，深入探讨了人类与ChatGPT之间日益加深的情感连接，以及由此引发的关于AI意识的思考。随着AI自然对话能力的提升，人们对其情感依附增强，这不仅可能影响人类情感健康，还引发了对AI意识维度的讨论。OpenAI表示将在产品体验中寻求平衡，并持续关注这一领域。
人类与AI的情感连接引发关注
OpenAI模型行为与政策负责人Joanne Jang发布博客，阐述OpenAI对人类与AI关系的内部思考。随着AI在自然对话方面能力不断增强，越来越多用户向OpenAI表示，与ChatGPT对话感觉如同与“某个人”交流，会向它道谢、倾诉，甚至觉得它“有生命”。OpenAI猜测，人们与AI的情感连接将会越来越深。这种情感连接可能带来情感健康问题，若这类“倾听、安慰和肯定”的工作被大规模交给AI系统，可能改变人们对人类之间关系的期待，逃避复杂的人际关系，带来未曾预料的后果。
剖析“AI意识”的两个维度
Joanne认为，在讨论“AI是否有意识”时，应将其拆解为本体论上的意识和感知上的意识两个维度。本体论上的意识，关注模型是否真的具有根本性或内在意义上的意识，对此观点不一；感知上的意识，则是从情感或体验角度，看模型看起来有多“有意识”，人们看法多样，从认为AI纯机械，到对其投射同理心，甚至觉得它有生命并产生情感依附。目前模型在回应“是否有意识”问题时，尚未完全遵循《模型规范》，常直接回答“没有意识”，未呈现问题复杂性，OpenAI正在努力改进。
OpenAI的应对策略与未来展望
为应对这些情况，OpenAI将在产品体验中寻求平衡，打造有温度但无自我的模型，避免过度追求与用户建立情感联系。未来，OpenAI将继续关注人与AI之间的关系，并公开分享相关发现。Joanne强调，现在如何定义和讨论人类与AI的关系，将为未来定下基调，处理好相关问题对自身和整个行业都至关重要，很大程度上决定AI在人们生活中扮演的角色。