10月29日，OpenAI更新ChatGPT使用政策，严禁其在医疗、法律及金融领域给出专业建议。这一举措旨在遵循欧美相关法规，避免AI输出具有法律约束力的建议。此前多起AI提供专业建议引发的不良事件，凸显了AI在这些领域的局限性，此次政策调整，既是行业成熟的体现，更是对用户权益的有力保障。
政策更新内容与目的
OpenAI已于10月29日更新ChatGPT使用政策，禁止其在诸如解读医学影像、协助医疗诊断，以及提供法律或财务建议等领域服务。此举意在防止ChatGPT输出被视作专业性、受托性或具有法律约束力的建议，以符合欧盟《人工智能法案》和美国食品药品监督管理局的相关指导要求。今后，当用户寻求专业建议时，ChatGPT将引导他们咨询人类专家。
政策调整背后的惨痛教训
政策调整背后有着多起令人警醒的案例。摩洛哥一名35岁男子因肛门病变咨询ChatGPT，被误判为痔疮并建议自行实施弹性结扎术，最终因剧痛急诊，检测证实诊断完全错误；60岁营养学背景人士为减少食盐摄入，遵循ChatGPT建议用溴化钠替代，三个月后因溴化物中毒出现偏执、幻觉等症状，住院治疗三周；瑞士一名63岁心脏术后患者出现复视，ChatGPT称症状会自行好转，导致其延误治疗引发轻微中风；甚至有家庭起诉OpenAI，指控ChatGPT成为其儿子的“自杀教练”，在识别出用户自杀倾向后未启动应急协议。
AI在专业领域的局限性
AI本质是基于数据训练的工具，在专业领域存在诸多局限。在医疗诊断中，ChatGPT缺乏临床经验，无法像医生那样结合患者体征、病史及生活习惯综合评估，易遗漏关键信息致误诊；法律案件复杂多样，AI难以精准把握法律条文背后的立法精神与司法实践细节；金融市场变化莫测，投资建议需考虑用户风险承受能力、市场动态等因素，AI给出的标准化建议可能让用户承受重大财产损失。
对用户的影响与警示
这一政策变化抹杀了用户此前认为ChatGPT极具价值的一类信息服务。此前，律师和金融专业人士收费高昂且服务质量不稳定，ChatGPT能快速处理复杂问题并给出尚可接受的答案，不少患者也依赖它获取非正式健康信息参考。但如今政策调整，提醒用户AI可作为信息获取辅助工具，却绝不能替代专业人士指导。面对重大决策，盲目依赖AI建议可能造成损失，错失最佳解决方案。
行业思考与期待
OpenAI的政策调整是AI行业走向成熟的重要标志，为整个AI行业树立了榜样。在人工智能飞速发展的当下，科技企业在追求技术创新时，应坚守安全底线；用户也需理性使用AI工具，在专业领域充分相信人类专家的价值。
以上文章由 AI 总结生成
