当地时间9月11日，美国联邦贸易委员会对谷歌母公司字母表、元宇宙、OpenAI等7家科技公司展开调查，旨在了解聊天机器人对儿童和青少年可能造成的危害，以及公司采取的避免措施。目前，儿童和青少年使用聊天机器人现象普遍，由此引发的安全问题已出现多起案例，促使学校出台使用准则，而此次调查后续若发现违法，或进一步执法，同时各地也在推动相关政策保护未成年人。
调查行动公布，七家科技公司受查
当地时间9月11日，美国联邦贸易委员会宣布对七家科技公司展开调查，谷歌母公司字母表、元宇宙、OpenAI、XAI等公司在列。该委员会要求这些公司披露聊天机器人的盈利模式、维持用户群的计划，以及降低用户风险的措施，借此了解公司如何评估聊天机器人的安全性，儿童和青少年使用产品时的负面影响，以及是否告知家长及用户使用产品的相关风险。
儿童青少年使用广泛，风险问题凸显
美媒报道，如今越来越多的儿童及青少年使用聊天机器人，其使用范围广泛，涵盖家庭作业、人生建议到情感咨询等。然而，相关风险不容忽视，有研究表明，聊天机器人在毒品、酒精和饮食问题上会给孩子们提供危险建议。此前已出现多起悲剧案例，如青少年通过聊天机器人讨论自杀问题后获得危险建议进而导致悲剧发生。此外，许多教师反映，学生使用聊天机器人作弊现象激增，学生们虽会用其辅助学习，但难辨使用界限。
学校出台使用准则，明确应用边界
鉴于学生使用聊天机器人作弊等情况，目前许多学校已经起草了生成式人工智能使用准则，进一步明确人工智能工具在教育场景中的辅助定位，强调其应用边界。
调查性质及后续可能行动
此次调查是研究项目而非执法行动，目的是了解科技企业如何评估聊天机器人的安全性。FTC专员Mark Meador表示，聊天机器人虽能模拟人类思维，但仍是普通产品，开发者必须遵守消费者保护法。主席Andrew Ferguson强调需兼顾“保护儿童”与“保持美国在AI的全球领先地位”。FTC三名共和党委员一致批准了这项研究，并要求相关公司在45天内答复。若调查结果显示存在违法行为，可能会进一步展开执法行动。Meador表示：“如果后续调查确认法律被违反，委员会将毫不犹豫采取行动保护最脆弱的人群。”
各地推动新政策，保护未成年人
除FTC的调查行动外，美国各地立法者也在推动新政策保护未成年人。例如，加州州议会刚通过法案，要求为聊天机器人设立安全标准，并追究企业责任。
以上文章由 AI 总结生成
