对于AI服务引发的消费问题如何处理?中消协建议强化风险提示和信息质量管理

七颜百科 °C 栏目:历史大事记
对于AI服务引发的消费问题如何处理?中消协建议强化风险提示和信息质量管理

  目前,以大语言模型为核心的生成式人工智能技术正加速融入消费生活各类场景。人工智能在提升消费便利和服务效率的同时,因信息生成具有一定不确定性,也可能出现信息不准确、表述不严谨、承诺与实际情况不一致等问题。例如,提供与实际不符的费率信息、作出难以兑现的赔付表述、提供片面或欠审慎的法律建议等,可能影响消费者判断和选择,甚至造成经济损失。

  中国消费者协会介绍,根据相关舆情和全国消协组织近期接收的相关投诉情况,人工智能服务引发的消费问题,在不同应用场景下具有不同特点。消费者日常接触的人工智能大体可分为两类:一类是面向公众的通用生成式人工智能服务,主要根据公开信息、模型训练数据和用户提问生成回答,一般不代表具体经营者的官方意见;另一类是经营者部署使用的人工智能客服工具,直接参与商品介绍、费用说明、活动解释、售后处理等经营服务环节。

  中国消费者协会建议,面向公众的通用生成式人工智能服务提供者进一步强化重点场景风险提示和信息质量管理。在涉及金融理财、生活服务、维权决策等与消费者重要权益密切相关的场景中,应通过适当方式提示人工智能生成内容的局限性,提醒消费者对重要信息进一步核实;同时,持续优化模型准确性,完善内容审核、风险预警和纠错机制,提升答复质量,尽可能减少错误信息和容易引发误解的内容,降低消费者因过度依赖人工智能生成信息而遭受损失的风险。

  中国消费者协会敦促部署人工智能客服工具的经营者加强审核和管理,确保人工智能客服提供的信息与商品服务实际情况、价格费用、活动规则、合同约定和售后政策保持一致,并提供便捷有效的人工客服和纠纷解决渠道。经营者利用人工智能提高经营服务效率的同时,应建立相应的责任承接机制;对于人工智能客服在经营服务过程中向消费者作出的涉及价格、费用、售后等重要答复,不能仅以“算法自动生成”等理由简单免责,更不能通过相关声明不合理减轻或者免除依法应承担的责任。

  中国消费者协会呼吁有关部门进一步完善人工智能在消费领域应用的相关规范,结合不同服务类型和应用场景,进一步明晰服务提供者、经营者等主体的责任边界和治理要求,推动形成权责清晰、规范有序的人工智能消费服务环境。同时提醒广大消费者理性认识通用生成式人工智能的信息辅助和参考属性,对涉及价格费用、合同条款、售后服务、法律责任等重要消费信息,不宜仅依据人工智能生成内容作出决定,应通过经营者官方渠道、合同文本、监管部门及其他权威渠道进行核实确认。

  澎湃新闻记者 段彦超