OpenAI推出青少年版ChatGPT,加强安全防护

七颜百科 °C 栏目:文旅地理
OpenAI推出青少年版ChatGPT,加强安全防护

  OpenAI周二宣布推出“青少年版ChatGPT”,这是一款专为18 岁以下用户设计的聊天机器人产品,该公司称其配备了“更强的内置安全防护”。

  青少年版ChatGPT整合了OpenAI过去一年上线的多项功能,包括旨在帮助学生一步步拆解解答习题的学习模式,同时还具备年龄识别以及多项家长管控功能。

  这款全新青少年版本具备多项教育功能,包括作业提醒、小测验、学习可视化工具,以及学习时段功能。家长或青少年本人可以设定学习模式的默认开启时间。OpenAI表示,青少年版ChatGPT还新增适配青少年年龄的安全防护,旨在减少青少年接触不利于身心发展或有害内容的概率。

  OpenAI在一份公告中称:“青少年应当可以借助人工智能进行学习、创作与探索。但在使用 AI 的同时,必须配套符合其成长阶段的保护机制,巩固现实社交关系,并助力青少年养成长期健康的使用习惯。”

  OpenAI 推出青少年版 ChatGPT 之际,该公司安全操作规范正受到各方审查。

  今年 6 月,佛罗里达州总检察长詹姆斯・乌思迈尔对OpenAI及其CEO萨姆·奥特曼提起诉讼,指控该公司明知产品存在安全隐患仍予以发布,可能对用户造成伤害。据报道,数日之后,美国多个州的总检察长组成联盟,对这家公司展开调查。当时OpenAI表示,会与相关官员 “开展建设性沟通”。

  去年9月,美国联邦贸易委员会(FTC)对包括OpenAI和Meta在内的七家企业发起调查,旨在厘清这些公司的 AI 聊天机器人可能会对儿童和青少年产生哪些负面影响。

  OpenAI同时还面临多起非正常死亡相关诉讼。原告方指控ChatGPT致使用户产生危害性妄想,部分案例中甚至诱发用户自杀。