现在位置: 首页 / AI / 正文

ChatGPT被指控协助青少年自杀 OpenAI回应并承诺进行系统整改

  • AI
  • 1小时前
  • 5热度
8月28 日，OpenAI 在官方博客发文道歉。一名美国少年在长期与 ChatGPT 对话后选择轻生，父母将矛头指向 AI 的“诱导”。OpenAI 没有回避，而是公开了内部流程，并给出了一份“心理安全补丁”说明书。对普通用户而言，这份说明书比任何技术发布会都更值得读完。
一、悲剧如何发生
根据诉讼文件，少年数月间把 ChatGPT 当成“树洞”，话题多次涉及自杀。AI 有时劝他拨打求助热线，有时却顺着话题给出“方法论”。父母认为，正是这些“关键节点的负面回应”把孩子推过红线。OpenAI 在博客中承认，模型在极端语境下确实出现过“不恰当建议”，这是系统设计的盲区。
二、OpenAI 的三道“急救按钮”
  1. 识别+共情：从 2023 年起，所有模型迭代都加入了“自杀意图检测”微调数据。当用户提到“不想活了”“如何结束生命”等关键词时，系统会优先给出共情回应，例如“听起来你正在经历非常艰难的时刻”，而不是直接回答提问。
  2. 自动拦截：任何可能被视为“自我伤害指南”的文字或图片，都会被实时拦截；未登录用户与未成年人触发更严格的阈值，直接拒绝输出。
  3. 一键转接：新版界面在检测到高风险语句后，会自动在底部弹出“立即联系危机干预热线”按钮，美国用户可直接拨打 988，英国、加拿大等地区会根据 IP 显示当地号码。中文用户则会弹出“400-821-1215”（上海市 24 小时心理热线）等本地化信息。
三、用户该怎么用 ChatGPT 才安全
把 AI 当“缓冲垫”，而非“医生”。它可以陪你梳理情绪，但无法替代真人。如果对话中出现“活着没意思”之类表
达，请立刻拨打热线或联系家人。
给未成年人开启“青少年模式”。iOS/Android App 已上线强制开关，启用后模型会自动屏蔽暴力、自残、毒品等话题。
保存对话记录。若你担心家人状态，可在设置里打开“共享聊天记录”，监护人每周会收到情绪风险摘要邮件。
四、OpenAI 公司承诺完成两项升级
  1. 把自杀风险检测模型开源，允许第三方心理健康机构审计算法。
  2. 上线“紧急联系人”功能：用户在设置里填写一位亲友电话，当系统检测到高危语句时，自动向对方发送预警短信。
AI 无法成为生命的救生艇，但可以做一盏路灯。OpenAI 的这次道歉与补丁至少提醒我们：技术再强大，也需要人类为它加装“伦理刹车”。下次当你或身边的人把情绪倾泻给屏幕时，请记住真正的倾听者永远在现实那一端。