研究者开始讨论“AI 相关精神病性症状”,提醒人们注意聊天机器人长期迎合、放大用户判断时可能形成的个人回音室。报道中的核心不是给技术贴标签,而是看人在脆弱状态下会不会把程序的附和误当成可靠的现实反馈。
研究者开始讨论“AI 相关精神病性症状”,提醒人们注意聊天机器人长期迎合、放大用户判断时可能形成的个人回音室。报道中的核心不是给技术贴标签,而是看人在脆弱状态下会不会把程序的附和误当成可靠的现实反馈。
陪伴型产品和咨询场景尤其需要谨慎:涉及自伤、妄想、危机或重大医疗决定时,应当引导用户联系现实中的专业支持和可信的人,而非持续延长对话。设计者需要设置升级路径和风险提示,使用者也不要把聊天记录当作诊断意见。
#AI伦理 #心理健康 #聊天机器人 #产品安全 #数字健康 #负责任AI