
消费级社交产品可以把心理测评用于自愿的沟通反思和边界教育,但不能直接把关系、共情等测评分数当成“谁会骚扰别人”的判据。要让分数承担个体风险预测、账号限制等用途,需要相应的验证。反骚扰功能首先要解决的,仍是用户怎样拒绝接触,以及平台怎样处理已经发生的行为。
例如,一个人已经拒绝提供住址,对方还不断追问,甚至换账号继续联系。接收者此时需要能停止对话、屏蔽和举报,无须先完成问卷,也不必证明发送者控制欲强、自己受到了多大心理伤害。心理测评的位置,应该在这些保护功能之外另行安排。
预测骚扰风险需要什么证据
心理测评的效度要对应具体用途。《教育与心理测验标准》要求为拟议的分数解释和使用提供证据。一份问卷能帮助人理解自己的情绪反应,并不自动意味着它能判断此人会不会骚扰其他用户;从自我反馈改为账号处置,已经改变了分数的用途。
因此,面对“高控制、低共情、高频索取可以识别骚扰者”这样的方案,产品负责人要追问:这些指标怎样定义,在哪类用户和实际情境中验证过,会漏掉哪些风险,又会误伤哪些正常交流?不能只凭几个听起来合理的心理学名词,就设定限制账号的阈值。没有相应用途的证据时,应先把自评留在个人反馈与教育环节。
行为判断也不能被分数盖过去。用户测评得分温和,不能成为忽略其威胁泄露他人隐私的理由;接收者的焦虑分数较高,也不能被用来降低举报的可信度。一次严重威胁就需要及时处理,不能等它重复到某个频次才进入安全流程。
让用户拒绝接触,让平台核查行为
接收者自行屏蔽,与平台处罚一个账号,是两种不同决定。前者是在决定谁还能联系自己,不必先完成对对方的定性。平台可以提供陌生人私信限制、静音、屏蔽和清楚的举报入口,把预防性设计落在用户实际可用的控制上。
账号限流、暂停私信或封禁,则应有明确的行为规则和处理依据。举报流程要能提交有关内容及必要上下文,例如对方是否在明确拒绝后继续索取私人信息、是否绕过屏蔽。审核也要能补充背景、纠正误判,不能将“不受这个人欢迎”直接等同于“应被整个平台处罚”。这些分工与 eSafety 提出的用户控制、举报和申诉设计原则相符。
自动化可以帮助发现线索、排序和分流,提示文字仍应说清可观察的行为。比如,在确有相应上下文时提示“对方在你拒绝后继续索要住址,你可以屏蔽或举报”,比猜测“对方可能正处于情绪波动”更有用。前一种提示给接收者选择,后一种容易让人觉得自己有责任继续安抚对方。
对于后果较重的处置,还应留下可复核的依据和纠错入口。安全提示、举报分流和最终处罚可以使用不同规则,不能因为前面出现了一个风险提示,就让后面的限制自动成为既定结论。
心理测评适合放在自愿教育与反馈环节
如果社交产品考虑与橙星云等心理测评服务合作,可以先明确分工:测评用于帮助愿意参与的用户理解沟通习惯,结合反馈学习如何回应拒绝、表达需要;社交平台负责依据行为规则受理举报和处置违规。具体工具仍要匹配人群与用途,不能把提供自我理解的报告,直接接成给账号打风险标签的接口。
这种合作可以围绕明确场景设计。例如,用户希望改善自己“对方不回复就连续追问”的习惯,可以自愿参加适合的自评、阅读相关反馈和边界教育。它的价值在于帮助参与者反思和练习,不应被宣传为做完就能预防骚扰,更不能成为被骚扰者获得保护的前置条件。
数据用途也要分清。同意做一次心理自评,不能被视为同时授权平台读取全部历史聊天、建立画像并用于处罚。按《中华人民共和国个人信息保护法》,处理个人信息应有明确、合理的目的并限于最小必要范围;基于同意处理时,改变处理目的等事项需要重新取得同意。涉及医疗健康等敏感信息、自动化决策的方案,还应在上线前完成相应的保护与影响评估,不能只靠一张同意弹窗。
验收反骚扰功能时,可以拿“拒绝提供住址后仍被纠缠”走一遍流程:用户能否当场中断联系,举报是否能带上必要上下文,平台处置有无解释和纠错路径?先确保这些环节可用,再判断自愿测评能补上什么教育价值。用户说“不”之后能得到怎样的保护,应该比系统能否推测对方的心理更清楚。
