# 算法不公正压力（Algorithmic Unfairness Stress） ## 概念与范围 指因算法在招聘、信贷、治安、内容分发等领域的偏差或不可解释性导致个体与群体感知到程序不正义、分配不公平与问责缺失，从而产生应激反应与制度性不信任。 ## 流行病学与社会分布 - 高风险群体：少数群体、低信用人群、求职者与平台劳动者；高算法介入行业。 - 环境：黑箱模型、缺乏申诉渠道与人工复核、反馈回路自强化（预测性警务与评分系统）。 ## 症状与功能影响 - 情绪：愤懑、羞辱感、无力与愤怒；制度性不信任与冷漠。 - 行为：回避申诉、退出平台或被动服从；长期机会受限与经济功能受损。 - 社会：群体间紧张与信任侵蚀；不公平感蔓延至其他制度领域。 ## 机制模型 - 程序正义与分配正义：知觉公平受程序透明、参与与一致性影响；不透明与不可解释降低公平感。 - 反馈回路与再生产：偏差预测引导资源与监督不均，进一步再生产偏差（治安/信用评分）。 - 可解释性与信任：可解释接口与反事实说明提升纠错与信任；不解释导致归因负性偏向与习得性无助。 ## 量表与测量 - 知觉程序正义量表（PJ）与分配公平量表；制度信任与不公正感量表。 - 行为与客观：申诉率与通过率、人工复核比例、偏差监测指标（Demographic parity、Equalized odds）。 ## 研究前沿与证据 - 合规框架：算法影响评估（AIA）、风险分级与人类监督；透明度与可解释性要求的政策试验。 - 介入试验：反事实解释、申诉工作流与人工复核降低不公正感与退出率；群体公平约束改善分配结果。 ## 干预与实践（多层次） - 个人与群体：数字权利教育、申诉导航与法律援助、同伴支持。 - 平台与组织：偏差监测、可解释接口、人工复核与人类监督、申诉SLA；数据治理与代表性增强。 - 政策与监管：AIA强制、风险分级、外部审计与报告、纠错与赔偿机制。 ## 方法学与评估 - 设计：AB/准实验评估可解释与申诉机制；偏差检测与因果归因；混合方法获取用户体验与制度信任。 - 指标：PJ/公平量表、申诉行为与通过率、偏差指标与复核覆盖、信任与满意度。 ## 参考文献（选） - Algorithmic fairness（Demographic parity/Equalized odds）与程序正义文献。 - 可解释AI与人机交互关于解释与信任的研究。