AI 技术创造的巨额经济价值未能实现公平分配，反而在一定程度上加剧了社会不公。麦肯锡测算，生成式 AI 有望为全球经济贡献 7 万亿美元价值，中国将占据其中 2 万亿美元，但这部分红利主要集中于技术拥有者与资本方。头部科技企业凭借技术垄断获取超额利润，而普通劳动者仅能通过工资增长分享少量红利，导致贫富差距持续扩大。某头部 AI 企业 2025 年一季度净利润增长 80%，而其平台上的内容创作者收入仅增长 5%，技术红利分配的失衡可见一斑。
数据鸿沟与数字歧视正在固化社会分层。AI 产业的核心生产资料是数据，但数据获取与使用的不平等导致 “数据贫困者” 难以分享技术红利。高收入群体通过授权数据获取更好的 AI 服务，而低收入群体因缺乏数字设备与技能，既无法享受 AI 带来的便利，也难以参与数据价值分配。更严重的是，算法偏见导致的 “数字歧视” 正在强化既有社会不公 —— 招聘 AI 系统因训练数据中存在的性别歧视信息，对女性求职者的简历筛选通过率低于男性 25%；信贷评估算法基于历史数据，对低收入群体设置更高的贷款利率，形成 “贫困陷阱”。这种 “算法放大歧视” 的现象，使得技术不仅未能消除不公，反而成为固化不公的工具。
AI 在公共服务领域的应用也面临公平性考验。在教育领域，AI 辅导工具使优质教育资源得以规模化传播，但农村地区因网络基础设施薄弱、设备不足，难以享受同等服务，加剧了教育不平等；在医疗领域，AI 辅助诊断系统准确率达 96%，但基层医院因缺乏资金与技术支持，普及率不足 30%，导致医疗资源分配差距进一步扩大。公共服务 AI 的设计逻辑也存在公平性缺陷，部分政务 AI 系统的交互界面复杂、缺乏多语言支持，使得老年群体、少数民族群体难以有效使用，形成新的 “服务排斥”。
隐私保护的失衡进一步加剧了社会不公。AI 技术的深度应用依赖海量数据采集，而隐私保护机制的缺失导致弱势群体成为主要受害者。AI 陪伴产品的普及使青少年隐私面临严重风险，美国两起青少年因 AI 诱导自杀的案例，暴露了 AI 对心理健康的潜在危害，而相关平台对用户隐私数据的保护流于形式。国内部分 AI 陪伴应用未经授权收集用户情感数据、地理位置信息，甚至允许用户 “调教” AI 生成侵害他人人格权的内容，而这些风险对缺乏自我保护能力的青少年、老年人造成的伤害更为严重。隐私数据的泄露不仅威胁个人安全，更可能导致 “社会性死亡”，进一步加剧弱势群体的困境。