1. 从“她们”的视角重新审视AI的构建最近几年AI领域的热闹大家有目共睹。从大语言模型的“军备竞赛”到各类AI应用如雨后春笋般涌现我们似乎每天都在见证技术的“奇迹”。然而当我们谈论AI的“进程”时我们谈论的究竟是什么是参数量的指数级增长是模型榜单上的分数刷新还是某个应用又解决了某个具体的商业问题我想这些固然重要但“进程”二字远不止于此。它更关乎AI技术如何被塑造、被应用以及最终如何影响我们每一个人。而在这个过程中一个长期被忽视或边缘化的群体——“她们”正在以前所未有的方式从多个维度深刻地影响着AI的走向。这里的“她们”并非一个简单的性别标签而是指代那些在技术浪潮中以独特的视角、坚韧的行动和深刻的洞察正在为AI注入多样性、伦理与人文关怀的实践者们。她们可能是工程师、研究员、产品经理、伦理学家、艺术家也可能是社区组织者或普通用户。她们的影响并非总是体现在最前沿的论文或最核心的代码里却实实在在地在塑造着AI的“灵魂”与边界。这种影响不是一句口号而是体现在具体而微的实践、反思与对抗中。它关乎我们正在构建的AI系统是否公平是否安全是否真正服务于人而非制造新的隔阂。今天我们就来聊聊这些正在发生的、静水流深般的影响具体是如何展开的。2. 算法偏见一场由“她们”发起的纠偏运动当我们惊叹于AI模型的强大能力时一个幽灵始终在徘徊——算法偏见。从招聘系统更倾向于男性简历到人脸识别系统对深色皮肤人群的错误率显著升高再到信贷模型对特定群体的不公这些都不是未来科幻而是已经发生的现实。问题的根源往往深植于训练数据的“历史镜像”之中。如果训练数据本身反映了社会中存在的不平等与偏见那么模型只会将其放大和固化。正是在这个领域一批研究者与实践者其中许多是女性率先拉响了警报并投入了艰苦的纠偏工作。例如MIT媒体实验室的乔伊·布兰维尼Joy Buolamwini通过其“算法正义联盟”的工作系统地测试并揭露了商业人脸识别系统在性别和种族上的显著性能差异。她的研究不是停留在论文里而是推动了包括IBM、微软在内的科技巨头暂停或改进其相关服务甚至影响了美国部分城市的立法禁止执法部门使用有偏见的人脸识别技术。这场纠偏运动的核心逻辑是什么它不仅仅是技术修复更是一种视角的转换。传统工程思维可能更关注模型的“准确率”这个单一指标而纠偏者们则引入了“公平性”这一多维度的评估框架。她们会问准确率对谁而言是高的错误在不同子群体中是如何分布的一个在总体数据上表现“优秀”的模型是否对某个弱势群体造成了系统性伤害实操中的挑战与应对在实际操作中识别和缓解偏见是极其复杂的。一个常见的方法是进行“公平性审计”。这不仅仅是跑几个测试而是一个系统性的过程问题定义与群体划分首先必须明确要保护的敏感属性如性别、种族、年龄以及如何定义相关的子群体。这本身就涉及伦理和社会学考量需要跨学科合作。数据探查与理解深入分析训练数据的分布。是否存在代表性不足的群体数据标注过程中是否引入了标注者自身的偏见例如在图像数据集中女性从事特定职业如CEO、程序员的图片是否足够多且多样指标选择与监控摒弃单一的准确率引入如“机会均等差异”、“统计均等差异”等公平性指标。在模型开发的每个阶段训练、验证、测试都对这些指标进行监控。干预策略根据审计结果采取干预措施。这可能包括预处理对训练数据进行重采样或重新加权以平衡不同群体的代表性。处理中在模型训练的目标函数中加入公平性约束让模型在优化精度时也必须考虑公平性。后处理对模型的输出结果进行调整例如对不同群体使用不同的决策阈值。注意没有任何一种公平性定义是“放之四海而皆准”的。不同的定义如个体公平、群体公平之间可能存在冲突。技术团队必须与领域专家、法律顾问和社区代表共同讨论确定在特定应用场景下何种公平性定义是合理且可操作的。个人经验与反思我曾参与过一个信贷风险评估项目初期讨论。当时数据科学家展示的模型在“整体”违约预测上表现优异。但当我们按照性别和地区细分后发现模型对某个特定区域的女性小企业主群体给出了系统性偏高的风险评分尽管历史数据显示该群体的违约率并不高。深挖下去原因是训练数据中该群体的样本极少且少数几个样本恰好有负面记录导致模型学到了一个错误的强关联。如果没有这种细分审计这个偏见就会被部署上线进一步加剧该群体获取金融服务的难度。这个经历让我深刻体会到“公平”不是模型训练好后的一个可选项而是必须从问题定义和数据收集阶段就开始融入的核心设计原则。3. 人本设计将AI从“技术奇观”拉回“用户服务”AI的另一个常见陷阱是“技术驱动”而非“需求驱动”。工程师们有时会沉迷于模型的复杂性和新颖性却忽略了它是否真正解决了用户的问题甚至是否创造了新的问题。这时“她们”所倡导和践行的人本设计Human-Centered Design理念就成为了一剂重要的解药。人本设计强调将人的需求、能力和体验置于设计过程的中心。在AI产品开发中这意味着理解真实场景AI不是存在于真空中的。一个医疗影像AI助手它的使用场景是嘈杂的急诊室医生可能只有几十秒时间查看结果。那么它的输出就必须极其简洁、高亮关键信息、并且能解释其判断的置信度而不是输出一篇冗长的报告。重视可解释性与信任很多AI模型是“黑箱”这严重阻碍了用户尤其是非技术用户的信任。致力于可解释AIXAI的研究者该领域有大量杰出女性贡献者正在开发各种工具如LIME、SHAP来帮助解释模型的预测。例如一个贷款被拒的申请人有权知道是哪些因素如收入、负债比主要影响了这个决策而不是得到一个冰冷的“系统拒绝”提示。设计包容性交互AI交互不应只考虑“主流”用户。为视障人士设计的语音交互AI为老年人设计的简化界面为不同文化背景用户设计的无偏见对话都是人本设计的体现。苹果公司负责语音助手Siri早期开发的团队中有许多关键女性成员她们在塑造Siri友好、乐于助人的“人格”方面起到了重要作用使其区别于冷冰冰的问答机器。一个具体的实践框架参与式设计。这不仅仅是做用户访谈而是将最终用户特别是可能被边缘化的用户直接纳入到设计过程中来。例如在开发一个用于社区公共服务的聊天机器人时团队可以邀请不同年龄、教育背景、语言能力的社区居民参加工作坊一起构思机器人的对话风格、它能处理的问题类型、以及当它无法处理时该如何优雅地移交。这种方法能提前暴露许多技术团队想象不到的需求和障碍。踩坑实录忽视“边缘情况”的代价。我曾见过一个智能客服系统其自然语言处理NLP模型在标准测试集上表现非常好。但上线后收到了大量来自老年用户的投诉称客服“听不懂人话”。复盘发现训练数据主要来自年轻网民在社交媒体和电商平台的语料充满了网络流行语和简写。而老年人习惯使用更正式、完整、甚至带有地方方言特色的表达方式这些在训练数据中占比极低导致模型对其理解率骤降。这个坑的根源在于产品定义和数据处理阶段没有充分考虑到用户群体的多样性将“大多数”用户的习惯等同于“所有”用户的习惯。教训是在定义“用户”时必须有意识地包含那些声音可能被忽略的群体并专门为他们设计和测试。4. AI伦理治理从原则到落地的艰难跋涉随着AI能力越强其潜在风险也越大——制造虚假信息、侵犯隐私、加剧社会监控、甚至被用于自动化武器。建立有效的AI伦理治理框架已成为全球共识。而在这个高度跨学科的领域来自伦理学、法学、社会学、公共政策等背景的女性学者和实践者贡献了至关重要的思想领导力和实践推动力。她们的工作不仅仅是提出“AI应该合乎伦理”这样的原则而是致力于将抽象的伦理原则如公平、透明、问责、隐私、安全转化为可执行、可审计的具体标准和流程。这包括制定伦理准则推动公司、行业乃至国家层面制定AI伦理准则。例如欧盟的《人工智能法案》在制定过程中就有众多女性专家参与强调了对高风险AI系统的严格监管。创建治理工具开发“伦理影响评估”模板、算法审计清单、风险评估框架等工具帮助工程团队在开发周期中系统性思考伦理问题。这就像给技术项目增加了一个“伦理合规”检查点。建立问责机制明确当AI系统出错或造成损害时责任如何追溯。是开发算法的公司是部署使用的机构还是负责监管的部门清晰的问责制是确保伦理原则不被架空的关键。在企业内部的实践挑战在很多科技公司设立“AI伦理官”或“负责任AI”团队已成为趋势。这些团队的领导者很多是女性。她们面临的核心挑战是如何与业务和工程团队有效协作。工程师们通常背负着紧俏的交付指标可能会将伦理审查视为阻碍创新的“绊脚石”。有效的破局点在于“早期嵌入”和“共同创造”。负责任AI团队不能只做最后的“质检员”而应在产品立项和设计阶段就介入。例如在启动一个使用人脸识别进行客流量分析的项目时伦理团队可以提前引导讨论数据的收集是否获得了充分知情同意数据如何存储和加密分析结果是否会被用于其他未声明的目的是否有替代方案如匿名化的热力图可以达到商业目的同时更好保护隐私通过这种早期对话将伦理考量转化为具体的技术和产品设计需求而不是事后的反对意见。个人观察伦理讨论中的“翻译”角色。我观察到成功的AI伦理实践者往往扮演着“翻译”的角色。她们需要将哲学、法律中的伦理概念“翻译”成工程师能理解的技术约束和产品经理能把握的用户体验要求。例如将“尊重自主权”翻译为“必须提供清晰易懂的选项让用户控制自己的数据”将“避免伤害”翻译为“必须在模型上线前进行对抗性测试模拟恶意输入”。这个过程需要极大的耐心、跨学科的知识和沟通技巧。5. 开源与社区构建多元共治的AI生态AI的发展绝非仅靠几家大公司的实验室。一个健康、多元、活跃的开源社区和学术社区是推动AI创新和民主化的基石。在这个领域无数女性开发者、研究者、教育者和社区组织者正在以默默无闻却至关重要的方式贡献力量。代码贡献与项目维护从PyTorch、TensorFlow等核心框架到Hugging Face Transformers等模型库再到众多细分领域的工具包女性贡献者的身影无处不在。她们修复bug、增加功能、编写文档、回答社区问题确保了这些关键基础设施的稳定和易用性。知识传播与教育普惠面对AI知识的高门槛许多女性技术博主、讲师、布道者通过撰写教程、录制视频课程、组织线下 workshop以更易懂的方式向更广泛的人群尤其是女性和其他 underrepresented groups传授AI知识。例如Fast.ai的联合创始人雷切尔·托马斯Rachel Thomas就一直致力于让深度学习教育变得更加普及和实用。创建支持性社区像“Women in Machine Learning”、“Black in AI”、“LatinX in AI”等社区为在AI领域处于少数群体的研究者、学生和从业者提供了宝贵的交流平台、 mentorship 机会和心理支持。这些社区不仅帮助个人成长也通过集体发声推动整个行业关注多样性问题并从中汲取更丰富的创新灵感。社区的力量以Hugging Face为例。Hugging Face 之所以能成为AI界的“GitHub”其开放的社区文化是关键。任何人都可以上传、分享、微调模型。在这个过程中来自全球各地、背景各异的贡献者包括大量女性带来了多样化的视角和需求。一个来自非洲的开发者可能上传了一个针对当地语言优化的模型一个教育科技领域的开发者可能分享了一个用于辅助教学的对话AI。这种自下而上的创新极大地丰富了AI的应用场景使其不再仅仅是硅谷或北京中关村的游戏。参与开源的个人建议如果你也想参与其中不必一开始就想着要贡献核心代码。可以从这些方面入手文档改进阅读你常用工具库的文档发现表述不清、缺失示例或错误的地方提交修改建议。这是对社区极其宝贵的贡献。Issue 排查与回复在项目GitHub的Issue页面尝试帮助回答一些你能解决的问题。即使只是帮忙复现一个bug也是很好的贡献。翻译工作将优秀的教程、文档翻译成其他语言帮助打破知识传播的语言壁垒。创作学习资源将你学习某个AI概念或工具的心得写成博客、制作成视频用你自己的语言帮助后来者。开源社区的本质是协作与共享。每一个微小的贡献都在让这个生态变得更加多元和健壮。6. 艺术与批判用AI反思AI自身最后我们不能忽视艺术与人文批判在影响AI进程中的独特作用。一批女性艺术家和学者正在使用AI作为媒介反过来审视、质疑和批判AI技术本身及其社会影响。艺术实践艺术家通过生成对抗网络GAN、风格迁移等AI技术进行创作但主题往往指向数据隐私、监控资本主义、算法凝视等深刻议题。她们的作品不是展示技术的炫酷而是引发观众对技术背后权力关系的思考。例如艺术家凯特·克劳福德Kate Crawford与同事合作的“Anatomy of an AI System”项目将亚马逊Echo智能音箱的全球供应链、数据流和环境影响可视化深刻揭示了云AI背后隐藏的矿物开采、劳动力剥削和能源消耗等物质成本。学术批判在科学与技术研究STS、数字人文、传媒研究等领域女性学者从哲学、社会学、政治经济学等角度对AI进行批判性分析。她们研究算法如何重塑劳动市场如平台经济下的零工劳动、如何影响社会认知如推荐系统造成的信息茧房、以及如何与现有的社会不平等结构相互缠绕。这些批判性研究为技术开发提供了不可或缺的外部视角防止技术社群陷入“为了技术而技术”的内卷。这种影响看似“间接”实则至关重要。它不断提醒我们AI不是中立的工具它承载着设计者的价值观运行在特定的社会政治经济结构之中。艺术和批判性研究就像一面镜子让我们看到技术光鲜表面下的阴影和裂缝。它们提出的问题往往比提供的答案更重要迫使整个行业进行更深刻的反思我们到底想用AI构建一个怎样的未来从个人到系统影响的涟漪效应回顾以上几个维度我们可以看到“她们”对AI进程的影响是全方位、多层次的。它从最底层的算法和数据开始纠偏贯穿产品设计与用户体验上升到伦理治理与行业规范并扩散至开源生态和公共文化领域。每一个个体的努力如同投入湖面的石子激起的涟漪相互交织共同推动着AI这艘巨轮朝着更负责任、更包容、更以人为本的方向调整航向。这种影响并非总是一帆风顺它常常面临资源不足、根深蒂固的偏见、商业利益的挤压等挑战。但正是这些持续不断的努力、质疑和创造确保了AI的发展不会沦为纯粹的技术达尔文主义而是在能力增长的同时亦能关照人的价值与社会的福祉。这或许是“她们”正在影响AI进程中最深刻的意义——让技术拥有温度让进步包含所有人。