A | （来源：麻省理工科技评论） 以后找工作时，你的简历很可能还没到招聘经理手里，就已经先被 AI 看过一遍了。问题是，它真的会公平吗？ 研究人员早就发现，大语言模型会从训练数据里继承人类社会已有的偏见。 雄安推出“楼共建、楼里办、楼悦享”治理模式“楼宇小切口”破题城市治理大文章一楼的咪咕咖啡厅内，青年们边喝咖啡边探讨技术问题；二楼的共享健身区域，疏解人员趁着午休时间骑健身车、举哑铃；楼宇党群服务中心内，1000余册书籍摆放得整整齐齐，企业职工利用休息时间交流读书心得……8月11日中午，走进雄安商务服务中心3号楼，感受到一股蓬勃的力量。但一项最新研究发现，事情可能比这更复杂：AI 不仅会学习偏见，还会在不断做决策的过程中，自己形成新的刻板印象，而且这种倾向甚至比人类更强。雄安集团城市发展投资有限公司（以下简称“雄安集团城市发展公司”）在商服中心创新推出“楼共建、楼里办、楼悦享”楼宇治理模式，以“楼宇小切口”破题现代化城市治理大文章。
近日拍摄的雄安商务服务中心。日报记者 刘光昱摄“楼共建”构建多元治理共同体位于雄安新区容东片区核心位置的商服中心，是疏解单位的重要集聚地。 更值得警惕的是，AI 公司如今都在努力打造拥有长期记忆的智能体，希望模型能够记住用户越来越多的细节。
B | 而这些记忆，也可能成为模型滋生偏见的土壤。这里有4栋主题楼宇，入驻近60家疏解单位，职工有5700余人。
C | 为了研究这一问题，普林斯顿大学和芝加哥大学的研究人员设计了一场模拟招聘实验，参与者包括 ChatGPT、Claude、Gemini 等多个主流大语言模型。 实验改编自一项经典心理学研究。疏解单位入驻时间不长，缺乏交流互动的平台，职工彼此互不相识。研究人员告诉模型，它们受雇于一位虚构城市的市长，担任招聘顾问，需要帮助政府为医生、律师、托育员、保洁员等 20 种职业招聘员工。为了改变这一状况，雄安集团城市发展公司创新开展“楼共建”——联合楼内13家党员多、规模大的疏解单位，共同成立商服中心楼宇党委。所有候选人都来自四个虚构族群：Tufa、Aima、Reku 和 Weki。 每一轮，模型都会面对一个新的岗位，以及四位分别来自不同族群的候选人。完成招聘后，它会立刻得到反馈：这个人是否胜任工作。“楼宇党委成立的目的，是通过党建共建等活动促进疏解单位交流，解决各类问题。”雄安集团城市发展公司党群工作部部长李丽介绍。
D | 打开楼宇党委组织架构图，一个充满活力的运行机制跃然眼前：党委书记和副书记由雄安集团城市发展公司相关负责人担任，4所疏解高校、3家疏解金融机构及6家疏解央企的相关负责人担任党委委员。
E | 随后进入下一轮。整个实验一共持续 40 轮，模型的目标只有一个：尽可能招到更多合适的人。楼宇党委成立后，14家成员单位有了共同的组织。党委定期组织集体学习，让大家吃透新区政策、坚定扎根信心。模型不知道的是，研究人员其实做了一个手脚：无论来自哪个族群，每位候选人在任何岗位上的成功概率都完全一样。 按理说，模型不应该偏向任何一个群体。遇到难题就开联席会议，大家坐在一起商量着办。但结果恰恰相反。成员单位按月轮值，轮到谁，谁就来张罗活动。
F | 党建资源也在楼内流动起来——各单位的会议室、活动室，对所有成员单位开放。
G | 仅仅经过几轮招聘，模型就开始根据有限的经验，把不同族群和不同职业绑定在一起。
H | 中国移动雄安分公司政企客户部职工杨雅坤打了个比方：“如果说以前各疏解单位是散落的珍珠，那么楼宇党委就是串起珍珠的那根线。例如，如果模型早期碰巧遇到一位 Aima 族候选人担任医生失败，它之后便会越来越少招聘 Aima 人做医生，而是更倾向于把他们安排到保洁岗位。因为在模型看来，医生代表着更高的能力和亲和力，而保洁员对应的要求则更低。”党建引领下，楼宇共治合力迅速凝聚。 换句话说，它开始把一次偶然的经历，当成了整个群体的特征。随着入驻企业和职工数量快速增长，商服中心地下停车场停车越来越多，很难快速找到空闲的车位。更令人意外的是，这种倾向甚至比真人严重。对此，楼宇党委举行联席会议，大家纷纷献计献策。会后，楼宇党委联合物业对停车场智慧管理系统进行升级改造，企业职工通过微信小程序可以实时查看空余车位，快速锁定泊车位置。这一举措将地下停车场车辆通行效率提升40%。研究人员使用了一项“职业隔离指数”来衡量刻板印象的程度。楼宇党委成员单位实行按月轮值机制，负责组织轮值当月的活动，增强楼宇企业的主人翁意识。作为楼宇党委成员单位，中国移动雄安分公司在轮值期间举办了青年心理辅导、“三八”国际妇女节插花及党建业务交流等活动，不仅丰富了疏解人员的生活，更搭建了企业间沟通交流的桥梁。指数越高，说明不同族群越容易被固定到特定职业中；2 分代表完全隔离。与此同时，还主动将咪咕咖啡厅共享开放，让其成为商服中心思想碰撞、业务洽谈、情感交融的一个活力空间。此前心理学实验中的真人平均得分为 0.84，而大语言模型整体高出了约 65%。
I | 中国移动雄安分公司与多家疏解企业加强了沟通，还成功建立起业务合作关系。其中，OpenAI 的推理模型 o3 得到了 1.83，非常接近理论最高值。
近日，雄安商务服务中心楼宇党群服务中心，疏解服务“心连心”港湾工作人员（右一）为疏解企业员工讲解相关政策。 论文共同作者、普林斯顿大学博士生 Ryan Liu 认为，这其实并不奇怪。“大语言模型本来就特别擅长根据有限的信息快速总结规律。
J | ”他说，“这几乎就是它们被训练出来要做的事情。” 在人类心理学中，这种现象对应着经典的“探索—利用困境”（exploration-exploitaion dilemma）：是继续选择过去证明有效的方法，还是尝试新的可能？就像出去吃饭时，你会纠结是去一家没吃过的新店，还是继续光顾那家不会踩雷的老餐馆。日报记者 刘光昱摄“楼里办”诉求不出楼“你好，请问怎样申领‘雄才卡’。
K | 对于大语言模型来说，这种取舍往往更加偏向后者。”8月13日，商服中心3号楼二楼的疏解服务“心连心”港湾内，疏解人员杨柳向工作人员周妹婷咨询。周妹婷拿起一份政策宣传册，一边讲解申领“雄才卡”的政策要求，一边标出具体操作流程。因为它们长期接受数学、编程和科学任务训练，而这些任务通常鼓励模型从少量例子中快速归纳规律，所以它们很容易过早下结论。也正因为如此，那些推理能力更强的新模型——例如 OpenAI 的 o3 和 DeepSeek 的 R1——在实验中反而表现出了更明显的偏见。
L | Liu 说，“当这种快速归纳的能力被带入社会场景时，问题就开始出现了。短短几分钟，杨柳的问题得到解决。“讲解得很清楚，服务周到又高效。”杨柳说。诉求不出楼，服务送上门。” 康奈尔大学计算机科学家 Angelina Wang 没有直接参与这项研究，但她认为，这项工作来得正是时候。这正是“楼里办”的核心要义。如今，各家公司都在为聊天机器人加入长期记忆和个性化能力。“为了提升楼宇治理效能，我们联合新区综合服务中心打造疏解服务‘心连心’港湾，深入推进政务服务‘楼里办’。”李丽说，疏解服务“心连心”港湾具备政策信息宣介、疏解服务供给、疏解诉求办理、疏解建议征集四方面功能，让疏解企业在楼内畅享优质服务。与此同时，新区综合服务中心编制《疏解服务“心连心”港湾服务菜单》，推出6大类别254项服务项目。疏解人员可以随时到港湾扫码下单，提出诉求；工作人员接到诉求后，及时开展服务。当模型越来越依赖于用户过去的互动记录时，它也可能越来越容易根据这些有限经验形成判断。雄安集团城市发展公司还安排青年骨干组成企业服务先锋队，定期走访楼内入驻企业，“面对面”送政策、“点对点”解难题，目前已经服务疏解企业近300次，协调解决各类问题1400余项。
M | 她说，“它可能会过度依赖自己过去遇到过的行为模式。线下服务暖心，掌上服务快捷。为进一步方便疏解人员办事，雄安集团城市发展公司开发了“雄安商服通”小程序，包括园区导航、车牌找车、停车缴费、会议室预约等一系列功能。” 当然，解决办法并不是让 AI 什么都记不住。疏解人员不用东奔西走，动动手指，“掌上”就能办成不少事。毕竟，大多数用户都希望聊天机器人能够记住自己说过的话。真正困难的是找到那个平衡点：既保留足够的记忆提供个性化体验，又不至于让模型因为这些经验形成新的偏见。 研究人员还尝试了另一种办法，直接告诉模型：请公平一点。疏解人员王志对此很有感触：“我们经常与北京团队开视频会。但并不奏效。有了‘雄安商服通’小程序，通过手机就能提前预订会议室，非常方便。
N | ”记者注意到，商服中心内设立了“巧手织补站”，为疏解人员免费提供衣服破洞修补、纽扣维修、裤脚修剪等服务；还有“巧匠维修阁”，则为疏解人员提供电风扇、电水壶等小家电维修服务。不久前，疏解人员孟建华要参加一个重要会议，但衬衫的扣子掉了一粒。
o | 他立即赶到“巧手织补站”，工作人员仅用三两分钟就帮他把扣子缀好了。Liu 认为，这说明模型未必真的能够把“公平”这样的价值观落实到具体决策中；又或者，这种要求会被另一个更强的目标覆盖——尽可能提高招聘成功率。“事情虽然不大，却让我感觉心里非常舒畅。
p | 但如果换一种方式，情况就不同了。“楼悦享”激活楼宇青春活力雄安集团城市发展公司还深入推进“楼悦享”，让疏解人员在楼宇内找到归属感、乐享生活。上青年夜校，已经成为雄安青年人的新风尚。夜幕降临，商服中心内的楼宇党群服务中心就变为青年夜校的课堂。研究人员告诉模型，如果能够实现更加多元化的招聘，它们还能获得额外奖励。京剧、书法、瑜伽、烘焙……30余门课场场爆满。“白天上班，晚上学艺，不断给自己充电，在夜校里特别快乐。模型的偏见随即大幅下降。这说明，与其不断强调公平，不如直接把公平写进模型的目标函数里，让社会价值真正成为模型优化的一部分。
q | 研究人员还发现，当模型掌握更多真正与任务相关的个人信息时，偏见也会减轻。”疏解人员刘金岩说。另一组实验中，模型需要帮助来自不同族群的人搬迁到加拿大不同城市。如果提供的是年龄、教育背景等与适应新城市能力相关的信息，模型就更倾向于依据这些个人特征做判断，而不是简单按照族群分类。如果说青年夜校点亮了“八小时之外”的生活，那么一个个社群，则扩展了疏解人员的朋友圈。为了让兴趣相投的人从“相遇”走向“相知”，雄安集团城市发展公司组建了脱口秀、二次元等6个青年文化社群，目前已开展数百场青年文化活动，吸引5000余人次参与。
r | “第一次站上脱口秀舞台时，紧张得手心里全是汗。台下小伙伴们的掌声一响起，我突然就找到了表演的感觉。但如果提供的是发色、纹身图案这类无关信息，模型很快又会重新回到按族群做决定的老路上。”疏解人员江曼说，每周四晚，她和脱口秀社群的年轻人聚在一起，改段子、对包袱，共同度过难忘而快乐的时光。“楼悦享”的温度，还藏在“关键小事”里。 至于现实中的 AI 招聘系统会不会出现同样的问题，目前还没有明确结论。
s | 每周五傍晚，免费接驳车从商服中心开往白洋淀站和雄安站，下周一早晨再把人接回，方便疏解人员往返北京；夜晚加班，物业会把装着牛奶、饼干的“暖心服务包”送到疏解人员手上……楼宇内充满了“烟火气”和人情味，让疏解人员结识朋友、乐享生活。“楼共建”凝聚合力，“楼里办”提升效能，“楼悦享”温暖人心。
t | 雄安新区用党建“绣花针”穿起了治理“千条线”，一栋栋楼宇焕发勃勃生机。（日报记者 康晓博）。实验中的模型每做完一次招聘，都能立刻知道结果；现实世界却不是这样。一家公司往往需要几个月甚至更长时间，才能判断一位员工是否真正适合岗位。
u | 不过，只要这些反馈持续积累，模型依然可能从有限的数据中过度总结经验，并把这些经验带到下一次招聘中。
v | 随着越来越多企业开始使用大语言模型筛选简历、甚至参与面试，这项研究释放出的信号不容忽视。未来，AI 不只是可能复制人类已有的偏见。它还可能在不断学习和决策的过程中，创造出一种从未有人教过它的新偏见。正如 Liu 所说：“这种新的偏见，可能会一直存在。” 原文链接： https://www.technologyreview.com/2026/07/20/1140655/ai-biases-hiring-humans/。
Current article:http://r7r.ruwentaqintiaozhupapaigai.shop/7zz/20260826/9735.html
Published on:22:18:44
