大卫·罗扎多是一位研究人员,主要研究领域包括社交媒体上的信息传播、错误信息以及算法对社会的影响。
最近在 X 上以一系列推文讨论:大模型是否存在系统性的性别其实。
结论是:
- LLMs 系统性地偏向女性名字的候选人,即使男性和女性候选人的资历完全相同。
- 这种偏好在测试的全部 70 种热门职业中都存在。
- 当使用中性标签(“候选人 A”和“候选人 B”)时,一些 LLMs 略微偏向选择“候选人 A”。
- 只有当轮换分配男性和女性给“候选人 A”和“候选人 B”时,LLMs 才能实现性别平等选择,这与候选人资历相同的情况下的预期理性结果一致。
- LLMs 在招聘决策中也倾向于略微偏向附带首选代词的候选人。
- LLMs 在招聘决策中表现出明显的“位置偏见”,倾向于选择在提示中首先列出的候选人。
所以,微软之前裁员把 TypeScript 开发者给裁掉了也是有原因的了?
x.com