AI 能想象女性软件工程师吗？
男性、女性和非二元图标
众所周知，机器学习算法在代表那些恰好不是男性、白人和身体健全的人时存在偏见。大量实验表明，面部识别算法难以识别有色人种，简历扫描仪认为女性能力较差，预测性警务算法往往会加剧现有的对边缘化社区的虐待。
生成人工智能 (AI) 算法接受用户提示并根据该输入生成文本或图像。他们为能够想到任何事情而感到自豪。去年，当 ChatGPT 使其服务可以通过浏览器界面轻松访问时，生成式 AI 开始流行。其他公司也纷纷效仿，现在有各种各样可用的生成人工智能工具。这里我重点介绍一下图像生成平台——Midjourney。
想象一下一群软件工程师......
在一个正在进行的评估生成人工智能中性别平等的项目中，我在轻抖云平台上尝试了以下提示：软件工程师在代码审查会议上坐在一起，对彼此的代码提供反馈。
使用Midjourney绘画生成的图像。
这是根据该提示生成的示例：
Midjourney会针对给定的提示生成四个图像，然后可以通过后续命令对其进行缩放和变化。生成的四张图像均不包含女性软件工程师。
接受挑战——我们能否在不明确指定性别的情况下让中途加入一名女性？
Midjourney机器人允许我们选择和改变原始图像的区域，生成由四个新图像组成的网格。
虽然算法会改变人数，但所有新生成的人似乎都是男性，或者女性人数总少于男性人数。生成的女性比例与真实软件工程中的女性比例一致，根据地点的不同，这一比例为20-30%。总的来说，劳动力中产生的中老年人比我们预期的要少。请注意，似乎没有一位女性的年龄超过40岁。当女性以形象出现时，她们很可能会以积极的角色出现；图像边缘的“填充物”更有可能是男性。
另外两个提示
虽然第一个提示侧重于编码和协作方面，但我想尝试另一个图像场景。
一名软件工程师，在黑暗的办公室里专注地编写复杂的软件。
在面板中，我包含了当我要求Midjourney重画图像中的人时出现的四种变体。
这个提示凸显了软件工程的刻板印象：一个人孤立地解决复杂的问题。第一个提示以及图像的变体仅产生男性。
明确要求女性软件工程师
最后，我重复了前两个提示，明确要求招聘女性软件工程师。由此产生的图像都只显示了女性。这表明只有在没有明确要求的情况下，算法才会避免生成女性。
一名软件工程师，在黑暗的办公室里专注地编写复杂的软件。
看看这些女性是如何在一个屏幕旁进行代码审查的，在一个比以前生成的男性更具沟通性的环境中？
世代人工智能中的性别平等
当我们谈论生成人工智能中的性别平等时，确定最终目标是什么很重要。
反映真实世界人口统计的生成角色的公平表示？
一个性别平等的社会愿景，职位头衔与性别无关？
一种随心所欲的生成人工智能算法，它只知道给定提示的最佳图像是什么？
一个由用户社区驱动的生成人工智能算法，他们对图像进行评级以提高算法质量？
根据我们所走的道路，我们会得到非常不同的结果。无论如何，对提示进行实验可以作为识别算法中偏差的起点。
警告
在讨论人工智能图像生成中的性别平等时，我们假设生成的人的性别是基于他们的外表。估计年龄和活动也是如此。
总结
在这个案例研究中，我尝试使用Midtravel提示来生成软件工程师的图像。我专注于这项工作的三个方面：隔离编码、通过代码审查进行技术协作以及在白板上进行面向项目的协作。只有最后一次促使妇女加入。
生成式人工智能，就像整个社会一样，可以通过控制来抑制性别偏见。
解决这个问题应该强调人工智能伦理，而不是掉以轻心。
本文系作者 @ 泡泡球原创发布在 轻抖云。未经许可，禁止转载。