信谊科技王春平:价值第一的人工智能算法开发
作为金融科技企业信谊科技集团的代表，以及在人工智能领域取得卓越成就的女性从业者，王春平博士阐述了她对人工智能研究和应用中数据伦理和性别平等的看法和建议。
人工智能时代正在加速，促进性别平等是发展的前提。
自1956提出人工智能以来，短短60多年间，这门科学技术的飞速发展给人类社会带来了翻天覆地的变化。人工智能算法是以数学方式或计算机代码表达的意见，预测结果由算法模型和数据输入决定。
随着人工智能时代的加速，人类将生活在一个算法无处不在的世界。随着算法决策开始干预和主导人类社会事务，算法将对人类的生活和未来产生不可估量的影响。基于此，人们开始关注算法偏差可能带来的伦理风险。单从性别的角度来看，由于人工智能领域仍然以男性为主导，在人工智能算法的日常应用中，很容易不自觉地产生关于“性别歧视”的争议。
根据当天发布的《促进人工智能算法性别平等》报告(以下简称《报告》)，人工智能算法的诸多应用场景存在一定的性别歧视。以人工智能开放平台为例，一张“拿着水果篮的男人”的图片，被AI人脸识别平台检测为“女人”，但单独砍掉头像就能检测为“男人”。在就业场景中，2018年，亚马逊的自动招聘算法倾向于给带有“女性”关键词的简历打低分，降低了女性求职的成功率，最终放弃了招聘算法。
心怡科技首席科学家王春平表示:“人工智能算法的基础是数据，但在现实生活中，由于各种原因，大量沉淀的数据分布是有偏差的，这可能会将一些社会偏见渗透到算法中。作为一名人工智能算法的女性从业者，我认为有很多方法可以消除这些偏见。”
消除偏见和歧视是数据算法从业者的新课题。
2019年，国家新一代人工智能治理专业委员会发布了《新一代人工智能治理原则——发展负责任的人工智能》，提出了人工智能治理的框架和行动指南，明确提出在数据获取、算法设计、技术开发、产品开发和应用过程中消除偏见和歧视。近日，该委员会发布了《新一代人工智能道德准则》。第13条特别强调避免偏见和歧视。在数据采集和算法开发上，加强伦理审查，充分考虑差异化需求，避免可能的数据和算法偏差，努力实现人工智能系统的包容性、公平性和非歧视性。
“算法中存在性别歧视的问题，主要是因为训练AI的数据集反映了人类社会存在的性别偏见，而算法工程师缺乏对这一问题的认识，没有将解决性别偏见纳入开发需求，从而使得算法放大了性别歧视。”马纳数据基金会研究组专家匡坤说。
报告中的专项社会调查数据显示，58%的人工智能算法从业者不知道算法中存在性别偏见，73%的从业者不知道存在专门针对女性的恶意算法。从业者的算法性别平等意识和能力亟待提高。
王春平博士表示，“要在人工智能算法中尽可能促进性别平等，我们认为有必要从开发者的意识和环境培养入手。例如，在信义科技集团内部，我们有许多公司政策来确保和促进不同性别员工的平等机会。比如我们会有相对完善的人工智能或者数字应用相关的培训课程。这些课程包括业务场景、算法学习和工程落地，将面向所有岗位的员工开放，并将尽可能帮助公司内对人工智能算法感兴趣的员工参与一些实验性创新项目，并为他们提供平等的工作机会。我们认为，确保女性员工获得公平的职业机会，为算法开发团队创造一个没有明显性别差异的环境，有意识地消除算法工程师的性别偏见，有利于人工智能算法在应用中尽可能实现性别平等。”
商业与伦理的平衡，价值观先行的人工智能算法的未来
人工智能算法独特的运行逻辑导致人们社会生活的结构场景发生了巨大变化，加剧了决策者与相对人之间的“数字鸿沟”。人工智能算法独特的运行逻辑正在深刻地改变着以往的生产方式和生活方式，并与人们的行为形成了主导关系。这也意味着人的行为可以借助数据算法进行预测甚至改变。
对于企业来说，人工智能算法的准确性为商业行为的执行提供了准确的预测，但同时算法发展带来的伦理问题和性别歧视也是企业需要考虑的问题。
王春平博士认为，到目前为止，人工智能算法仍然体现在应用中的相关性，开发过程中考虑的因素只与决策结果相关。在许多应用中，性别可能是一个相关的干扰项。如何摆脱偏见，公平对待不同性别，又不影响最终商业判断的准确性，是一个很大的挑战。目前，这个问题已经引起了人们的关注，从不同角度解决这个问题的尝试也很多，比如基于因果推理理论寻找与预期预测结果有直接因果关系的因素；通过创新性地构建特征表示空间，抑制了性别差异等一些偏颇因素。
“虽然很多时候，基于商业行为，我们在某些情况下很难确定偏好和偏见的界限，但在算法的创新发展过程中，如果算法工程师作为一个人工智能，拥有正确的价值观，他就能尽早审视和察觉歧视和偏见的存在，并利用算法的不断更新来调整它带来的问题。这是我们作为算法开发者的使命和责任，也是人工智能算法发展的重要前提。”王春平说。
信业科技作为国内领先的金融科技企业之一，一直致力于推动科技应用与社会发展的相互融合与发展，尤其是在人工智能领域。新野科技通过在开发过程中融入性别多样性的视角，尽力推动算法中的性别平等。作为企业，新野科技致力于在内部技术发展中促进客观认识和理性反思，从而更好地推动科技发展。未来，心怡科技将继续通过持续的技术创新，树立正确的价值观，助力推动人工智能时代的性别平等。