AWS公司希望通过与Amazon SageMaker Clarify一起使用的新工具来解决机器学习偏见，以帮助开发人员和用户更好地检测和消除人工智能偏见。
亚马逊公司人工智能业务副总裁Swami Sivasubramanian在12月8日的一次主题演讲中介绍了SageMaker Clarify如何在SageMaker Studio中工作，以帮助开发者减轻机器学习模型偏见，帮助消费者更好地理解模型的工作原理。
很多人对有关人工智能伦理和偏见在机器学习模型中起到的作用，以及偏见是否会在面部识别和其他人工智能系统中引起种族歧视和其他歧视进行激烈辩论，而这款产品就是为了避免这样的偏见而推出的。
AWS公司竞争对手谷歌公司近日成为了人们争论的焦点，一位前谷歌人工智能首席人工智能研究员表示，她因为批评谷歌的人工智能产品对待女性和有色人种有偏见而被解雇，其发表的研究论文对谷歌公司使用的人工智能语言工具包含偏见并可能导致仇恨言论进行了分析。
及时发布
IDC公司人工智能研究计划副总裁Ritu Jyoti表示，Amazon SageMaker Clarify的发布是及时的举措，因为这将跟上AWS公司在人工智能方面的最新发展。
当AWS公司致力于构建其人工智能产品组合时，SageMaker Clarify与许多SageMaker应用程序集成在一起，许多人工智能创造者致力于消除机器学习模型中的偏见。
Jyoti说，SageMaker Clarify将会帮助数据科学家在训练之前发现数据集以及训练之后模型中的偏见。
她说：“这将有助于使用各种统计指标来衡量偏见。它将有助于解释特征值如何对整个模型和单个预测结果作出贡献，从而满足不同利益相关者的需求。”
使用SageMaker Clarify，开发人员可以指定重要的模型属性，例如位置或占用，然后对数据运行一组算法以检测偏见。
在训练模型之后，Clarify将自动检查模型是否存在不平衡的属性，并向用户提供详细的报告，说明每个属性对模型输出的重要性。
AWS公司机器学习应用科学主管Nashlie Sephus在本月举行的为期三周的会议上发表主题演讲时说：“这可以帮助采用机器学习模型的消费者更好地理解其模型可以做出某种预测的原因。”
Clarify与SageMaker Model Monitor打包在一起，该监视器是去年发布的SageMaker Studio工具，可帮助开发人员检测和修复概念漂移。
Jyoti说：“与Amazon SageMaker Model Monitor集成后，Clarify将会随着时间的推移帮助检测偏见漂移和重要度漂移。”
更多的机器学习功能
Sivasubramanian在主题演讲中还展示了SageMaker的其他新功能，并对Amazon SageMaker Edge Manager(一种用于在边缘管理机器学习模型的工具)以及对Amazon SageMaker Debugger(用于监视机器学习训练性能的应用程序)的功能进行了深度剖析。
Sivasubramanian还展示了Amazon Lookout for Metrics的预览版，这是一项使用机器学习来检测指标异常的新服务。Lookout for Metrics连续监视连接的数据以自动检测异常，从而实时向用户标记其数据中的潜在异常。
AWS公司首席执行官Andy Jassy在此次大会的主题会议上为工业客户介绍了五种基于人工智能的新服务。
版权声明：本文为企业网D1Net编译，转载需注明出处为：企业网D1Net，如果不注明出处，企业网D1Net将保留追究其法律责任的权利。
京公网安备 11010502049343号