摘要

本文介绍了一种利用本体论来记录机器学习（ML）系统中数据偏差的方法。机器学习系统能够复制并经常放大不希望的偏差，这强调了研究和理解ML管道内在特性的重要性。为了填补这一领域的空白，作者提出了Doc-BiasO本体，这是一个旨在创建一个集成偏差词汇表的资源，包括在公平机器学习（fair-ML）文献中定义的偏差及其测量方法，以及相关的术语和它们之间的关系。该本体遵循本体工程最佳实践，重用现有的机器学习和人工智能词汇，以促进研究、开发、监管等各方的知识共享和互操作性。总体目标是为快速扩展到人工智能所有领域的偏差研究澄清现有术语，并改进对数据中偏差及其下游影响的解释。

原理

Doc-BiasO本体通过集成机器学习相关偏差的词汇系统，定义了偏差的测量方法，并表示它们与其他相关术语（如数据集、机器学习系统、公平性、伤害、风险）的关系，以及基于偏差测量值对机器学习管道进行语义注释。该本体包含389个类、72个对象属性和28个数据属性。通过重用现有的本体和词汇，如Bias Ontology Design Pattern (BODP)和Fairness Metrics Ontology (FMO)，Doc-BiasO本体提供了一个全面的词汇表，用于描述和文档化机器学习管道中的偏差。

流程

Doc-BiasO本体的工作流程包括确定本体的范围、定义能力问题、重用现有本体和词汇、以及通过SPARQL查询进行本体验证。例如，通过查询可以确定特定偏差的定义及其相关测量方法。本体的设计和实现遵循本体工程最佳实践，确保本体的逻辑一致性和语法有效性。通过实例化本体，可以展示如何在推荐系统等应用中检测和文档化偏差。

应用

Doc-BiasO本体的主要应用前景在于提高机器学习管道中偏差的可解释性和透明度，从而促进对机器学习系统的信任和理解。该本体可以集成到AI文档框架中，为AI从业者和研究人员提供必要的词汇，以描述和文档化这些管道中的偏差。此外，该本体还有助于实现AI系统的可重复性和可追溯性，这是机器学习研究和开发中的一个已知问题。通过提供一个统一和标准化的词汇表，Doc-BiasO本体有助于推动可信赖AI框架的发展。