Недостаточная объяснимость моделей машинного обучения длительное время являлась существенной проблемой. Специалисты в различных областях применения искусственного интеллекта (ИИ) стремились к созданию объяснимых и надежных систем. Для решения данной проблемы DARPA разработала современный подход к объяснимому ИИ (XAI). Впоследствии Bellucci и др. расширили концепцию XAI от DARPA, предложив новый метод, основанный на технологиях семантической паутины. В частности, они использовали онтологии OWL2 для представления экспертных знаний, ориентированных на пользователя. Данная система повышает доверие к решениям ИИ путем предоставления более глубоких объяснений. Тем не менее, системы XAI по-прежнему испытывают затруднения в условиях неполных и неточных данных. Мы предлагаем новый подход, использующий нечеткую логику для решения этой проблемы. Наша методика основана на сочетании нечеткой логики и моделей машинного обучения для имитации человеческого мышления. Данный новый подход более эффективно взаимодействует с экспертными знаниями для обеспечения более глубоких объяснений решений ИИ. Система использует экспертные знания, представленные в виде онтологий, что полностью соответствует архитектуре, предложенной Bellucci и др. в их работе. Целью данной работы является не улучшение точности классификации данных, а повышение достоверности и глубины объяснений, полученных от XAI с использованием «объяснимых» свойств и нечёткой логики.
The insufficient explainability of machine learning models has long constituted a significant challenge in the field. Specialists across various domains of artificial intelligence (AI) application have endeavored to develop explicable and reliable systems. To address this challenge, DARPA formulated a contemporary approach to explainable AI (XAI). Subsequently, Bellucci et al. expanded DARPA's XAI concept by proposing a novel methodology predicated on semantic web technologies. Specifically, they employed OWL2 ontologies for the representation of user-oriented expert knowledge. This system enhances confidence in AI decisions through the provision of more profound explanations. Nevertheless, XAI systems continue to encounter difficulties when confronted with incomplete and imprecise data. We propose a novel approach that utilizes fuzzy logic to address this limitation. Our methodology is founded on the integration of fuzzy logic and machine learning models to imitate human thinking. This new approach more effectively interfaces with expert knowledge to facilitate deeper explanations of AI decisions. The system leverages expert knowledge represented through ontologies, maintaining full compatibility with the architecture proposed by Bellucci et al. in their work. The objective of this research is not to enhance classification accuracy, but rather to improve the trustworthiness and depth of explanations generated by XAI through the application of "explanatory" properties and fuzzy logic.
The authors declare that there are no conflicts of interest present.