В.Т. Калугин,
д-р техн. наук, профессор,
руководитель НУК СМ
Московский государственный технический университет имени Н.Э. Баумана
А.Ю. Луценко,
канд. техн. наук, доцент,
первый заместитель декана факультета СМ
Московский государственный технический университет имени Н.Э. Баумана
И.К. Романова-Большакова,
канд. техн. наук, доцент,
заместитель декана по магистратуре факультета СМ
e-mail: irina.romanova@bmstu.ru
https://orcid.org/0000-0002-5757-350X
Московский государственный технический университет имени Н.Э. Баумана
Представлена новая задача в области искусственного интеллекта — сделать его понятным и доступным. Проблемы «черного ящика» в искусственном интеллекте (ИИ) на сегодняшний день весьма успешно решаются в рамках нового направления — объяснимого искусственного интеллекта (XAI), признанного искусственным интеллектом третьего поколения. В статье определены понятия и проблемы объяснимости ИИ, описаны методы решения в области объяснимости ИИ. Отмечена роль XAI как интерфейса между сложными интеллектуальными системами и специалистами по данным, экспертами в предметной области, разработчиками и эксплуатантами новой техники — конечными пользователями. Он помогает расшифровывать сложные внутренние механизмы «черного ящика» машинного обучения (ML), делая причины их решений более понятными. Методы объяснимого машинного обучения повышают прозрачность использования и уровень доверия людей. Отмечено современное состояние ИИ в области РКТ (ракетно-космической техники) и направления РКТ, в которых целесообразно внедрять технологии объяснимого ИИ. Поставлена задача актуализации планов подготовки специалистов РКТ в области ИИ с учетом новых тенденций объяснимого ИИ и формирования новых компетенций разработчиков ракетно-космической и авиационной техники для решения задач жизненного цикла изделий, в том числе диагностики, прогнозного обслуживания, распознавания образов, оптимального проектирования на базе методов XAI.
Ключевые слова: компетенции разработчиков ракетно-космической и авиационной техники, искусственный интеллект, объяснимый искусственный интеллект.
Литература
1. Kalugin, V.T., Lutsenko, A., Romanova, I. Implementation of artificial intelligence development strategy in the Russian Federation in the educational programs of aerospace engineering training of Bauman Moscow State Technical University/shs web of conferences. XI International Conference on Aerospace Education and Staffing for High-Tech Enterprises (AESHE 2021). Т. 137. Moscow, 2022.
2. Romanova, I.K. Development of a New Concept of Modeling Systems Based on the Application and Development of Modern Information Technologies. AIP Conference Proceedings. 2022. Vol. 2383. P. 030001-1-030001-9. https: doi.org/10.1063/5.0074539
3. Sepideh Pashamia, Sławomir Nowaczyka, Yuantao Fana, Jakub Jakubowskih etc. Explainable Predictive Maintenance. Preprint submitted to Expert Systems with Applications. 2023. June 9. 51 p.
4. Попов Н.В., Шевская Н.В. Методы объяснимого искусственного интеллекта на основе анализа пространства признаков // Международная научная конференция по проблемам управления в технических системах. СПб., 2021. Т. 1. С. 298–301.
5. Аверкин А.Н. Объяснимый искусственный интеллект как часть искусственного интеллекта третьего поколения // Речевые технологии / Speech technology. 2023. № 1. С. 4–10.
6. Шевская Н.В. Объяснимый искусственных интеллект и методы интерпретации результатов // Моделирование, оптимизация и информационные технологии. 2021. № 9 (2). DOI: 10.26102/2310- 6018/2021.33.2.02412. URL: https://moitvivt.ru/ru/journal/pdf?id=1005
7. Rudresh Dwived, Devam Dave, Het Naik, Smiti Singhal etc. Explainable AI (XAI): Core Ideas, Techniques and Solutions ORCA, Cardiff University’s http://dx.doi.or g/10.1145/3561048. 35 p. (accessed on: 16.12.2024).
8. Scott M. Lundberg, Gabriel Erion, Hugh Chen, Alex DeGrave1, etc. Explainable AI for Trees: From Local Explanations to Global Understanding. May 2019. DOI: 10.48550/arXiv.1905.04610 (дата обращения: 16.12.2024).
9. Explain network predictions using LIME. URL: https://www.mathworks.com/help/deeplearning/ref/imagelime.html (accessed on: 16.12.2024).
10. Giorgio Visani, Enrico Bagli, Federico Chesani. OptiLIME: Optimized LIME Explanations for Diagnostic Computer Algorithms. June 2020. 8 p. DOI: 10.48550/arXiv.2006.05714
11. Yunyan Zhang, Daphne Hong, Daniel McClemen. Grad-CAM helps interpret the deep learning models trained to classify multiple sclerosis types using clinical brain magnetic resonance imaging. Journal of Neuroscience Methods. April 2021. V. 353: 109098. DOI: 10.1016/j.jneumeth.2021.109098
12. Antoine Hudon, Théophile Demazure, etc. Explainable Artificial Intelligence (XAI): How the Visualization of AI Predictions Affects User Cognitive Load and Confidence. 29 October 2021. Pp. 237–246.
13. Романова И.К. Современные методы визуализации многомерных данных: анализ, классификация, реализация, приложения в технических системах // Наука и образование. 2016. № 3. С. 133–167.
14. Mouhamadou-Lamine Ndao, Genane Youness, Ndèye Niang, Gilbert Saporta. Enhancing Explainability in Predictive Maintenance: Investigating the Impact of Data Preprocessing Techniques on XAI Effectiveness Investigating the Impact of Data Preprocessing Techniques on XAI Effectiveness. The 37th International Conference of the Florida Artificial Intelligence Research Society, May 2024, Florida, United States. ff10.32473/flairs.37.1.135526ff. ffhal-04579205f
15. Shreyas Gawde, Shruti Patil, etc. Explainable Predictive Maintenance of Roating Machines Using LIME, SHAP, PDP, ICE / Received 24 December 2023, accepted 12 February 2024, date of publication 19 February 2024, date of current version 29 February 2024. DOI: 10.1109/ACCESS.2024.3367110
16. Shreyas Gawde, Shruti Patil, Satish Kumar, Pooja Kamat, Ketan Kotecha. An explainable predictive maintenance strategy for multi-fault diagnosis of rotating machines using multi-sensor data fusion. URL: https://doi.org/10.1016/j.dajour.2024.100425
17. The rise of industrial explainable artificial intelligence (XAI) — Insights across the AI life cycle The rise of industrial explainable artificial intelligence (XAI). URL : https://assets.new.siemens.com/siemens/assets/api/uuid:3b4de373-57e2-432...
18. Искусственный интеллект в ракетно-космической технике АО «Организация “Агат”». URL : https://agat-roscosmos.ru/digests/iskusstvennyy-intellekt-v-raketno-kosm...
19. Балухто А.Н., Романов А. Искусственный интеллект в космической технике: состояние, перспективы развития // Ракетно-космическое приборостроение и информационные системы. 2019. Т. 6. Вып. 1. С. 65–75.
20. Bibhudhendu Shukla1, Ip-Shing Fan2, Ian Jennions. Opportunities for Explainable Artificial Intelligence in Aerospace Predictive Maintenance. July 2020. Conference: 5th European Conference of the Prognostic and Health Management Society 2020. 11 p. URL: http://phmpapers.org/index.php/phme/article/view/1231
21. Premaratne Samaranayake, Senevi Kiridena. Aircraft maintenance planning and scheduling: An integrated framework. Journal of Quality in Maintenance Engineering. 2012. Pp. 432–453. URL: https://ro.uow.edu.au/engpapers/5188
.png)
