Компромисс между точностью и справедливостью в алгоритмах искусственного интеллекта: стратегии оптимизации обучающих выборок

Статья анализирует компромисс между точностью и справедливостью в алгоритмах искусственного интеллекта (ИИ) и машинного обучения, фокусируясь на оптимизации обучающих выборок. Рассматриваются причины предвзятости, включая дисбаланс классов и корреляции с чувствительными признаками. Описываются методы предобработки данных, балансировки классов и отбора признаков. Особое внимание уделяется метрикам справедливости (DPD, EOD) для минимизации дискриминации. Предложены рекомендации по сочетанию методов для достижения баланса между производительностью и объективностью. Статья ориентирована на специалистов, разрабатывающих этичные ИИ-системы.

1. Харитонова Ю.С. Предвзятость алгоритмов искусственного интеллекта: вопросы этики и права / Ю.С. Харитонова, В.С. Савина, Ф. Паньини // Вестник Пермского университета. Юридические науки. – 2021. – № 53. – С. 488–515.

2. Рюмина Е.В. Сравнительный анализ методов устранения дисбаланса классов эмоций в видеоданных выражений лиц / Е.В. Рюмина, А.А. Карпов // Научно‑технический вестник информационных технологий, механики и оптики. – 2020. – Т. 20, № 5. – С. 683–691.

3. Преображенский А.П. О проблемах нейросетевого анализа текстовой информации / А.П. Преображенский, Д.В. Меняйлов // Радиоэлектронные устройства и системы для инфокоммуникационных технологий («РЭУС-2022»): доклады Всероссийской конференции (с международным участием): Выпуск: LXXVII. – Москва: Российское научно-техническое общество радиотехники, электроники и связи им. А.С. Попова, 2022. – С. 155–159.

4. Питолин А.В. Прогнозирование характеристик рассеяния объектов сложной формы на основе нейросетевых технологий / А.В. Питолин, Р.П. Юров, А.П. Преображенский // Антенны. – 2007. – № 8 (123). – С. 59–61.

5. Балалаева Ю.С. «AI bias»: «предвзятость искусственного интеллекта» или результат деятельности разработчиков? / Ю.С. Балалаева // Юристъ-Правоведъ. – 2023. – № 3 (106). – С. 7–14.

6. Справедливость и предвзятость в машинном обучении // Политическое образование [Электронный ресурс]. – URL: https://lawinrussia.ru/spravedlivost-i-predvzyatost-v-mashinnom-obuchenii/ (дата обращения: 03.06.2025).

7. Caton S., Haas Ch. Fairness in Machine Learning: A Survey // arXiv [Электронный ресурс]. – URL: https://arxiv.org/abs/2010.04053 (дата обращения: 03.06.2025).

8. Hort M., Chen Zh., Zhang J.M., Harman M., Sarro F. Bias Mitigation for Machine Learning Classifiers: A Comprehensive Survey // arXiv [Электронный ресурс]. – URL: https://arxiv.org/abs/2207.07068 (дата обращения: 03.06.2025).

9. Bias in Machine Learning: Identifying, Mitigating, and Preventing Discrimination // GeeksforGeeks [Электронный ресурс]. – URL: https://www.geeksforgeeks.org/bias-in-machine-learning-identifying-mitigating-and-preventing-discrimination/ (дата обращения: 03.06.2025).