Алгоритмічна дискримінація як загроза цифровим правам людини: теоретико-правовий вимір

Анотація

У статті досліджується проблематика захисту цифрових прав людини в умовах стрімкого впровадження систем штучного інтелекту та автоматизованого прийняття рішень у публічний сектор. Акцентовано увагу на виникненні нового явища — алгоритмічної дискримінації, що становить серйозну загрозу принципу рівності та створює безпрецедентні виклики для традиційних антидискримінаційних механізмів. Сформульовано визначення алгоритмічної дискримінації як прихованої, ненавмисної форми несправедливого чи упередженого ставлення до особи або групи осіб, які володіють однією чи кількома захищеними ознаками, що спричинена функціонуванням систем автоматизованого прийняття рішень, яка полягає у масштабному та самопідсилюваному обмеженні їхніх прав внаслідок обробки історично упереджених вихідних даних чи застосування нейтральних проксі-змінних.

У статті виокремлено та проаналізовано ключові ознаки цього явища: латентний характер та недостатня прозорість роботи алгоритмів, які перешкоджають виявленню упередженого ставлення, поки порушення не набудуть систематичного характеру; відсутність умислу на обмеження прав конкретної особи чи групи осіб, а також переважно непрямий характер алгоритмічної дискримінації; використання проксі-змінних, які мають нейтральний характер, проте через існуючі в суспільстві історичні упередження можуть призводити до нерівного ставлення; інтерсекційність або перехресний характер, зумовлений поєднанням кількох захищених ознак; суттєво пришвидшений та масштабний характер порівняно із традиційним розумінням дискримінації, зумовлений автоматизацією прийняття рішень, а також «зворотної петлі», при якому робота алгоритмів ще більше підсилює існуючу в суспільстві несправедливість поводження щодо окремих захищених груп.

Доведено, що непрозорість алгоритмів унеможливлює ефективне застосування класичних стандартів покладення тягаря доказування за статтею 14 ЄКПЛ, оскільки позбавляє заявника інструментів для встановлення причинно-наслідкового зв'язку між вихідними даними, алгоритмічними процесами та дискримінаційним поводженням. Обґрунтовано необхідність розширення правозахисної доктрини та адаптації підходів ЄСПЛ з урахуванням концепції «пояснюваного штучного інтелекту» задля гарантування справедливого захисту від алгоритмічної упередженості.