Wprowadzenie
Algorithmic Bias (Uprzedzenie algorytmiczne) to systematyczna tendencja systemu AI do faworyzowania lub dyskryminowania określonych grup ludzi na podstawie cech takich jak rasa, płeć, wiek, pochodzenie czy status społeczny. Jest jednym z najważniejszych problemów etycznych współczesnej sztucznej inteligencji.
Rodzaje uprzedzeń algorytmicznych
- Historical Bias – odzwierciedlenie historycznych nierówności w danych treningowych
- Representation Bias – niedostateczna reprezentacja pewnych grup w zbiorze danych
- Measurement Bias – błędy w sposobie pomiaru lub etykietowania danych
- Evaluation Bias – niewłaściwe metryki oceny modelu
- Deployment Bias – niewłaściwe użycie modelu w rzeczywistym świecie
Słynne przykłady
- System COMPAS (USA) – wyższe ryzyko recydywy dla Afroamerykanów
- Algorytm rekrutacyjny Amazon (2018) – dyskryminował kobiety
- Google Photos – oznaczanie czarnych ludzi jako „goryle”
- Systemy kredytowe i ubezpieczeniowe – dyskryminacja ze względu na kod pocztowy lub rasę
- Modele rozpoznawania twarzy – znacznie gorsza dokładność dla osób o ciemnej skórze
Przyczyny powstawania biasu
- Nieodpowiednie lub stronnicze dane treningowe
- Proxy variables (np. kod pocztowy jako zamiennik rasy)
- Brak różnorodności w zespołach tworzących AI
- Optymalizacja pod kątem accuracy zamiast fairness
Metody redukcji biasu
- Debiasing datasets (rebalancing, augmentation)
- Fairness constraints podczas treningu
- Adversarial Debiasing
- Post-processing (np. Equalized Odds)
- Regularne audyty biasu i fairness metrics (Demographic Parity, Equal Opportunity)
- Diverse teams i inclusive design
Aktualny stan (2026)
Algorithmic Bias jest regulowany m.in. przez EU AI Act (wysokie ryzyko systemów). Firmy takie jak Google, Meta, OpenAI i Anthropic publikują raporty fairness. Mimo postępu, problem pozostaje nierozwiązany – szczególnie w dużych modelach generatywnych.
Powiązane pojęcia
AI Ethics • Fairness in AI • Dataset Bias • Model Bias • AI Governance • Accountability • EU AI Act • Representational Harm • Stereotyping