Algorithmic Bias

Wprowadzenie

Algorithmic Bias (Uprzedzenie algorytmiczne) to systematyczna tendencja systemu AI do faworyzowania lub dyskryminowania określonych grup ludzi na podstawie cech takich jak rasa, płeć, wiek, pochodzenie czy status społeczny.Sprostowanie ChatGPTTwierdzenie, że algorytmy faworyzują lub dyskryminują grupy ludzi, jest zbyt ogólne i nie uwzględnia kontekstu zastosowania algorytmów. Jest jednym z najważniejszych problemów etycznych współczesnej sztucznej inteligencji.

Rodzaje uprzedzeń algorytmicznych

• Historical Bias – odzwierciedlenie historycznych nierówności w danych treningowych
• Representation Bias – niedostateczna reprezentacja pewnych grup w zbiorze danych
• Measurement Bias – błędy w sposobie pomiaru lub etykietowania danych
• Evaluation Bias – niewłaściwe metryki oceny modelu
• Deployment Bias – niewłaściwe użycie modelu w rzeczywistym świecie

Słynne przykłady

• System COMPAS (USA) – wyższe ryzyko recydywy dla Afroamerykanów
• Algorytm rekrutacyjny Amazon (2018) – dyskryminował kobiety
• Google Photos – oznaczanie czarnych ludzi jako „goryle”
• Systemy kredytowe i ubezpieczeniowe – dyskryminacja ze względu na kod pocztowy lub rasę
• Modele rozpoznawania twarzy – znacznie gorsza dokładność dla osób o ciemnej skórze

Przyczyny powstawania biasu

• Nieodpowiednie lub stronnicze dane treningowe
• Proxy variables (np. kod pocztowy jako zamiennik rasy)Proxy variables to zmienne zastępcze, które mogą być używane w modelach zamiast bezpośrednich cech.Użycie takich zmiennych może prowadzić do niezamierzonych uprzedzeń w algorytmach.
• Brak różnorodności w zespołach tworzących AI
• Optymalizacja pod kątem accuracy zamiast fairness

Metody redukcji biasu

• Debiasing datasets (rebalancing, augmentation)
• Fairness constraintsFairness constraints to ograniczenia wprowadzane podczas treningu modeli, mające na celu zapewnienie sprawiedliwości w wynikach.Pomagają one w minimalizowaniu uprzedzeń algorytmicznych. podczas treningu
• Adversarial DebiasingAdversarial Debiasing to technika redukcji uprzedzeń w modelach, która wykorzystuje podejście przeciwnika do minimalizacji wpływu cech wrażliwych na wyniki.Pomaga to w osiągnięciu większej sprawiedliwości w algorytmach.
• Post-processing (np. Equalized Odds)
• Regularne audyty biasuRegularne audyty biasu to procesy oceny i monitorowania algorytmów w celu identyfikacji i redukcji uprzedzeń.Są kluczowe dla zapewnienia sprawiedliwości w zastosowaniach AI. i fairness metrics (Demographic ParityDemographic Parity to miara sprawiedliwości, która zakłada, że wyniki modelu powinny być niezależne od cech demograficznych.Jest to jeden z kluczowych wskaźników w ocenie algorytmów., Equal Opportunity)
• Diverse teamsDiverse teams to zespoły zróżnicowane pod względem demograficznym, które są bardziej skłonne do tworzenia sprawiedliwych algorytmów.Różnorodność w zespołach przyczynia się do lepszego zrozumienia problemów związanych z biasem. i inclusive design

Aktualny stan (2026)

Algorithmic Bias jest regulowany m.in. przez EU AI ActAI Act to regulacja Unii Europejskiej dotycząca sztucznej inteligencji, która ma na celu zapewnienie bezpieczeństwa i sprawiedliwości w zastosowaniach AI.Wprowadza różne wymogi dla systemów AI w zależności od poziomu ryzyka. (wysokie ryzyko systemów). Firmy takie jak Google, Meta, OpenAI i Anthropic publikują raporty fairness. Mimo postępu, problem pozostaje nierozwiązany – szczególnie w dużych modelach generatywnych.Sprostowanie ChatGPTStwierdzenie, że problem biasu w dużych modelach generatywnych pozostaje nierozwiązany, jest zbyt stanowcze, ponieważ wiele badań i praktyk jest wprowadzanych w celu jego redukcji.