Wprowadzenie
Bias w AI (uprzedzenie lub błąd systematyczny) to tendencyjność modelu, która powoduje, że system sztucznej inteligencji systematycznie faworyzuje lub dyskryminuje określone grupy ludzi.
Główne rodzaje biasu
- Data Bias – dane treningowe nie są reprezentatywne (np. za mało zdjęć kobiet w zbiorze do rozpoznawania twarzy)
- Algorithmic Bias – sam algorytm wzmacnia istniejące uprzedzenia
- Selection Bias – sposób zbierania danych
- Labeling Bias – błędy w etykietowaniu danych przez ludzi
- Confirmation Bias – model szuka potwierdzenia wcześniejszych założeń
Słynne przykłady
- COMPAS – system przewidujący recydywę dyskryminujący osoby czarnoskóre
- Google Photos – oznaczanie czarnych osób jako „goryle”
- Amazon Recruiting Tool – faworyzowanie mężczyzn
- Face recognition – znacznie gorsza dokładność dla kobiet i osób o ciemnej skórze
Dlaczego bias jest niebezpieczny?
- Wzmaga istniejące nierówności społeczne
- Może prowadzić do dyskryminacji w rekrutacji, kredytach, medycynie, sądownictwie
- Podważa zaufanie do sztucznej inteligencji
- Może powodować realne szkody dla ludzi
Jak walczyć z biasem?
- Różnorodne i reprezentatywne zbiory danych
- Techniki debiasingu (reweighting, adversarial debiasing)
- Fairness metrics i audyty modeli
- Explainable AI (XAI)
- Różnorodne zespoły tworzące AI
- Regulacje prawne (np. EU AI Act)
Aktualny status (2026)
Bias w AI pozostaje jednym z największych wyzwań etycznych i technicznych. Mimo postępu w technikach mitigacji, problem nie zniknął – szczególnie w dużych modelach językowych (LLM), które często odtwarzają stereotypy z internetu. Coraz więcej firm i rządów wymaga regularnych audytów biasu przed wdrożeniem systemów AI.