Multi-Instance Learning

Wprowadzenie

Multi-Instance Learning (Uczenie z wielu instancji) — W dziedzinie uczenia maszynowego często spotykamy się z sytuacją, gdy nie jest możliwe przypisanie jednoznacznej etykiety do każdej pojedynczej próbki danych. Zamiast tego, dostępna jest jedynie informacja dotycząca całej grupy próbek, czyli tak zwanego worka (ang. bag). Jest to wyzwanie dla tradycyjnych algorytmów, które zazwyczaj wymagają etykietowania na poziomie pojedynczych instancji. Paradygmat ten stawia sobie za cel budowanie modeli, które potrafią dokonywać klasyfikacji na podstawie tych zbiorczych etykiet, jednocześnie inferując, które instancje wewnątrz worka przyczyniły się do jego pozytywnej lub negatywnej klasyfikacji. Obejmuje to uczenie się złożonych zależności, gdzie informacja o pojedynczej instancji jest ukryta, ale ma kluczowe znaczenie dla zrozumienia całego kontekstu.

Jak działają Multi-Instance Learning?

Działanie w tym paradygmacie opiera się na założeniu, że każdy worek zawiera wiele instancji. Główna zasada klasyfikacji worka polega na tym, że jeśli worek jest pozytywny, to co najmniej jedna instancja w nim musi być również pozytywna. Jeżeli worek jest negatywny, oznacza to, że wszystkie instancje w nim są negatywne. Model musi więc nauczyć się rozróżniać instancje pozytywne od negatywnych, mimo że etykiety są przypisane tylko na poziomie worków. Typowe podejścia obejmują transformację danych w taki sposób, aby każdy worek został przedstawiony jako pojedyncza, zagregowana cecha, na której następnie trenowany jest standardowy klasyfikator. Inna metoda polega na trenowaniu klasyfikatora instancyjnego, który przewiduje etykietę dla każdej instancji, a następnie agreguje te przewidywania (np. poprzez maksimum lub średnią) w celu określenia etykiety worka. Modele głębokiego uczenia, takie jak sieci neuronowe, często wykorzystują mechanizmy uwagi (attention mechanisms), aby identyfikować najbardziej reprezentatywne instancje w worku, które decydują o jego klasie. Algorytmy uczą się funkcji, która mapuje worek instancji na etykietę klasy. Mogą to robić w sposób jawny, próbując przewidzieć etykiety dla poszczególnych instancji i następnie je agregując, lub w sposób niejawny, ucząc się bezpośrednio funkcji mapującej worek na etykietę, co często jest realizowane poprzez specjalnie zaprojektowane warstwy agregujące w architekturach sieci neuronowych. W obu przypadkach kluczowe jest zrozumienie, jak zbiorowa informacja z instancji wpływa na ostateczną etykietę worka.

Główne zalety i charakterystyka

Główną zaletą jest zdolność do radzenia sobie z niekompletnymi lub niejednoznacznymi danymi, gdzie etykietowanie na poziomie pojedynczych instancji jest zbyt kosztowne, niemożliwe lub subiektywne. Umożliwia to wykorzystanie dużych zbiorów danych, które w innym przypadku byłyby trudne do przetworzenia w tradycyjnym nadzorowanym uczeniu maszynowym. Redukuje to nakład pracy związany z ręcznym etykietowaniem, co przekłada się na niższe koszty i szybsze prototypowanie modeli. Dodatkowo, podejście to pozwala na odkrywanie ukrytych wzorców i zależności w danych, które są niewidoczne, gdy patrzymy tylko na pojedyncze instancje. Może prowadzić do bardziej wytrzymałych modeli, które lepiej generalizują na nowe, nieznane worki, ponieważ uczą się reprezentacji, która jest odporna na szum i zmienność wewnątrz worków.

Zastosowania w praktyce

  • Wykrywanie zmian nowotworowych w obrazowaniu medycznym (np. histopatologia), gdzie każdy fragment tkanki to worek, a poszczególne komórki to instancje; worek jest pozytywny, jeśli zawiera choć jedną komórkę rakową.
  • Rozpoznawanie obiektów na zdjęciach, gdzie jedno zdjęcie to worek, a jego fragmenty (patche) to instancje; zdjęcie zawiera obiekt, jeśli choć jeden fragment go reprezentuje.
  • Odkrywanie leków, gdzie cząsteczka chemiczna to worek, a jej konformacje (przestrzenne ułożenia) to instancje; worek jest aktywny, jeśli choć jedna konformacja wykazuje aktywność.
  • Klasyfikacja dokumentów, gdzie dokument to worek, a zdania lub akapity to instancje; dokument należy do kategorii, jeśli choć jedno zdanie o tym świadczy.
  • Biometria, np. rozpoznawanie twarzy z kilku ujęć, gdzie każde ujęcie to instancja w worku reprezentującym osobę.

Porównanie z innymi strukturami danych

W przeciwieństwie do standardowego uczenia nadzorowanego, gdzie każda instancja ma przypisaną bezpośrednio etykietę, uczenie z wielu instancji operuje na etykietach przypisanych do worków, a nie do pojedynczych instancji. Ta fundamentalna różnica sprawia, że modele muszą radzić sobie z niepewnością co do prawdziwej etykiety każdej instancji. Podczas gdy standardowe metody skupiają się na bezpośrednim mapowaniu cech instancji na etykietę, metody uczenia z wielu instancji muszą wywnioskować informacje o instancjach z kontekstu całego worka. Można to również porównać do uczenia ze słabym nadzorem (weakly supervised learning), gdzie etykiety są niepełne lub niedokładne. Uczenie z wielu instancji jest specyficzną formą słabego nadzoru, skupiającą się na agregacji informacji z grup. Inne formy słabego nadzoru mogą obejmować etykietowanie tylko części danych lub posiadanie szumu w etykietach, podczas gdy uczenie z wielu instancji charakteryzuje się hierarchiczną strukturą danych: instancje w workach, a etykieta tylko na poziomie worka.

Najlepsze praktyki (2026)

  • Wybór odpowiedniej funkcji agregacji (np. maksimum, średnia, pooling uwagi) dopasowanej do charakterystyki problemu i danych.
  • Staranne przygotowanie danych, w tym standaryzacja cech i obsługa niezbalansowanych worków lub instancji.
  • Zastosowanie technik uczenia głębokiego z warstwami uwagi, które mogą dynamicznie ważyć znaczenie poszczególnych instancji w worku.
  • Walidacja krzyżowa na poziomie worków, a nie instancji, aby uniknąć przecieków danych.
  • Wykorzystanie algorytmów uwzględniających specyfikę problemu, np. MI-SVM dla klasyfikacji worków.

Typowe błędy i pułapki

  • Zakładanie, że wszystkie instancje w pozytywnym worku są pozytywne, co prowadzi do błędnych wniosków i słabej generalizacji.
  • Niewłaściwy wybór funkcji agregacji, która nie oddaje natury problemu (np. użycie średniej, gdy istotna jest tylko jedna 'zła' instancja).
  • Próby ręcznego etykietowania instancji w celu przekształcenia problemu na standardowe uczenie nadzorowane, co jest kosztowne i może wprowadzić błędy ludzkie.
  • Ignorowanie kontekstu worka i traktowanie instancji jako całkowicie niezależnych, co prowadzi do utraty cennych informacji.
  • Przeciążenie modelu (overfitting) do etykiet worków, bez zdolności do prawidłowego wnioskowania na temat instancji.