Przejdź do głównej treści
Otwórz panel
Nie wiesz, od czego zacząć? Rozwiąż krótki quiz, aby otrzymać spersonalizowane rekomendacje.
Lekcja 6 z 8
Stronniczość w uczeniu maszynowym
Introduction to Machine Learning
Czym uczenie maszynowe to to samo, co SI?
Zróżnicowane podejście do uczenia maszynowego
Zastosowanie uczenia maszynowego
Jak uczy się maszyna?
Uczenie maszynowe, dziennikarstwo i Ty
Looking ahead to ML-powered journalism
check_box_outline_blank Wprowadzenie do uczenia maszynowego: quizu
Kurs
0% zakończono
5 minut aby zakończyć

Stronniczość w uczeniu maszynowym

79390180-18368d80-7f24-11ea-936e-22c30be1ccda_lnyPSqk.jpg
Czym jest stronniczość UM i jak jej unikać?
79390180-18368d80-7f24-11ea-936e-22c30be1ccda_lnyPSqk.jpg

Uczenie maszynowe a sprawiedliwość

79390180-18368d80-7f24-11ea-936e-22c30be1ccda.jpg

Jak dotąd dowiedziałeś się, jak uczenie maszynowe może usprawnić Twoją pracę – od oszczędzania cennego czasu na bieżących zadaniach do stwarzania nowych możliwości. UM może wiele dla Ciebie zrobić, ale wiąże się to z wyzwaniami, którym nie możesz ignorować.


Aby sprostać tym wyzwaniom, coraz więcej naukowców i praktyków kładzie nacisk na kwestię „sprawiedliwości” w uczeniu maszynowym.  Jej naczelną zasadą jest to, że UM powinno przynosić takie same korzyści wszystkim, niezależnie od kategorii społecznych, które strukturyzują i wpływają na nasze życie.

79390180-18368d80-7f24-11ea-936e-22c30be1ccda.jpg

Czym jest stronniczość?

6.2.jpg

Jakie są negatywne konsekwencje wynikające ze stosowania uczenia maszynowego? Odpowiedź jest krótka: stronniczość. 


Ludzie mają swoje uprzedzenia. Są to narzędzia, których nasz mózg używa do radzenia sobie z informacjami, którymi jest codziennie bombardowany. 


Przykład: zamknij oczy i wyobraź sobie but. Najprawdopodobniej wyobraziłeś sobie trampka. Może skórzany męski but. Mniej prawdopodobne jest, że myślałeś o damskim bucie na wysokim obcasie. Może nawet nie wiemy dlaczego, ale każdy z nas woli jedne buty od drugich. 


Teraz wyobraź sobie, że chcesz nauczyć komputer rozpoznawać buty. W konsekwencji narażasz go na własne uprzedzenia. W ten sposób powstaje stronniczość w uczeniu maszynowym. Nie jesteśmy w stanie całkowicie odseparować się od naszych uprzedzeń, pomimo dobrych chęci.

6.2.jpg

Rodzaje stronniczości

6.3_SbkljXh.jpg

Istnieją różne sposoby, w jakie nasze własne uprzedzenia mogą przenikać do tworzonej przez nas technologii:


Stronniczość interakcyjna

Weźmy wcześniejszy przykład – jeśli przeszkolimy model do rozpoznawania butów za pomocą zbioru danych, który zawiera głównie zdjęcia trampków, system nie nauczy się rozpoznawać wysokich szpilek jako butów.


Stronniczość ukryta

Jeśli przeszkolisz system UM, aby rozpoznawał naukowca za pomocą zdjęć słynnych naukowców z przeszłości, Twój algorytm prawdopodobnie nauczy się kojarzyć naukowców tylko z mężczyznami.


Stronniczość selektywna

Powiedzmy, że trenujesz modelkę do rozpoznawania twarzy. Jeśli dane, których używasz do jego wyszkolenia, stanowią nadreprezentację danej populacji, będzie on faworyzować tę populację kosztem innych z potencjalnie rasistowskimi konsekwencjami.


Co można zrobić, aby uniknąć tych rodzajów stronniczości?

6.3_SbkljXh.jpg

Zadawanie właściwych pytań w celu uniknięcia stronniczości

6.4.jpg

Jako dziennikarz dysponujesz narzędziami pierwszej linii obrony przed stronniczością – te same wartości i zasady etyczne, które stosujesz na co dzień w swoim zawodzie, powinny obejmować ocenę sprawiedliwości każdej nowej technologii, którą dodajesz do swojego zestawu narzędzi. 
 Uczenie maszynowe nie jest wyjątkiem.


Ponadto we wszystkich przypadkach należy najpierw ustalić, czy konsekwencje mogą mieć negatywny wpływ na ekonomiczne lub inne ważne szanse życiowe danej osoby. Jest to szczególnie ważne, gdy dane, z których korzystasz, zawierają poufne dane osobowe.


Często niesprawiedliwy wpływ nie jest od razu oczywisty, ale wymaga zadawania złożonych pytań społecznych, politycznych i etycznych o to, w jaki sposób system uczenia maszynowego może dopuścić do wkradania się stronniczości.

6.4.jpg

Główne przyczyny stronniczości

6.5_2mBMJ0U.jpg

Chociaż żadne dane uczące nigdy nie będą całkowicie „bezstronne”, możesz znacznie zwiększyć swoje szanse na stworzenie sprawiedliwego modelu, jeśli uważnie rozważysz potencjalne źródła stronniczości w swoich danych i podejmiesz odpowiednie działania.


Najczęstszym powodem stronniczości jest to, że dane uczące nie są w pełni reprezentatywne dla populacji, na podstawie której Twój model opracowuje prognozy. Musisz dysponować wystarczającą ilością danych dla każdej odpowiedniej grupy.


Inny rodzaj stronniczości objawia się tym, że niektóre grupy są reprezentowane w danych uczących mniej pozytywnie niż inne. Należy zastanowić się nad sprawdzeniem swoich danych przed wykorzystaniem ich do szkolenia modelu, aby sprawdzić, czy nie zawierają żadnych uprzedzeń, których algorytm mógłby się nauczyć i powielić.

6.5_2mBMJ0U.jpg

Zapobieganie stronniczości – najważniejsza jest świadomość

6.6_SmMGAHH.jpg

Uprzedzenia mogą pojawiać się na wiele sposobów – na podstawie zbiorów danych uczących, w wyniku decyzji podjętych w trakcie tworzenia systemu uczenia maszynowego oraz poprzez złożone sprzężenia zwrotne, które pojawiają się, gdy system UM jest wdrażany w realnym świecie.


Konkretne pytania, które można by zadać w celu rozpoznania potencjalnego ryzyka stronniczości, to m.in:

  • W jakim celu gromadzono dane? 
  • W jaki sposób gromadzono dane? 
  • Jaki jest cel wykorzystania zbioru danych i tego konkretnego algorytmu?  
  • Jak oceniono źródło danych? 
  • Jak został zdefiniowany proces analizy danych przed samą analizą? 


Stronniczość to skomplikowana kwestia i nie ma na nią „złotego środka”. Rozwiązaniem jest świadomość oraz zrozumienie ryzyka, a także podjęcie właściwych kroków w celu jego zminimalizowania.

6.6_SmMGAHH.jpg
Gratulacje! To już koniec Stronniczość w uczeniu maszynowym in progress
Recommended for you
Jak oceniasz tę lekcję?
Twoja opinia pomoże nam w ciągłym udoskonalaniu naszych lekcji.
Wyjść i wyzerować postęp?
Jeśli opuścisz tę stronę, utracisz cały postęp w bieżącej lekcji. Czy na pewno chcesz kontynuować i wyzerować postęp?