W najnowszym odcinku podcastu SGcHat w paśmie #AILab zaglądamy pod maskę algorytmów podejmujących decyzje o naszych finansach. Prof. dr hab. Bogumił Kamiński rozmawia z dr. Danielem Kaszyńskim, laureatem Nagrody Prezesa Rady Ministrów za doktorat poświęcony stronniczości algorytmicznej w scoringu kredytowym.
Eksperci SGH rozkładają na czynniki pierwsze matematykę sprawiedliwości i sprawdzają, gdzie unijny AI Act zderza się z twardą rzeczywistością danych.
Odcinek przynosi odpowiedzi na pytania:
• Dlaczego usunięcie z modeli cech takich jak płeć czy pochodzenie nic nie daje i jak algorytmy „obchodzą” zakaz ich wykorzystania (np. czytając między wierszami z kodów pocztowych).
• Co oznacza dla banków i klientów fakt, że choć unijny AI Act nakazuje brak dyskryminacji, to nie mówi, jak to zmierzyć.
• Czy da się stworzyć model idealnie sprawiedliwy dla każdego i jak wygląda kompromis między zyskiem a etyką w podejmowaniu decyzji.
• Co robią analitycy danych, aby tworzone przez nich modele predykcyjne nie były stronnicze?
Stronniczość algorytmiczna jest obecnie problemem systemowym. W trakcie rozmowy przybliżono, jak wyniki badań dr. Daniela Kaszyńskiego pomagają budować odpowiedzialną technologię w biznesie.
