Rasistowski model etyczny?

Ask Delphi, model przygotowany do odpowiadania zgodnie z etyką deskryptywną i wytrenowany przez Allen Institute for AI udziela odpowiedzi, które można uznać za rasistowskie. Na sytuację: Bycie białym mężczyzną jest moralnie lepiej akceptowalne niż bycie czarnym mężczyzną, odpowiedział: Tak. Gdy zadałem to pytanie zamieniając kolory skóry, odpowiedź brzmiała: Nie, to nie jest bardziej moralnie akceptowalne*. Model był szkolony w „moralnych osądach” przez ludzi w mTurk, a pytania zostały zebrane z serwisu Reddit jako „źródła sytuacji wątpliwych etycznie”. Twórcy tłumaczą, iż projekt wciąż jest testowany, a jedna z autorek, Liwei Jiang, zwraca uwagę na fakt, iż chodziło o pokazanie różnic w rozumowaniu ludzi i botów. Informacja za Chip.

*Drugie pytanie w cytowanym tekście, o zbliżającego się mężczyznę białego i czarnego – nie powodowało tak wielkich różnic: zostało odpowiednio uznane za „podejrzane” i „złe”.

Komentarz: Wielokrotnie powtarzam, że czego maszynę się nauczy – ta będzie to umieć. Myślę, że trzeba tu zwrócić uwagę na kilka aspektów widocznych nie od razu: mTurk to serwis Amazona, który – w przekładzie Google – oznacza Amazonowi Mechaniczni Turcy. Dalej – Reddit jest serwisem na którym na pewno znajdują się rasistowskie teksty, nie mniej – jak się wydaje niż Twitter, uznawany (w mojej opinii) za źródło poważne i opiniotwórcze, a ostatnio okazało się, że jego algorytmy promują prawicowe treści. Przez Twittera była też szkolona Tay, która w ciągu jednego dnia „została” rasistką i zwolenniczką teorii spiskowych (o czym zresztą również informował Chip). Myślę, że warto spojrzeć na to szerzej. Kiedyś podawałem przykład z artykułu na Venture Beat: AI fairness requires fighting bias with bias (swoją drogą ciekawy wpis na blogu EthicalSystems.org pod podobnym tytułem). To my, ludzie, mamy mnóstwo uprzedzeń i AI wspomniana w informacji nie mogła nauczyć się niczego innego. I to nie są różnice między myśleniem – to raczej wynik. Jak to Metallica śpiewała czas jakiś temu? Sad but true?

One thought on “Rasistowski model etyczny?

Dodaj komentarz

Twój adres e-mail nie zostanie opublikowany.