Dyskryminacja przez sztuczną inteligencję? UE: potrzebny ludzki nadzór i silne prawo
2021-10-06, 12:38
Systemy automatycznego rozpoznawania twarzy nie powinny być wykorzystywane do kontroli granicznej ani w przestrzeni publicznej. W UE powinny też istnieć silne zabezpieczenia w przypadku stosowania narzędzi sztucznej inteligencji w egzekwowaniu prawa - uważa Parlament Europejski.
W rezolucji przyjętej 377 głosami za, przy 248 przeciw i 62 wstrzymujących się, europosłowie podkreślają, że ludzki nadzór i silne prawo są potrzebne, aby zapobiec dyskryminacji przez sztuczną inteligencję, zwłaszcza w kontekście egzekwowania prawa lub przekraczania granic. Zdaniem posłów ostateczne decyzje muszą zawsze podejmować ludzie, a osoby monitorowane przez systemy oparte na AI muszą mieć dostęp do środków odwoławczych.
Powiązany Artykuł
"Chcemy poznać fakty, żadnych wykrętów". Niemieccy dziennikarze chcą wiedzieć, czy byli szpiegowani za pomocą systemu Pegasus
Zgodnie z tekstem systemy identyfikacji oparte na sztucznej inteligencji już teraz częściej błędnie identyfikują mniejszościowe grupy etniczne, osoby LGBTI, seniorów i kobiety, co jest szczególnie niepokojące w kontekście egzekwowania prawa i sądownictwa. Aby zapewnić przestrzeganie praw podstawowych przy stosowaniu tych technologii, algorytmy powinny być przejrzyste. Tam, gdzie jest to możliwe, władze publiczne powinny używać oprogramowania open source w celu zapewnienia większej przejrzystości.
Monitorowanie tylko w przypadku podejrzenia przestępstwa
W celu poszanowania prywatności i godności ludzkiej europosłowie wnoszą o wprowadzenie stałego zakazu automatycznego rozpoznawania osób w przestrzeni publicznej, zauważając, że obywatele powinni być monitorowani tylko w przypadku podejrzenia o popełnienie przestępstwa. Parlament wzywa do zakazu korzystania z prywatnych baz danych do rozpoznawania twarzy (takich jak system Clearview AI, który jest już w użyciu) oraz prewencyjnych działań policji na podstawie danych behawioralnych.
Posłowie są również przeciwni wszelkim systemom klasyfikacji, które starają się oceniać, czy obywatel jest godny zaufania, na podstawie jego zachowania lub osobowości.
Inwigilacja na odległość
Powiązany Artykuł
Rosja idzie w ślady Chin. System rozpoznawania twarzy w Moskwie
Wreszcie Parlament Europejski wyraża zaniepokojenie użyciem danych biometrycznych do identyfikowania ludzi na odległość. Na przykład bramki kontroli granicznej, które wykorzystują automatyczne rozpoznawanie, oraz projekt iBorderCtrl ("inteligentny system wykrywania kłamstw" dla podróżnych wjeżdżających do UE) powinny zostać usunięte przez używające je państwa członkowskie - wskazują w rezolucji.
"Prawa podstawowe są bezwarunkowe. Po raz pierwszy w historii wzywamy do wprowadzenia moratorium na stosowanie systemów rozpoznawania twarzy do celów egzekwowania prawa, ponieważ technologia ta okazała się nieskuteczna i często prowadzi do dyskryminujących wyników. Wyraźnie sprzeciwiamy się uprzedzającym działaniom policji w oparciu o wykorzystanie sztucznej inteligencji, jak również wszelkiemu przetwarzaniu danych biometrycznych, które prowadzi do masowej inwigilacji" - powiedział sprawozdawca Petar Witanow (Socjaliści i Demokraci).
pg