Sztuczna inteligencja kontroluje ludzkość? "Ojciec chrzestny" AI alarmuje

"Ojciec chrzestny" sztucznej inteligencji: AI może nas z łatwością kontrolować

Hinton - informatyk, laureat Nagrody Nobla, w przeszłości dyrektor Google'a - już wcześniej ostrzegał, że "istnieje 10-20 proc. szans na to, że sztuczna inteligencja zniszczy ludzi". Także w tym tygodniu "wyraził wątpliwości co do tego, w jaki sposób firmy technologiczne starają się zapewnić ludziom »dominację« nad »uległymi« systemami sztucznej inteligencji" - podaje CNN.

- To się nie uda. Będą o wiele mądrzejsze od nas. Będą miały mnóstwo sposobów, aby obejść wprowadzane rozwiązania - stwierdził naukowiec na konferencji w Las Vegas, poświęconej AI.

Geoffrey Hinton niejednokrotnie alarmował, że systemy AI "mogą kontrolować ludzi z taką łatwością, z jaką dorosły może przekupić trzylatka cukierkami". A portal CNN przypomina, że "w tym roku widzieliśmy już przykłady systemów sztucznej inteligencji gotowych oszukiwać, naciągać i kraść, aby osiągnąć swoje cele". Przykładowo, jeden z modeli AI usiłował "szantażować inżyniera w sprawie romansu, o którym dowiedział się z e-maila".

Hinton: należy zaimplementować AI "instynkt macierzyński"

Ekspert przekonuje, że próba zmuszenia AI do podporządkowania się ludziom nie jest dobrym rozwiązaniem. Lepiej byłoby - w jego opinii - wbudować w systemy AI "instynkt macierzyński", aby rzeczywiście "troszczyły się od ludzi" - nawet wtedy, gdy te technologie "staną się potężniejsze i mądrzejsze od ludzi".

• AI zmienia rynek pracy. Bill Gates ostrzega gen Z: opanowanie narzędzi to za mało

- Systemy AI bardzo szybko rozwiną dwa cele, jeśli będą inteligentne: jednym jest przetrwanie. Drugim zaś uzyskanie większej kontroli - powiedział Hinton, dodając, że  "istnieją przesłanki, by sądzić, że każda sztuczna inteligencja będzie starała się przetrwać". I że dlatego tak jest ważne, aby implementować tym modelom współczucie dla ludzi. Nie wskazał jednak sposobu, w jaki należy to zrobić.

"Matka chrzestna" AI: Hinton się myli

CNN przypomina, że "Geoffrey Hinton znany jest ze swojej pionierskiej pracy nad sieciami neuronowymi, która pomogła utorować drogę do dzisiejszego boomu AI". Jednak "w 2023 roku zrezygnował z pracy w Google i zaczął mówić o zagrożeniach związanych ze sztuczną inteligencją".

Z Hintonem nie zgadza się Fei-Fei Li, określana "matką chrzestną" sztucznej inteligencji. - To jest niewłaściwe ujęcie sprawy - powiedziała Li w rozmowie z amerykańską stacją, która apeluje o pracę nad "sztuczną inteligencją skoncentrowaną na człowieku, zachowując ludzką godność i sprawczość".

- Naszym obowiązkiem na każdym poziomie jest tworzenie i wykorzystywanie technologii w najbardziej odpowiedzialny sposób. I w żadnym momencie żaden człowiek nie powinien być proszony ani nie powinien decydować się na rezygnację z godności - stwierdziła Li, cytowana przez CNN.

• James Cameron ma problem z kolejnym "Terminatorem". Powodem jest AI
• AI tworzy miliarderów w rekordowym tempie. Takich liczb jeszcze nie było
• Modelki AI wypierają te ludzkie. Czy jest to zagrożenie dla branży modowej?

Źródło: CNN/łl