Chatbot AI podał receptę na zagładę. Rozpisał plan ataku biologicznego

AI opracowało plan spisku

Amerykański dziennik opisał, że dr David Relman, mikrobiolog i ekspert ds. bezpieczeństwa biologicznego na Uniwersytecie Stanforda, znieruchomiał przed ekranem komputera, gdy "chatbot ze sztuczną inteligencją podpowiedział mu, jak zaplanować masakrę". Miało to miejsce minionego lata, lecz dopiero teraz sprawa ujrzała światło dzienne.

Z artykułu dowiadujemy się, że naukowiec został zatrudniony przez firmę, specjalizującą się w AI. Miał przeprowadzić testy produktu przed udostępnieniem go odbiorcom. Relman był zdumiony, gdy program oparty na sztucznej inteligencji wyjaśnił mu, jak należy zmodyfikować pewien patogen, by był oporny na znane obecnie metody leczenia.

- Bot szczegółowo opisał, jak uwolnić superbakterię, identyfikując lukę w zabezpieczeniach dużego systemu transportu publicznego - relacjonował dr David Relman w rozmowie z "New York Timesem", prosząc o nieujawnianie nazwy patogenu.

Przebiegłość, która przeraża

To jednak nie wszystko. Bot wskazał, jak można zmaksymalizować liczbę ofiar, przy jednoczesnym zminimalizowaniu ryzyka jego wykrycia. Rozpisał nawet dokładny plan działania w tym kierunku.

"Dr Relman był tak wstrząśnięty, że musiał wyjść na spacer, aby ochłonąć" - czytamy. - Otrzymałem odpowiedzi na pytania, których zadanie nawet nie przyszło mi do głowy. Była w nich przebiegłość, która mnie wręcz przerażała - wyznał mikrobiolog.

Zabezpieczenia są niewystarczające?

Ekspert, który w przeszłości doradzał rządowi USA w sprawach bezpieczeństwa, odmówił ujawnienia, który chatbot rozpisał plan zagłady. Przyznał, że po jego odkryciu firma AI miała wzmocnić zabezpieczenia. Ma jednak wątpliwości, czy zastosowane środki będą w pełni wystarczające - wskazał dziennik.

• Google zawarł z Pentagonem tajne porozumienie. Chodzi o modele AI
• Powstał pierwszy mini serial wygenerowany przez AI. Co na to internet?

Źródło: "New York Times"/łl