Brutalne obrazy i łamanie praw autorskich. AI wymknęła się Microsoftowi spod kontroli

Jones, który aktywnie testował produkt pod kątem luk w zabezpieczeniach poprzez red-teaming, odkrył obrazy generowane przez narzędzie, które naruszały zasady odpowiedzialnej sztucznej inteligencji firmy Microsoft. Problematyczne treści obejmowały demony, potwory, brutalne sceny, obrazy o charakterze seksualnym. Pomimo zgłoszenia tych problemów wewnętrznie, Microsoft odmówił usunięcia produktu, co skłoniło Jonesa do eskalacji swoich obaw poprzez napisanie listów do przewodniczącego Federalnej Komisji Handlu i zarządu Microsoftu.

Jones, główny menedżer ds. inżynierii oprogramowania w Microsoft, podkreślił w rozmowie z CNBC, że nie pracuje nad Copilotem zawodowo, ale testuje tę technologię dobrowolnie. Zaczął zgłaszać swoje odkrycia wewnętrznie w grudniu, ale Microsoft odmówił wycofania produktu z rynku.

W tym samym czasie Google zawiesił działanie generatora obrazów AI, będącego częścią pakietu Gemini AI, z powodu skarg użytkowników.

Zagrożenia AI

Eskalacja debaty wokół generatywnej sztucznej inteligencji i jej potencjalnych zagrożeń nabiera tempa, zwłaszcza w obliczu gwałtownego wzrostu liczby deepfake'ów i obaw związanych z dezinformacją wyborczą. Jones ujawnił, że zespół Copilot otrzymuje codziennie ponad 1000 wiadomości zwrotnych dotyczących produktu, podkreślając ograniczenia zasobów w celu rozwiązania wszystkich kwestii. Wyraził obawy co do zdolności narzędzia do generowania brutalnych treści przy minimalnych ograniczeniach, ujawniając wady w czystości zbioru danych szkoleniowych.

Jones szczegółowo opisał potencjał Copilot Designer do tworzenia szkodliwych obrazów związanych z uprzedzeniami politycznymi, działaniami nieletnich, stereotypami religijnymi i teoriami spiskowymi. Aplikacja narzędzia na Androida, z oceną "dla każdego", sugeruje bezpieczeństwo dla wszystkich grup wiekowych, ale Jones zakwestionował to na podstawie swoich ustaleń. Istotne obawy obejmują również naruszenia praw autorskich, ponieważ narzędzie generuje obrazy przedstawiające postacie Disneya, prawdopodobnie naruszając prawa autorskie i zasady Microsoftu.

Jones wezwał do niezależnego przeglądu procesów zgłaszania incydentów związanych ze sztuczną inteligencją w firmie Microsoft i zachęcił do zbadania decyzji podejmowanych przez dział prawny i kierownictwo. Podkreślił brak skutecznych mechanizmów zgłaszania szkodliwych treści generowanych przez takie narzędzia, co stwarza ryzyko ich globalnego rozpowszechniania.

• Deepfake i fake news. Media społecznościowe są zagrożone? Ekspert od AI wskazuje na powód

PR24/IAR/CNBC/mib