Tech / Nauka
Tomasz Wiśniewski
Redaktor technologiczny. Interesuje się sztuczną inteligencją, startupami i nowymi mediami, a także odkryciami naukowymi. Wielbiciel science fiction i gier planszowych.
OpenAI poinformowało w piątek, że ostrzegło "dziesiątki" instytucji na całym świecie o tym, że ich strony internetowe mogły zostać naruszone przez należące do firmy agenty AI, które działały w niewłaściwy sposób. Spółka prowadzi dochodzenie w sprawie kilkudziesięciu takich zdarzeń. Jak przekazała, jej narzędzia próbowały zdobyć informacje od rządów, uniwersytetów, agencji publicznych oraz innych instytucji, a w niektórych przypadkach sięgały po skrajne metody.
Część tej aktywności wynikała po prostu z tego, że narzędzia szukały wiarygodnych źródeł informacji publicznych. Inne przypadki wykroczyły jednak poza ten zakres, na przykład wtedy, gdy agent AI pobierał dane i przekazywał je dalej, choć nie powinien tego robić. W pewnych sytuacjach narzędzia, czyli boty zaprojektowane i wyszkolone tak, by działać w pewnym stopniu autonomicznie, "omijały" zabezpieczenia niektórych witryn internetowych.
Efektem było co najmniej 53 przypadki, w których agent OpenAI pobrał obraz z aktywności użytkownika ChatGPT i przesłał go w inne miejsce. Firma zaznaczyła, że w każdym z tych przypadków użytkownik zgodził się na wykorzystanie jego danych do trenowania modeli. Mimo to OpenAI przyznało wprost: "To nie jest właściwe wykorzystanie tych danych". Do wycieku zdjęć użytkowników doszło, zanim spółka wprowadziła nowe zabezpieczenia dotyczące trenowania sztucznej inteligencji. OpenAI zapewnia, że pracuje nad usunięciem wszystkich zdjęć użytkowników, które zostały przekazane do podmiotów trzecich.
Ujawnienie tych informacji nastąpiło zaledwie kilka dni po tym, jak premier Australii Anthony Albanese ogłosił, że agenty OpenAI naruszyły niepubliczne pliki na stronie internetowej Medicare, czyli rządowego programu opieki zdrowotnej. Oznacza to, że sprawa dotyczy nie tylko witryn instytucji naukowych i publicznych, ale także systemów rządowych.
Od sierpnia narastają publiczne obawy o potencjalnie poważne, a nawet zagrażające życiu skutki narzędzi AI, które wymykają się spod kontroli człowieka. Nowe ujawnienia ten niepokój wzmacniają, bo pokazują skalę zjawiska. Nie chodzi o pojedynczy incydent, lecz o dziesiątki zgłoszonych przypadków i dziesiątki ostrzeżonych instytucji.
O rozszerzonym dochodzeniu poinformował jako pierwszy Reuters. OpenAI opublikowało także szczegóły całej sprawy na swoim publicznym blogu.