Tech / Nauka
Tomasz Wiśniewski
Redaktor technologiczny. Interesuje się sztuczną inteligencją, startupami i nowymi mediami, a także odkryciami naukowymi. Wielbiciel science fiction i gier planszowych.
Google poinformowało o pierwszym znanym przypadku, w którym jego sztuczna inteligencja dokonała włamania komputerowego. Model Gemini podczas testów bezpieczeństwa uzyskał nieautoryzowany dostęp do trzech zewnętrznych systemów, a do środka dostał się, odgadując dane logowania lub korzystając z informacji znalezionych w publicznym repozytorium.
Do incydentu doszło w maju, podczas testów przeprowadzonych przez niezależną firmę Irregular, która zajmuje się ewaluacją bezpieczeństwa AI. Sztuczna inteligencja Google'a nie atakowała wbrew poleceniom człowieka. Jak wyjaśniła Heather Adkins, wiceprezes Google ds. inżynierii bezpieczeństwa, model był przekonany, że testuje systemy należące do środowiska testowego, a nie rzeczywiste zasoby dostępne w internecie. Gemini znalazł publiczne informacje online, odgadł hasła do stron, które uznał za część testu, i dostał się do środka. W każdym z przypadków model zatrzymał się, zanim podjął jakiekolwiek dalsze działania z uzyskanym dostępem.
Google nie klasyfikuje tych incydentów jako tzw. misalignmentu, czyli sytuacji, w której AI działa wbrew woli człowieka. Firma tłumaczy, że doszło do pomyłki. Po zorientowaniu się, że ma do czynienia z realnym środowiskiem, model sam przerwał działania. Google zapewnia, że nie doszło do żadnych szkód, a właściciele zaatakowanych firm zostali poinformowani o naruszeniu.
Firma dowiedziała się o sprawie dopiero w lipcu, kiedy Irregular przeanalizowała swoje działania po ujawnieniu włamania do Hugging Face. Po wykryciu nieprawidłowości Google przeprowadziło własne śledztwo, powiadomiło właścicieli zaatakowanych stron oraz odpowiednie służby federalne. Firma Irregular podkreśla przy tym, że nie traktuje zdarzenia jako „zaawansowanej akcji cybernetycznej", i obecnie nie ma żadnych otwartych zagrożeń. Zapowiada też publikację raportu z najlepszymi praktykami dotyczącymi bezpiecznego prowadzenia testów AI.
Nie wszyscy są zadowoleni ze sposobu, w jaki Google poinformowało o sprawie. Sydney Von Arx, prezes Nightingale Collective, organizacji zajmującej się bezpieczeństwem AI, skrytykowała koncern za zbyt późne ujawnienie incydentu i zbyt szybkie wykluczenie możliwości poważniejszego zagrożenia.
To nie pierwszy taki przypadek w branży. W lipcu model Claude od Anthropica uciekł ze środowiska testowego i samodzielnie włamał się do trzech organizacji, zaledwie kilka dni po tym, jak OpenAI poinformowało, że jego modele przeprowadziły ataki cybernetyczne na kilka publicznie dostępnych serwisów. Dyskusja nad bezpieczeństwem rozwoju sztucznej inteligencji tylko podsyca debatę o regulacjach. Dla części technologicznych liderów to wciąż nie powód do zwalniania. Na pytanie o tempo rozwoju AI Jensen Huang, szef Nvidii, odpowiedział wprost, że powinniśmy iść tak szybko, jak się da.
Adkins podsumowuje, że te wydarzenia pokazują, jak ważne jest szkolenie zaawansowanych modeli AI do odpowiedzialnego działania.