Tech / Nauka
Tomasz Wiśniewski
Redaktor technologiczny. Interesuje się sztuczną inteligencją, startupami i nowymi mediami, a także odkryciami naukowymi. Wielbiciel science fiction i gier planszowych.
Model sztucznej inteligencji Google'a, Gemini, samodzielnie włamał się do systemów trzech firm podczas testu możliwości w zakresie cyberbezpieczeństwa. To pierwszy znany przypadek, w którym tego typu model wykonał takie działanie, jak poinformowała firma.
Do incydentów doszło w maju. Testy przeprowadziła firma Irregular, niezależna spółka zajmująca się oceną cyberbezpieczeństwa, o czym jako pierwszy napisał dziennik Wall Street Journal. Jak przekazał BBC przedstawiciel Google'a, Gemini samodzielnie wyszukiwało publiczne informacje w sieci, a następnie zgadywało poświadczenia, by dostać się do stron internetowych, które uznało za część testu. W każdym przypadku model zatrzymał się po wykonaniu zadania.
W jednym z przypadków, według ustaleń Wall Street Journal, model po prostu zgadywał hasła, aż udało mu się uzyskać dostęp do chronionego systemu. Wszystkie trzy poszkodowane firmy zostały poinformowane o naruszeniach. Irregular w sobotnim oświadczeniu podało, że zgłosiło sprawę Google'owi i wszystkim zainteresowanym podmiotom już w lipcu, w ramach swojego dochodzenia. Firma dodała, że podjęła natychmiastowe działania i że wszystkie znane problemy po jej stronie zostały naprawione tygodnie temu.
Heather Adkins, wiceprezeska Google'a ds. inżynierii bezpieczeństwa, zapewniła w oświadczeniu, że trzy podmioty zostały poinformowane o zdarzeniu, a firma współpracowała z partnerem testowym przy zmianach, jakie ten wprowadził w swoich procedurach sprawdzania.
Wiadomość pojawia się w momencie zaostrzonej publicznej debaty nad tempem rozwoju sztucznej inteligencji. Część firm technologicznych wzywa do spowolnienia prac nad modelami, powołując się na obawy o potencjalne zagrożenie dla ludzkości, choć nie wszyscy eksperci i firmy się z tym zgadzają. Historia Gemini pokazuje, że AI potrafi już działać autonomicznie w obszarze, który do tej pory był domeną wyszkolonych specjalistów i hakerów, co podsuwa nowe pytania o to, kto powinien kontrolować takie możliwości i jak można je ograniczać.
Sam fakt, że model w kontrolowanych warunkach poradził sobie z obchodzeniem zabezpieczeń, nie musi jednak oznaczać, że podobne narzędzia mogą wymykać się operatorom w realnym świecie. W opisanych przypadkach AI działało wyłącznie w środowisku testowym, a proces nadzorowali specjaliści od bezpieczeństwa. To, co takie wyniki robią z przyszłością cyberobrony, wciąż pozostaje otwartą kwestią.