Tech / Nauka
Tomasz Wiśniewski
Redaktor technologiczny. Interesuje się sztuczną inteligencją, startupami i nowymi mediami, a także odkryciami naukowymi. Wielbiciel science fiction i gier planszowych.
Anthropic, amerykańska firma stojąca za asystentem sztucznej inteligencji Claude, poinformowała w swoim najnowszym raporcie o zagrożeniach, że od grudnia 2025 roku zapobiegła dziesiątkom przypadków potencjalnie złośliwego wykorzystania swoich modeli. Część z nich – według spółki – mogła wspierać prace istotne z punktu widzenia rozwoju broni biologicznej. Firma podkreśla jednocześnie, że nie jest w stanie ustalić, czy osoby korzystające z jej narzędzi rzeczywiście zamierzały wyrządzić szkodę.
To doniesienie łączy w sobie dwie historie, które w publicznej debacie o sztucznej inteligencji zwykle toczą się osobnymi torami. Z jednej strony mamy konkretne, opisane przez firmę przypadki nadużyć jej systemów. Z drugiej – coraz ostrzejsze ostrzeżenia badaczy i insiderów branży, że najbardziej zaawansowane modele mogą wkrótce stanowić poważne zagrożenie dla ludzkości.
Raport opublikowano w czwartek, a jego treść trafiła do mediów na całym świecie praktycznie jednocześnie z odejściem jednego z czołowych badaczy firmy. To zestawienie dwóch faktów – konkretnego ostrzeżenia o nadużyciach i publicznego konfliktu wewnątrz spółki – sprawiło, że temat znalazł się w centrum uwagi.
W najnowszym raporcie o zagrożeniach Anthropic opisał pięć przypadków wykorzystania należących do niej modeli AI w sposób, który – zdaniem przedsiębiorstwa – „może wspierać rozwój broni biologicznej”. Spółka poinformowała, że zablokowała konta powiązane z tymi przypadkami, a także z dziesiątkami innych działań uznanych za potencjalnie złośliwe w okresie od grudnia 2025 do sierpnia 2026 roku.
Jedna z osób prowadzących badania korzystała z Claude'a z regionu, w którym usługa nie jest oficjalnie dostępna. Według firmy badania dotyczyły wysoce zjadliwej grypy ptaków, a częściowo koncentrowały się na adaptacji wirusa do ssaków i mechanizmach, które pozwalają mu wywołać ciężką chorobę poza układem oddechowym.
Z doniesień wynika również, że w maju inny badacz korzystał z Claude'a podczas prac nad ptasią grypą. Badanie skupiało się między innymi na tym, jak wirus przystosowuje się do organizmu ssaków. Anthropic odkrył, że to konto było powiązane z państwowym laboratorium chorób zakaźnych.
Przedstawiciele firmy nie wiedzą, do czego mogły być wykorzystywane prowadzone z jej narzędziem prace. „Nie widzimy osoby, która mówiłaby, jak w komiksie: »Hej, chcę stworzyć broń biologiczną i zabić wszystkich«" – mówi cytowany w doniesieniach Jacob Klein, szef działu analizy zagrożeń w Anthropicu. Firma nie zna dokładnych planów badaczy, nie ujawnia też nazw organizacji badawczych ani krajów, z których pochodzili.
Sedno sprawy dobrze oddaje stosowane przez firmę określenie „dual use". Chodzi o działalność, która może służyć zarówno legalnym celom naukowym, jak i potencjalnie szkodliwym zastosowaniom. Anthropic zwraca uwagę, że według jego oceny te same metody mogą być stosowane zarówno przy opracowywaniu leków i szczepionek, jak i przy tworzeniu niebezpiecznych patogenów.
Firma zauważa, że zrozumienie, w jaki sposób wirus adaptuje się do nowych gospodarzy, może pomóc naukowcom w identyfikowaniu wariantów o potencjale pandemicznym. Jednocześnie – jak zaznacza spółka – tego rodzaju informacje mogłyby zostać wykorzystane do uczynienia wirusa bardziej niebezpiecznym. Innymi słowy: ta sama wiedza, która pomaga przygotować się na kolejną pandemię, w innych rękach może pomóc ją wywołać.
Anthropic podkreśla przy tym, że nie jest w stanie stwierdzić, czy badacze korzystający z narzędzi AI faktycznie zamierzali wyrządzić szkodę. Zablokowanie kont nie jest bowiem równoznaczne z udowodnieniem złej woli. To zastrzeżenie pada w raporcie wprost i ma duże znaczenie dla interpretacji całego zdarzenia – trudno odróżnić badania prowadzone w dobrej wierze w instytucjach państwowych od prób przygotowania ataku biologicznego, zwłaszcza gdy oba przypadki dotyczą tej samej dziedziny.
To właśnie ten dwoisty charakter sprawia, że przypadki opisane przez firmę są tak trudne do jednoznacznej oceny. Instytucje zajmujące się zdrowiem publicznym od lat badają, jak wirusy przechodzą na nowych gospodarzy, bo bez tej wiedzy nie da się przygotować szczepionek ani monitorować zagrożenia pandemicznego. Z drugiej strony te same pytania – o zmiany w genomie zwiększające zakaźność i ciężkość przebiegu choroby – są dokładnie tym, co chciałby wiedzieć ktoś, kto planuje użyć patogenu jako broni.
Przypadki związane z biosekurytetem to jednak tylko część szerszego obrazu. Raport Anthropica, jak opisują go media, wymienia także wiele innych nadużyć jego technologii. Claude był używany – według doniesień – przez podmioty powiązane z rosyjską kampanią cyberszpiegostwa oraz przez irańską instytucję propagandową.
Wykryte w ciągu ostatnich ośmiu miesięcy przypadki budzące niepokój obejmowały między innymi fałszywe aplikacje randkowe, oszustwa związane z sieciami Wi-Fi w hotelach, a także oprogramowanie inwigilacyjne budowane w celu identyfikowania dysydentów. To pokazuje, jak szeroki jest wachlarz zastosowań, w których sprawcy próbują wykorzystać ogólnodostępne modele – od typowych przestępstw nastawionych na zysk, przez nadzór państwowy, po operacje wpływowe.
Firma oskarżyła również chińskie firmy AI o próby odtworzenia możliwości Claude'a. Długi raport – jak relacjonuje BBC – wymienia przypadki, w których podejrzewane grupy sponsorowane przez państwa, przestępcy, dostawcy oprogramowania szpiegowskiego, państwowe instytucje propagandowe oraz osoby działające z pobudek politycznych nadużywały technologii Anthropica. Złośliwe wykorzystanie modeli Claude Haiku, Sonnet i Opus miało być przerywane między grudniem 2025 a sierpniem 2026 roku.
Anthropic nie jest zresztą jedyną firmą, która w ostatnich dniach donosi o tego typu nadużyciach. Google – jak podaje BBC – napisał we wtorek, że ktoś próbował wykorzystać jego narzędzie Gemini do uzyskania „kompletnego, krok po kroku przewodnika technicznego dotyczącego syntezy broni biologicznej". Takie raporty stają się – zdaniem komentatorów – stałym elementem działalności branży, która w ten sposób stara się pokazać, że identyfikuje i przerywa próby niewłaściwego użycia swoich modeli.
Warto zwrócić uwagę na skalę czasową raportu. Mowa o ośmiu miesiącach i dziesiątkach przerwanych działań, co – jak podkreślają media – pokazuje, że nadużycia nie są teoretycznym scenariuszem na przyszłość, lecz zjawiskiem, z którym firmy mierzą się już teraz, na bieżąco. Anthropic wcześniej informował między innymi o potencjalnym wykorzystywaniu swoich modeli w działaniach cyberprzestępczych, co wpisuje się w ten sam wzorzec.
Publikacja raportu zbiegła się z głośnym odejściem z Anthropica Jacoba Coxona, jednego z badaczy zajmujących się szkoleniem nowych modeli. Odejście, o którym media pisały w środę i czwartek, wywołało nową falę dyskusji na temat bezpieczeństwa dalszego rozwoju coraz bardziej zdolnych modeli AI. Brytyjczyk, który wcześniej pracował również w OpenAI, zarzucił obu firmom nieodpowiedzialne rozwijanie systemów zdolnych do samodoskonalenia.
„Żadna z tych firm nie postępuje odpowiedzialnie" – miał napisać Coxon. „Te systemy wkrótce będą superinteligentne, będą w stanie włamać się do wszystkiego, zrewolucjonizować każdą dziedzinę z dnia na dzień i zdobyć realną władzę oraz zasoby". Ocenił, że mogą one wkrótce przewyższyć możliwości człowieka, między innymi w zakresie przeprowadzania cyberataków.
Do obaw odniósł się również pracujący w Anthropicu badacz bezpieczeństwa Evan Hubinger. W poście w serwisie X uznał, że prawdopodobieństwo, iż sztuczna inteligencja „może zabić wszystkich ludzi" w ciągu najbliższej dekady, wynosi ponad 10 procent. Hubinger zaznaczył przy tym, że ryzyko związane z obecnie istniejącymi modelami ocenia jako „niskie", ale przyznał, że martwi go możliwość, iż technologia rozwinie się i udoskonali sama do poziomu stanowiącego egzystencjalne zagrożenie dla ludzkości. Nie sprecyzował przy tym, w jaki sposób systemy AI mogłyby w przyszłości doprowadzić do wyginięcia ludzi.
Zdaniem części osób z branży, ocena Hubingera lokuje się bliżej pesymistycznego skraju debaty. Nie zmienia to faktu, że pojawia się ona w momencie, gdy dyskusja przesuwa się – jak zauważa BBC – z pytania, czy AI naprawdę niesie ryzyko, na pytanie, jak duże jest to ryzyko.
Rosnące ostrzeżenia przełożyły się na konkretne apele polityczne. Amerykański senator Bernie Sanders domaga się – jak podaje BBC – wstrzymania zaawansowanego rozwoju AI oraz wprowadzenia zakazu tworzenia superinteligencji. Coraz więcej amerykańskich polityków apeluje o silniejszy nadzór państwa i nowe zasady bezpieczeństwa dla firm rozwijających sztuczną inteligencję.
Prezydent Donald Trump odrzuca na razie te obawy. W czwartek miał mówić, że obawia się tego, iż „jeśli nie wygramy wyścigu o AI, znajdziemy się w bardzo złej pozycji". To zdanie dobrze pokazuje, gdzie przebiega główna linia sporu: między tymi, którzy widzą w AI przede wszystkim zagrożenie wymagające ostrożności, a tymi, którzy postrzegają ją jako technologiczny wyścig, w którym nie można pozwolić sobie na pozostanie w tyle.
Reakcje nie ograniczają się do Stanów Zjednoczonych. Dame Wendy Hall, informatyczka doradzająca ONZ w sprawach AI, przyznała w rozmowie z BBC, że „była wstrząśnięta" wpisami Hubingera i Coxona w mediach społecznościowych. Część tych wystąpień – jak zastrzegła – może być jednak „działaniem PR-owym i marketingowym", ponieważ Anthropic i OpenAI zbliżają się do długo wyczekiwanych debiutów giełdowych.
„Po co ktoś miałby tak mówić? Błagałabym inwestorów, żeby nie inwestowali w tę firmę, jeśli takie są jej wartości" – miała dodać Hall. Z kolei odejście Coxona skłoniło Darrena Jonesa, byłego głównego sekretarza skarbu w brytyjskim rządzie, do napisania otwartego listu do premiera Andy'ego Burnhama z apelem o nowy, międzynarodowy traktat dotyczący bezpiecznego rozwoju AI.
Dla zwykłego odbiorcy spór ten może brzmieć abstrakcyjnie, ale ma wymiar praktyczny. Chodzi o to, czy firmy rozwijające najbardziej zaawansowane modele będą działać według własnych, wewnętrznych zasad, czy też podlegają zewnętrznemu nadzorowi – i kto w ogóle miałby taki nadzór sprawować. Apel o międzynarodowy traktat w sprawie AI jest właśnie próbą przeniesienia tej dyskusji z poziomu pojedynczych firm na poziom państw.
Opublikowany raport dostarcza wielu szczegółów, ale pozostawia także otwarte pytania. Najważniejsze dotyczy intencji. Anthropic sam przyznaje, że nie potrafi stwierdzić, czy badacze, których konta zablokowano, zamierzali faktycznie zaszkodzić. Bez tego trudno ocenić, czy mamy do czynienia z próbą przygotowania broni biologicznej, czy z pracami naukowymi, które – choć prowadzone w wrażliwym obszarze – mieściły się w granicach legalnych badań.
Firma nie ujawnia też nazw organizacji, krajów ani osób, których dotyczyły poszczególne przypadki. To z jednej strony zrozumiała ostrożność, z drugiej – ograniczenie dla zewnętrznych obserwatorów, którzy muszą polegać wyłącznie na jednostronnej relacji spółki.
Całą sytuację należy też czytać w szerszym kontekście rynkowym, na co zwracają uwagę komentatorzy: raporty o zagrożeniach stają się standardem w branży w momencie, gdy największe firmy przygotowują się do upublicznienia akcji i chcą w ten sposób wykazać, że traktują bezpieczeństwo poważnie. Nie zmienia to jednak faktu, że opisane przypadki – zwłaszcza te związane z badaniami nad patogenami – trafiają w samo sedno debaty o tym, kto i w jakim zakresie powinien kontrolować rozwój najbardziej zaawansowanych systemów sztucznej inteligencji.
Nawet liczba „dziesiątek” przerwanych przypadków jest trudna do zweryfikowania z zewnątrz. Nie wiadomo, ile z nich dotyczyło poważnych zagrożeń, a ile działań zakwalifikowanych jako ryzykowne dopiero po przyjęciu bardzo ostrożnych kryteriów. Bez dostępu do pełnych danych pozostaje polegać na komunikacie samej firmy.
Artykuł powstał wyłącznie na podstawie publicznych doniesień medialnych (Onet, RMF24, BBC World, BBC Biznes, BBC Tech). Informacje w nim zawarte pochodzą od firmy Anthropic oraz z relacji mediów.