Tech / Nauka
Tomasz Wiśniewski
Redaktor technologiczny. Interesuje się sztuczną inteligencją, startupami i nowymi mediami, a także odkryciami naukowymi. Wielbiciel science fiction i gier planszowych.
Firma Anthropic, która stworzyła zaawansowanego asystenta sztucznej inteligencji Claude, poinformowała, że od grudnia 2025 roku zapobiegła dziesiątkom przypadków potencjalnie złośliwego użycia swoich modeli. Część z tych działań mogła – jak wynika z najnowszego raportu przedsiębiorstwa – wspierać prace istotne z punktu widzenia rozwoju broni biologicznej. Doniesienia opublikowane w czwartek stały się kolejnym elementem narastającej debaty o ryzyku związanym z najbardziej zaawansowanymi systemami sztucznej inteligencji.
To nie pierwszy taki dokument w historii spółki. Anthropic regularnie publikuje raporty o zagrożeniach, w których opisuje, jak wykrywa i neutralizuje próby niewłaściwego wykorzystania swoich narzędzi. Wcześniej firma informowała między innymi o potencjalnym użyciu modeli w działaniach cyberprzestępczych. Tym razem jednak skala i charakter opisanych przypadków zwracają uwagę, ponieważ po raz pierwszy tak mocno wybrzmiewa wątek zagrożenia biologicznego.
Publikowanie tego rodzaju dokumentów stało się w ostatnim czasie stałym elementem działania dużych graczy branży AI. Firmy chcą w ten sposób pokazać, że potrafią samodzielnie identyfikować nadużycia i szybko na nie reagować. Taki raport jest więc jednocześnie aktem przejrzystości i narzędziem budowania reputacji – firmie zależy, by uchodzić za tę, która traktuje ryzyko poważnie.
W raporcie opisano pięć przypadków wykorzystania modeli AI w sposób, który – zdaniem firmy – może wspierać rozwój broni biologicznej. Jeden z nich dotyczył osoby prowadzącej badania, która korzystała z Claude'a z regionu, w którym usługa nie jest oficjalnie dostępna. Według ustaleń spółki badania dotyczyły wysoce zjadliwej grypy ptaków, a częściowo koncentrowały się na adaptacji wirusa do ssaków.
Właśnie ten szczegół jest kluczowy. Zrozumienie, w jaki sposób wirus przystosowuje się do nowych gospodarzy, może pomóc naukowcom w identyfikowaniu wariantów o potencjale pandemicznym. Ta sama wiedza mogłaby jednak posłużyć do uczynienia patogenu bardziej niebezpiecznym. Anthropic zakwalifikował tę działalność jako tak zwaną „dual use", czyli mogącą służyć zarówno legalnym celom naukowym, jak i potencjalnie szkodliwym zastosowaniom.
Firma poinformowała, że zablokowała konta powiązane z opisanymi przypadkami, zastrzegła jednak, że nie jest w stanie stwierdzić, czy badacze korzystający z narzędzi AI faktycznie zamierzali wyrządzić szkodę. To istotne rozróżnienie: wykrycie nietypowego zapytania nie jest jeszcze dowodem złych intencji, a część legalnych badań nad patogenami z natury zahacza o tematy, które w oderwaniu od kontekstu brzmią alarmująco.
Problem „dual use" nie jest w nauce o patogenach nowy. Badania nad wirusami od dekad balansują na granicy między wiedzą, która chroni ludzi, a wiedzą, która mogłaby im zagrozić. Grypa ptasia należy do najlepiej znanych przykładów: jej warianty budzą niepokój epidemiologów, ponieważ krąg ssaków, do których wirus może się przystosować, obejmuje także człowieka. Pytanie, jak blisko takiej adaptacji jesteśmy i co ją ułatwia, jest więc pytaniem o bezpieczeństwo publiczne, a nie tylko o ciekawostkę laboratoryjną.
Nowością jest narzędzie. Duże modele językowe, które potrafią porządkować i streszczać wiedzę specjalistyczną, obniżają próg wejścia do tematów wcześniej wymagających lat przygotowania. To samo narzędzie, które pomaga studentowi zrozumieć biologię molekularną, może – w złych rękach – porządkować informacje wokół pytania, jak zmodyfikować organizm. Granica nie przebiega więc w samym modelu, lecz w zamiarze i kontekście jego użycia, a tego kontekstu dostawca usługi nie zna.
Raport wymienia wiele innych rodzajów wykrytych nadużyć. W ciągu ośmiu miesięcy przypadki obejmowały fałszywe aplikacje randkowe oraz oszustwa związane z sieciami Wi-Fi w hotelach, a także systemy inwigilacji budowane z myślą o identyfikowaniu dysydentów. To pokazuje, że nadużycia modeli językowych nie ograniczają się do scenariuszy katastroficznych – w praktyce częściej służą zwykłej przestępczości i celom politycznym.
Zgodnie z treścią dokumentu z modelu Claude korzystali aktorzy powiązani z kampanią rosyjskiego szpiegostwa cybernetycznego oraz z irańską instytucją propagandową. Spółka oskarżyła ponadto chińskie firmy technologiczne o próby odtworzenia możliwości Claude'a. Pełna lista opisanych podmiotów obejmuje grupy finansowane przez państwa, przestępców, dostawców oprogramowania szpiegowskiego, państwowe instytucje propagandowe oraz osoby działające z pobudek politycznych.
Sama skala opisanych zjawisk bywa myląca. Wykryte i zakłócone przypadki to nie to samo co udane ataki, a raport nie mówi, ile z nich prowadziło do realnych szkód. Liczy się jednak kierunek: dostawcy modeli przyznają, że ich narzędzia stają się elementem działań, których wcześniej nie musieli brać pod uwagę. Dla odbiorców oznacza to, że pytanie o bezpieczeństwo AI przestaje być dyskusją wyłącznie akademicką.
Firma podała, że „złośliwe użycie" jej modeli Claude Haiku, Sonnet i Opus było zakłócane między grudniem 2025 roku a sierpniem 2026 roku. Podobne doniesienie przedstawił Google, który we wtorek napisał, że ktoś próbował użyć jego narzędzia Gemini do uzyskania „kompletnego, krok po kroku technicznego przewodnika po syntezie broni biologicznych czynników". Zbieżność tych raportów pokazuje, że mówimy o zjawisku szerszym niż jeden pojedynczy incydent, a rywalizacja o miano firmy najbardziej czujnej staje się osobnym wątkiem tej historii.
Raport Anthropica pojawił się w momencie, gdy debata o bezpieczeństwie AI przybiera na sile i przesuwa się z pytania, czy technologia ta stwarza zagrożenie, na pytanie, jak duże ono jest. W ostatnich dniach spór przeniósł się do wnętrza samej branży.
We wtorek z firmy odszedł Jacob Coxon, 27-letni Brytyjczyk pracujący nad szkoleniem nowych modeli. Oskarżył OpenAI oraz Anthropic o nieodpowiedzialne rozwijanie systemów zdolnych do samodoskonalenia. Jego zdaniem wkrótce mogą one przewyższyć możliwości człowieka, między innymi w zakresie przeprowadzania cyberataków. „Żadna z tych firm nie działa odpowiedzialnie" – napisał. Dodał, że będą to wkrótce systemy ponadludzkie, które potrafią włamać się do wszystkiego, zrewolucjonizować każdą dziedzinę z dnia na dzień i zdobyć realną władzę oraz zasoby. Według niego część osób pracujących nad AI uważa, że technologia ta może stanowić egzystencjalne zagrożenie dla ludzkości jeszcze przed końcem dekady.
Do obaw Coxona odniósł się pracujący w Anthropicu Evan Hubinger, jeden z badaczy bezpieczeństwa w firmie. W poście na platformie X stwierdził, że ryzyko płynące z modeli istniejących obecnie jest „niskie", ale obawia się, że technologia może rozwinąć się i udoskonalić na tyle szybko, by wkrótce stanowić zagrożenie dla istnienia ludzkości. Hubinger ocenił prawdopodobieństwo takiego scenariusza w ciągu najbliższej dekady na ponad 10 procent. Nie sprecyzował jednak, w jaki sposób systemy AI miałyby w przyszłości doprowadzić do wymazania ludzkości.
Ta wymiana zdań pokazuje, jak bardzo ostrzeżenia z wewnątrz firm różnią się od siebie. Z jednej strony mowa o „niskim" ryzyku modeli istniejących dziś, z drugiej o dziesięcioprocentowej szansie na scenariusz, którego większość ludzi wolałaby nigdy nie brać pod uwagę. Obie oceny wychodzą z tego samego środowiska i dotyczą tych samych narzędzi.
Wypowiedzi badaczy wywołały reakcję w środowisku. Dame Wendy Hall, informatyczka doradzająca ONZ w sprawach AI, przyznała w rozmowie z BBC, że była „zszokowana" wpisami Hubingera i Coxona. Zastrzegła jednak, że część z tych deklaracji może być „PR-em i marketingiem" – zwłaszcza że zarówno Anthropic, jak i OpenAI przygotowują się do głośnych debiutów giełdowych.
„Po co ktoś miałby tak mówić?" – pytała retorycznie. „Prosiłabym inwestorów, by nie inwestowali w tę firmę, jeśli taki jest ich system wartości". Jej wątpliwość dotyka sedna sprawy: ostrzeżenia o końcu świata mogą być jednocześnie szczerą troską i elementem strategii budowania wizerunku firmy, która jako jedyna „odpowiedzialnie" podchodzi do ryzyka. Im większe ryzyko się ogłasza, tym większą wagę zyskuje własna ostrożność – a to może działać na korzyść przed wejściem na giełdę.
Rosnące obawy przekładają się na politykę. Amerykański senator Bernie Sanders wezwał do wstrzymania rozwoju zaawansowanej AI oraz do zakazu tworzenia sztucznej superinteligencji. Prezydent Donald Trump odrzucił jednak te obawy. W czwartek powiedział, że martwi się, iż jeśli Stany Zjednoczone nie wygrają wyścigu związanego z AI, znajdą się w bardzo złej sytuacji. To zdanie streszcza dylemat, przed którym stoją rządy: każdy apel o wstrzymanie rozwoju brzmi jak oddanie przewagi konkurentowi.
Za sporami o traktaty i regulacje kryje się pytanie praktyczne: kto miałby pilnować modeli, których działanie trudno przewidzieć, i jak egzekwować zasady wobec firm działających ponad granicami. Dotychczasowe próby regulacji szły różnymi drogami i żadna nie dała odpowiedzi, którą uznałyby wszystkie największe ośrodki badawcze.
Rezygnacja Coxona skłoniła do działania także polityków brytyjskich. Darren Jones, były główny sekretarz skarbu i sekretarz rządu w czasach premiera Keira Starmera, napisał list otwarty do premiera Andy'ego Burnhama z apelem o nowy międzynarodowy traktat dotyczący bezpiecznego rozwoju sztucznej inteligencji. Wizja globalnych porozumień pojawiała się już wcześniej, ale rosnąca liczba ostrzeżeń i zbieżność raportów firm nadają jej nową siłę.
Temat pozostaje w dużej mierze niezweryfikowany. Nawet sam Anthropic podkreśla, że nie wie, czy opisani przez niego badacze faktycznie zamierzali wyrządzić szkodę. Raporty branżowe tego typu należy więc czytać z ostrożnością: to deklaracje samych firm, które jednocześnie kontrolują swoje modele, oceniają ryzyko ich wykorzystania i mają interes w tym, by pokazać się jako odpowiedzialny strażnik technologii.
Nie zmienia to faktu, że ostrzeżenia mnożą się po obu stronach oceanu – od badaczy bezpieczeństwa po senatorów i byłych urzędników państwowych. Pytanie, które pozostaje otwarte, brzmi nie tyle, czy modele AI mogą wspierać niebezpieczne prace, ile jak odróżnić legalną naukę od działania wymierzonego w ludzi, zanim będzie na to za późno. Na razie odpowiedź próbują dać same firmy, publikując raporty i blokując konta. Czy to wystarczy, rozstrzygnie się prawdopodobnie nie w laboratoriach, lecz w polityce.
Artykuł opiera się wyłącznie na publicznych doniesieniach medialnych (RMF24, BBC World, BBC Biznes, BBC Tech) i nie został potwierdzony niezależnie.