Sztuczna inteligencja przyspiesza obronę przed cyberatakami, ale w podobnym tempie rozwijają się też możliwości atakujących. W miarę jak administracja publiczna, infrastruktura krytyczna i firmy coraz szerzej wdrażają systemy AI, rośnie potrzeba, by móc te systemy sprawdzić, przetestować, dostroić i odpowiednio zabezpieczyć, zanim zaczną odgrywać ważną rolę w codziennych procesach.
CrowdStrike dołącza do NVIDIA i innych firm z branży jako jeden z pierwszych partnerów Open Secure AI Alliance. Koalicja opiera się na prostym założeniu: bezpieczeństwo w erze AI najlepiej budować wspólnie, przez otwarte modele, dzielenie się narzędziami i szeroką, rozproszoną społeczność osób zajmujących się bezpieczeństwem, a nie wysiłek pojedynczych firm działających osobno. Chodzi o otwarte innowacje, wspólne badania i obronę, którą łatwiej rozwijać razem niż w izolacji. W ramach tej współpracy CrowdStrike planuje dzielić się wnioskami z własnych badań nad obroną wspieraną otwartymi modelami, w tym tymi opisanymi w tegorocznym Global Threat Report.
Sam model nie wystarczy. Liczy się to, jak jest wykorzystywany.
Testowanie modelu w oderwaniu od realnych warunków niewiele mówi o jego bezpieczeństwie. To, co ma znaczenie, to jak model radzi sobie z prawdziwą pracą analityka bezpieczeństwa i czy te same jego zdolności mogą zostać wykorzystane przez stronę atakującą. Z tego powodu otwarte modele nie są dziś tylko przedmiotem badań: są dostrajane i uruchamiane w środowiskach produkcyjnych, bo realnie zmieniają poziom ochrony firm, które je wdrażają.
CrowdStrike nazywa kluczowy element tej układanki „harnessem" - chodzi o całe środowisko, w którym model rzeczywiście pracuje. To ono decyduje, jakie dane model widzi, jak dochodzi do wniosków, co może zrobić, na jakich narzędziach się opiera i kto weryfikuje jego wynik. Bez takiego środowiska dostaje się surowy output modelu. Z nim dostaje się coś, na czym analityk może budować decyzję.
CrowdStrike przekonał się o tym w praktyce, prowadząc testy nad wykrywaniem podatności. Ten sam model frontier AI, uruchomiony w generycznym, ogólnym środowisku, generował fałszywe alarmy w blisko 80% przypadków. Po zastosowaniu harnessu zaprojektowanego specjalnie pod kątem bezpieczeństwa przez CrowdStrike liczba fałszywych alarmów spadła do około 20%, a skuteczność w wykrywaniu realnych podatności została na wysokim poziomie. Innymi słowy: sam wybór modelu rzadko decyduje o wyniku pracy. Decyduje to, jakim środowiskiem się go otoczy.
To jest właśnie powód, dla którego otwarte modele i wspólne narzędzia mają praktyczne znaczenie, a nie tylko ideologiczne. Pozwalają sprawdzać AI wobec realnych technik ataku, znajdować momenty, w których model zawodzi i testować zabezpieczenia w praktyce, a nie tylko na podstawie deklaracji producenta. Open Secure AI Alliance ma to wynieść poza laboratoria jednej firmy, żeby efekty tej pracy były dostępne dla całej branży, a nie powielane osobno przez każdego dostawcę. CrowdStrike zapowiada, że w ramach koalicji rozwija metody wykorzystania otwartych modeli do wykrywania ataków skierowanych właśnie na systemy AI i agentów. Więcej szczegółów firma ma zaprezentować na wydarzeniu Fal.Con.
Frontier czy open source?
CrowdStrike nie traktuje tego jako wybór jednego zwycięskiego podejścia. Traktuje to jako pytanie o dopasowanie: który typ modelu pasuje do której misji.
Do zadań wymagających najbardziej zaawansowanego wnioskowania firma sięga po modele frontier, współpracując z Anthropic (Mythos Preview) i OpenAI (OpenAI TAC). Efekt tej współpracy, przy odpowiednim harnessie: ponad 2400 wykrytych podatności w 43 produktach w ciągu kilku dni.
Zupełnie inne wymagania stawia budowanie systemów bezpieczeństwa AI, które muszą działać globalnie, w wielu środowiskach naraz. Tu potrzebne są modele, które da się dostroić do konkretnego zadania, wdrożyć bez nadmiernych kosztów, odpowiednio nadzorować i uruchomić bez wysyłania wrażliwej telemetrii poza infrastrukturę kontrolowaną przez samą organizację. To domena modeli otwartych. Jest w tym też argument ekonomiczny: to właśnie otwarte modele sprawiają, że bezpieczeństwo AI klasy enterprise staje się realnie dostępne dla organizacji i agencji, którym najbardziej go potrzeba.
Współpraca z NVIDIA nad modelami Nemotron jest tego dobrym przykładem. CrowdStrike dostroił model Llama Nemotron Super 49B do tłumaczenia zapytań z języka naturalnego na CQL i uzyskał 96% trafnych zapytań, wynik lepszy niż w testowanych zamkniętych modelach frontier przy tym samym, wąsko określonym zadaniu. To pokazuje, co dają otwarte modele w praktyce: większą kontrolę nad tym, jak AI jest dostrajane i wdrażane w codziennych procesach SOC, przy zachowaniu bezpieczeństwa krytycznych środowisk produkcyjnych
Sektor publiczny gra o wyższą stawkę
Agencje rządowe i operatorzy infrastruktury krytycznej znajdują się w podwójnej roli: korzystają z AI na dużą skalę i jednocześnie mają realny wpływ na to, jak AI jest regulowane i zabezpieczane w całej branży. Wdrażając systemy AI do zadań o krytycznym znaczeniu, nie mogą sobie pozwolić na czarne skrzynki. Potrzebują rozwiązań, które da się skontrolować, przetestować i którym można zaufać na podstawie dowodów, nie deklaracji producenta.
Otwarte modele odpowiadają na tę potrzebę: umożliwiają niezależną ocenę i pozwalają dostrajać AI do konkretnej misji bez utraty kontroli nad wrażliwymi danymi operacyjnymi. Dają też badaczom, dostawcom, ośrodkom akademickim i rządom sojuszniczym wspólną podstawę do wykrywania podatności i wymiany informacji o zagrożeniach, zamiast pracy w odosobnieniu.
Rozproszony model obrony, w którym wiele podmiotów wspólnie pilnuje bezpieczeństwa, od dawna jest jedną z największych przewag cybersecurity nad światem ataków. W erze AI ta przewaga zyskuje na znaczeniu jeszcze bardziej
Fundament pod przyszłość obrony
Realne bezpieczeństwo wymaga rygorystycznych testów, solidnej infrastruktury, silnego nadzoru, kontroli ze strony ludzi i szerokiej technicznej weryfikacji, a to właśnie zapewniają otwarte modele, otwarte harnessy i wspólne narzędzia.
Open Secure AI Alliance ma budować dokładnie taki fundament: przez otwarte badania, praktyczne narzędzia i zbiorową wiedzę specjalistów z całej branży. CrowdStrike dołącza do NVIDIA i innych liderów sektora jako jeden z pierwszych partnerów tej inicjatywy. Jak podkreśla sam CrowdStrike era AI wymaga nowego modelu obrony, a zbudować go można tylko wspólnym wysiłkiem całej społeczności zajmującej się bezpieczeństwem.