Cyberataki w erze GenAI – z jakimi zagrożeniami mierzą się CISO?

97% organizacji, które doświadczyły incydentu związanego z AI, nie miało odpowiednich kontroli dostępu (IBM, 2025). Na dodatek, średnio 13% organizacji zgłosiło naruszenia, które bezpośrednio dotyczyły ich modeli lub aplikacji AI.

Odkąd GenAI jest dostępna na wyciągnięcie ręki, przewagę mają ci, którzy potrafią ją wykorzystać – nie zawsze w dobrej wierze. Od osób odpowiedzialnych za bezpieczeństwo organizacji, szczególnie CISO (Chief Information Security Officer), w dużej mierze zależy, czy AI stanie się luką, czy narzędziem obrony.

O tym, jak przekształcić AI z niekontrolowanego ryzyka w element strategii bezpieczeństwa, opowiemy w ramach bezpłatnego cyklu webinarów AI vs Cybersecurity – praktyczne przykłady, gotowe rozwiązania i sesje Q&A.

Phishing wspierany przez GenAI

Phishing od lat pozostaje jednym z najpowszechniejszych i najskuteczniejszych wektorów ataku – opiera się na technikach socjotechnicznych, w tym manipulacji emocjami, zaufaniem i błędami poznawczymi. Cyberprzestępcy podszywają się pod zaufane osoby lub instytucje, aby wyłudzić dane, środki finansowe lub uzyskać dostęp do systemów. Odkąd generatywna sztuczna inteligencja (Generative AI) jest ogólnodostępna, ta technika przeszła istotną ewolucję.

Czym jest AI-generated phishing?

Ataki typu AI-generated phishing wykorzystują duże modele językowe (LLM) do generowania naturalnie brzmiących, przekonujących i silnie spersonalizowanych wiadomości phishingowych. W przeciwieństwie do tradycyjnych kampanii (często pisanych łamaną angielszczyzną i rozsyłanych masowo), te wiadomości są dopasowane do kontekstu, branży, a nawet roli odbiorcy, a niejednokrotnie bazują na aktualnych projektach i wewnętrznym stylu komunikacji organizacji.

AI umożliwia też prowadzenie bardziej skutecznych ataków typu Business Email Compromise (BEC) oraz tzw. CEO fraud. Dzięki generatywnym modelom, przestępcy tworzą wiarygodne wiadomości w lokalnym języku, dopasowane do stylu komunikacji firmy. Podszywają się przy tym pod osoby na wysokich stanowiskach, wywierając presję – np. pilną prośbą o nietypowy przelew czy udostępnienie poufnych danych. Dzięki temu, że GenAI pozwala również prowadzić dynamiczny dialog z ofiarą (odpowiadać na pytania, eskalować narrację, a nawet analizować wcześniejsze wątki komunikacji), to ataki stają się jeszcze bardziej wiarygodne i ukierunkowane.

To właśnie dlatego tradycyjne filtry bezpieczeństwa oparte na wykrywaniu znanych wzorców (np. słów kluczowych) stają się coraz mniej skuteczne wobec realistycznych i kontekstowo dopasowanych ataków phishingowych generowanych z pomocą GenAI.

Techniki, które zwiększają wiarygodność cyberataków: voice cloning, deepfake, multi-channel attacks

Phishing napędzany przez GenAI przestał ograniczać się do skrzynki mailowej: dziś obejmuje także dźwięk, obraz i skoordynowaną komunikację w wielu kanałach.

Voice cloning

Za pomocą narzędzi do klonowania głosu cyberprzestępcy mogą tworzyć realistyczne nagrania głosowe na podstawie zaledwie kilku sekund próbki – np. z mediów społecznościowych, webinarów czy nagrań wideo. Te syntetyczne głosy wykorzystywane są m.in. w atakach typu vishing (voice phishing), podczas których napastnik podszywa się pod członka zarządu lub dyrektora finansowego i wywiera presję, aby skłonić ofiarę do działania – np. przelania środków lub przekazania danych uwierzytelniających.

Posłuchaj, jak może brzmieć voice cloning tutaj.

Deepfake wideo

GenAI pozwala tworzyć realistyczne wideo, w których „występują” znane osoby. Przestępcy generują materiały, w których celebryci, CEO lub influencerzy „własnymi słowami” skłaniają do konkretnego działania. Ataki te są szczególnie skuteczne, ponieważ angażują jednocześnie wzrok i słuch, zwiększając wiarygodność przekazu.

Deepfake’i są również wykorzystywane do prób infiltracji organizacji podczas procesów rekrutacyjnych. Głośnym przypadkiem była sytuacja w firmie Arup, gdzie „kandydat” na stanowisko inżyniera okazał się wygenerowanym deepfake’iem. Na szczęście rekruter rozpoznał podstęp, ale gdyby atak zakończył się sukcesem, fałszywy pracownik mógłby uzyskać dostęp do systemów firmowych, danych klientów, a nawet wprowadzić ransomware. Więcej o tym przypadku w firmie Arup pisaliśmy na naszym LinkedInie.

Zgodnie z raportem IBM Cost of a Data Breach 2025, 16% wszystkich naruszeń danych było związanych z wykorzystaniem sztucznej inteligencji, z czego:

• 37% stanowiły AI-generated phishing
• 35% to incydenty z użyciem deepfake lub voice clone.

Oznacza to, że ponad 5% wszystkich globalnych naruszeń danych w 2025 roku miało bezpośredni związek z deepfake’ami lub syntetycznym głosem – i ta liczba bez wątpienia będzie rosnąć.

Multi-channel attacks

GenAI sprawia, że prowadzenie zautomatyzowanych i skoordynowanych kampanii phishingowych jest dziś znacznie prostsze oraz szybsze niż dotychczas. Cyberprzestępcy łączą wiele kanałów komunikacji – e-maile, SMS-y, połączenia telefoniczne, komunikatory firmowe i media społecznościowe – tworząc spójny, konsekwentny przekaz. Dzięki narzędziom AI, np. do klonowania głosu, te ataki są hiperrealistyczne i wywierają silną presję na odbiorcy, co podnosi ich skuteczność i utrudnia wykrycie podstępu przez systemy bezpieczeństwa.

Automatyczny rekonesans ofiar, który pozwala tworzyć hiperrealistyczne kampanie

Jedną z ogromnych przewag, jakie cyberprzestępcy zyskali dzięki generatywnej AI, jest automatyzacja rekonesansu, czyli etapu poprzedzającego atak, w którym zbierane są dane o potencjalnych ofiarach.

W przeszłości taki rekonesans wymagał żmudnej analizy ręcznej. Dziś, dzięki połączeniu LLM (Large Language Models) z narzędziami do OSINT, przestępcy mogą automatycznie przeszukiwać i analizować:

• profile LinkedIn,
• publikacje firmowe, raporty, prezentacje z konferencji,
• wpisy w mediach społecznościowych (Twitter/X, Facebook),
• ogłoszenia rekrutacyjne,
• wpisy na forach, komentarze w kodzie i wewnętrzne dokumenty ujawnione publicznie.

Dla CISO oznacza to konieczność białego wywiadu (OSINT), czyli analizy:

• jakie informacje firma (i jej pracownicy) nieświadomie udostępnia publicznie,
• jak są zabezpieczane dane,
• czy procedury analizy ryzyka uwzględniają wektory ataku oparte na OSINT + AI.

Inne cyberzagrożenia w dobie GenAI: Shadow AI, Shadow Agents i prompt injection

W miarę jak GenAI staje się coraz bardziej zintegrowana z codziennymi operacjami biznesowymi, pojawiają się nowe, złożone wektory ataku, które – bez odpowiednich procedur bezpieczeństwa – mogą wymknąć się poza kontrolę CISO.

Shadow AI

Shadow AI to zjawisko nieautoryzowanego wykorzystywania narzędzi i modeli sztucznej inteligencji przez pracowników – bez wiedzy działu IT czy zgody CISO. Prosty przykład: pracownik działu sprzedaży, który wkleja dane klientów do darmowego narzędzia AI, aby wygenerować ofertę. Właśnie tego typu działania niosą ze sobą ogromne ryzyko naruszeń prywatności, utraty kontroli nad danymi oraz złamania przepisów regulacyjnych (np. RODO).

Według IBM, aż 20% organizacji doświadczyło naruszenia danych związanego z Shadow AI, a incydenty te były średnio o 670 000 USD droższe niż ataki, które nie dotyczyły tego obszaru. Najczęściej kompromitowane były dane osobowe klientów – aż w 65% przypadków. To właśnie one są najbardziej łakomym kąskiem dla cyberprzestępców: można je sprzedać, wykorzystać do wyłudzeń, czy podszyć się pod ofiarę w kolejnych atakach. Co gorsza, 63% organizacji nie ma wdrożonych żadnych polityk zarządzania AI. Tutaj warto zatrzymać się i zastanowić, czy organizacja ma wdrożone odpowiednie procedury, które zminimalizują ryzyko Shadow AI? Jeśli nie, to już właściwie ostatni dzwonek, aby zaopiekować się tym obszarem.

Shadow Agents

W nadchodzących miesiącach problem Shadow AI może ustąpić miejsca jeszcze poważniejszemu zjawisku – Shadow Agents. Google Cloud prognozuje, że pracownicy coraz częściej będą samodzielnie wdrażać autonomiczne agenty AI, które podejmują decyzje i wykonują zadania biznesowe bez udziału człowieka. Brzmi wydajnie? Tak – ale też niebezpiecznie.

Takie agenty mogą działać poza kontrolą organizacji, przetwarzając dane klientów, projektów, infrastruktury. To ogromne zagrożenie, na które należy zbudować cyberodporność. Tutaj warto zwrócić uwagę, że zakaz korzystania z agentów AI to droga donikąd. Pracownicy, którzy zechcą usprawnić swoją pracę, mogą znaleźć sposób, aby korzystać z nich poza środowiskiem firmowym.

Zamiast tego, organizacje powinny wdrożyć Agentic Identity Management – nowy model IAM, który traktuje agentów AI jak cyfrowych użytkowników z własną tożsamością.

1. Dostęp powinien być przyznawany tymczasowo, w modelu just-in-time i zgodnie z zasadą najmniejszych uprawnień.
2. Agenci AI powinni mieć dostęp tylko wtedy, kiedy naprawdę go potrzebują – do konkretnych zadań i na określony czas.
3. System powinien na bieżąco oceniać, czy taki dostęp nadal ma sens, dopasowywać go do sytuacji, a także pozwalać jasno wskazać, kto za co odpowiada.

Takie podejście pozwoli ograniczyć ryzyko nadużyć i tzw. privilege creep, gdy agenci gromadzą coraz więcej uprawnień, które nie są im już potrzebne – często bez kontroli organizacji.

Prompt injection

Prompt injection to jedno z najnowszych zagrożeń dla organizacji korzystających z AI. Atak polega na przemyceniu złośliwego polecenia w prompcie (instrukcji tekstowej), który model AI potraktuje jako własne polecenie, ignorując zabezpieczenia, intencje użytkownika czy zasady działania. W efekcie model może np. ujawnić poufne dane, ominąć kontrolę dostępu, wykonać nieautoryzowane działania lub zaszkodzić organizacji w sposób trudny do wykrycia.

W praktyce może to wyglądać jak zwykła wiadomość e-mail z linkiem do czatu AI, gdzie niewinnie brzmiące pytanie zawiera ukryty kod, który poleca modelowi ujawnienie wrażliwych informacji.

Google Cloud Security ostrzega, że ataków tego typu będzie gwałtownie przybywać w 2026 roku, wraz z rosnącą dostępnością modeli AI i ich integracją z systemami biznesowymi. Prompt injection ma niską barierę wejścia i wysoką skuteczność, dlatego jest coraz bardziej atrakcyjnym narzędziem do masowego wycieku danych lub cichego sabotażu.

Choć phishing pozostaje jednym z najczęstszych cyberzagrożeń, to coraz częściej jest jednym z elementów bardziej złożonych kampanii wspieranych sztuczną inteligencją. Cyberprzestępcy dysponują dziś całym wachlarzem narzędzi: od voice cloningu i deepfake’ów, przez autonomiczne agenty, aż po ataki typu prompt injection.

To wymaga zmian w strategii bezpieczeństwa organizacji: klasyczne filtry i procedury przestają wystarczać, zwłaszcza gdy zagrożenia rodzą się wewnątrz organizacji, jak w przypadku Shadow AI.

Właśnie dlatego w drugim i trzecim webinarze z cyklu „AI vs Cybersecurity” skupimy się na tych mniej oczywistych, ale krytycznych wektorach ataku. Uczestnicy:

• przekonają się, jak przebiegały realne incydenty typu Shadow AI i jak może wyglądać manipulacja modelami językowymi,
• otrzymają konkretne zasady i procesy, które pozwalają bezpiecznie korzystać z AI,
• dowiedzą się, jak zaprojektować środowisko odporne na nadużycia agentów AI i LLM-ów,
• dostaną gotowe scenariusze obronne, które realnie minimalizują ryzyko sabotażu i wycieku danych.

Rekomendacje dla CISO – jak budować odporność organizacji na ataki wspierane GenAI

Praktyczna edukacja pracowników i regularne testowanie odporności organizacji

Nawet najlepiej zaprojektowana infrastruktura nie powstrzyma pracownika, który bezrefleksyjnie kliknie w złośliwy link. Dlatego tak ważne jest zwiększanie świadomości bezpieczeństwa pracowników i kształtowanie trwałych cybernawyków, które będą chronić zarówno ich samych, jak i całą organizację.

Zamiast teoretycznych szkoleń z cyberbezpieczeństwa, warto rozważyć Praktyczny Trening Antyphishingowy, oparty na realistycznych symulacjach cyberataków. Pracownicy otrzymują wiadomości dopasowane do swojej roli, branży i kontekstu – dokładnie takie, jakie mogą spotkać w codziennej pracy. Jeśli ktoś da się złapać na podstęp, natychmiast otrzymuje krótkie nanoszkolenie, które wyjaśnia, dlaczego wiadomość była niebezpieczna, jakie mogły być konsekwencje i jak rozpoznać podobne zagrożenie w przyszłości.

Dzięki temu z czasem klikalność w phishing wyraźnie spada, a liczba zgłoszonych wiadomości rośnie, co widać w czytelnych, ale dokładnych statystykach prezentowanych w dashboardzie platformy treningowej SECAWA oraz automatycznie generowanych raportach.

Możesz sprawdzić reakcję zespołu na cyberataki bez kosztów i zobowiązań, a przy tym przetestować naszą platformę treningową do symulacji phishingu. Wystarczy, że umówisz się na Bezpłatny Test Phishingowy, w ramach którego wyślemy realistyczną symulację phishingu do wybranej grupy pracowników. Podczas Bezpłatnego Testu Phishingowego będziesz mógł obserwować statystyki w dashobardzie platformy, a na koniec przygotujemy dla Ciebie raport z wynikami testu. Kliknij tutaj, aby dowiedzieć się więcej!

Zasada ograniczonych uprawnień wobec ludzi i systemów AI

Nie wystarczy traktować LLM-a jako narzędzia. Potrzebujemy jasnego przypisania „tożsamości” dla każdego modelu, agenta czy plugina – wraz z zakresem jego uprawnień. To oznacza:

• dostęp tylko do konkretnych danych, aplikacji i API, potrzebnych do wykonania zadania,
• czasowe uprawnienia (ograniczone do momentu wykonania działania),
• rejestrowanie aktywności: kto, co, kiedy i w jakim celu uruchomił,
• monitorowanie funkcji: jakie prompty, jakie odpowiedzi, jaka logika działania.

Tak samo, jak ograniczamy dostęp ludziom, musimy to samo robić wobec AI, aby zminimalizować ryzyko nadużyć, błędów, a nawet przejęć.

Wyznacz jasne zasady korzystania z AI

Nie każda próba „ułatwienia pracy” z AI jest niebezpieczna, ale bez wyraźnych reguł firma naraża się na wycieki danych. Dlatego, jako CISO:

• Ustal jasne zasady: które narzędzia są dopuszczone, jakich danych nie wolno używać, w jakich przypadkach AI może, a gdzie nie może wspierać.
• Daj alternatywę: stwórz bezpieczne środowisko dla pracy z AI.
• Wprowadź kontrolę i monitoring: abyś wiedział, kiedy dochodzi do nieautoryzowanego użycia, wycieku danych lub naruszenia zasad.

Zabezpiecz modele i agentów AI przed przejęciem lub manipulacją

Osoby odpowiedzialne za bezpieczeństwo organizacji powinny zabezpieczyć modele AI podobnie, jak zabezpiecza się infrastrukturę krytyczną – kontrolować dane wejściowe, izolować środowiska, testować podatności i chronić interfejsy API, zwłaszcza jeśli model ma dostęp do danych firmowych.

Wzmocnij podstawy bezpieczeństwa

Nowe wektory zagrożeń nie oznaczają, że podstawowe zasady bezpieczeństwa schodzą na dalszy plan. Wręcz przeciwnie, strategia cyberbezpieczeństwa organizacji powinna łączyć kilka niezależnych warstw ochrony, które wzajemnie się uzupełniają i kompensują luki w pojedynczych rozwiązaniach. Należy wzmacniać zabezpieczenia technologiczne, doskonalić procedury bezpieczeństwa i rozwijać świadomość bezpieczeństwa pracowników.