Największe ryzyka AI w firmie: 5 zagrożeń i dlaczego zakaz nie działa

Nie musisz wdrażać AI, żeby mieć ryzyka AI. Wystarczy, że zatrudniasz ludzi: większość z nich już używa AI w pracy, zwykle bez wiedzy firmy. Pytanie nie brzmi, czy Twoja firma korzysta z AI. Brzmi: czy ktoś nad tym panuje.

Poniżej mapa pięciu ryzyk, o które najczęściej rozbijają się firmy. Przy każdym: skąd się bierze i co realnie ogranicza je w praktyce. I jedna teza na koniec: żadnego z nich nie rozwiązuje zakaz.

1. Wyciek danych do cudzych modeli

Najprostszy scenariusz wycieku nie wymaga hakera. Wystarczy pracownik, deadline i darmowy czat AI. Umowa, dane klienta, wyniki finansowe wklejone do publicznego narzędzia opuszczają firmę i lądują na cudzej infrastrukturze, na warunkach, których nikt u Ciebie nie czytał.

Gdzie te dane trafiają? Zależnie od narzędzia i planu: do logów dostawcy, do historii prywatnego konta, do którego firma nie ma żadnego dostępu, a w części darmowych narzędzi także do danych treningowych, jeśli nikt tego świadomie nie wyłączył. Z perspektywy firmy to jedno i to samo: informacja wyszła i nie wróci.

Skala nie jest teoretyczna. Z badania ESET/DAGMA “Cyberportret 2026” (1026 osób) wynika, że 62% pracowników używa AI w pracy, ale tylko 25% firm w jakikolwiek sposób monitoruje wyciek danych do modeli. Firmy zresztą to czują: w badaniu PARP i Uniwersytetu Jagiellońskiego (1822 pracodawców) bezpieczeństwo i prywatność danych to bariera numer jeden wdrażania AI, wskazuje ją 65% firm, a 47% już używających boi się wycieku.

Strach jest, kontroli nie ma. To gorszy stan niż brak świadomości: problem widać, tylko nikt go nie adresuje.

Co ogranicza to ryzyko w praktyce:

• Klasyfikacja danych. Jedna prosta tabela: co może iść do AI bez pytania, co po anonimizacji, co nigdy. Bez tego każdy pracownik decyduje sam, w biegu.
• Konta firmowe zamiast prywatnych. Plany biznesowe i API dają umowę powierzenia, wyłączony trening na Twoich danych i logi po stronie firmy. Prywatne darmowe konto nie daje niczego.
• Anonimizacja przed wysyłką. Dane osobowe i tajemnice zdejmowane z dokumentu, zanim cokolwiek trafi do modelu. Wtedy nawet błąd człowieka nie wynosi tego, co najcenniejsze.

2. Shadow AI: Twoi ludzie już to robią, tylko bez Ciebie

Skoro 62% pracowników używa AI, a tylko 27% firm spisało jakiekolwiek zasady korzystania z niej (ESET), to różnica między tymi liczbami ma nazwę: shadow AI. Narzędzia AI używane bez wiedzy i zgody IT, bezpieczeństwa czy zarządu.

Shadow AI nie bierze się ze złej woli. Bierze się z tego, że narzędzie konsumenckie jest szybsze i wygodniejsze niż cokolwiek, co firma dała ludziom oficjalnie. Pracownik nie chce łamać zasad. Chce dowieźć wynik na czas i sięga po to, co działa.

Naturalny odruch zarządu brzmi “to zakażmy”. Problem w tym, że zakaz nie usuwa użycia, tylko je ukrywa. Pracownik i tak wklei dokument do czatu, tyle że na prywatnym koncie, z prywatnego telefonu, poza jakimikolwiek logami. Zakaz bez alternatywy produkuje dokładnie to, czego miał uniknąć: te same wycieki, tylko niewidoczne.

Co ogranicza to ryzyko w praktyce:

• Inwentaryzacja bez polowania na winnych. Zapytaj ludzi, czego używają i do czego. Jeśli za przyznanie się grozi kara, nikt się nie przyzna i stracisz jedyne źródło prawdy o skali zjawiska.
• Kanał zgłaszania narzędzi. Prosta ścieżka: “chcę używać X do Y”, odpowiedź w dni, nie miesiące. Inaczej ludzie przestaną pytać.
• Pomiar zamiast domysłów. Zwykle użycia jest więcej, niż zakłada zarząd. Zrobiłem krótki self-check shadow AI: 7 pytań, wynik od razu na ekranie. To dobry punkt startu do rozmowy na zarządzie.

Pełne liczby i mechanikę tego zjawiska, w tym dlaczego luka między strachem a procedurami jest tak duża, rozbieram osobno: Shadow AI w polskich firmach.

3. Halucynacje: model zawsze odpowie, także wtedy, gdy nie wie

Model językowy nie sprawdza faktów. Przewiduje najbardziej prawdopodobny tekst. Dlatego nie mówi “nie wiem”, tylko generuje odpowiedź, która wygląda pewnie, niezależnie od tego, czy ma pokrycie w rzeczywistości.

Głośne przypadki prawników cytujących w pismach nieistniejące orzeczenia to nie anegdota, tylko wzorzec: człowiek przestaje weryfikować, bo odpowiedź brzmi przekonująco. Ryzyko nie polega na tym, że model się myli. Polega na tym, że myli się przekonująco, a decyzja idzie dalej bez weryfikacji: do klienta, do sądu, do zarządu.

Najbardziej boli tam, gdzie odpowiedź ma skutki: umowy i pisma procesowe, raporty finansowe, komunikacja z klientem, decyzje HR. Czyli dokładnie tam, gdzie AI daje największą dźwignię i gdzie najbardziej kusi, żeby skrócić proces o etap sprawdzenia.

Co ogranicza to ryzyko w praktyce:

• AI robi draft, człowiek podejmuje decyzję. Prosta zasada, którą da się zakomunikować całej firmie w jednym zdaniu. Podpis pod dokumentem zawsze należy do człowieka.
• Model pracuje na źródłach. Tam, gdzie liczy się prawda, model ma odpowiadać na podstawie wskazanych dokumentów i pokazywać, skąd wziął odpowiedź, a nie “z pamięci”.
• Testy na własnych przypadkach. Zanim proces z AI pójdzie na produkcję, przepuść przez niego kilkadziesiąt realnych spraw z przeszłości i policz, ile odpowiedzi było trafnych, a ile brzmiało dobrze i było błędne. To tanie i brutalnie skuteczne.

4. RODO i AI Act: compliance upomni się po fakcie

Regulacje to ryzyko o opóźnionym zapłonie. Nic nie boli w dniu, w którym pracownik wkleja dane klienta do czatu. Boli w dniu incydentu, skargi albo kontroli, z mocą wsteczną za wszystkie wcześniejsze miesiące.

RODO: to już obowiązuje

Dane osobowe wklejone do prompta to przetwarzanie danych w rozumieniu RODO, z pełnymi konsekwencjami: potrzebujesz podstawy prawnej, umowy powierzenia z dostawcą narzędzia, kontroli nad tym, dokąd dane trafiają i jak długo żyją w cudzych logach, oraz zdolności odpowiedzi na prawa osób, których dane dotyczą.

RODO nie zabrania używać AI. Wymaga, żebyś wiedział, co robisz z danymi. Problem w tym, że przy shadow AI nikt tego nie wie, więc niezgodność jest stanem domyślnym.

AI Act: wchodzi etapami i nie pyta o wielkość firmy

AI Act układa obowiązki według ryzyka systemu: od praktyk zakazanych, przez systemy wysokiego ryzyka z twardymi wymogami, po obowiązki przejrzystości. Obowiązki mają nie tylko dostawcy modeli. Firmy, które używają AI w procesach, też dostają swoje: nadzór człowieka, właściwe stosowanie, monitorowanie. Kary sięgają 35 mln EUR lub 7% globalnego obrotu.

Najczęstszy błąd, jaki widzę: traktowanie zgodności jako dokumentu. Polityka AI w PDF-ie, którego nikt nie czyta, nie chroni przed niczym. Chroni architektura: system zbudowany tak, że niezgodne użycie jest technicznie trudne, a nie tylko zakazane na papierze.

Co ogranicza to ryzyko w praktyce:

• Rejestr użyć AI. Jedna lista: jaki proces, jakie narzędzie, jakie dane, kto odpowiada. Bez rejestru nie wiesz nawet, co masz oceniać pod kątem ryzyka.
• Klasyfikacja use-case’ów. Które zastosowania są niskiego ryzyka, a które dotykają decyzji o ludziach (rekrutacja, oceny, kredyt) i wymagają ostrożności oraz nadzoru.
• Umowy z dostawcami. Powierzenie przetwarzania, lokalizacja danych, wyłączenie treningu na Twoich danych. To się negocjuje przed wdrożeniem, nie po incydencie.

5. Lock-in: cudzy model, cudze warunki

Jeśli kluczowe procesy firmy wiszą na jednym dostawcy AI, to nie Ty ustalasz warunki. Cenniki się zmieniają. Modele są wygaszane, a ich następcy potrafią odpowiadać inaczej na te same prompty, co psuje procesy, które wczoraj działały. Do tego dochodzi cichy koszt: prompty, integracje, wiedza zespołu i dane akumulują się w jednym ekosystemie, a każdy miesiąc podnosi cenę wyjścia.

Suwerenność nie oznacza “wszystko lokalnie”. Oznacza możliwość wyjścia: model wymienny, dane i wiedza u siebie, a przetwarzanie wrażliwych informacji tam, gdzie masz nad nim kontrolę.

Co ogranicza to ryzyko w praktyce:

• Warstwa pośrednia zamiast twardego zszycia. Procesy projektowane tak, żeby podmiana modelu była konfiguracją, a nie przebudową. Sam tak buduję agentów i automatyzacje u klientów: model jest wymiennym elementem, nie fundamentem.
• Dane i prompty eksportowalne. Wypracowane instrukcje, bazy wiedzy i historia mają żyć w Twoich repozytoriach, nie wyłącznie w panelu dostawcy.
• Lokalne modele tam, gdzie dane są wrażliwe. Dla części procesów mały model u Ciebie bije duży model w cudzej chmurze, bo eliminuje całą klasę ryzyk. Sam na tym oparłem narzędzie do anonimizacji: dane osobowe są wykrywane i zdejmowane lokalnie, zanim cokolwiek pójdzie dalej.
• Test na wyjście. Jedno pytanie do zespołu raz na kwartał: ile kosztowałaby nas zmiana dostawcy w 30 dni? Jeśli odpowiedź brzmi “nie da się”, to już nie jest współpraca, tylko zależność.

Zakaz nie działa. Kontrola działa.

Wspólny mianownik tych pięciu ryzyk: żadnego nie rozwiązuje zakaz i żadnego nie rozwiązuje samo kupienie narzędzia. Zakaz spycha użycie do podziemia i zabiera Ci widoczność. Narzędzie bez zasad zostaje kolejną ikonką, którą ludzie omijają, bo konsumencki czat jest wygodniejszy.

Realny wybór nie brzmi: AI albo brak AI. Brzmi: AI kontrolowane albo AI niekontrolowane.

Najskuteczniejsza odpowiedź to governance przez architekturę, trzy zasady wbudowane w to, jak dane przepływają:

• Dane fizycznie nie wychodzą. Wrażliwe treści są przetwarzane lokalnie albo w środowisku pod kontrolą firmy.
• PII zdejmowane przed modelem. Dane osobowe i tajemnice znikają z treści, zanim cokolwiek trafi do AI.
• Model tam, gdzie dane. Zamiast wysyłać dane do modelu, model działa przy danych, na warunkach organizacji.

Przy takim ustawieniu zgodność z RODO i AI Act przestaje być obietnicą w regulaminie, a staje się właściwością systemu. Wyciek jest trudny nie dlatego, że go zakazano, ale dlatego, że architektura go nie dopuszcza.

Od czego zacząć

Nie od wielkiego projektu transformacji. Na pierwsze 30 dni wystarczą trzy ruchy:

1. Zmierz. Sprawdź, jakich narzędzi AI ludzie faktycznie używają i z jakimi danymi. Zwykle jest tego więcej, niż zakłada zarząd. Na start wystarczy self-check i kilka szczerych rozmów bez straszenia konsekwencjami.
2. Spisz minimalne zasady. Jedna strona: co wolno, czego nie, z jakimi danymi, kto odpowiada. Prosta reguła, którą ludzie znają, bije dziesięciostronicowy regulamin, którego nikt nie otworzył.
3. Daj bezpieczną alternatywę. Ludzie porzucą shadow AI dopiero wtedy, gdy legalna droga będzie równie wygodna jak ta ukryta. Firmowe konto, jasne zasady, a dla danych wrażliwych ścieżka z anonimizacją albo przetwarzaniem lokalnym.

Firmy, które robią te trzy rzeczy, przestają wybierać między produktywnością a bezpieczeństwem. Dostają jedno i drugie. A pięć ryzyk z tej mapy zamienia się z niewidocznych zagrożeń w parametry systemu, które po prostu się kontroluje.

---

Chcesz przejść przez te ryzyka na swoich procesach i danych? Napisz do mnie, zrobimy krótki audyt.