Wiem, że wysyłasz poufne dane do ChataGPT.
Coraz więcej mówi się o shadow AI w firmach, a zakazy nie działają. Jak to rozwiązać?
Cześć! Tydzień temu pisałem o tym, jak procesy w firmach są niekontrolowanie prowadzone w Excelu i jakie (katastrofalne) skutki może to przynosić. Dzisiaj podobny temat, tylko bardziej w kwestii AI.
Zjawisko, które zyskało już nazwę
O młodszym bracie Shadow IT mówi się coraz częściej Shadow AI. Zasada jest jednak ta sama co wcześniej, tylko ryzyko trochę większe. Dlaczego? Dlatego, że narzędzia typu prywatny Dysk Google, losowe pliki Excel czy darmowe narzędzia do konwersji plików, o ile zewnętrzne, nie robiły tego co AI może na masową skalę, czyli analizy danych.
Wysyłając plik z cudzymi danymi osobowymi do AI od razu jesteś w bardzo szarej strefie RODO/GDPR. W dodatku jakiekolwiek narzędzia AI w darmowej wersji uczą się na danych wprowadzonych przez użytkowników. Prawda jest natomiast taka, że nawet jeśli tak by nie było, to wysyłasz dane do innej firmy.
Skala jest gigantyczna
Z ankiety przeprowadzonej przez Cybernews wynika, że prawie 60% pracowników przyznaje się do wykorzystywania narzędzi AI, które nie zostały zatwierdzone przez pracodawcę. Łącząc ten fakt z szerokim brakiem systemów klasyfikacji poufności dokumentów w firmach, możemy mówić o terabajtach poufnych danych karmiących modele AI każdego dnia.
Nie chodzi tu więc o żaden margines czy odosobniony przypadek, a masowej skali zjawisko będące realnym zagrożeniem informacyjnym.
Zakazać czy pozwolić?
Pierwszym odruchem może być od razu zablokowanie narzędzi jak ChatGPT, Claude czy Gemini w firmowej sieci i na firmowych komputerach. Można nawet pokusić się o wysłanie maila do pracowników z informacją, że od teraz stosowanie AI jest zabronione. Ale czy tędy droga?
Problem w tym, że w takiej sytuacji pracownik zapewne wybierze jedną z dwóch dróg: albo będzie korzystał z AI przez prywatny telefon, robiąc zdjęcia, albo znajdzie inne narzędzie które jeszcze nie jest zablokowane.
Albo właśnie zastosuje się do tego zakazu i cała firma dalej działa jak kiedyś - prezentacje, które można było zrobić w pół godziny zajmują trzy. Zakaz nie usuwa problemu, tylko albo zmienia jego formę, albo go ukrywa.
Problem nie leży w narzędziu
Podobnie jak przy Excelu i przy samym AI, technologia jest tu najmniej ciekawą częścią równania.
Pracownik, który wkleja ofertę do darmowego czatu, zwykle nie wie dwóch rzeczy naraz. Nie wie, że darmowe konto działa inaczej niż firmowe, bo w wersjach konsumenckich rozmowy domyślnie służą doskonaleniu modelu. Nie wie też, gdzie w jego firmie przebiega granica tego, co można pokazać komukolwiek na zewnątrz, bo nikt mu tego nigdy nie powiedział w sposób, który dałoby się zapamiętać.
Co zatem należy zrobić?
Proponowałbym wdrożenie do firmy narzędzia pośredniego do wykorzystania AI (tzw. proxy). Czyli blokujemy w sieci firmowej bezpośredni dostęp do narzędzi AI, ale dajemy za to dostęp do naszej własnej, bezpiecznej bramki AI. Taka bramka działa na firmowych serwerach lub w chmurze firmowej i jest w pełni kontrolowana przez Was.
Może przykładowo automatycznie wykrywać dane wrażliwe (nazwy firm, PESELe, numery kont itd.) i usuwać je z dokumentów zanim w ogóle zostaną przesłane dalej. Następnie wybrany model dostaje treść pozbawioną tych elementów, odpowiedź wraca normalnie, a firma po raz pierwszy widzi, do czego to narzędzie jest u niej w ogóle używane.
Co ważne, to nie jest projekt zarezerwowany dla firm z budżetem korporacyjnym. Bliżej temu do kilku tygodni pracy nad czymś o jasno określonym zakresie niż do wielkich wdrożeń Ej Aj, przed którymi przestrzegałem w pierwszym wpisie.
Podsumowanie
Pytanie, które warto sobie dziś zadać, nie brzmi już, czy pracownicy korzystają z AI, bo dane odpowiadają na nie dość jednoznacznie. Brzmi raczej tak: czy wiemy, co przez to narzędzie wychodzi z naszej firmy, i czy daliśmy ludziom sposób, żeby robili to bezpiecznie, czy tylko powód, żeby robili to po cichu.
Jeśli tematy, które poruszyłem Cię zainteresowały, rozważ zaobserwowanie moich social mediów aby nie przegapić kolejnych wpisów.
