AI w firmie szansa, ryzyko czy obowiązek kontroli?

Jeszcze kilka lat temu sztuczna inteligencja kojarzyła się głównie z futurystycznymi wizjami, zaawansowanymi laboratoriami badawczymi i technologią dostępną wyłącznie największym korporacjom. Dziś sytuacja wygląda zupełnie inaczej. Narzędzia wykorzystujące AI stały się powszechnie dostępne, a korzystanie z nich nie wymaga specjalistycznej wiedzy technicznej ani dużych nakładów finansowych. Co istotne, wiele osób korzysta ze sztucznej inteligencji każdego dnia, często nawet nie zdając sobie z tego sprawy. AI odpowiada za działanie wyszukiwarek internetowych, systemów rekomendacji w sklepach internetowych, aplikacji tłumaczących teksty, filtrów antyspamowych, asystentów głosowych czy mechanizmów analizujących zachowania użytkowników w mediach społecznościowych.

Dlaczego przedsiębiorcy tak chętnie sięgają po AI?

Prawdziwą zmianę przyniósł jednak rozwój generatywnej sztucznej inteligencji. Narzędzia potrafiące tworzyć teksty, obrazy, prezentacje, analizy czy podsumowania dokumentów sprawiły, że AI trafiła bezpośrednio na biurka przedsiębiorców, pracowników i specjalistów niemal każdej branży. Dziś nie jest już pytaniem, czy firma będzie korzystała ze sztucznej inteligencji. Znacznie ważniejsze staje się pytanie, w jaki sposób będzie to robiła oraz czy będzie potrafiła odpowiednio zarządzać związanymi z tym ryzykami. Popularność sztucznej inteligencji w biznesie nie jest przypadkowa. Powód jest bardzo prosty – przedsiębiorcy szybko zauważyli realne korzyści związane z automatyzacją wielu codziennych czynności.

Modele językowe potrafią przygotować projekt wiadomości e-mail, stworzyć treść oferty handlowej, pomóc przy opracowaniu umowy, wygenerować opis produktu, przeanalizować dane czy przygotować wstępne podsumowanie wielostronicowego raportu. Zadania, które wcześniej zajmowały godzinę lub dwie, często można wykonać w kilka minut. Dla małych i średnich przedsiębiorstw oznacza to możliwość zwiększenia efektywności bez konieczności rozbudowywania zespołu. Dla dużych organizacji jest to szansa na ograniczenie kosztów i przyspieszenie procesów biznesowych.

AI znajduje zastosowanie nie tylko w marketingu czy sprzedaży. Coraz częściej wykorzystywana jest również w działach HR, księgowości, obsłudze klienta, logistyce, analizie danych, a nawet przy tworzeniu dokumentacji prawnej czy technicznej. W praktyce sztuczna inteligencja staje się kolejnym narzędziem pracy – podobnie jak kiedyś komputer, poczta elektroniczna czy internet.

W praktyce oznacza to, że sztuczna inteligencja staje się wsparciem dla człowieka, a nie jego pełnoprawnym zastępcą. Pracownicy, którzy nauczą się efektywnie wykorzystywać AI, mogą wykonywać swoje obowiązki szybciej i skuteczniej. Jednocześnie rośnie znaczenie kompetencji związanych z weryfikacją informacji, analizą ryzyka oraz kontrolą jakości wyników generowanych przez algorytmy.

Dane w AI – największa korzyść i największe zagrożenie

Wraz z rosnącą popularnością sztucznej inteligencji pojawiają się jednak poważne zagrożenia. Jednym z najważniejszych jest kwestia bezpieczeństwa danych. Wiele osób traktuje modele językowe jak zwykłą wyszukiwarkę internetową. W efekcie do narzędzi AI trafiają fragmenty umów, dane klientów, informacje finansowe, dokumentacja projektowa, dane pracowników czy inne poufne informacje.

Problem polega na tym, że przedsiębiorcy nie zawsze wiedzą, gdzie trafiają wprowadzane dane, jak długo są przechowywane oraz czy mogą zostać wykorzystane do dalszego trenowania modeli. W zależności od konkretnego rozwiązania odpowiedź na te pytania może być różna. Nieprzemyślane korzystanie z AI może prowadzić do naruszenia tajemnicy przedsiębiorstwa, obowiązków wynikających z umów o poufności, a nawet przepisów dotyczących ochrony danych osobowych. Z perspektywy organizacji coraz większego znaczenia nabiera więc nie tylko wybór odpowiednich narzędzi, ale również stworzenie jasnych zasad ich wykorzystywania przez pracowników.

Shadow AI – problem, którego wiele firm nie dostrzega

Jednym z najczęściej omawianych zagrożeń ostatnich miesięcy jest zjawisko określane jako Shadow AI. Termin ten nawiązuje do znanego od lat pojęcia Shadow IT, czyli korzystania przez pracowników z nieautoryzowanych narzędzi informatycznych poza wiedzą i kontrolą pracodawcy. W praktyce Shadow AI oznacza sytuację, w której pracownicy samodzielnie wykorzystują różnego rodzaju narzędzia sztucznej inteligencji do wykonywania swoich obowiązków służbowych, mimo że organizacja nie wdrożyła takich rozwiązań lub nie określiła zasad ich używania.

Z punktu widzenia pracownika może wydawać się to korzystne. Dzięki AI szybciej przygotowuje raporty, odpowiada na wiadomości czy analizuje dokumenty. Z punktu widzenia firmy pojawia się jednak problem związany z utratą kontroli nad przepływem informacji. Pracodawca często nie wie, jakie dane są przekazywane do zewnętrznych systemów, jakie narzędzia są wykorzystywane oraz czy spełniają one wymagania dotyczące bezpieczeństwa i ochrony danych. W wielu organizacjach problem Shadow AI już dziś jest znacznie większy niż oficjalne wykorzystanie sztucznej inteligencji.

AI a RODO – podobieństw jest więcej, niż mogłoby się wydawać

Dla wielu przedsiębiorców dyskusja dotycząca regulacji sztucznej inteligencji przypomina sytuację sprzed kilku lat, gdy firmy przygotowywały się do wdrożenia RODO. Początkowo temat wydawał się odległy i skomplikowany. Z czasem okazało się jednak, że nowe przepisy dotyczą praktycznie każdej organizacji przetwarzającej dane osobowe.

Podobny proces obserwujemy obecnie w przypadku AI. Coraz więcej przedsiębiorców zakłada, że regulacje będą dotyczyć wyłącznie firm technologicznych. Tymczasem wiele obowiązków może objąć także zwykłych użytkowników systemów wykorzystujących sztuczną inteligencję. Tak jak w przypadku ochrony danych osobowych, kluczowe znaczenie zaczynają mieć procedury, dokumentacja, analiza ryzyka, szkolenia pracowników oraz świadome zarządzanie wykorzystywanymi narzędziami.

Unia Europejska przyjęła przepisy określane jako AI Act, które mają stworzyć ramy prawne dla rozwoju i wykorzystywania sztucznej inteligencji. Podstawowym założeniem nowych regulacji jest podejście oparte na ocenie ryzyka. Im większy wpływ dany system AI może wywierać na prawa, bezpieczeństwo lub sytuację obywateli, tym bardziej rygorystyczne obowiązki będą związane z jego stosowaniem.

Niektóre praktyki wykorzystujące sztuczną inteligencję zostały całkowicie zakazane. W przypadku systemów wysokiego ryzyka przewidziano natomiast liczne obowiązki dotyczące dokumentacji, przejrzystości działania, nadzoru człowieka, jakości danych oraz monitorowania funkcjonowania systemów. Choć część regulacji skierowana jest przede wszystkim do producentów i dostawców technologii, przedsiębiorcy korzystający z AI również nie pozostaną poza zakresem nowych przepisów. W wielu przypadkach będą musieli zadbać o odpowiednie procedury, szkolenia i dokumentowanie sposobu wykorzystywania sztucznej inteligencji w organizacji.

Odpowiedzialność za decyzje nadal ponosi człowiek

Jednym z najczęściej pojawiających się pytań jest kwestia odpowiedzialności za błędy popełniane przez sztuczną inteligencję. W praktyce odpowiedzialność nie znika tylko dlatego, że dana decyzja została podjęta przy wykorzystaniu algorytmu. Jeżeli przedsiębiorca lub pracownik korzysta z wyników wygenerowanych przez AI, nadal powinien zweryfikować ich poprawność oraz zgodność z obowiązującymi przepisami. Sztuczna inteligencja może generować nieprawdziwe informacje, błędnie interpretować dane lub pomijać istotne okoliczności. W środowisku biznesowym bezkrytyczne poleganie na odpowiedziach generowanych przez AI może prowadzić do poważnych konsekwencji finansowych, organizacyjnych lub prawnych. Dlatego jednym z najważniejszych elementów odpowiedzialnego korzystania ze sztucznej inteligencji pozostaje zachowanie realnego nadzoru człowieka nad podejmowanymi decyzjami.

Jak przygotować firmę na erę sztucznej inteligencji?

Największym błędem byłoby ignorowanie rozwoju AI albo zakładanie, że problem regulacji pojawi się dopiero za kilka lat. W rzeczywistości sztuczna inteligencja już dziś funkcjonuje w większości organizacji – często w sposób nieformalny i niekontrolowany. Pierwszym krokiem powinno być ustalenie, jakie narzędzia AI są wykorzystywane w firmie i przez kogo. Następnie warto określić zasady korzystania z takich rozwiązań, wskazać rodzaje danych, które nie mogą być przekazywane do zewnętrznych systemów, oraz przeszkolić pracowników w zakresie bezpiecznego korzystania ze sztucznej inteligencji.

Coraz większego znaczenia nabierają również audyty wykorzystywanych rozwiązań, analiza ryzyka oraz monitorowanie zmian w przepisach prawa. Organizacje, które odpowiednio wcześnie przygotują się do nowych wymogów, będą mogły korzystać z możliwości oferowanych przez AI bez narażania się na niepotrzebne ryzyka.

Sztuczna inteligencja nie jest już eksperymentem ani chwilową modą. Stała się narzędziem realnie wpływającym na sposób funkcjonowania przedsiębiorstw, organizacji i instytucji publicznych. Pozwala oszczędzać czas, zwiększać efektywność oraz automatyzować wiele procesów, które jeszcze niedawno wymagały zaangażowania dużych zasobów ludzkich. Jednocześnie rozwój AI rodzi nowe wyzwania związane z bezpieczeństwem danych, odpowiedzialnością za podejmowane decyzje oraz koniecznością dostosowania się do zmieniających się regulacji prawnych.

Dlatego pytanie nie brzmi już, czy korzystać ze sztucznej inteligencji. Znacznie ważniejsze staje się to, jak robić to świadomie, bezpiecznie i zgodnie z prawem. W najbliższych latach przewagę zyskają nie te firmy, które jako pierwsze wdrożą AI, lecz te, które nauczą się nią właściwie zarządzać.

Bądź na bieżąco z najważniejszymi zmianami podatkowymi, dołącz do Instytutu https://ikidp.pl/rejestracja

Autor

Redaktor prowadzący

Redaktor naczelny