Kto w organizacji powinien wiedzieć o wykorzystywaniu narzędzi AI?

Kto w organizacji musi wiedzieć o wdrożeniu AI?

Już od lutego 2025 r. obowiązuje art. 4 aktu w sprawie sztucznej inteligencji, zatytułowany „Kompetencje w zakresie AI''. Ten przepis mówi w praktyce o jednym - jeżeli korzystasz z systemu AI w organizacji musisz zadbać o to, aby ludzie, którzy pracują z tym systemem, wiedzieli co robią, po prostu. Czyli nie wystarczy znowu samo wdrożenie technologii - liczy się poziom kompetencji osób, które z tą AI mają kontakt. I uwaga - ten przepis obowiązuje wszystkich dostawców i wszystkie podmioty stosujące AI bez względu na poziom ryzyka. Wobec tego dostawcy i użytkownicy powinni podejmować realne działania, aby odpowiednio przygotować swój personel.

Jakie szkolenia są wymagane przy wdrażaniu AI?

Będą to nie tylko szkolenia techniczne, czyli dla osób, które wdrażają właśnie technologię, ale przede wszystkim to będą szkolenia dla tych osób, które mają używać sztucznej inteligencji, a które niekoniecznie mają background techniczny i to, jak będą informowane o tym, jak będą szkolone, jak będą przygotowywane, zależy od ich wykształcenia i roli w organizacji. Bardzo istotne jest tutaj też uwzględnienie kontekstu wykorzystania sztucznej inteligencji, czyli do czego i wobec jakich osób będzie ten system stosowany. System AI wpływa na ludzi, czyli np. mamy system, który będziemy stosować w rekrutacji, w obsłudze klienta czy w szeroko pojętej analizie danych osobowych, to wymóg tych kompetencji rośnie.

Czy obowiązek szkolenia dotyczy wszystkich systemów AI?

Chodzi o to, żeby osoby obsługujące narzędzia AI potrafiły rozpoznać potencjalne błędy popełniane przez system lub sytuacje, w których AI może się mylić lub dyskryminować. W praktyce oznacza to obowiązek nie tylko informowania, ale tworzenia całych programów szkoleniowych i dokumentowania tych kompetencji.

Jakie są obowiązki pracodawcy przy wdrażaniu AI wysokiego ryzyka?

I znowu - jeżeli mamy do czynienia z systemem wysokiego ryzyka w rozumieniu AI Act, to musimy sięgnąć do przepisu art. 26 ust. 7, który dotyczy momentu, gdy organizacja, która zatrudnia pracowników wykorzystuje system, czy chce wykorzystywać system AI wysokiego ryzyka w miejscu pracy. I zanim to narzędzie zostanie uruchomione, pracodawca ma obowiązek poinformować pracowników i ich przedstawicieli, na przykład związki zawodowe. Chodzi o to, żeby osoby, o których ten system będzie w jakiś sposób dotykał, dowiedziały się o tym z wyprzedzeniem.

Czy wystarczy poinformować pracowników przez komunikator?

Informacja taka musi być przekazana zgodnie z procedurami przewidzianymi w prawie krajowym bądź unijnym. Czyli nie wystarczy przesłać informacji na slacka lub przez inny komunikator - trzeba to zrobić formalnie. W Polsce takie formalności przewiduje Kodeks pracy, więc na pewno trzeba by wprowadzić pewne zmiany w regulaminie pracy, jeżeli wprowadzamy jakiś monitoring pracowników za pomocą systemów AI. Trzeba będzie też poinformować nowych pracowników indywidualnie o takim monitoringu, a obecnych pracowników już nie trzeba informować indywidualnie, ale w taki sposób, który jest przyjęty u pracodawcy i należy udostępnić im zaktualizowane dokumenty. Jeżeli to będą inne systemy AI, które nie dotyczą monitorowania pracowników, ale w jakiś sposób mogą na nie wpływać. bądź pracownicy ci będą wchodzić w interakcję z tymi systemami, to będzie to informacja czego dotyczy system, od kiedy będzie stosowany, gdzie można zapoznać się z dokumentacją takiego systemu.

Czy zakup licencji na narzędzie AI wystarczy do jego wdrożenia?

Przepis AI Act o którym teraz mówię, nie daje pracownikom prawa weta wobec użycia systemu AI. Ma im tylko gwarantować transparentność i możliwość ewentualnej reakcji, np. domagania się wyjaśnienia decyzji podejmowanej wobec nich przez system sztucznej inteligencji.

Jakie obowiązki wynikają z RODO przy wdrażaniu AI?

Oczywiście nie mniej ważne jest RODO, bo jeżeli w naszej organizacji pojawiają się nowe cele przetwarzania, na przykład trenowanie modeli na danych osobowych, no to konieczne jest spełnienie obowiązków informacyjnych wobec wszystkich tych osób, których może to dotyczyć. I tu nie tylko będą to pracownicy, a może przede wszystkim nasi klienci, czy potencjalni klienci, czy też kontrahenci.

Kim są AI champions i jaka jest ich rola w organizacji?

W tym całym systemie informowania ważną rolę będą pełnili tak zwani AI champions, którzy to w poszczególnych pionach najlepiej rozumieją procesy biznesowe i będą mogli przetłumaczyć zasady funkcjonowania danego systemu AI na praktykę. Oni też najczęściej będą najbliżej użytkowników końcowych.

Jak stworzyć skuteczny system komunikacji o AI w organizacji?

Oczywiście, żeby to wszystko działało, musimy mieć jakąś prostą, ale skuteczną mechanikę komunikacji, a zatem organizacja powinna stworzyć mapę interesariuszy, czyli kto decyduje, kto konsultuje, a kogo po prostu trzeba poinformować. No i dwa, jak będziemy informować, czyli jakie kanały komunikacji przewidujemy, czy są te kanały, które są wymagane przez prawo czy po prostu robimy takie kanały informacji, które zazwyczaj stosujemy w organizacji na przykład rejestr narzędzi AI w naszym intranecie, jakieś pytania i odpowiedzi, newsletter, kanał zgłoszeń w komunikatorze. No ale przede wszystkim wracam do szkoleń - szkolenia są najlepszą formą informowania, pozwalają rzeczywiście zrozumieć po co, dlaczego i w jaki sposób AI działa.