Europejski Urząd Nadzoru Giełd i Papierów Wartościowych (ESMA) 1 lutego 2023 r. opublikował raport dot. wykorzystywania sztucznej inteligencji przez podmioty tworzące rynki finansowe w Unii Europejskiej. Raport skupia się na wskazaniu wyzwań i zagrożeń związanych z rozwojem technologii sztucznej inteligencji, a także przedstawienie propozycji regulacji, które mają na celu zwiększenie bezpieczeństwa inwestorów oraz zapewnienie stabilności rynków.
Sztuczna inteligencja jest już obecna na rynkach finansowych i jest wykorzystywana do (i) analizowania danych, (ii) prognozowania cen, (iii) zarządzania ryzykiem i (iv) podejmowania decyzji inwestycyjnych. W odpowiedzi na te trendy ESMA w swoim raporcie zwraca uwagę na następujące zagrożenia:
Brak transparentności i odpowiedzialności za odpowiedzialne decyzje – ESMA zwraca uwagę na potrzebę udostępnienia informacji o algorytmach i modelach SI, sposobie ich działania, monitorowaniu skutków i wpływu na rynek. Złożone systemy SI mogą bowiem podejmować decyzje, które są niezrozumiałe i niejasne dla uczestników rynków finansowych.
Nierzetelność algorytmów SI - kolejnym wyzwaniem związanym z wykorzystaniem SI w finansach jest możliwość wystąpienia nierzetelnych algorytmów. Jeśli algorytm jest źle zaprojektowany lub niewłaściwie stosowany, może dawać niedokładne wyniki, które mogą wpływać na stabilność rynków finansowych. Ponadto algorytmy SI mogą wykazywać niewłaściwe zachowanie lub stronniczość niezgodną z zasadami etyki, co stwarza dodatkowe ryzyko dla uczestników rynków finansowych.
W odpowiedzi na zdefiniowanie zagrożeń ESMA wskazuje kierunki, które powinny im przeciwdziałać:
Ustanowienie krajowych standardów i regulacji - raport ESMA podkreśla potrzebę solidniejszych regulacji i nadzoru nad wykorzystaniem SI w finansach. Regulacje powinny dotyczyć takich kwestii jak przejrzystość i odpowiedzialność za działania oparte na AI, prywatność i ochrona danych oraz nadzór i audyt algorytmów. ESMA sugeruje, aby państwowe organy nadzoru objęły swoim nadzorem również wdrażanie sztucznej inteligencji przez instytucje finansowe.
Odpowiednie dostosowanie procedur zarządzania ryzykiem - w raporcie ESMA dotyczącym wykorzystania sztucznej inteligencji na rynkach finansowych zwraca się uwagę na potrzebę wprowadzenia specjalnych procedur kontrolowania ryzyka związanego z wykorzystaniem sztucznej inteligencji. Wskazuje się na konieczność wprowadzenia mechanizmów umożliwiających identyfikację i ocenę ryzyka związanego z wykorzystaniem sztucznej inteligencji oraz na potrzebę monitorowania procesów decyzyjnych podejmowanych przez sztuczną inteligencję.
Jednym z proponowanych przez ESMA rozwiązań jest wprowadzenie specjalnych komitetów ds. sztucznej inteligencji, które będą odpowiedzialne za monitorowanie procesów decyzyjnych oraz ocenę ryzyka związanego z wykorzystaniem sztucznej inteligencji. Komitety te miałyby dostęp do informacji o algorytmach i modelach używanych przez podmioty rynków finansowych oraz miałyby możliwość weryfikacji ich skuteczności i wpływu na rynek.
ESMA proponuje także wprowadzenie specjalnych narzędzi do kontroli ryzyka związanego z wykorzystaniem sztucznej inteligencji, takich jak narzędzia do identyfikacji i eliminacji błędów oraz narzędzia do wykrywania manipulacji rynkiem. W raporcie podkreśla się również konieczność szkolenia pracowników instytucji finansowych w zakresie wykorzystania sztucznej inteligencji oraz nauczenia ich, jak efektywnie korzystać z narzędzi kontrolowania ryzyka.
Warto również zauważyć, że procedury kontrolowania ryzyka powinny być wprowadzane we wszystkich instytucjach finansowych, które korzystają z sztucznej inteligencji na rynkach finansowych. W raporcie ESMA podkreśla się, że instytucje finansowe powinny być odpowiedzialne za ocenę ryzyka związanego z wykorzystaniem sztucznej inteligencji oraz za wprowadzenie odpowiednich procedur zarządzania ryzykiem.
Podsumowując, zdaniem ESMA procedury kontrolowania ryzyka są kluczowe dla bezpieczeństwa inwestorów oraz dla stabilności rynków finansowych.
