Firmy coraz szerzej wdrażają sztuczną inteligencję, ale wraz z jej skalowaniem rośnie też złożoność organizacyjna. Pojawiają się nowe narzędzia, kolejne zespoły odpowiedzialne za ich obsługę oraz dodatkowe punkty kontroli. Według danych F5 tylko 28 proc. organizacji upraszcza workflow AI poprzez jeden, wspólny punkt zarządzania.

AI tworzy nowe obowiązki i punkty kontroli

Problem staje się szczególnie widoczny, gdy przedsiębiorstwa przechodzą od pojedynczych eksperymentów z AI do wdrożeń na większą skalę. Wtedy zarządzania wymagają już nie tylko same modele, ale także dostęp do API, przepływ danych, bezpieczeństwo, monitoring ruchu czy ochrona przed nadużyciami.

Z danych F5 wynika, że 55 proc. respondentów wskazuje na potrzebę zarządzania uwierzytelnianiem i dostępem do API dla usług AI. 54 proc. zwraca uwagę na potrzebę większej widoczności ruchu AI i zapotrzebowania na zasoby, a 51 proc. koncentruje się na zapobieganiu wyciekom danych. 43 proc. organizacji wskazuje natomiast na konieczność ochrony modeli przed nadużyciami, a 40 proc. oczekuje scentralizowanego punktu kontroli ruchu AI.

Skala wyzwania może rosnąć także dlatego, że niemal wszystkie badane organizacje deklarują samodzielne hostowanie infrastruktury inference, zamiast pełnego przekazania jej zewnętrznym dostawcom. Oznacza to, że odpowiedzialność za bezpieczeństwo, dostęp, obserwowalność czy kontrolę kosztów pozostaje po stronie przedsiębiorstwa.

– AI nie usuwa istniejącej złożoności organizacyjnej. Przeciwnie, może ją dodatkowo wzmacniać. Jeśli każda nowa potrzeba związana z AI prowadzi do wdrożenia kolejnego narzędzia i stworzenia nowego obszaru odpowiedzialności, skalowanie technologii szybko staje się problemem koordynacyjnym – mówi Bartłomiej Anszperger, Dyrektor Techniczny w F5.

Więcej narzędzi oznacza więcej zespołów

Dane F5 pokazują niemal równoległy wzrost liczby narzędzi i zespołów potrzebnych do obsługi zmian. Gdy workflow opiera się na jednym lub dwóch narzędziach, zwykle angażuje również jeden lub dwa zespoły. Przy pięciu–dziesięciu narzędziach podobnie rośnie liczba jednostek zaangażowanych w proces.

Zdaniem F5 tak bliska zależność pokazuje, że technologiczna i organizacyjna złożoność są w praktyce dwoma stronami tego samego problemu. Każde nowe narzędzie wymaga właściciela, zasad odpowiedzialności i integracji z pozostałymi elementami środowiska.

To mechanizm zgodny z prawem Conwaya, według którego architektura systemów odzwierciedla strukturę organizacji, które je tworzą. W przypadku AI może mieć on szczególne znaczenie, ponieważ technologia przecina jednocześnie wiele obszarów: aplikacje, bezpieczeństwo, infrastrukturę, dane i governance.

– Bez wspólnej warstwy zarządzania łatwo doprowadzić do sytuacji, w której poszczególne zespoły budują własne mechanizmy kontroli, obserwowalności i bezpieczeństwa. Przy większej skali taka fragmentacja zaczyna ograniczać tempo rozwoju AI – wskazuje Bartłomiej Anszperger.

Organizacja może stać się barierą skalowania AI

W przypadku AI dochodzą też nowe typy ryzyka. Zapytania stają się promptami, wykorzystanie modeli generuje koszty zależne od liczby tokenów, a jakość odpowiedzi może zmieniać się w czasie. Do klasycznych zagrożeń bezpieczeństwa dochodzą również próby manipulowania zachowaniem modeli czy ryzyko generowania niepożądanych treści.

W praktyce oznacza to, że jednym z najważniejszych wyzwań związanych ze skalowaniem sztucznej inteligencji może być nie sama technologia, lecz sposób jej organizacji. Jeżeli wraz z każdym nowym zastosowaniem AI proporcjonalnie rośnie liczba narzędzi, zespołów i punktów kontroli, przedsiębiorstwa mogą szybko dojść do momentu, w którym dalszy rozwój zacznie hamować rosnąca złożoność.

Dlatego coraz większego znaczenia nabiera konsolidacja zarządzania AI i tworzenie wspólnych mechanizmów kontroli. Bez tego sztuczna inteligencja może zwiększać nie tylko możliwości przedsiębiorstwa, ale również liczbę zależności, które firma musi na co dzień obsługiwać.

źródło: informacjebranzowe.pl

Najnowsze aktualności