Coraz więcej produktów AI – coraz mniej wglądu

Firmy w szybkim tempie wprowadzają obecnie aplikacje oparte na sztucznej inteligencji. Jednak modele, czyli tzw. duże modele językowe (LLM), które faktycznie za nimi stoją, często pozostają niejasne.

Powszechnie stosowane są określenia „wspierane przez sztuczną inteligencję” lub „z generatywną sztuczną inteligencją”, jednak często brakuje konkretnych szczegółów na temat podstaw technicznych.

Nie jest to odosobniony przypadek. To problem strukturalny, który coraz częściej jest omawiany w branży pod takimi pojęciami jak transparentność, zarządzanie i sztuczna inteligencja.

Czego brakuje i dlaczego ma to znaczenie dla użytkowników

Bez znajomości zastosowanego modelu klienci i użytkownicy nie mogą wiarygodnie odpowiedzieć na kluczowe pytania:

◉ Ochrona danych: Gdzie i na jakich warunkach przetwarzane są dane?

◉ Zależności: Czy istnieje ideologia lub zaangażowanie na rzecz konkretnych dostawców lub infrastruktur?

◉ Wydajność: Do jakich zadań nadaje się ten model i jakie są jego ograniczenia?

◉ Błąd: Jakie zniekształcenia mogą być nieodłączną częścią modelu?

Bez tych informacji rzetelna ocena ryzyka staje się znacznie trudniejsza, a w praktyce wręcz niemożliwa.

Sztuczna inteligencja cienia jako dodatkowy problem

Co gorsza, w wielu organizacjach narzędzia oparte na sztucznej inteligencji są wykorzystywane również poza oficjalnymi procesami zatwierdzania.

W tym środowisku nie jest jasne, ani wewnętrznie, ani zewnętrznie, który model jest faktycznie wykorzystywany.

Tak zwana sztuczna inteligencja typu shadow AI omija zarówno mechanizmy kontroli wewnętrznej, jak i zewnętrzne mechanizmy audytu.

Ustawa o sztucznej inteligencji zwiększa presję na ujawnianie informacji

Zmieniają się ramy regulacyjne. Wraz z Europejska ustawa o sztucznej inteligencji Obowiązki w zakresie przejrzystości stają się coraz ważniejsze – zwłaszcza dla dostawców i operatorów systemów AI.

Choć pełne ujawnienie publicznie wykorzystywanego modelu nie jest obowiązkowe w każdym przypadku, wymagania dotyczące dokumentacji, możliwości śledzenia i informacji dla użytkowników znacząco rosną.

Firmy opracowujące lub sprzedające produkty oparte na sztucznej inteligencji będą w przyszłości musiały dokładniej wyjaśniać, jak działają ich systemy i na jakiej podstawie technicznej się opierają.

Przejrzystość modelu staje się kryterium

Dla użytkowników specjalistycznych, nabywców i inspektorów zgodności ten rozwój oznacza:

Kwestia modelu bazowego nie jest już szczegółem technicznym, ale centralnym kryterium w procesie zamówień publicznych, ocenie ryzyka i klasyfikacji regulacyjnej.

Każdy, kto ocenia rozwiązania z zakresu sztucznej inteligencji, powinien aktywnie domagać się kart modeli, arkuszy danych technicznych i informacji umownych na temat wykorzystywanego systemu – i traktować brak przejrzystości jako czynnik ryzyka…

Sierks Media / Agent PR / © Zdjęcie: Nahrizul Kadri, Unsplash