30 września, 2026

AI w firmie: od eksperymentów do bezpiecznej automatyzacji

Podsumowanie spotkania, wstępna odpowiedź dla klienta, wyszukanie informacji w dokumentacji — to rozsądne miejsca na pierwsze zastosowania AI. Sytuacja zmienia się, gdy ten sam system może samodzielnie wysłać wiadomość, zmienić dane w CRM albo uruchomić operację w innym narzędziu.

W praktyce wdrożenie AI staje się zadaniem dla całej organizacji: trzeba połączyć potrzeby biznesowe z jakością danych, zarządzaniem dostępem i kontrolą wyników. Zakup licencji jest jednym z elementów tego procesu. Najważniejsze pytanie brzmi: jakie zadanie chcemy usprawnić i po czym poznamy, że rzeczywiście działa lepiej?

Najpierw proces, potem narzędzie

Dobry pilotaż ma wąski zakres i mierzalny wynik. Zamiast „wdrażamy AI w obsłudze klienta” wybierz „przygotowujemy robocze odpowiedzi na powtarzalne pytania na podstawie zatwierdzonej instrukcji”. Właściciel procesu powinien określić, co jest poprawną odpowiedzią oraz jakie błędy są niedopuszczalne.

Przykładowo, firma może wybrać 50 zanonimizowanych zgłoszeń i porównać dwa sposoby pracy: ręczny oraz wspomagany przez AI. Warto zmierzyć czas razem z weryfikacją i poprawkami, liczbę błędów oraz odsetek odpowiedzi wymagających napisania od nowa. To proponowany sposób oceny pilotażu, a nie obietnica określonej oszczędności.

Dane muszą mieć jasno określone granice

Przed przekazaniem dokumentów do usługi sprawdź warunki konkretnego produktu i planu: wykorzystanie danych do doskonalenia modeli, okres przechowywania, dostęp administratorów, podwykonawców oraz dostępne mechanizmy usuwania danych. Nie zakładaj, że wersja konsumencka i firmowa mają identyczne zasady.

Pomaga prosta klasyfikacja: materiały publiczne, wewnętrzne i poufne. Dla każdej grupy ustal dozwolone narzędzia i sposób pracy. Dokumentacja techniczna dostępna publicznie wymaga innego podejścia niż umowy klientów, dokumenty kadrowe czy hasła dostępowe. Ryzyka prywatności i bezpieczeństwa danych należą do obszarów opisanych w profilu ryzyka generatywnej AI opracowanym przez NIST.

Przekonująca odpowiedź może być błędna

Model może podać nieprawdziwą informację albo wygenerować źródło, które nie istnieje. NIST określa takie zjawisko jako konfabulację. Dlatego płynność języka nie jest miarą poprawności. Przy ważnych wynikach potrzebna jest kontrola względem dokumentu źródłowego, obowiązującej procedury lub danych z systemu.

Podłączenie firmowej bazy wiedzy może pomóc, ale nie daje gwarancji poprawności. Pilotaż powinien obejmować także brakujące informacje, sprzeczne dokumenty i nieaktualne instrukcje. Użyteczny system powinien umieć wskazać niepewność i skierować sprawę do człowieka, zamiast zawsze generować gotową odpowiedź.

Agent AI wymaga ograniczeń podobnych do konta pracownika

Agent to system, który oprócz generowania odpowiedzi może korzystać z narzędzi i wykonywać czynności. Odczyt dokumentu oraz jego usunięcie są zupełnie różnymi uprawnieniami. Udostępniaj wyłącznie funkcje potrzebne w danym procesie; dla wysyłania wiadomości, zmian uprawnień i innych istotnych działań przewidź kontrolę człowieka. OWASP opisuje nadmiar funkcji, uprawnień i samodzielności jako ryzyko Excessive Agency.

Osobnym problemem jest prompt injection: instrukcja ukryta np. w analizowanym dokumencie próbuje zmienić zachowanie systemu. Takiej treści nie wolno traktować jak polecenia administratora. Obrona powinna obejmować ograniczenia dostępu, weryfikację operacji i odseparowanie niezaufanych danych od instrukcji. Sam komunikat „ignoruj złośliwe polecenia” nie rozwiązuje problemu. Źródło: OWASP — Prompt Injection.

Co powinno wyjść z pierwszego pilotażu?

• Opis jednego procesu, jego właściciela i kryteriów jakości.
• Lista danych oraz zatwierdzonych narzędzi i integracji.
• Zestaw przypadków testowych, w tym sytuacji nietypowych.
• Pomiar czasu, kosztu i błędów z uwzględnieniem pracy człowieka.
• Procedura zgłaszania problemów oraz możliwość wyłączenia integracji.

AI warto rozwijać tam, gdzie wynik pilotażu potwierdza korzyść, a ryzyko da się kontrolować. Przygotowanie firmowego IT do takiej pracy zaczyna się od uporządkowanych dostępów, danych i procesów. Skontaktuj się z Infonets, aby omówić potrzeby swojej infrastruktury.

Zdjęcie ilustracyjne wygenerowane z użyciem AI.