AI i automatyzacja, które przechodzą audyt

Jak na to patrzymy

Większość nieudanych wdrożeń AI nie wynika ze słabego modelu, tylko z trzech pytań bez odpowiedzi: kto ponosi konsekwencję błędu, gdzie stoi bramka jakości i ile to kosztuje przy realnym wolumenie. Zaczynamy od tych pytań, bo to one przesądzają o architekturze, nie wybór dostawcy modelu, który i tak zmieni cennik albo wycofa wersję w ciągu roku. Wiemy też z własnych rachunków, że pilotaż zawsze wygląda tanio: odtworzenie jednego z naszych artefaktów analitycznych kosztuje około szesnastu milionów tokenów i tę liczbę znaliśmy przed decyzją o cyklicznym uruchamianiu, nie po fakturze.

Co zbudowaliśmy

Zbudowaliśmy firmowy hub AI z sześcioma własnymi serwerami MCP, CRM, poczta i kalendarz, ERP, wyszukiwanie po dokumentach, pamięć per użytkownik, oraz gatewayem WhatsApp, który spina jeden numer z pięcioma aplikacjami: weryfikacja podpisów HMAC, deduplikacja w Redisie, routing po komendzie i sesji. Koszt każdego zapytania jest widoczny w warstwie obserwowalności przez OpenTelemetry; tani model klasyfikuje i odsiewa, drogi tylko syntetyzuje, a powtarzalne pytania łapie cache semantyczny na wektorach. W systemie weryfikującym zgodność etykiet z wymogami FEDIAF i prawem unijnym działa pięć warstw kontroli rzetelności, ocena pewności, niezależny drugi odczyt liczb z porównaniem krzyżowym, progi liczone deterministycznie w kodzie, eskalacja do człowieka, stały zestaw testowy, cztery z tych pięciu warstw nie są modelem. Audyt ekspozycji półkowej zamienił 2 827 zdjęć z siedmiu rynków i 54 sieci handlowych w 26 864 obserwacje produktowe, 86 procent z odczytaną ceną. Walidacja cenników dostawców skróciła 8–12 godzin pracy ręcznej do kilku minut maszynowych plus 15–30 minut przeglądu, obie liczby raportujemy, bo tylko razem są prawdziwe. W planowaniu produkcji decydentem jest solver ograniczeń, nie model. W systemie rekrutacyjnym nie ma automatycznych odrzuceń: każda ocena niesie uzasadnienie i cytat źródłowy, a całość jest projektowana pod wymogi EU AI Act dla systemów wysokiego ryzyka, z DPIA i zdefiniowaną retencją.

Co z tego wynika

Powstaje system, który da się pokazać audytorowi i regulatorowi: z zapisanym uzasadnieniem każdej sugestii, redakcją danych osobowych przed wysłaniem do modelu i policzonym kosztem jednostkowym. Kosztuje to więcej na etapie projektowania i wygląda mniej efektownie w demonstracji, za to nie trzeba tego przepisywać, gdy rozwiązanie wychodzi z pilotażu.