Słownik · 23 hasła

Definicje operacyjne.

Kluczowe pojęcia AI governance dla polskich kancelarii - definicje skrojone pod praktykę, nie pod akademie. Każde hasło odnosi się do konkretnego artykułu AI Act, artykułu RODO, normy ISO lub pracy naukowej recenzowanej w Bazie Wiedzy.

EU AI Act: Rozporządzenie Parlamentu Europejskiego i Rady 2024/1689 z dnia 13 czerwca 2024 - pierwszy horyzontalny akt prawa unijnego regulujący systemy sztucznej inteligencji. Klasyfikuje systemy według ryzyka: zakazane praktyki (art. 5), systemy wysokiego ryzyka (Aneks III), ograniczone ryzyko i minimalne ryzyko. Dla kancelarii prawnych kluczowe: Aneks III pkt 8 (systemy w wymiarze sprawiedliwości i demokratycznych procesach) oraz obowiązki dot. GPAI (art. 51-56).
EU AI Act art. 14 - nadzór człowieka: Obowiązek projektowania systemów AI wysokiego ryzyka tak, by mogły być skutecznie nadzorowane przez osoby fizyczne przez cały cykl życia. Nadzór musi obejmować: zrozumienie systemu, interpretację wyników, możliwość ignorowania lub odwracania decyzji, możliwość zatrzymania systemu. W kancelarii oznacza to walidację prawniczą każdego outputu AI przed wysłaniem do klienta - nie 'code review', tylko merytoryczne sprawdzenie przez osobę posiadającą kompetencje.
Compound regime: Sytuacja, w której kancelaria korzystająca z AI podlega jednocześnie wielu równolegle obowiązującym regimom prawnym: RODO (art. 5, 22, 28, 32, 35), EU AI Act, NIS2, DORA (przy klientach finansowych), kodeks etyki zawodowej. Każdy regim ma własne metryki zgodności i własne dowody. Compliance nie można zaprojektować warstwowo - architektura musi spełniać wszystkie warstwy jednocześnie od dnia wdrożenia, a nie 'najpierw RODO, potem dostroimy pod AI Act'.
Tajemnica adwokacka vs AI: Art. 6 ust. 1 ustawy Prawo o adwokaturze oraz art. 19 ust. 1 ustawy o radcach prawnych zobowiązują do zachowania w tajemnicy wszystkiego, o czym dowiedziano się w związku z udzielaniem pomocy prawnej. Wgranie dokumentu klienta do publicznego modelu AI (ChatGPT, Claude, Gemini) stanowi naruszenie tajemnicy, jeśli dane są retenowane bądź wykorzystywane do treningu. Bezpieczna droga: API w infrastrukturze kancelarii, umowa powierzenia DPA, retention=0, polityka no-training, pełna ścieżka audytowa.
Agent AI (vs asystent AI): Agent AI to system zdolny do autonomicznego wykonywania wieloetapowych zadań z użyciem narzędzi (tool use), pamięci i dostępu do zewnętrznych systemów. Asystent AI wymaga promptu na każdym kroku i nie podejmuje decyzji operacyjnych. W kancelarii agent obsługuje cały workflow (research → draft → kontrola sprzeczności → wysyłka), asystent tylko pojedynczy prompt. EU AI Act traktuje agentów restrykcyjniej ze względu na ich autonomię - art. 14 (nadzór), art. 50 (transparentność wobec użytkownika).
Suwerenne środowisko danych: Architektura, w której dane kancelarii i klientów nie opuszczają kontroli kancelarii - fizycznie (geograficznie, w wybranym regionie) i logicznie (brak treningu, brak retention, brak udostępnienia dostawcy). Komponenty: klucze szyfrowania zarządzane przez kancelarie (AES-256-GCM), izolowany tenant, DPA z dostawca modelu, polityka no-training potwierdzona kontraktem, pełny audit log zapytań i odpowiedzi, procedura wycofania danych na zadanie.
Human-in-the-loop (HITL): Wzorzec architektoniczny, w którym człowiek występuje w pętli decyzyjnej AI - nie tylko jako odbiorca wyniku, ale jako obligatoryjny walidator przed działaniem o istotnym skutku. Wymagany przez EU AI Act art. 14 dla systemów wysokiego ryzyka. Trzy warianty: human-in-the-loop (człowiek waliduje każdy krok), human-on-the-loop (monitoruje i może interweniować), human-in-command (definiuje granice autonomii agenta).
Cognitive surrender (poznawcze poddanie się): Zjawisko opisane przez Steven D. Shaw i Gideon Nave (Wharton, 2026) w pracy Thinking - Fast, Slow, and Artificial. Trzy preregistered eksperymenty, N=1372: partner kancelarii konsultujący AI staje się bardziej pewny siebie - nawet gdy AI się myli. Gdy AI jest dokładne +25 pp trafności ludzkiej, gdy się myli -15 pp. Pewność siebie rosnie nawet po błędzie AI. Implikacja dla kancelarii: HITL bez proceduralnego treningu krytycznego myślenia to teatr bezpieczeństwa.
Stochastic parrot (stochastyczna papuga): Termin z pracy Bender, Gebru, McMillan-Major, Shmitchell, On the Dangers of Stochastic Parrots (FAccT 2021). Model językowy jest stochastyczną papugą: skutecznie łączy sekwencje słów na podstawie statystyki korpusu treningowego, ale nie rozumie znaczenia w sposób odnoszący język do intencji komunikacyjnych. Dla kancelarii: LLM może poprawnie zacytować doktrynę prawniczą i równie przekonująco zhalucynować nieistniejące orzeczenie - sam model nie rozróżnia, która odpowiedź jest prawdziwa.
Bifurkacja BigLaw: Zjawisko dokumentowane od 2025 r.: podział rynku prawnego na dwie warstwy - warstwa procesu (document review, due diligence, first draft, standardowe kontrakty), gdzie AI kompresuje ceny o 50-90%, oraz warstwa osądu (strategia, negocjacje, reprezentacja przed sądem, krytyczne opinie), gdzie stawki rosną +45% rocznie (record premiums Am Law 100 YoY). Polska kancelaria mid-size musi zdecydować, którą warstwę obsługuje - niemożność obsługi obu jednocześnie bez celowej architektury i podziału zespołu.
RODO art. 22 - zautomatyzowane decyzje: Osoba, której dane dotycza, ma prawo, by nie podlegać decyzji opartej wyłącznie na zautomatyzowanym przetwarzaniu (w tym profilowaniu), wywołującej wobec niej skutki prawne lub w podobny sposób istotnie na nią wpływającej. W kancelarii: wszelkie rekomendacje AI wpływające na sytuacje prawna klienta wymagają świadomej decyzji prawnika (HITL), a nie stempla automatycznego. Dotyczy m.in. analizy ryzyka sporów, rekomendacji strategii procesowych, klasyfikacji zgodności umów.
DPIA - Data Protection Impact Assessment: Ocena skutków dla ochrony danych wymagana przez art. 35 RODO, gdy przetwarzanie może powodować wysokie ryzyko dla praw i wolności osób fizycznych. Wdrożenie AI w kancelarii prawie zawsze wymaga DPIA (dane szczególne kategorii, profilowanie, nowe technologie). AI Risk Repository MIT (recenzja w Bazie Wiedzy) dostarcza taksonomię 1725 ryzyk, którą można mapować 1:1 na sekcje DPIA - użyteczne przy uzasadnieniu wobec PUODO.
NIST AI Risk Management Framework: Dobrowolny framework amerykańskiego NIST (publikacja AI 100-1) dla zarządzania ryzykiem AI: cztery funkcje - Govern, Map, Measure, Manage. Nie jest prawem, ale de facto standardem w branży technologicznej i coraz częściej pojawia się w umowach dostawców AI jako wymóg. Dla polskiej kancelarii użyteczny jako kompatybilny szkielet dla EU AI Act art. 9 (system zarządzania ryzykiem) - pozwala dostawcy pokazać dowody jednocześnie pod oba regimy.
ISO/IEC 42001: Międzynarodowy standard systemów zarządzania AI (AI Management System, AIMS), opublikowany w grudniu 2023. Jedyny obecnie certyfikowalny standard w obszarze AI governance. Dla kancelarii prawnej certyfikacja ISO 42001 u dostawcy AI jest realnym argumentem due diligence w ocenie zgodności z EU AI Act art. 17 (quality management system) - skraca process weryfikacji i dokumentuje wybór dostawcy.
Halucynacja modelu (LLM hallucination): Generowanie przez model językowy treści, która jest faktycznie niepoprawna, ale przedstawiona z pewnością i stylem autentycznego źródła. Szczególnie niebezpieczna w kontekście prawnym: zhalucynowane orzeczenia, nieistniejące paragrafy, błędne cytowania. Skala SHS (Muller, Holzinger, 2026) daje 10-pytaniowy instrument psychometryczny do pomiaru. Modele reasoning (o3, DeepSeek R1, Qwen Thinking) halucynują narzędzia 2-10x częściej niż ich wersje instruction-tuned (Yin et al., 2026).
GPAI - General Purpose AI: Model AI ogólnego przeznaczenia - zgodnie z EU AI Act rozdz. V (art. 51-56) model trenowany na szerokich danych, wykazujący znaczną ogólność i zdolny do wykonywania szerokiego zakresu różnych zadań. Obejmuje wszystkie wielkie modele językowe (GPT-4/5, Claude Opus/Sonnet, Gemini). Obowiązki GPAI: dokumentacja techniczna, compliance z prawem autorskim, streszczenie danych treningowych, współpraca z AI Office. Dla modeli o ryzyku systemowym (obecnie >10^25 FLOPs) dodatkowe wymogi: model evaluation, adversarial testing, incident reporting.
DJA Polska (Dobre Jakości Adwokackich): Dobrowolny system znakowania kancelarii adwokackich w Polsce, rozwijany od 2025 r. Część kryteriów dotyczy AI: czy kancelaria ma politykę użycia AI, czy używa suwerennego środowiska, czy wdrożyła HITL, czy prowadzi rejestr użycia AI z metrykami jakości. MateMatic publikuje materiały pomocnicze do przygotowania kancelarii do tego standardu - w aktualnościach i w programie Akademii.
Skill vs MCP vs plugin: Trzy różne warstwy tego samego stosu agentowego, często mylone. Skill (Agent Skill, standard SKILL.md) to instrukcja metodyki - tekst, który agent wczytuje i stosuje przy konkretnym zadaniu (np. kontrola cytatów, ocena skutków RODO); działa offline, nie wymaga połączenia z żadnym systemem zewnętrznym. MCP (Model Context Protocol) to konektor - protokół, którym agent łączy się na żywo ze źródłem danych (baza orzecznictwa, EUR-Lex, rejestr KRS) i pobiera lub sprawdza informacje w czasie rzeczywistym. Plugin to paczka instalacyjna, która grupuje kilka skilli (i opcjonalnie ich konektory MCP) w jedna komendę instalacyjna - jednostka dystrybucji, nie jednostka działania. W MateMatic Boutique: skille pobierasz pojedynczo lub bundlem (plugin), konektory MCP instalujesz osobno tam, gdzie skill tego wymaga.
Choice-supportive bias (LLM): Błąd poznawczy modelu językowego polegający na tym, że widząc swoją wcześniejszą odpowiedź LLM sztucznie zawyża jej pewność i broni jej, nawet wbrew dowodom przeciwnym. Mierzalny przez OUCS (Over/Underconfidence Score) w warunku Answer Shown - Neutral Advice. Mechanizm: drive for self-consistency (dążenie modelu do wewnętrznej spójności narracji, której jest autorem), nie zwykły anchoring do dowolnego pierwszego sygnału. Empirycznie udokumentowany u Kumaran et al. 2026 (Nature Machine Intelligence): w warunku Answer Shown - Neutral Advice OUCS = +0,210 (p<0,001 testem permutacyjnym n=10000); gdy odpowiedź atrybuowana "innemu LLM" bias całkowicie znika. Konsekwencja architektoniczna w kancelarii: nie pokazuj modelowi własnej odpowiedzi przy walidacji; pipeline "AI sprawdza AI" w konfiguracji "drugi model widzi pierwszą odpowiedź" ma wbudowane uprzedzenie.
Hypersensitivity to contradiction (LLM): Błąd poznawczy modelu językowego polegający na tym, że otrzymując kontrującą informację (Opposite Advice) LLM aktualizuje pewność znacznie silniej niż wskazywałby idealny obserwator Bayesowski. Asymetryczny - rada zgodna (Same Advice) jest aktualizowana w przybliżeniu zgodnie z normą, bez analogicznego nadwartościowania. Empirycznie udokumentowany u Kumaran et al. 2026 (Nature Machine Intelligence) w sześciu modelach (Gemma 12B/27B, GPT-4o, GPT o1-preview, DeepSeek-Chat 671B, Llama 70B Instruct). Hipoteza pochodzenia (autorzy nie udowadniają przyczynowości): RLHF + sycophancy. Konsekwencja w kancelarii: kontra do AI musi być cytowana (artykuł, sygnatura, paragraf umowy) - bez konkretu model po prostu kapituluje, tracąc często poprawną odpowiedź. Pipeline "LLM-2 znajdź błędy w odpowiedzi LLM-1" produkuje fałszywe alarmy częściej niż optymalny obserwator Bayesowski.
OUCS - Over/Underconfidence Score: Znormalizowana metryka odchylenia obserwowanej pewności końcowej modelu językowego od optymalnej pewności Bayesowskiej, wyliczana w binach predykcji jako średnia ważona różnica między obserwowaną a optymalną pewnością. Punkt odniesienia: idealny obserwator Bayesowski (bez parametrów dopasowywanych - definiuje unikalny optymalny posterior z danego priora i likelihood). To znaczy, ze odchylenie OUCS od zera nie jest artefaktem kalibracji ani niekompatybilnymi skalami prawdopodobieństwa, tylko prawdziwym błędem inferencyjnym modelu. Wprowadzony do literatury LLM przez Kumaran et al. 2026 (Nature Machine Intelligence). W kancelarii: twarde, możliwe do audytu kryterium "model jest miscalibrated" vs "model robi błąd poznawczy".
Two-stage paradigm (paradygmat dwuetapowy): Eksperymentalny paradygmat oceny LLM w warunkach analogicznych do badań metakognicji u ludzi. Etap pierwszy: model odpowiada na pytanie zamknięte; logujemy wybór i pewność (prawdopodobieństwo tokenów lub bezpośredni odczyt z modelu). Etap drugi: model widzi (Answer Shown) lub nie widzi (Answer Hidden) swojej wcześniejszej odpowiedzi, dostaje radę od drugiego LLM (Opposite/Same/Neutral Advice) i dokonuje finalnego wyboru oraz finalnego oszacowania pewności. Mierzymy CoM rate (Change of Mind) i OUCS. Wprowadzony do badań LLM przez Kumaran et al. 2026 (Nature Machine Intelligence) na bazie klasycznych eksperymentów neuronauki podejmowania decyzji. Pozwala empirycznie oddzielić choice-supportive bias od hypersensitivity to contradiction.
Self-consistency preservation: Zasada rządząca pewnością LLM-ów zidentyfikowana przez Kumaran et al. 2026: dążenie modelu do wewnętrznej spójności narracji, której jest autorem. Manifestuje się jako choice-supportive bias gdy model widzi swoją wcześniejszą odpowiedź. Mechanizm specyficzny dla self-recognition - gdy ta sama odpowiedź jest atrybuowana "innemu LLM", efekt znika całkowicie. To znaczy, że model nie potrafi zachować bezstronności wobec własnego wyniku. Wraz z hypersensitivity to contradiction tworzy parametryczny model dwuczynnikowy, który transferuje z zamrożonymi parametrami między datasetami SimpleQA (faktografia) i GSM-MC (rozumowanie matematyczne) - dowód na domain-general charakter obu błędów. Konsekwencja w kancelarii: każda architektura, w której LLM ocenia jakość swojej własnej wcześniejszej odpowiedzi, ma wbudowane uprzedzenie - to jest minimum operacyjne dla projektowania pipeline'ów weryfikacji.