Maszyna nie zna etyki. Co grozi prawnikom, którzy ufają AI?

Strefa Biznesu: Jakie ryzyka prawne, etyczne i związane z bezpieczeństwem danych wiążą się z wykorzystaniem AI w praktyce prawniczej?

Chris Eastham (Fieldfisher London): Z naszych obserwacji wynika, że nawet narzędzia AI oferowane jako rozwiązania dla branży prawnej są podatne na błędy. Problem potęguje fakt, że odpowiedzi generowane przez AI często brzmią bardzo przekonująco, a ludzie z natury ufają wynikom pracy takich narzędzi. Dlatego każdą informację wygenerowaną przez AI trzeba obecnie bardzo dokładnie weryfikować. Powierzenie AI odpowiedzi na pytanie prawne, bez uwzględnienia takiej dodatkowej weryfikacji człowieka jest ciągle ryzykowne.

Modele AI, zwłaszcza te oparte na uczeniu maszynowym, często działają w sposób nieprzejrzysty, co utrudnia zrozumienie, jak dochodzą do konkretnych wniosków. Tymczasem sprawiedliwość to nie tylko rezultat, ale także proces, który powinien być transparentny i możliwy do zakwestionowania. Jeśli sztuczna inteligencja uczestniczy w podejmowaniu decyzji, istnieje ryzyko, że nawet słuszny wynik nie zostanie uznany za sprawiedliwy. Sprawiedliwość musi być nie tylko realizowana, ale i widoczna.

Są też realne obawy o bezpieczeństwo informacji przetwarzanych przez AI, zwłaszcza jeśli dane trafiają do środowiska informatycznego dostawcy AI. Konieczne są rygorystyczne zabezpieczenia umowne i proceduralne, szczególnie w przypadku informacji objętych tajemnicą zawodową i poufnością klienta. Niedostateczne zabezpieczenia mogą zagrozić integralności i poufności danych, a ze względu na nowość technologii AI, ryzyko w obszarze cyberbezpieczeństwa nie jest jeszcze w pełni rozpoznane.

Czy w obecnym stanie prawnym korzystanie z narzędzi generatywnych AI, takich jak ChatGPT, może budzić wątpliwości co do poufności i tajemnicy zawodowej?

Tak, zdecydowanie. Generatywne narzędzia AI, jak ChatGPT, często działają w chmurze obliczeniowej dostarczanej przez podmioty trzecie, co wiąże się z przesyłaniem danych do lokalizacji znajdujących się poza bezpośrednią kontrolą kancelarii. Czasem, dane te trafiają na serwery znajdujące się poza EOG, co może w niektórych przypadkach rodzić ryzyko naruszenia przepisów zawartych w RODO. Obserwowaliśmy już przypadki wycieku informacji u wczesnych użytkowników AI, dlatego doradzamy klientom, jak się zabezpieczyć, m.in. poprzez dobór odpowiednich narzędzi, anonimizację danych oraz unikanie "zasilania" narzędzi AI danymi osobowymi, czy też innymi objętymi ochroną prawną.

Czy sztuczna inteligencja może zastąpić część zadań wykonywanych dziś przez młodszych prawników lub aplikantów?

Pomimo dynamicznego rozwoju AI, narzędzia te są wciąż dalekie od zastąpienia, w pełni, prawników. Interpretacja stale zmieniających się przepisów, uwzględnienie w toku negocjacji dokumentów tzw. umiejętności miękkich (soft skills), zwłaszcza w złożonych kontekstach biznesowych lub społecznych, to obszary, które pozostają ciągle domeną wymagającą udziału człowieka. Skuteczna komunikacja z klientem, występowanie przed sądami, czy też polubowne rozwiązywanie sporów, wymagają jeszcze ciągle umiejętności (również tych o charakterze interpersonalnym), których nie da się obecnie zastąpić żadnym cyfrowym narzędziem.

Jak zmieniają się oczekiwania wobec młodych prawników – czy dziś poza znajomością prawa wymaga się od nich także kompetencji technologicznych?

Zdecydowanie, to już nie jest przewaga konkurencyjna, lecz absolutna podstawa. Tak jak 15 lat temu oczekiwano znajomości poczty elektronicznej i programów biurowych, tak dziś oczekuje się biegłości w posługiwaniu się coraz szerszym zestawem narzędzi cyfrowych. Prawo coraz częściej działa w środowisku cyfrowym, AI i inne technologie stały się jego integralną częścią. Młodzi prawnicy nie muszą umieć programować (jeszcze!), ale muszą rozumieć, z jakich narzędzi korzystają, jak je efektywnie wykorzystywać, jakie mają ograniczenia i gdzie pojawiają się ryzyka.

Coraz większy nacisk kładzie się także na kompetencje miękkie: umiejętność pracy w zespołach interdyscyplinarnych, znajomość języka biznesu i umiejętność przekładania skomplikowanych kwestii prawnych na praktyczne rekomendacje. Dziś młody prawnik musi być nie tylko ekspertem, ale też partnerem do rozmowy, dla klienta, który sam korzysta z zaawansowanych technologii i oczekuje tej samej jakości usług prawnych.

W Fieldfisher kluczowe jest łączenie precyzji prawniczej z otwartością na nowe podejścia, procesy i technologie. Prawo i technologia przecinają się każdego dnia, ci, którzy potrafią poruszać się świadomie na styku tych światów, będą kształtować przyszłość naszego zawodu.

Czy widzą państwo zagrożenie dla niezależności zawodu prawnika w sytuacji, gdy coraz więcej pracy wspomagają narzędzia stworzone przez wielkie korporacje technologiczne?

Tak, takie ryzyko istnieje, zwłaszcza gdy kancelaria korzysta z narzędzi, których działania nie rozumie lub nie może odpowiednio zweryfikować. W praktyce może to oznaczać zależność od systemów dostarczanych przez globalnych dostawców bez wiedzy, gdzie i jak przetwarzane są dane klienta, jaki algorytm jest używany, czy można przeprowadzić audyt oraz jakie mogą być wbudowane uprzedzenia algorytmu.

Prawnicy nie mogą delegować odpowiedzialności za swoje błędy i zaniedbania na wykorzystywane przez nich narzędzia AI. Niezbędne jest rozwijanie kompetencji z zakresu „cyfrowej należytej staranności”, czyli zdolności oceny, czy dane narzędzie spełnia standardy etyczne, techniczne i prawne, do których zachowania jesteśmy zobowiązani w swojej codziennej pracy.

Zaufanie klienta buduje się na przejrzystości w komunikacji. Jeśli praca została wykonana przez anonimowy system AI, a nie przez prawnika, to czy nadal mówimy o profesjonalnej usłudze prawnej, czy już tylko o zautomatyzowanym produkcie, który nie spełnia standardów zawodu regulowanego?

Czy AI pozwala kancelariom konkurować ceną i efektywnością – czy raczej grozi automatyzacją relacji z klientem?

To zależy od kontekstu. Relacja z klientem pozostaje kluczowa i żadna AI jej nie zastąpi. W Fieldfisher stworzyliśmy wyspecjalizowane zespoły, które obsługują powtarzalne sprawy na dużą skalę, np. masowe postępowania sądowe. Rozbijamy procesy prawne na poszczególne etapy i automatyzujemy je tam, gdzie to możliwe, część zadań realizuje technologia, a część człowiek. Kluczem jest zachowanie „ludzkiego elementu” tam, gdzie jest on niezbędny. Technologia ma wspierać prawników, a nie ich zastępować. Dzięki temu możemy skupić się na zadaniach, które rzeczywiście wymagają doświadczenia i ekspertyzy.

AI zmienia także sposób oceny jakości usług prawnych przez klientów. Od dawna słyszymy, że liczy się nie tylko wynik, ale też szybkość reakcji, przewidywalność kosztów i dostęp do informacji w czasie rzeczywistym. W tych obszarach AI może wnieść realną wartość.

Jakie działania podejmujecie, by przygotować kancelarię na obecność AI w codziennej pracy?

To proces, który trwa już od dłuższego czasu. Niedawno, ogłosiliśmy nową strategię, w której AI odgrywa centralną rolę. Inwestujemy w narzędzia zgodne z regulacjami, takimi jak AI Act, szkolimy prawników, zatrudniamy specjalistów od danych i inżynierów procesów. Co istotne, przemyśleliśmy też model wyceny usług. W erze AI nie chodzi już tylko o rozliczanie godzin, lecz o końcową wartość dostarczoną klientowi.

Równolegle, kładziemy duży nacisk na etykę i bezpieczeństwo danych. Tworzymy wewnętrzne standardy wykorzystania AI, które wykraczają poza obowiązujące wymogi regulacyjne, m.in. wprowadziliśmy zasadę „człowieka w pętli” dla wszystkich rekomendacji prawnych generowanych z udziałem AI.