Australia: AI skompromitowała raport rządowy. Fikcyjne źródła i fałszywe dane
fot. Adobe Stock/ilustracyjne
Błędy w analizach AI i reakcja Deloitte
Raport sporządzony przez Deloitte podlegał audytowi przestrzegania prawa przez australijskie ministerstwo. Pomimo początkowych zapewnień, raport zawierał co najmniej 20 błędów, zwanych halucynacjami, wygenerowanych przez sztuczną inteligencję. Te fałszywe dane obejmowały również cytaty z ekspertyz i orzeczeń sądowych oraz nawet odniesienia do nieistniejącej książki profesor praw z Sydney. Resort pracy w swoim oświadczeniu ujawnił, że "Deloitte przeanalizował swój 237-stronicowy raport i potwierdził, że niektóre przypisy i odniesienia były nieprawidłowe" - resort pracy.
Firma błyskawicznie zareagowała na krytykę, porozumiewając się w tej sprawie z rządem australijskim. W wydanym oświadczeniu firma stwierdziła, że "sprawa została rozwiązana bezpośrednio z klientem" - firma, unikając szczegółowego odniesienia się do pytania o udział sztucznej inteligencji w generowaniu błędów.
Korekta i uwagi krytyków
Po odkryciu błędów, raport został skorygowany, usuwając fikcyjne cytaty i odniesienia. Nowa wersja dokumentu zawiera informacje o wykorzystaniu technologii stworzonej przez Azure OpenAI. Chris Rudge, specjalista prawa zdrowia i opieki społecznej, był osobą, która dostrzegła poważne uchybienia w raporcie. Dzięki jego interwencji media zostały powiadomione o sytuacji.
- Całkowicie przeinaczyli orzeczenie sądowe, a potem zmyślili cytat z wypowiedzi sędziego (...) przeinaczającego prawo. Dlatego uznałem, że ważne jest, aby stanąć w obronie należytej staranności - powiedział Rudge w rozmowie z AP.
Krytyka ze strony polityków również była surowa. Senatorka Barbara Pocock z Partii Zielonych stanowczo wypowiedziała się na temat przypadkowego użycia technologii przez Deloitte. W rozmowie z ABC skomentowała, że firma "nadużyła sztucznej inteligencji, i to w bardzo niewłaściwy sposób". Pocock zauważyła też, że "za podobne przewinienie student pierwszego roku mógłby mieć poważne kłopoty", podkreślając surowość sytuacji i potrzebę odpowiedzialnego korzystania z nowoczesnych technologii.
Źródło: PAP
Jesteśmy na Google News. Dołącz do nas i śledź Strefę Biznesu codziennie. Obserwuj StrefaBiznesu.pl!
