Najnowszy eksperyment AI Google może wprowadzać w błąd czytelników

Okazuje się, że niedawno Google przeprowadziło testy nowej funkcji AI, która trafiła do Discovera (spersonalizowanego kanału z informacjami, znanego głównie ze smartfonów). Firma wykorzystała sztuczną inteligencję do skracania nagłówków, co doprowadziło do generowania czasami nieprawdziwych tytułów, które przekazują błędne informacje.

Część użytkowników (prawdopodobnie wyłącznie w Stanach Zjednoczonych) mogła zauważyć, że nagłówki tekstów zostały sprowadzone zaledwie do kilku słów. To nie nowa moda wśród redakcji, tylko działanie Google, które w Discoverze wykorzystuje AI do skracania tytułów. Jak donosi The Verge, niektóre są trafne i oddają treść (jak "Hyundai and Kia are lapping the competition as US market share reaches a new record" przerobione na "Hyundai, Kia gain share"), chociaż w bardzo skąpy sposób.

Inne natomiast czasami wypaczają treść całej wiadomości. Przykładem jest ciekawa taktyka pozwalająca zmienić dzieci w zabójczą broń w Baldur’s Gate 3. PC Gamer opisał sprawę w tekście zatytułowanym „’Child labor is unbeatable': Baldur's Gate 3 players discover how to build an army of unkillable kids through the power of polymorph and German media laws”, podczas gdy w Google Discover pojawił się nagłówek „BG3 players exploit children”, co kompletnie zmienia sens i sugeruje coś zupełnie innego.

Kolejnym przykładem jest artykuł portalu Ars Technica: „Valve’s Steam Machine looks like a console, but don’t expect it to be priced like one”, który AI przerobiło na „Steam Machine price revealed”, mimo że do ujawnienia ceny przez Valve jeszcze długa droga i obecnie bazujemy wyłącznie na domysłach.

Z Google skontaktowali się dziennikarze The Verge z prośbą o wyjaśnienie sprawy. Okazało się, że chodziło wyłącznie o testy funkcji:

Te zrzuty ekranu pokazują wyłącznie nasz mały eksperyment interfejsu przeprowadzony na części użytkowników Discovera. Testujemy nową stylistykę, która zmienia położenie istniejących nagłówków, żeby ułatwić przyswojenie tematu, zanim użytkownicy zaczną eksplorację linków prowadzących do internetu.

Firma zwróciła także uwagę, że czytelnicy mogą rozwinąć każdy wątek, żeby uzyskać dalsze informacje. Wątpliwe jednak, żeby internauci byli świadomi, że stoi za tym AI, a nie same redakcje wprowadzające mylne tytuły.

Test Google pokazuje, że sztuczna inteligencja ma problem z wyłapaniem ironii lub niuansów ukrytych w tytułach. Coś, co wydaje się oczywiste dla czytelnika, umyka AI, co może prowadzić do nieprawdziwych nagłówków. Na szczęście mieliśmy do czynienia wyłącznie z eksperymentem, a nie gotową do wdrożenia funkcją.