ChatGPT Search, wyszukiwarka zasilana sztuczną inteligencją, która została uruchomiona w grudniu br., może być oszukana do generowania całkowicie mylących podsumowań — odkryła brytyjska gazeta The Guardian.
Funkcja wyszukiwania ChatGPT ma na celu przyspieszenie przeglądania poprzez takie działania jak podsumowywanie recenzji produktów na stronach internetowych. Jednak The Guardian odkrył, że można nakłonić ChatGPT do ignorowania negatywnych recenzji i generowania “całkowicie pozytywnych” podsumowań poprzez wstawianie ukrytego tekstu na stronach internetowych.
ChatGPT Search można również zmusić do generowania złośliwego kodu przy użyciu tej metody.
Wyszukiwarka OpenAI podatna na manipulacje
Takie ataki z użyciem ukrytego tekstu są dobrze znanym ryzykiem dla dużych modeli językowych, ale wydaje się, że to pierwszy raz, kiedy zostało to zademonstrowane na działającym produkcie wyszukiwania zasilanym przez AI.
Google, lider w dziedzinie wyszukiwania, ma większe doświadczenie w radzeniu sobie z podobnymi problemami — zauważył The Guardian.
OpenAI nie skomentowało tego konkretnego incydentu, ale stwierdziło, że używa różnych metod do blokowania złośliwych stron internetowych i nieustannie się doskonali.
Czytaj też: