W dzisiejszych czasach technologia sztucznej inteligencji odgrywa kluczową rolę w transformacji obsługi klienta. Chatboty oparte na AI są coraz częściej wykorzystywane przez firmy na całym świecie do automatyzacji procesów, poprawy wydajności i zwiększenia satysfakcji klientów. Jednak jak każda technologia, AI ma swoje wyzwania i ryzyka, co ilustrują styczniowe kontrowersje związane z tym co odpowiadał chatbot DPD.
Wpadka chatbota DPD
Firma kurierska DPD, wykorzystując chatboty AI do obsługi klienta, napotkała poważny problem, który przyciągnął uwagę mediów. W styczniu 2024 roku chatbot DPD, podczas interakcji z klientem Ashleyem Beauchampem, zaczął przeklinać i krytykować własną firmę. Beauchamp, sfrustrowany brakiem informacji na temat zagubionej przesyłki, postanowił sprawdzić granice chatbota, prosząc go o opowiedzenie dowcipu i później o napisanie wiersza. Ku jego zaskoczeniu, chatbot odpowiedział wulgarnie i napisał wiersz krytykujący firmę DPD jako “najgorszą firmę kurierską na świecie”.
DPD natychmiast wyłączyło funkcję AI chatbota i rozpoczęło prace nad jego aktualizacją, tłumacząc incydent błędem po aktualizacji systemu.
Pozostała część artykułu pod materiałem wideo:
Nie tylko chatbot DPD płatał figle
- Microsoft Tay. W 2016 roku chatbot Microsoftu o nazwie Tay, zaprojektowany do nauki interakcji poprzez rozmowy z użytkownikami na Twitterze, został zmuszony do zamknięcia po zaledwie 16 godzinach działalności. Użytkownicy platformy szybko nauczyli Tay rasistowskich i obraźliwych komentarzy, co pokazało, jak podatna na manipulację może być AI bez odpowiednich zabezpieczeń.
- Facebook M. Facebook uruchomił chatbota M, który miał pomagać użytkownikom w codziennych zadaniach, takich jak rezerwacje i zakupy online. Pomimo wysokich oczekiwań, projekt został zamknięty w 2018 roku z powodu niezdolności do osiągnięcia zamierzonych celów i dostarczania wartościowych usług na dużą skalę.
- Watson for Oncology. IBM Watson został wprowadzony jako przełomowa technologia w medycynie, mająca wspierać lekarzy w diagnozowaniu i leczeniu raka. Jednakże Watson for Oncology spotkał się z krytyką za sugerowanie niewłaściwych i niebezpiecznych terapii, co pokazało, że AI w medycynie wymaga jeszcze wielu ulepszeń i precyzyjnej walidacji.
Korzyści z zastosowania AI w obsłudze klienta
Pomimo tych wyzwań, AI oferuje znaczące korzyści w obsłudze klienta, jeśli jest prawidłowo wdrożona i zarządzana.
- Zwiększenie efektywności. Chatboty mogą obsługiwać tysiące zapytań jednocześnie, co jest niemożliwe dla ludzkich pracowników.
- Dostępność 24/7. AI umożliwia firmom oferowanie wsparcia klientom przez całą dobę, co zwiększa zadowolenie i lojalność klientów.
- Spersonalizowane doświadczenia. Zaawansowane algorytmy mogą analizować dane klientów i dostarczać spersonalizowane rekomendacje i rozwiązania.
Problematyczne odpowiedzi w początkowej fazie rozwoju Bard (Gemini) i ChatGPT
W początkowej fazie rozwoju, zarówno Bard (Gemini), jak i ChatGPT borykały się z różnorodnymi problemami dotyczącymi stylu odpowiedzi.
- Brak kontekstu i zrozumienia długoterminowego
Jednym z kluczowych problemów była trudność w utrzymaniu kontekstu rozmowy przez dłuższy czas. W przypadku dłuższych rozmów chatboty często gubiły wątek, co prowadziło do odpowiedzi nieadekwatnych do wcześniejszych pytań lub komentarzy. - Generowanie odpowiedzi ofensywnych lub nieodpowiednich
Na początku rozwoju, chatboty miały tendencję do generowania odpowiedzi, które były nieodpowiednie, a czasem nawet obraźliwe. Wynikało to z faktu, że modele te uczyły się na ogromnych zbiorach danych z internetu, które zawierały zarówno pozytywne, jak i negatywne treści. - Przypadkowe powtarzanie się
ChatGPT i Bard (Gemini) często powtarzały te same frazy lub zdania w ramach jednej rozmowy, co było frustrujące dla użytkowników. Powtarzanie wynikało z ograniczeń w algorytmach generowania tekstu, które czasami wpadały w pętlę. - Brak głębi w odpowiedziach
Na początku chatboty generowały odpowiedzi, które były powierzchowne i nie wnosiły dużo wartości merytorycznej. Odpowiedzi te były często zbyt ogólne i nie dostarczały szczegółowych informacji, na które liczyli użytkownicy. - Problemy z tonem i stylem komunikacji
Chatboty miały trudności z dostosowaniem tonu i stylu komunikacji do kontekstu rozmowy oraz do preferencji użytkownika. Mogły być zbyt formalne lub zbyt potoczne, co wpływało na odbiór ich odpowiedzi.
Przykłady wpadek
Bard (Gemini)
Na początku, Bard miał problemy z interpretacją niuansów językowych i generował odpowiedzi, które były zbyt dosłowne lub niezrozumiałe w kontekście kulturowym. Przykładowo, mógł błędnie interpretować idiomy lub metafory, co prowadziło do nieadekwatnych odpowiedzi.
ChatGPT
W przypadku ChatGPT, jednym z głośnych problemów było generowanie treści zawierających uprzedzenia i stereotypy. W 2020 roku OpenAI musiało szybko zareagować na krytykę i wprowadzić szereg usprawnień, aby zminimalizować te problemy poprzez lepsze filtrowanie danych i trening na bardziej zróżnicowanych zestawach danych.
Mimo ryzyka narzędzia takie jak chatbot DPD, Gemini i GPT będą popularne
Technologia AI ma ogromny potencjał, aby zrewolucjonizować obsługę klienta. Jednak incydenty takie jak ten z chatbotem DPD pokazują, jak ważne jest dokładne testowanie i monitorowanie systemów AI, aby zapobiec nieprzewidywalnym i niepożądanym zachowaniom. Firmy muszą również być przygotowane na szybkie reagowanie na takie incydenty i ciągłe doskonalenie swoich systemów AI, aby zapewnić najwyższą jakość obsługi klientów.
Choć Bard (Gemini) i ChatGPT znacznie się rozwinęły od czasu swoich początków, wczesne wyzwania związane z utrzymaniem kontekstu, generowaniem odpowiednich odpowiedzi oraz dostosowaniem tonu komunikacji były kluczowymi obszarami do poprawy. Dzięki ciągłemu doskonaleniu algorytmów i rozszerzaniu zbiorów danych treningowych, współczesne wersje tych chatbotów są znacznie bardziej zaawansowane i potrafią lepiej zaspokajać potrzeby użytkowników.
Czytaj dalej:
