Współczesny ekosystem technologiczny opiera się na kruchych fundamentach oprogramowania open source. Przekonał się o tym Mercor – wyceniany na 10 mld dolarów startup AI, który padł ofiarą zaawansowanego ataku na łańcuch dostaw.
Mercor, choć założony dopiero w 2023 roku, stał się już kluczowym graczem w branży AI, współpracując z takimi potęgami jak Meta, OpenAI oraz Anthropic. Startup specjalizuje się w rekrutacji ekspertów – naukowców, lekarzy i prawników – do trenowania modeli językowych, obsługując dziennie płatności rzędu 2 mln dolarów. Mimo swojej pozycji rynkowej i niedawnej rundy finansowania Series C o wartości 350 milionów dolarów, firma stała się jednak jedną z tysięcy ofiar naruszenia bezpieczeństwa w open source’owym projekcie LiteLLM.
Od open source do wycieku danych
Źródłem problemu był popularny projekt open source LiteLLM, z którego bibliotek korzystają miliony użytkowników dziennie. Incydent, łączony z grupą hakerską TeamPCP, polegał na umieszczeniu złośliwego kodu w pakiecie skojarzonym z tym projektem. Choć zagrożenie zidentyfikowano i usunięto w ciągu kilku godzin, skutki dla użytkowników końcowych okazały się dotkliwe.
Odpowiedzialność za bezpośredni atak na dane Mercora przypisała sobie grupa hakerska Lapsus$. Aby udowodnić, że udało im się złamać zabezpieczenia, hakerzy udostępnili próbki danych, które zawierały:
- informacje z komunikatora Slack,
- dane z systemów obsługi zgłoszeń,
- nagrania wideo prezentujące interakcje systemów AI Mercora z kontrahentami.
Skala wycieku danych z Mercor jest znacząca i obejmuje około 4 terabajty skradzionych informacji, w tym 939 GB kodu źródłowego platformy, 211 GB bazy danych użytkowników, około 3 TB nagrań wideo z rozmów kwalifikacyjnych i dokumentów weryfikacji tożsamości, w tym skanów paszportów.
Liczba poszkodowanych osób – które utraciły dane osobowe, w tym pełne imiona, numery Social Security, adresy i inne informacje identyfikujące,jest szacowana na ponad 40 tys. obecnych i byłych kontraktorów oraz klientów Mercor.
Konsekwencje bycia ogniwem w łańcuchu
W ciągu tygodnia od ujawnienia incydentu złożono co najmniej 5 pozwów zbiorowych w sądach federalnych w Kalifornii i Teksasie, oskarżających Mercor o zaniedbania w ochronie danych. Meta wstrzymała współpracę z Mercor, a OpenAI prowadzi własne dochodzenie.
Warto zauważyć, że incydent zmusił również twórców LiteLLM do rewizji swoich procesów bezpieczeństwa. Projekt zmienił partnera ds. certyfikacji zgodności z Delve na firmę Vanta, w celu odbudowanie zaufania wśród użytkowników.
Przypadek Mercora jest jednak bardziej uniwersalnym sygnałem ostrzegawczym. Przede wszystkim wskazuje, że nawet najbardziej zabezpieczone systemy wewnętrzne są zależne od zewnętrznych bibliotek open source, które mogą stanowić boczną furtkę dla hakerów. Zaś popularność narzędzi takich jak LiteLLM sprawia, że jeden błąd w kodzie może wpłynąć na tysiące podmiotów jednocześnie.
CZYTAJ TEŻ: Przełom w energochłonności AI?
CZYTAJ TEŻ: Koszmarny błąd AI czy człowieka? Rekonstrukcja operacji: MSS w Iranie