Latem 2023 r., setki wybitnych postaci ze świata sztucznej inteligencji podpisały otwarty list ostrzegający, że AI może pewnego dnia zniszczyć ludzkość.
W ramach przedsięwzięcia podkreślano, że łagodzenie ryzyka spowodowanego przez potężną technologią powinno stać się globalnym priorytetem na równi z innymi zagrożeniami o skali społecznej, takimi jak pandemie czy wojna nuklearna. Warto zaznaczyć, że choć obecne systemy AI nie stanowią jeszcze egzystencjalnego zagrożenia dla ludzkości, przyszłość niesie ze sobą dużą niepewność.
Czy sztuczna inteligencja zniszczy ludzkość?
Zaniepokojenie to wynika z przekonania, że w przyszłości firmy, rządy lub niezależni badacze mogą wdrożyć zaawansowane systemy AI do zarządzania różnymi aspektami życia – od biznesu po prowadzenie działań wojennych. Istnieje obawa, że te algorytmy mogą podejmować działania, których nie chcemy i jeśli ludzie spróbują interweniować lub je wyłączyć, mogą one stawiać opór lub nawet replikować się, aby kontynuować działanie.
Yoshua Bengio, profesor i badacz AI z Uniwersytetu w Montrealu, w materiale Wall Street Journal stwierdza, że choć obecne systemy AI nie stanowią bezpośredniego zagrożenia dla istnienia ludzkości, nie można być pewnym, co przyniesie przyszłość – rok, dwa lata, pięć lat? Niepewność co do tego, czy nie osiągniemy punktu, w którym sytuacja stanie się katastrofalna, jest właśnie problemem.
Często używaną metaforą jest sytuacja, w której maszyna, poproszona o wyprodukowanie jak największej liczby spinaczy do papieru, może wymknąć się spod kontroli i przekształcić wszystko – włącznie z ludzkością – w fabryki produkujące spinacze. Choć brzmi to jak scenariusz z filmu science fiction, podkreśla potencjalną moc i nieprzewidywalność AI.
W świetle tych obaw, kwestia czy sztuczna inteligencja zniszczy ludzkość pozostaje otwarta. Chociaż obecnie nie stajemy w obliczu bezpośredniego zagrożenia, ważne jest, aby naukowcy, decydenci i społeczeństwo jako całość podjęli środki ostrożności, aby zapobiec możliwym negatywnym scenariuszom w przyszłości. Dialog, regulacje i ciągłe badania nad etyką i bezpieczeństwem AI są kluczowe w zarządzaniu rozwojem technologii, która ma potencjał zarówno do znaczącego ulepszania życia ludzkiego, jak i – w najgorszym przypadku – do stawiania jego istnienia pod znakiem zapytania.
Pozostała część artykułu pod materiałem wideo:
Komu zagraża ChatGPT?
Rozważania na temat chatbota od OpenAI przynoszą dość wyważone spojrzenie na kwestię zagrożeń i możliwości, jakie niesie ze sobą rozwój sztucznej inteligencji, w tym ChatGPT. Tekst skupia się na wpływie AI na biznes, zamiast malować apokaliptyczne scenariusze dla ludzkości jako całości.
Spotkanie zorganizowane przez Yale University w czerwcu 2023 roku, które zgromadziło założycieli, CEO i przewodniczących firm z listy Fortune 500, a także wybitnych profesorów, inwestorów i przedstawicieli rządów, a jego celem było skupienie się na ryzyku związanym z AI. Przy okazji zapytano uczestników o potencjalne zagrożenie, jakie AI może stanowić dla ludzkości. Wyniki były mieszane, ale większość (58%) uznała, że obawy o egzystencjalne zagrożenie są przesadzone.
Autor artykułu w Forbes, Glenn Gow, podkreśla, że choć generatywna AI, tak jak ChatGPT, nie zniszczy ludzkości, to może jednak przynieść poważne szkody dla biznesów, które nie dostosują się do zmieniającego się krajobrazu technologicznego. Wskazuje trzy główne obszary, w których AI może zaszkodzić firmom.
- Luka produktywności. Firmy, które szybko adoptują AI, zyskują znaczącą przewagę w efektywności i wydajności, co może powodować trudności dla tych, którzy pozostają w tyle.
- Ataki cybernetyczne zasilane przez AI. Wzrost wyrafinowanych ataków cybernetycznych wykorzystujących AI do tworzenia przekonujących wiadomości phishingowych czy deepfake’ów.
- Błyskawiczna dezorganizacja. Możliwość szybkiej dezorganizacji branż przez nowoczesne narzędzia AI, podobnie jak ChatGPT, co już widać na przykładzie spadków na giełdzie niektórych firm.
Ufaj i kontroluj
Wydaje się, że choć AI może nie być bezpośrednim zagrożeniem dla istnienia ludzkości, przynosi ona wyzwania, które mogą decydować o przyszłości firm. W związku z tym zachęca się do włączania kwestii AI do każdej dyskusji na poziomie zarządu i kadry kierowniczej, aby lepiej zarządzać ryzykiem i wykorzystywać możliwości, jakie oferuje sztuczna inteligencja.
ChatGPT i inne formy generatywnej AI wydają się być raczej wyzwaniem dla biznesu niż bezpośrednim zagrożeniem dla ludzkości. Ważne jest, aby podejść do tej technologii strategicznie, zarówno pod kątem jej potencjalnych korzyści, jak i ryzyka.
Czytaj dalej: