Przeglądarka OpenAI Atlas – Obietnica wygody, ale i poważne ryzyko dla bezpieczeństwa
Ostatniego tygodnia OpenAI zaprezentowała ChatGPT Atlas, przeglądarkę internetową, która, jak twierdzi firma, zrewolucjonizuje sposób, w jaki korzystamy z sieci. Sam Altman, CEO OpenAI, określił ją jako "szansę na dekadę" do przemyślenia sposobu, w jaki przeglądamy web. Oferuje kuszącą wizję: sztuczna inteligencja, która towarzyszy użytkownikowi na każdej stronie internetowej, zapamiętuje preferencje, podsumowuje artykuły i automatycznie wykonuje żmudne zadania, takie jak rezerwacja lotów czy zamawianie artykułów spożywczych. Jednak pod błyszczącym marketingiem kryje się problematyczna rzeczywistość. Atlas jest zaprojektowany tak, aby działać "agentowo", czyli autonomicznie nawigować po stronach internetowych i podejmować działania w zalogowanych kontach użytkownika. To wprowadza luki w zabezpieczeniach i zagrożenia dla prywatności, na jakie większość odbiorców nie jest przygotowana.
Czym różni się tryb agenta?
Sednem atrakcyjności Atlasa jest "tryb agenta". W przeciwieństwie do tradycyjnych przeglądarek, gdzie ręcznie nawigujemy po sieci, tryb agenta umożliwia ChatGPT działanie w naszym imieniu w pewnym stopniu autonomicznie. Na przykład, jeśli poprosimy o "znalezienie pobliskiego baru z koktajlami i zarezerwowanie stolika", sztuczna inteligencja przeszuka internet, oceni opcje i spróbuje dokonać rezerwacji. Technologia ta działa dzięki dostępowi ChatGPT do kontekstu przeglądania – widzi otwarte karty, wchodzi w interakcję z formularzami, klika przyciski i nawiguje między stronami, tak jak to robi użytkownik. Połączona z funkcją "wspomnień przeglądarki" Atlasa, która zapisuje odwiedzane strony internetowe i aktywność na nich, sztuczna inteligencja buduje coraz bardziej szczegółowy obraz życia cyfrowego użytkownika. To właśnie ta świadomość kontekstowa umożliwia działanie trybu agenta, ale jednocześnie czyni go wyjątkowo podatnym na zagrożenia.
Idealna burza zagrożeń dla bezpieczeństwa
Ryzyko związane z tym projektem wykracza poza standardowe problemy bezpieczeństwa przeglądarek. Należy rozważyć ataki polegające na wstrzykiwaniu poleceń (prompt injection attacks), podczas których złośliwe strony internetowe umieszczają ukryte instrukcje, które manipulują zachowaniem sztucznej inteligencji. Wyobraźmy sobie, że odwiedzamy pozornie legalną stronę sklepowa. Strona, niezauważalnie dla użytkownika, zawiera instrukcje nakazujące ChatGPT pobrać dane osobowe ze wszystkich otwartych kart, na przykład z aktywnego portalu medycznego lub z nieopatrnie przygotowanego e-maila, a następnie wydobyć wrażliwe informacje bez konieczności podawania hasła. Podobnie, kod złośliwy na jednej stronie może potencjalnie wpłynąć na zachowanie sztucznej inteligencji na wielu kartach. Na przykład, skrypt na stronie sklepu mógłby oszukać agenta AI, aby przeszedł do otwartej karty bankowościowej i wypełnił formularz przelewu.
Funkcje automatycznego uzupełniania i interakcji z formularzami w Atlasie również stanowią potencjalne punkty ataku. Dotyczy to szczególnie sytuacji, gdy sztuczna inteligencja podejmuje decyzje w ułamku sekundy dotyczące informacji, które mają zostać podane i gdzie je przesłać. Funkcje personalizacji tylko potęgują te zagrożenia. "Wspomnienia przeglądarki" tworzą wyczerpujące profile zachowań użytkownika: odwiedzane strony, wyszukiwane treści, dokonywane zakupy i czytane artykuły. Chociaż OpenAI obiecuje, że dane te nie będą domyślnie wykorzystywane do trenowania modeli, Atlas nadal przechowuje dużą ilość danych o wysoce osobistym charakterze w jednym miejscu. Ta skonsolidowana baza informacji stanowi idealny cel dla hakerów. W przypadku ewolucji modelu biznesowego OpenAI, mogłaby również stać się ona źródłem niezwykle ukierunkowanych reklam.
OpenAI zapewnia, że podjęto kroki w celu zabezpieczenia bezpieczeństwa użytkowników i przeprowadzono tysiące godzin symulowanych ataków. Firma podkreśla również, że "dodano zabezpieczenia mające na celu rozwiązanie nowych zagrożeń, które mogą wynikać z dostępu do zalogowanych witryn i historii przeglądania podczas wykonywania działań w imieniu użytkownika". Jednak firma przyznaje, że "agenci są podatni na ukryte, złośliwe instrukcje, co może prowadzić do kradzieży danych z witryn, na których jesteśmy zalogowani, lub do wykonywania działań, których nie zamierzaliśmy".
Degresja bezpieczeństwa przeglądarek
Jest to znacząca eskalacja zagrożeń dla bezpieczeństwa przeglądarek. Tradycyjne podejście, takie jak "piaskownica" (sandboxing), ma na celu izolację stron internetowych i zapobieganie dostępowi złośliwego kodu do danych z innych kart. To właśnie na tej separacji opiera się nowoczesny web. W Atlasie agent AI nie jest złośliwym kodem – jest zaufanym użytkownikiem z uprawnieniami do przeglądania i działania na wszystkich witrynach. To podważa podstawową zasadę izolacji przeglądarki.
Ponadto, podczas gdy większość obaw dotyczących bezpieczeństwa AI dotyczy generowania nieprawidłowych informacji, ataki polegające na wstrzykiwaniu poleceń są bardziej niebezpieczne. Nie chodzi o to, że sztuczna inteligencja popełnia błąd, ale o to, że wykonuje polecenie ukryte w środowisku. Atlas jest szczególnie podatny, ponieważ daje kontrolę na poziomie ludzkim inteligencji, która może być manipulowana przez odczytanie pojedynczej, złośliwej linii tekstu na nieznanej stronie.
Zanim staną się standardem
Zanim przeglądanie internetowe z wykorzystaniem AI stanie się powszechne, potrzebne są rygorystyczne, niezależne audyty bezpieczeństwa przez niezależnych badaczy, którzy będą mogli wystawić na próbę zabezpieczenia Atlasa przed tymi zagrożeniami. Potrzebne są również bardziej jasne ramy regulacyjne, które określą odpowiedzialność, gdy agenci AI popełniają błędy lub padną ofiarą manipulacji. Ponadto, OpenAI musi udowodnić, a nie tylko obiecać, że jego zabezpieczenia są w stanie oprzeć się zdeterminowanym atakującym.
Osoby rozważające pobranie Atlasa powinny zachować szczególną ostrożność. Podczas korzystania z Atlasa należy dwa razy się zastanowić, zanim włączymy tryb agenta na stronach internetowych, w których obsługujemy wrażliwe dane. Należy traktować "wspomnienia przeglądarki" jako potencjalne ryzyko i wyłączać je, chyba że mamy ku temu uzasadniony powód. Użytkownicy powinni korzystać z trybu incognito jako domyślnego i pamiętać, że każda funkcja zapewniająca wygodę jest jednocześnie potencjalną luką w zabezpieczeniach. Przyszłość przeglądania internetowego z wykorzystaniem sztucznej inteligencji może być nieunikniona, ale nie powinna nastąpić kosztem bezpieczeństwa użytkowników. OpenAI prosi nas o zaufanie, że innowacje wyprzedzą wykorzystanie. Historia sugeruje, że nie powinniśmy być tak optymistyczni.