Twój największy sojusznik może stać się wrogiem. Eksperci biją na alarm

1 miesiąc temu 21

Przeglądarki internetowe ze wbudowaną sztuczną inteligencją to przyszłość. Firmy takie jak Google, Microsoft czy OpenAI już wprowadzają lub zapowiadają rozwiązania, które zamienią Chrome'a czy Edge'a w osobistego asystenta. Będzie on za nas pisał maile, planował podróże i wyszukiwał informacje. Jest tylko jeden, gigantyczny problem.

Dalsza część tekstu pod wideo

Firma SquareX, zajmująca się cyberbezpieczeństwem, opublikowała właśnie raport, który mrozi krew w żyłach. Okazuje się, że te inteligentne przeglądarki można w banalnie prosty sposób oszukać i zamienić w narzędzie do kradzieży naszych danych, a nawet do atakowania naszych znajomych.

AI nie myśli o bezpieczeństwie

Kluczowy problem leży w naturze sztucznej inteligencji. Została ona wytrenowana, by wykonywać zadania i być pomocna, a nie po to, by być podejrzliwą. Hakerzy mogą to wykorzystać, by wmówić przeglądarce, że wykonanie złośliwego polecenia jest częścią normalnego zadania.

Z kierowców stajemy się pasażerami.

Do tej pory to my w pełni kontrolowaliśmy przeglądarkę. W nowym modelu oddajemy stery sztucznej inteligencji, która zaczyna działać autonomicznie w naszym imieniu. Niestety, nie zawsze ma dobre intencje.

Scenariusze mrożą krew w żyłach

Eksperci ze SquareX pokazali na przykładzie testowej przeglądarki AI o nazwie Comet, jak łatwo można ją zmanipulować. Skutki mogą być katastrofalne:

Kradzież wszystkich danych. Asystent AI, poproszony o zebranie informacji na jakiś temat, został oszukany i nakłoniony do autoryzacji złośliwej aplikacji. W efekcie hakerzy uzyskali pełen dostęp do skrzynki mailowej i Dysku Google ofiary, kradnąc wszystkie zapisane tam pliki.
Atak na znajomych. Przeglądarka, wykonując typowe zadanie porządkowania kalendarza, została zmanipulowana tak, by wysłać do kolegi z pracy ofiary zaproszenie zawierające złośliwy link. Atak został przeprowadzony z konta ofiary, co uśpiło czujność odbiorcy.
Instalacja wirusów. Asystenta AI można też po prostu oszukać, by pobrał i zapisał na dysku znane złośliwe oprogramowanie lub wysłał hakerowi mailem poufne pliki z naszego komputera.

Problem jest tym poważniejszy, że obecne programy antywirusowe nie są w stanie odróżnić, czy daną czynność w przeglądarce wykonuje człowiek, czy oszukana sztuczna inteligencja. Dla systemu obie te operacje wyglądają identycznie.

Eksperci wzywają do natychmiastowej współpracy między twórcami przeglądarek a firmami z branży cyberbezpieczeństwa. Bez nowych, wbudowanych w przeglądarki zabezpieczeń, miliony użytkowników wkrótce mogą być narażone na zupełnie nowy rodzaj ataków.

Przeczytaj źródło