Badacze są pełni obaw. Czy AI naśladuje ludzkie procesy myślowe?

Kluczowi specjaliści zajmujący się badaniami nad AI wzywają do monitorowania "procesów myślowych" modeli sztucznej inteligencji. Jak będzie wyglądać przyszłość AI?

AI, czyli sztuczna inteligencja, staje się coraz bardziej zaawansowana, a jej rozwój budzi wiele pytań dotyczących bezpieczeństwa i etyki. W odpowiedzi na te obawy, liderzy z OpenAI, Google DeepMind i innych organizacji opublikowali dokument, w którym apelują o monitorowanie tzw. „myśli” AI.

Sztuczna inteligencja naśladuje ludzkie procesy myślowe

Jak podaje serwis Tech Crunch, nowoczesne modele sztucznej inteligencji, korzystają z tzw. łańcuchów myślowych (Chain of Thought, CoT), które naśladują ludzkie podejście do rozwiązywania problemów krok po kroku. Dzięki temu AI potrafi lepiej analizować złożone zadania i uzasadniać swoje decyzje. Zdaniem ekspertów obserwacja i monitorowanie tych "procesów myślowych" może stać się kluczowym narzędziem w zapewnieniu kontroli nad sztuczną inteligencją. Szczególnie, gdy jej zastosowanie staje się tak powszechne i wpływa na życie wielu z nas. 

Autorzy raportu zwracają uwagę, że dzisiejsza przejrzystość łańcuchów myślowych (CoT) w modelach AI nie jest gwarantowana na przyszłość. Podkreślają potrzebę pogłębionych badań nad mechanizmami, które pozwalają na ich monitorowanie. Istnieje też ryzyko, że wprowadzanie zmian czy interwencji w działanie tych systemów może osłabić zarówno czytelność procesów decyzyjnych AI, jak i ich niezawodność.

Wśród sygnatariuszy apelu znajdują się znane postacie, takie jak Mark Chen z OpenAI i Geoffrey Hinton. Dokument ten jest próbą zjednoczenia liderów branży w celu zwiększenia badań nad bezpieczeństwem AI.

Konkurencja nie śpi

Publikacja dokumentu zbiega się z intensywną konkurencją w branży technologicznej. Firmy takie jak Meta  próbują przechwycić specjalistów z OpenAI i Google DeepMind poprzez oferowanie im niewiarygodnie atrakcyjnych warunków pracy. 

Mimo imponujących postępów w zwiększaniu wydajności sztucznej inteligencji, wciąż pozostaje tajemnicą, w jaki sposób modele dochodzą do swoich odpowiedzi. Problem ten staje się coraz bardziej istotny wraz z rosnącym zastosowaniem AI w kluczowych obszarach życia. Dlatego firmy takie jak Anthropic koncentrują się na badaniach nad interpretowalnością algorytmów, które mają na celu odsłonięcie mechanizmów działania modeli i umożliwienie lepszego zrozumienia podejmowanych przez nie decyzji.