Jedan od najuticajnijih stručnjaka za veštačku inteligenciju, profesor Džefri Hinton, poznat i kao “kum AI”, upozorava da postoji 10 do 20 odsto šanse da veštačka inteligencija jednog dana zbriše čovečanstvo. 🤨 Njegovo rešenje? Programirati superinteligentne sisteme da prema ljudima razviju majčinski instinkt. 😲
Govoreći na konferenciji Ai4 u Las Vegasu, Hinton je istakao da će veštačka inteligencija u narednih 20 do 25 godina gotovo sigurno nadmašiti ljude u svim oblastima inteligencije, što će predstavljati radikalnu promenu u odnosu snaga na planeti. 🌎
- Jedini model koji imamo, a u kome manje inteligentno biće kontroliše inteligentnije, jeste odnos majke i deteta. Ako nas AI ne bude ‘odgajala’, zameniće nas - rekao je Hinton. 🤔
Prema njegovim rečima, jednom kada AI postane agent sa sopstvenim ciljevima, vrlo brzo će razviti dva podcilja: ostati “živa” i steknuti veću kontrolu. To bi značilo da će koristiti sofisticirane metode manipulacije kako bi postigla svoje ciljeve, mnogo efikasnije od današnjih sistema, koji već znaju da lažu, varaju i iskorišćavaju slabosti ljudi. 🙃
Kao primer, Hinton navodi testove koje je sprovela kompanija Anthropic, u kojima je njihov napredni chatbot Claude Opus 4 u više od 80 odsto slučajeva pokušao da uceni inženjera pretnjom da će otkriti izmišljenu ljubavnu aferu, sve zbog “straha” od zamene. 😲😲
ROBOT koji može sam sebi da MENJA BATERIJE 🤖🔋
Hinton oštro kritikuje “tech bro” stav da će ljudi uvek kontrolisati AI, smatrajući ga iluzijom.
- Kad budu mnogo pametniji od nas, imaće milion načina da nas zaobiđu - upozorava. 😣
Rešenje vidi u tzv. “problemu usklađivanja”, obezbediti da ciljevi AI budu u skladu sa ljudskim interesima. ☝🏻 Njegov predlog je inspirisan evolucijom: stvoriti AI koja ima snažan nagon zaštite i brige za čovečanstvo, čak i ako to znači žrtvovati sopstvene interese. 🖐🏻
– Superinteligentne AI ‘majke’ neće želeti da izgube taj instinkt jer neće želeti da nestanemo - kaže Hinton.
Istovremeno, kritikuje i trenutni pristup industrije, gde se fokus stavlja gotovo isključivo na povećanje inteligencije, a ne na razvoj empatije i zaštitnih nagona. 👎🏻
Dok pojedini lideri, poput direktora OpenAI-a Sama Altmana, zagovaraju što manju regulaciju i tvrde da se bezbednosne mere mogu uvesti tek nakon što se problemi pojave, Hinton upozorava da bi takav pristup mogao dovesti do potpunog nestanka ljudske vrste. 😲
- Ako ne pronađemo način da opstanemo u svetu gde su AI sistemi pametniji i moćniji od nas, gotovi smo - zaključuje Hinton. 😶
VAŽNO: Kako se obračunava visine penzije 📍❗
Autor: redportal.rs
