Alibaba-ov novi AI model, Wan 2.1, izazvao je pometnju jer se brzo zloupotrebljava za kreiranje neprimerenog sadržaja. To ukazuje na potrebu za jačim etičkim smernicama i regulacijama u razvoju AI-a.
Kineski tehnološki gigant Alibaba je lansirao svoj najnoviji model veštačke inteligencije, Wan 2.1, koji je za manje od 24 časa nakon objavljivanja postao tema kontroverze. Softver, koji je kompanija učinila dostupnim na Githubu, omogućava korisnicima da kreiraju video sadržaje pomoću AI-a, ali nažalost, u rukama pogrešnih ljudi, ovaj alat je već počeo da se zloupotrebljava za proizvodnju neprimerenog sadržaja.
Predstavljen u utorak, Wan 2.1 je najnovija verzija "otvorenog" modela veštačke inteligencije koji generiše video sadržaj, a omogućavanje slobodnog pristupa na Githubu znači da svako ko poseduje tehničko znanje može da preuzme i modifikuje ovaj softver. No, ubrzo nakon što je postao dostupan javnosti, neki korisnici su iskoristili njegovu snagu da kreiraju video materijale koji se protive moralnim i društvenim normama.
Kako piše Kurir, na raznim platformama, od Telegram kanala do specijalizovanih foruma, entuzijasti u oblasti AI-a već diskutuju o naprednim mogućnostima Wan 2.1 modela, ne skrivajući oduševljenje njegovim potencijalom za kreiranje video sadržaja sa složenim pokretima. U njihovim očima, ovaj alat je superiorniji od konkurentskih proizvoda, poput Hunyuan modela koji je razvio Tencent.
TAMNA STRANA AI INOVACIJA
Međutim, rastući broj slučajeva zloupotrebe ovakvih alata postavlja ozbiljan izazov za razvoj etičkih smernica u oblasti veštačke inteligencije. Otvoreni AI modeli, poput ovog, nude ogromnu kreativnu slobodu, ali takođe donose i ozbiljne rizike.
S jedne strane, omogućavaju širokoj javnosti pristup alatima koji mogu doprineti inovacijama, dok s druge strane, otvaraju vrata za generisanje materijala koji može biti opasan ili štetan.
POZIV NA JAČE ETIČKE SMERNICE U RAZVOJU AI-A
Stručnjaci upozoravaju na hitnu potrebu za implementacijom sigurnosnih protokola i jasnih etičkih smernica pre nego što se ovakvi modeli postave na raspolaganje javnosti.
Ubrzana zloupotreba novorazvijenih tehnologija, bez odgovarajuće regulative, može imati dalekosežne posledice za društvo. Da bi se izbegle štetne posledice, nužno je pronaći balans između pružanja slobodnog pristupa inovacijama i sprečavanja njihove zloupotrebe.
REGULACIJA AI-A - NAJVEĆI IZAZOV ZA INDUSTRIJU
Brzina kojom se nove tehnologije koriste za negativne svrhe naglašava potrebu za ozbiljnim razmišljanjem o tome kako bi industrija veštačke inteligencije mogla i trebala da se reguliše. Pre nego što modeli poput Wan 2.1 postanu mainstream, društvo mora da razjasni kako da ih koristi odgovorno i bezbedno.
Autor: Kurir
