Bivši izvršni direktor Gugla Erik Šmit izdao je oštro upozorenje o opasnostima vještačke inteligencije, ističući njenu ranjivost na hakovanje. ☝
Šmit, koji je vodio Gugl od 2001. do 2011. godine, govorio je na samitu Sifted o „lošim stvarima koje veštačka inteligencija može da uradi", naglašavajući da pretnje prevazilaze teorijske diskusije, izveštava CNBC, a prenosi Dan.
Na pitanje da li je veštačka inteligencija razornija od nuklearnog oružja, Šmit je potvrdio da rizik od širenja i zloupotrebe svakako postoji. 😱
Da li postoji potencijal za probleme sa širenjem veštačke inteligencije? Apsolutno - rekao je, objašnjavajući da to uključuje rizik da tehnologija padne u ruke zlonamernih aktera.
- Postoje dokazi da možete uzeti modele, zatvorene ili otvorene, i hakovati ih da biste uklonili njihove mehanizme zaštite. Dakle, tokom obuke uče mnogo stvari. Loš primer bi bio da su naučili kako da ubiju nekoga 😳 - rekao je Šmit.
NOVA bioskopska tehnologija SCREENX stiže u Srbiju 😎🎞️
Objasnio je da velike tehnološke kompanije pokušavaju da spreče takve scenarije, ali uvek postoji rizik.
- Sve velike kompanije sprečavaju ove modele da odgovore na to pitanje. Dobra odluka. Svi to rade. Rade to dobro i rade to iz pravih razloga. Postoje dokazi da se zaštita može zaobići obrnutim inženjeringom, a postoji i mnogo drugih primera te prirode 😉 - kazao je Šmit.
Među metodama hakovanja veštačke inteligencije, ističu se brzo ubrizgavanje i takozvani „džejlbrejk". Prva metoda uključuje skrivanje zlonamernih instrukcija kako bi se veštačka inteligencija prevarila da otkrije privatne podatke, dok druga manipuliše sistemom da ignoriše bezbednosna pravila i generiše opasan sadržaj.
Primer za to je alter ego ChatGPT-a pod nazivom DAN (Uradi bilo šta sada), koji je 2023. godine zaobišao bezbednosne protokole i pružio odgovore o ilegalnim aktivnostima.
Uprkos mračnim upozorenjima, Šmit je takođe pokazao optimizam, tvrdeći da je veštačka inteligencija zapravo potcenjena tehnologija.
ČUDO: ChatGPT rešio čoveku ZDRAVSTVENI problem 😳🧐
- Napisao sam dve knjige sa Henrijem Kisindžerom o ovome pre nego što je umro, i došli smo do zaključka da je dolazak vanzemaljske inteligencije koja nije u potpunosti mi i koja je manje-više pod našom kontrolom veoma velika stvar za čovečanstvo - rekao je.
Brzina kojom je ChatGPT dostigao 100 miliona korisnika za samo dva meseca, prema Šmitu, pokazuje moć tehnologije.
- Zato mislim da je potcenjen, a ne precenjen, i radujem se što ću biti u pravu za pet ili deset godina - dodao je.
Takođe se osvrnuo na strahove od „mehura veštačke inteligencije", sličnog onom koji je pukao početkom 2000-ih tokom ere dot-koma. Šmit ne veruje da će se istorija ponoviti.
- Ono što znam jeste da ljudi koji ulažu svoj teško zarađeni novac veruju da je ekonomski prinos na duži rok ogroman. Zašto bi inače rizikovali - zaključio je Šmit.
Autor: Dan
