Više od 1.100 potpisnika, uključujući Elona Muska, Stevea Wozniaka i Tristana Harrisa iz Centra za humanu tehnologiju, potpisalo je otvoreno pismo objavljeno na internetu u utorak navečer u kojem se pozivaju “svi laboratoriji umjetne inteligencije da odmah prekinu obuku na najmanje 6 mjeseci AI sustava moćnijih od GPT-4.”
Donosimo u nastavku pismo u potpunosti.
„Suvremeni AI sustavi sada postaju konkurentni ljudima u općim zadacima, i moramo se zapitati: Trebamo li dopustiti strojevima da preplave naše informacijske kanale propagandom i neistinama? Trebamo li automatizirati sve poslove, uključujući i one koji ispunjavaju? Trebamo li razviti neljudske umove koji bi nas na kraju mogli brojčano nadmašiti, nadmudriti, zastarjeti i zamijeniti? Trebamo li riskirati gubitak kontrole nad našom civilizacijom? Takve se odluke ne smiju prenijeti na neizabrane tehnološke vođe. Snažne AI sustave treba razvijati tek kada budemo sigurni da će njihovi učinci biti pozitivni i da će se rizicima moći upravljati.”
U pismu se tvrdi da bi trebala postojati “razina planiranja i upravljanja” koja se “ne događa” i da su umjesto toga, posljednjih mjeseci, neimenovani “laboratoriji umjetne inteligencije” bili “zaključani u utrci izvan kontrole za razvoj i implementaciju sve moćniji digitalni umovi koje nitko – čak ni njihovi tvorci – ne mogu razumjeti, predvidjeti ili pouzdano kontrolirati.”
Potpisnici pisma, od kojih su neki stručnjaci za umjetnu inteligenciju, kažu da bi pauza koju traže trebala biti “javna i provjerljiva te uključivati sve ključne aktere”. Ako se navedena pauza “ne može brzo donijeti, vlade bi trebale uskočiti i uvesti moratorij”, stoji u pismu.
Svakako, pismo je zanimljivo i zbog ljudi koji su potpisali — što uključuje neke inženjere iz Mete i Googlea, osnivača Stability AI-a i glavnog izvršnog direktora Emada Mostaquea, ali i ljudi koji se ne bave tehnologijom. No na primjer, nitko iz OpenAI-ja, organizacije koja stoji iza velikog jezičnog modela GPT-4, nije potpisao ovo pismo. Niti itko iz Anthropica, čiji je tim izašao iz OpenAI-ja kako bi izgradio “sigurniji” AI chatbot.
U srijedu je izvršni direktor OpenAI-ja Sam Altman razgovarao s Wall Street Journal, rekavši da OpenAI nije započeo obuku GPT-5. Altman je također primijetio da je tvrtka dugo davala prednost sigurnosti u razvoju i provela više od šest mjeseci radeći sigurnosne testove na GPT-4 prije njegovog lansiranja. “U nekom smislu, ovo je preaching to the choir”, rekao je, “Mislim da mi o tim temama najglasnije, s najvećim intenzitetom i najduže razgovaramo.”
Musk je možda najmanje iznenađujući potpisnik ovog otvorenog pisma, s obzirom na to da je godinama govorio o (ne)sigurnosti umjetne inteligencije, a u novije vrijeme posebno je ciljao na OpenAI, sugerirajući da tvrtka puno priča, ali ništa ne radi po tom pitanju. Fridman je pitao Altmana o Muskovim nedavnim rutinskim tvitovima koji napadaju organizaciju. Altman je odgovorio: “Elon nas naočigled napada na Twitteru i to na nekoliko različitih fronta, ali ja imam empatije jer vjerujem da je — što je razumljivo — jako zabrinut zbog AI sigurnosti. Siguran sam da postoje i neki drugi motivi, ali to je definitivno jedan od njih.”, prenosti Tech Crunch.
