Musk v razvoju umetne inteligence poziva k šestmesečnemu premoru
Ameriški milijarder Elon Musk in skupina strokovnjakov za umetno inteligenco v sistemih usposabljanja za umetno inteligenco pozivajo k šestmesečnemu premoru. V odprtem pismu navajajo, da so ti sistemi zmogljivejši od nedavnega lansiranja naprednejše različice chatbota ChatGPT by Open AI.
Pismo, ki ga je objavil neprofitni inštitut Future of Life, je podpisalo več kot 1000 ljudi, med njimi tudi Musk. Pismo sta podpisala tudi Emad Mostaque, izvršni direktor Stability AI, in raziskovalec DeepMinda Stuart Russell. Pozivajo k premoru v razvoju napredne umetne inteligence in sicer, dokler ne bodo razviti skupni varnostni protokoli za tovrstne sisteme.
Zahtevajo tudi, da te sisteme razvijajo, izvajajo in revidirajo neodvisni strokovnjaki. “Zmogljive sisteme umetne inteligence je treba razviti šele, ko smo prepričani, da bodo njihovi učinki pozitivni in da je možno obvladati tveganja,” piše v pismu.
V pismu so opisali tveganja za družbo in civilizacijo
V pismu so opisana potencialna tveganja za družbo in civilizacijo, ki jih prinaša umetna inteligenca. Navajajo, da umetna inteligenca tekmuje s človeško in da lahko to povzroči gospodarske in politične motnje. Analitiki so razvijalce pozvali k sodelovanju z oblikovalci politik in regulativnimi organi.
Pismo prihaja, po tem, ko se je zboru etičnih in pravnih pomislekov glede napredne umetne inteligence, kot je ChatGPT-4, pridružil Europol. Opozarjajo na morebitne zlorabe sistema pri poskusih kraje identitete, dezinformacij in kibernetske kriminalitete.
Tesla v Muskovi lasti uporablja umetno inteligenco v avtomobilih za sistem avtopilota. Kljub temu je Musk podpisal odprto pismo, v katerem je izrazil zaskrbljenost glede umetne inteligence.
Podjetje Open AI ChatGPT, ki ga podpira Microsoft, je lani konkurente spodbudilo, da pospešijo razvoj podobnih obsežnih jezikovnih modelov. Poleg tega se podjetja spodbuja, da v svoje izdelke vključijo generativne modele umetne inteligence.
Direktor Open AI pisma ni podpisal
Sam Altman, izvršni direktor OpenAI, pisma ni podpisal, je za Reuters povedal tiskovni predstavnik Future of Life. OpenAI na prošnjo za komentar ni takoj odgovoril.
“Pismo ni popolno, a namen je pravi. Moramo upočasniti, dokler ne bomo bolje razumeli posledic,” je dejal Gary Marcus, zaslužni profesor na Univerzi v New Yorku, ki je podpisal pismo.
“Umetna inteligenca lahko povzroči resno škodo, veliki igralci postajajo vse bolj skrivnostni glede tega, kaj počnejo. Zaradi tega se družba težko brani pred škodo, ki lahko nastane,” je dodal.
vir Foto: Pexels