OpenAI vzpostavlja novo ekipo za oceno tveganj ChatGPT
Podjetje OpenAI, ki stoji za ChatGPT, je ustanovilo nov oddelek “Pripravljenost”, katerega namen je oceniti in obravnavati morebitne nevarnosti, povezane s tehnologijami umetne inteligence. Ta skupina, ki je bila objavljena 25. oktobra, je pooblaščena za spremljanje, ocenjevanje, napovedovanje in varovanje pred morebitnimi katastrofalnimi posledicami, povezanimi z umetno inteligenco.
Oddelek “Pripravljenost” se bo osredotočil na tveganja UI, povezana s kemičnimi, biološkimi, radiološkimi in jedrskimi grožnjami. Druga področja, na katera se bo osredotočil, vključujejo individualizirano prepričevanje, kibernetsko varnost ter avtonomno repliciranje in prilagajanje. Ekipa se pod vodstvom Aleksandra Madryja osredotoča na razumevanje nevarnosti, povezanih z zlorabo naprednih sistemov umetne inteligence. Poleg tega raziskujejo, ali lahko zlonamerni akterji izkoristijo odtujene parametre modelov umetne inteligence.
OpenAI je potrdil tako obljube kot nevarnosti umetne inteligence. Čeprav imajo pionirski modeli umetne inteligence potencial, da človeštvu prinesejo ogromno koristi, predstavljajo tudi vse večja tveganja. Podjetje je izjavilo: “Da bi zagotovili varnost visokokalibrskih sistemov UI, izboljšujemo svoj pristop k pripravljenosti na katastrofalna tveganja.”
Da bi okrepila oddelek za pripravljenost, podjetje OpenAI zaposluje posameznike z različnimi tehničnimi znanji. Poleg tega so sprožili izziv za pripravljenost na umetno inteligenco. Ta izziv ponuja 25.000 dolarjev v obliki kreditov API desetim najboljšim prijavljenim delom. Glavni cilj je preprečiti katastrofalne zlorabe.
Omeniti velja, da je organizacija OpenAI julija 2023 namignila, da bo oblikovala posebno ekipo za reševanje morebitnih tveganj umetne inteligence. V širšem diskurzu so bile pogosto izpostavljene potencialne nevarnosti, ki jih lahko povzroči umetna inteligenca, ki preseže človeško inteligenco. Čeprav podjetja, kot je OpenAI, nadaljujejo z inovacijami na področju umetne inteligence, so strahovi še vedno prisotni.
Neprofitna organizacija Center for AI Safety je maja 2023 izdala odprto pismo, v katerem je še dodatno poudarila te pomisleke. V pismu je pozval k prednostni obravnavi zmanjšanja tveganj izumrtja zaradi umetne inteligence in jih postavil ob bok drugim globalnim grožnjam, kot so pandemije in jedrska vojna.
foto: Portal24/B.O.