OpenAI piedāvā jaunus principus, lai kontrolētu mākslīgā intelekta attīstību
Pēdējos mēnešos neironu tīkli ir kļuvuši ārkārtīgi populāri. Tas lielā mērā ir ChatGPT un ģeneratīvo neironu tīklu nopelns.
Tomēr izstrādātāji raugās nākotnē un prognozē jaunas problēmas šajā jomā. OpenAI blogā ir publicēts raksts, kurā runāts par diezgan drīzu mākslīgā vispārējā intelekta parādīšanos. To var tulkot kā “vispārēja mērķa MI”, bet paši autori ar šo terminu saprot ar MI, kas var atrisināt jebkuras problēmas ne sliktāk kā cilvēks, un dažreiz pat labāk.
Rakstā teikts, ka mākslīgais vispārējais intelekts (MVI) ir paredzēts “dot cilvēcei maksimālu labklājību”, taču tas var radīt arī iespējamās problēmas. Lai tiem iepriekš sagatavotos, OpenAI ierosināja principu kopumu, kas vada komandu darbā ar MVI.
Viņu saraksts izskatās šādi:
- Mazāk jaudīgu MI sistēmu izvietošana un izpēte reālajā pasaulē, lai iegūtu pieredzi un atsauksmes.
- Vienkāršota piekļuve MI sistēmām ikvienam.
- MI atbalsts cilvēka vērtībām un vēlmēm.
- Starptautisko struktūru mijiedarbība MI izmantošanai un regulēšanai.
- Datu un pieredzes apmaiņa par MI progresu ar sabiedrību un ieinteresēto personu iesaistīšana, kas var sniegt ieguldījumu MI attīstībā.
Šie ir tikai visvienkāršākie punkti, citi var rasties, attīstoties MVI, un tie būs atkarīgi no iepriekš minētajiem faktoriem. Galu galā joprojām ir grūti paredzēt, cik ātri šāds MI attīstīsies, cik laba būs dažādu valstu centienu koordinācija un mijiedarbība. Nav arī skaidrs, cik labi MVI ņems vērā cilvēka mērķus, centienus un vēlmes.
OpenAI arī atzīmēja, ka viņiem pašiem nav visu atbilžu un risinājumu iespējamām problēmām nākotnē. Viņi sagaida, ka ilgtermiņā šīs un citas MI izstrādes prasības kļūs obligātas ikvienam.
Avots: Openai
