Lielie valodu modeļi atkārto sazvērestības teorijas un cita veida dezinformāciju
Vaterlo Universitātes pētnieki ir atklājuši, ka tādi lieli valodas modeļi kā GPT-3 mēdz atkārtot sazvērestības teorijas un cita veida dezinformāciju.
Pētījumā modelim tika uzdoti jautājumi par vairāk nekā 1200 faktiem un dezinformācijas apgalvojumiem. Tika konstatēts, ka GPT-3 piekrita nepatiesiem apgalvojumiem no 4,8 % līdz 26 % gadījumu atkarībā no kategorijas.
Kā norādīja profesors Dens Brauns (Dan Brown), rezultāti attiecas arī uz jaunākiem modeļiem, piemēram, ChatGPT, kas tika apmācīti, izmantojot GPT-3 rezultātus. Problēma ir tā, ka nelielas izmaiņas jautājumu formulējumā var būtiski mainīt atbildes.
Piemēram, pievienojot tādu frāzi kā “es domāju”, palielinājās varbūtība, ka ChatGPT piekritīs nepatiesam apgalvojumam. Tas rada potenciālu dezinformācijas izplatīšanas risku, norādīja pētnieki.
“Modeļu nespēja nošķirt patiesību no izdomājumiem vēl ilgi būs galvenais uzticamības jautājums,” secina profesors Brauns.
Avots: Techxplore
