MI atbildēs zinātnieki nav atraduši īsta domāšanas procesa pēdas.
Arizonas štata Universitātes (ASV) speciālisti aicina neuzskatīt mākslīgā intelekta (MI) modeļu izsniegto rezultātu par domāšanas procesu. Pētījums publicēts priekšdrukas platformā arXiv.
Zinātnieku komanda, kuru vada Subbarao Kambhampati, paziņoja, ka MI izsniegtās teksta secības var izskatīties kā cilvēka prāta radītas. Viņi pamanīja, ka līdzīgi teksti ir statistiski ģenerēti un tiem nav nekādas reālas semantiskas nozīmes vai algoritmiskas vērtības. Starpposma tokenu humanizāciju pētnieki nosauca par kargokulta domāšanu.
Pētījuma procesā amerikāņu zinātnieki nosauca MI pakalpojumu atbildes par "virsmas līmeņa teksta fragmentiem", nevis par nozīmīgiem domāšanas procesa pēdām. Viņuprāt, neironu tīkliem nav domāšanas aktivitātes pazīmju. Tas, kas izskatās kā pakāpenisks racionāls process, patiesībā ir tikai optimizācijas blakus efekts.
Tādējādi zinātnieki pierādīja, ka pat tad, ja modeļi kā iepriekšējos rezultātus izsniedz "pilnīgu nesakarību", tie beigās nosūta lietotājam pareizo atbildi. Neironu tīklu radītāji arī liek saviem modeļiem izmantot vārdus, piemēram, "hm" un "aha", lai lietotājam šķistu, ka viņš sazinās ar saprātīgu būtni. Speciālisti secināja, ka MI modeļu radītājiem jāvelta vairāk laika veiktspējas uzlabošanai, nevis tam, lai neironu tīkla darbības process izskatītos līdzīgs cilvēka prāta darbībai.
Atstāt komentāru