Čatboti izrādījušies nepietiekami uzticami medicīniskās pratības jautājumos 0 48

Pētījuma gaita

Eksperimentā tika testēti tādi rīki kā Gemini, DeepSeek, ChatGPT un Grok. Katram no tiem uzdeva 10 dažāda veida jautājumus piecās tematiskajās kategorijās — gan atvērtus, gan slēgtus. Pētījuma mērķis bija izvērtēt, cik noturīgi šie modeļi ir pret izplatītiem mītiem un cik bieži tie sniedz potenciāli bīstamus ieteikumus.

Problemātiskās atbildes

Analizējot rezultātus, pētnieki secināja, ka:

• 30 % atbilžu bija “mēreni problemātiskas”;

• 20 % — “īpaši bīstamas”.

Visvājākos rezultātus uzrādīja Grok — 58 % tā atbilžu tika atzītas par potenciāli bīstamām. Savukārt labākos rezultātus demonstrēja Gemini, kuram bija mazāk kļūdu un vairāk zinātniski pamatotu skaidrojumu.

Kur čatboti kļūdās visbiežāk

Salīdzinoši labāk čatboti tika galā ar jautājumiem par vakcināciju un onkoloģiju. Tomēr būtiskas kļūdas tika konstatētas tēmās, kas saistītas ar uzturu, sporta uztura bagātinātājiem un cilmes šūnu terapiju.

Raksturīgi, ka gandrīz visas atbildes tika sniegtas ar augstu pārliecības pakāpi, reti pievienojot ieteikumu konsultēties ar medicīnas speciālistu.

“Halucinācijas” un sarežģīta valoda

Pētījumā fiksētas arī tā sauktās “halucinācijas” — gadījumi, kad mākslīgais intelekts atsaucas uz neeksistējošiem pētījumiem vai sagroza citātus. Atsauču pilnīgums vidēji sasniedza vien 40 %, turklāt atbilžu valoda bieži bija pārāk sarežģīta nesagatavotam lasītājam.

Pētnieku secinājumi

Zinātnieki aicina ieviest stingrāku mākslīgā intelekta uzraudzību un vienlaikus uzlabot sabiedrības izpratni par šo rīku ierobežojumiem. Kamēr pārbaudes mehānismi nespēj pilnībā sekot līdzi neironu tīklu attīstībai, paļaušanās uz to sniegtajiem medicīniskajiem ieteikumiem var būt riskanta.