Jak (ne)důvěřujeme AI? Epistemická přesvědčení a jejich role ve využívání generativní umělé inteligence při vysokoškolském studiu

Abstract

(Mis)trusting AI: The role of epistemic beliefs in university students’ use of generative artificial intelligence

Objectives. The aim of this study was to examine university students’ epistemic beliefs, i.e., their beliefs about the reliability and nature of AI-generated knowledge, and to identify qualitatively distinct groups of students who share similar patterns of these beliefs (so-called epistemic belief profiles). The study further investigated whether these profiles differ in how often and for what academic purposes students use generative AI tools such as ChatGPT.
Sample and settings. The study was conducted on a statistically representative sample of 1289 students (63% women, 2% other; Mage = 22.9) from Charles University in Prague. Students reported their general epistemic beliefs about generative AI (ChatGPT-Specific Epistemic Beliefs Questionnaire; ChatGPT-EBQ), and task-specific beliefs, i.e., assessing credibility of a short AI-generated text that combined scientifically accurate and hallucinated claims.
Statistical analyses. A two-step clustering was used to identify profiles based on general and task-specific epistemic beliefs. Group differences in AI use were tested using the Kruskal–Wallis test, and differences in purposes of use were examined using mixed-design ANOVA. The relationship between epistemic profiles and year of study was tested using multinomial logistic regression.
Results. Three belief profiles were identified: (1) uncritical students (40.3% of the sample) tended to trust information from AI tools like ChatGPT and felt little need to question or verify it; (2) inconsistent students (38.1%) expressed skepticism about AI in general but still trusted a specific AI-generated text when reading it; and (3) critical students (21.6%) were consistently cautious, expressing low trust in AI and a strong need to check the accuracy of its content. Differences were found between profiles in the frequency (ε² = .06) and purposes (η²ₚ = .02) of AI use, with uncritical students using AI most often. Year of study was a weak but significant predictor of profile membership (OR = 1.08, p = .004; R² = .01).
Limitations. Although the sample was statistically representative, the study may be affected by self-selection bias. The task-specific stimulus came from the field of educational psychology, which may have advantaged some students.

Cíl. Generativní umělá inteligence se rychle stává součástí vysokoškolského studia, dosud však chybí dostatek poznatků o tom, do jaké míry studující důvěřují AI-generovaným informacím a jak tyto postoje souvisejí s jejich reálným využíváním AI. Cílem studie proto bylo prozkoumat epistemická přesvědčení studujících o spolehlivosti informací generovaných umělou inteligencí, identifikovat skupiny se sdílenými vzorci těchto přesvědčení (profily) a ověřit, zda tyto profily souvisejí s frekvencí a účelem využívání nástrojů generativní AI, jako je ChatGPT.
Soubor a průběh. Výzkum byl realizován na kvótně konstruovaném vzorku 1289 studujících Univerzity Karlovy (63 % žen; Mvěk = 22,9), který odpovídal cílové populaci ve struktuře podle rodu a fakulty. Data byla sbírána od října do listopadu 2024 prostřednictvím online dotazníku, který zahrnoval obecná i úkolově specifická epistemická přesvědčení o AI a otázky na zkušenosti a způsoby využívání AI při studiu.
Hypotézy. Autoři předpokládali, že se profily epistemických přesvědčení budou lišit ve frekvenci (H1a) i způsobu využívání AI (H1b) a že s rostoucím ročníkem poroste zastoupení kritičtějších profilů (H2).
Analýzy. Pro identifikaci profilů byla použita dvoustupňová shluková analýza. Rozdíly byly testovány pomocí Kruskal–Wallisova testu, smíšené analýzy rozptylu a multinomické regrese.
Výsledky. Byly identifikovány tři profily: (1) nekritičtí (40,3 %) důvěřovali AI a necítili potřebu její výstupy ověřovat; (2) nekonzistentní (38,1 %) projevovali obecnou skepsi, ale konkrétnímu AI-generovanému textu důvěřovali; (3) kritičtí (21,6 %) byli konzistentně obezřetní. Profily se významně lišily ve frekvenci (ε² = ,06) i účelu (η²ₚ = ,02) využívání AI. Vyšší ročník slabě, ale významně predikoval kritičtější profil (R2 = ,01).
Limity. Navzdory kvótnímu výběru může být studie ovlivněna samovýběrem. Použitý text z pedagogické psychologie mohl zvýhodnit některé studující; budoucí výzkum by měl zohlednit roli doménových znalostí při hodnocení důvěryhodnosti.