心理技术与应用 ›› 2023, Vol. 11 ›› Issue (11): 685-704.

• • 上一篇    

基于随机森林的认知诊断Q矩阵修正

  

  • 出版日期:2023-11-01 发布日期:2023-11-01

New Methods for Q-matrix Validation Based on Random Forest

  • Online:2023-11-01 Published:2023-11-01

摘要:

Q矩阵是认知诊断的核心,专家构建的Q矩阵通常存在一定错误,会降低估计精度,因而需要进行修正。采用随机森林(random forest,RF)算法,以PVAF、对数似然值、改造后的R统计量为特征训练模型,提出了机器学习视角的Q矩阵修正新方法(RF-P、RF-L、RF-R),并开展模拟与实证研究验证性能。研究结果表明:(1)三种模型的准确率、召回率、精确率、F1、Kappa等评估指标均在0.75以上;(2)模拟研究中,基于三种随机森林模型的新方法在整体上均比最新发表的Wald-XPD法有更好的修正表现,其中以RF-R表现最佳;(3)实证研究中,RF-R修正出了更合理的Q矩阵,有最优的模型-数据拟合结果。

关键词: 认知诊断, Q矩阵修正, 随机森林, G-DINA模型

Abstract:

Q-matrix is the core of cognitive diagnosis, and the Q-matrix constructed by experts usually has certain misspecifications, which will reduce the estimation accuracy and thus needs to be validated. New machine learning-based Q-matrix validation methods (RF-P, RF-L, and RF-R) is proposed using the random forest (RF) algorithm with PVAF, log-likelihood, and modified R statistics as the feature training models, and simulation and empirical studies are conducted to verify the performance. The results show that (1) the accuracy, recall, precision, F1, Kappa of the three models are above 0.75; (2) in the simulation study, the new methods based on the three RF models have better validation performance than the Wald-XPD method, which was latest published, among which RF-R has the best performance; (3) in the empirical study, RF-R suggested a more reasonable Q matrix with optimal model-data fitting results.

[1] 周文杰, 郭 磊. 纳入协变量信息的多级计分认知诊断模型[J]. 心理技术与应用, 2021, 9(8): 484-494.
[2] 杨亚坤, 朱仕浩, 刘芯伶. 基于项目拟合统计量RMSEA的Q矩阵估计方法[J]. 心理技术与应用, 2020, 8(1): 51-59.
[3] 李婷婷, 郭 磊, 李 帅, 高靖洁. 孤独症谱系障碍测评工具的研究述评[J]. 心理技术与应用, 2019, 7(2): 107-117.
Viewed
Full text


Abstract

Cited

  Shared   
  Discussed   
[1] 孙 铃, 宋晓星, 周战强, 孟祥轶, 辛自强. 财经知识的概念、结构和测量[J]. 心理技术与应用, 2018, 6(8): 459 -464 .
[2] 辛志勇, 于泳红, 辛自强. 财经价值观研究进展及其概念结构分析[J]. 心理技术与应用, 2018, 6(8): 472 -483 .
[3] 韦 晓, 兰继军. 近10年我国心理学研究现状与趋势分析——以第14~19届全国心理学大会论文分布为例[J]. 心理技术与应用, 2018, 6(8): 503 -512 .
[4] 张红川, 苏 凇, 吕杰妤, 张 梅, 辛自强. 基于理性决策的财经能力:概念、结构与测量[J]. 心理技术与应用, 2018, 6(8): 465 -471 .
[5] 黄梓航, 王 可, 蔡华俭, . 利用开放数据进行心理学研究[J]. 心理技术与应用, 2018, 6(9): 549 -569 .
[6] 张红川. 从转化研究的角度理解心理学在社会服务中的功用[J]. 心理技术与应用, 2018, 6(10): 580 -581 .
[7] 谢天. 社会心理服务中的三类人[J]. 心理技术与应用, 2018, 6(10): 590 -592 .
[8] 辛志勇. 加强社会心理服务重在专业人才建设[J]. 心理技术与应用, 2018, 6(10): 591 -592 .
[9] 潘超超, 周爱保, 刘锦涛, 谢 珮. 情绪诱发情景下情绪面孔的注意偏向研究[J]. 心理技术与应用, 2018, 6(10): 600 -605 .
[10] 胡锦慧, 辛 聪, 陈幼贞. 编码方式和线索显著性对前瞻记忆的影响[J]. 心理技术与应用, 2018, 6(9): 537 -542 .