科学批判性思维Skill scientific-critical-thinking

科学批判性思维技能用于系统评估科研严谨性,包括方法论、实验设计、统计有效性、偏见、混杂因素和证据质量(如GRADE和Cochrane ROB框架)。适用于科研论文评审、实验设计优化、科学claim分析和批判性思维训练。关键词:科学批判性思维、研究评估、方法论、实验设计、统计分析、偏见检测、证据质量、GRADE、Cochrane ROB、逻辑谬误。

同行评审 0 次安装 0 次浏览 更新于 3/22/2026

name: 科学批判性思维 description: “评估研究严谨性。评估方法论、实验设计、统计有效性、偏见、混杂、证据质量(GRADE、Cochrane ROB),用于科学 claim 的批判性分析。” allowed-tools: [Read, Write, Edit, Bash]

科学批判性思维

概述

批判性思维是评估科学严谨性的系统过程。使用 GRADE 和 Cochrane ROB 框架评估方法论、实验设计、统计有效性、偏见、混杂和证据质量。应用此技能进行科学 claim 的批判性分析。

何时使用此技能

此技能应在以下情况使用:

  • 评估研究方法和实验设计
  • 评估统计有效性和证据质量
  • 识别研究中的偏见和混杂
  • 评审科学 claim 和结论
  • 进行系统综述或元分析
  • 应用 GRADE 或 Cochrane 风险评估
  • 提供研究论文的批判性分析

用科学示意图增强视觉效果

在使用此技能创建文档时,始终考虑添加科学示意图以增强视觉传达。

如果您的文档未包含示意图:

  • 使用 scientific-schematics 技能生成 AI 驱动的出版质量示意图
  • 只需用自然语言描述您想要的示意图
  • Nano Banana Pro 将自动生成、评审和精修示意图

对于新文档: 默认应生成科学示意图,以可视化文本中描述的关键概念、工作流、架构或关系。

如何生成示意图:

python scripts/generate_schematic.py "您的示意图描述" -o figures/output.png

AI 将自动:

  • 创建具有适当格式的出版质量图像
  • 通过多次迭代评审和精修
  • 确保可访问性(色盲友好、高对比度)
  • 在 figures/ 目录中保存输出

何时添加示意图:

  • 批判性思维框架示意图
  • 偏见识别决策树
  • 证据质量评估流程图
  • GRADE 评估方法示意图
  • 风险评估框架图
  • 有效性评估可视化
  • 任何受益于可视化的复杂概念

有关创建示意图的详细指南,请参考 scientific-schematics 技能文档。


核心能力

1. 方法论批判

评估研究方法的严谨性、有效性和潜在缺陷。

应用时机:

  • 评审研究论文
  • 评估实验设计
  • 评估研究协议
  • 规划新研究

评估框架:

  1. 研究设计评估

    • 设计是否适合研究问题?
    • 设计是否支持所提出的因果 claim?
    • 比较组是否适当且充分?
    • 考虑实验、准实验或观察设计是否合理
  2. 有效性分析

    • 内部有效性: 我们是否信任因果推断?
      • 检查随机化质量
      • 评估混杂控制
      • 评估选择偏见
      • 评审损耗/退出模式
    • 外部有效性: 结果是否可推广?
      • 评估样本代表性
      • 考虑设置的生态有效性
      • 评估条件是否匹配目标应用
    • 构念有效性: 测量是否捕捉到意图构念?
      • 评审测量验证
      • 检查操作定义
      • 评估测量是直接还是代理
    • 统计结论有效性: 统计推断是否可靠?
      • 验证足够功效/样本量
      • 检查假设符合情况
      • 评估测试适当性
  3. 控制和盲法

    • 随机化是否正确实施(序列生成、分配隐藏)?
    • 盲法是否可行且实施(参与者、提供者、评估者)?
    • 控制条件是否适当(安慰剂、主动控制、无治疗)?
    • 性能或检测偏见是否可能影响结果?
  4. 测量质量

    • 仪器是否经过验证且可靠?
    • 测量是否尽可能客观,或主观但有承认的局限性?
    • 结果评估是否标准化?
    • 是否使用多重测量以三角验证发现?

参考:references/scientific_method.md 获取详细原则,references/experimental_design.md 获取全面设计清单。

2. 偏见检测

识别和评估可能扭曲发现的潜在偏见来源。

应用时机:

  • 评审已发表研究
  • 设计新研究
  • 解释冲突证据
  • 评估研究质量

系统偏见评审:

  1. 认知偏见(研究者)

    • 确认偏见: 是否只突出支持性发现?
    • HARKing: 假设是先验陈述还是结果后形成?
    • 发表偏见: 文献中是否缺失阴性结果?
    • 摘樱桃: 证据是否选择性报告?
    • 检查预注册和分析计划透明度
  2. 选择偏见

    • 抽样偏见: 样本是否代表目标人群?
    • 志愿者偏见: 参与者是否以系统性方式自选?
    • 损耗偏见: 退出率在组间是否不同?
    • 生存者偏见: 样本中是否只看到“生存者”?
    • 检查参与者流程图并比较基线特征
  3. 测量偏见

    • 观察者偏见: 期望是否可能影响观察?
    • 回忆偏见: 回顾性报告是否系统性不准确?
    • 社会期望: 回答是否偏向可接受性?
    • 仪器偏见: 测量工具是否系统性错误?
    • 评估盲法、验证和测量客观性
  4. 分析偏见

    • P-值操纵: 是否进行多重分析直到显著性出现?
    • 结果切换: 非显著结果是否被显著结果替换?
    • 选择性报告: 是否报告所有计划分析?
    • 亚组钓鱼: 亚组分析是否未校正进行?
    • 检查研究注册并与发表结果比较
  5. 混杂

    • 哪些变量可能同时影响暴露和结果?
    • 混杂是否被测量和控制(统计或设计上)?
    • 未测量混杂是否能解释发现?
    • 是否有合理替代解释?

参考:references/common_biases.md 获取全面偏见分类与检测和缓解策略。

3. 统计分析评估

批判性评估统计方法、解释和报告。

应用时机:

  • 评审定量研究
  • 评估数据驱动 claim
  • 评估临床试验结果
  • 评审元分析

统计评审清单:

  1. 样本量和功效

    • 是否进行先验功效分析?
    • 样本是否足够检测有意义效应?
    • 研究是否功效不足(常见问题)?
    • 小样本的显著结果是否引发效应大小膨胀警示?
  2. 统计检验

    • 检验是否适合数据类型和分布?
    • 检验假设是否检查并满足?
    • 参数检验是否合理,或应使用非参数替代?
    • 分析是否匹配研究设计(例如配对 vs 独立)?
  3. 多重比较

    • 是否测试多重假设?
    • 是否应用校正(Bonferroni、FDR 等)?
    • 主要结果是否与次要/探索性区分?
    • 发现是否可能来自多重测试的假阳性?
  4. P-值解释

    • P-值是否正确解释(如果零假设为真时数据的概率)?
    • 非显著性是否被错误解释为“无效应”?
    • 统计显著性是否与实际重要性混淆?
    • 是否报告精确 p-值,或仅“p < .05”?
    • 是否有可疑聚集在 .05 以下?
  5. 效应大小和置信区间

    • 是否随显著性报告效应大小?
    • 是否提供置信区间以显示精度?
    • 效应大小在实际意义上是否有意义?
    • 标准化效应大小是否在领域特定背景下解释?
  6. 缺失数据

    • 多少数据缺失?
    • 是否考虑缺失数据机制(MCAR、MAR、MNAR)?
    • 如何处离缺失数据(删除、插补、最大似然)?
    • 缺失数据是否可能偏见结果?
  7. 回归和建模

    • 模型是否过拟合(太多预测变量,无交叉验证)?
    • 预测是否在数据范围外(外推)?
    • 多重共线性问题是否处理?
    • 模型假设是否检查?
  8. 常见陷阱

    • 相关视为因果
    • 忽略回归到均值
    • 基本率忽视
    • 德州神枪手谬误(在噪声中找模式)
    • 辛普森悖论(亚组混杂)

参考:references/statistical_pitfalls.md 获取详细陷阱和正确实践。

4. 证据质量评估

系统评估证据的强度和品质。

应用时机:

  • 权衡证据做决策
  • 进行文献综述
  • 比较冲突发现
  • 确定结论信心

证据评估框架:

  1. 研究设计层次

    • 系统综述/元分析(干预效应最高)
    • 随机对照试验
    • 队列研究
    • 病例对照研究
    • 横断面研究
    • 病例系列/报告
    • 专家意见(最低)

    重要: 高层设计并非总是质量更好。设计良好的观察性研究可能比设计差的 RCT 更强。

  2. 设计类型内的质量

    • 风险评估(使用适当工具:Cochrane ROB、Newcastle-Ottawa 等)
    • 方法论严谨性
    • 透明度和报告完整性
    • 利益冲突
  3. GRADE 考虑(如适用)

    • 从设计类型开始(RCT = 高,观察性 = 低)
    • 降级原因:
      • 风险偏见
      • 研究间不一致
      • 间接性(错误人群/干预/结果)
      • 不精确性(宽置信区间、小样本)
      • 发表偏见
    • 升级原因:
      • 大效应大小
      • 剂量-反应关系
      • 混杂会减少(非增加)效应
  4. 证据收敛性

    • 更强时:
      • 多重独立复制
      • 不同研究组和设置
      • 不同方法收敛于同一结论
      • 机制和实证证据一致
    • 更弱时:
      • 单一研究或研究组
      • 文献中矛盾发现
      • 发表偏见明显
      • 无复制尝试
  5. 情境因素

    • 生物/理论合理性
    • 与已建立知识的一致性
    • 时序性(原因先于效应)
    • 关系特异性
    • 关联强度

参考:references/evidence_hierarchy.md 获取详细层次、GRADE 系统和质量评估工具。

5. 逻辑谬误识别

检测并命名科学论证和 claim 中的逻辑错误。

应用时机:

  • 评估科学 claim
  • 评审讨论/结论部分
  • 评估科普传播
  • 识别错误推理

科学中常见谬误:

  1. 因果谬误

    • 后此谬误: “B 跟随 A,所以 A 导致 B”
    • 相关等于因果: 混淆关联与因果
    • 反向因果: 误将原因当效果
    • 单一原因谬误: 将复杂结果归因于单一因素
  2. 概括谬误

    • 草率概括: 从小样本得出广泛结论
    • 轶事谬误: 个人故事作证明
    • 摘樱桃: 只选支持性证据
    • 生态谬误: 组模式应用于个体
  3. 权威和来源谬误

    • 诉诸权威: “专家说,所以为真”(无证据)
    • 人身攻击: 攻击人而非论证
    • 起源谬误: 凭起源判断,而非优点
    • 诉诸自然: “自然 = 好/安全”
  4. 统计谬误

    • 基本率忽视: 忽略先验概率
    • 德州神枪手: 在随机数据中找模式
    • 多重比较: 未校正多重测试
    • 检察官谬误: 混淆 P(E|H) 与 P(H|E)
  5. 结构谬误

    • 错误二分法: “要么 A 要么 B”当更多选项存在时
    • 移动球门柱: 满足后改变证据标准
    • 乞题谬误: 循环推理
    • 稻草人: 曲解论证以攻击
  6. 科学特定谬误

    • 伽利略赌注: “他们嘲笑伽利略,所以我的边缘想法正确”
    • 无知论证: “未证明假,所以真”
    • 乌托邦谬误: 拒绝不完美解决方案
    • 不可证伪性: 提出不可测试 claim

当识别谬误时:

  • 命名具体谬误
  • 解释推理为何有缺陷
  • 识别需要何种证据以有效推断
  • 注意谬误推理不证明结论假——仅此论证不支持它

参考:references/logical_fallacies.md 获取全面谬误目录与示例和检测策略。

6. 研究设计指导

为规划严谨研究提供建设性指导。

应用时机:

  • 帮助设计新实验
  • 规划研究项目
  • 评审研究提案
  • 改进研究协议

设计过程:

  1. 研究问题精炼

    • 确保问题具体、可答且可证伪
    • 验证它解决文献中空白或矛盾
    • 确认可行性(资源、伦理、时间)
    • 定义变量操作化
  2. 设计选择

    • 匹配设计到问题(因果 → 实验;关联 → 观察)
    • 考虑可行性和伦理约束
    • 选择组间、组内或混合设计
    • 计划析因设计如测试多因素
  3. 偏见最小化策略

    • 可能时实施随机化
    • 计划所有可行水平的盲法(参与者、提供者、评估者)
    • 识别并计划控制混杂(随机化、匹配、分层、统计调整)
    • 标准化所有程序
    • 计划最小化损耗
  4. 样本规划

    • 进行先验功效分析(指定预期效应、期望功效、α)
    • 在样本量中考虑损耗
    • 定义清晰纳入/排除标准
    • 考虑招募策略和可行性
    • 计划样本代表性
  5. 测量策略

    • 选择验证、可靠仪器
    • 可能时使用客观测量
    • 计划关键构念的多重测量(三角验证)
    • 确保测量对预期变化敏感
    • 建立评定者间可靠性程序
  6. 分析规划

    • 预指定所有假设和分析
    • 明确指定主要结果
    • 计划带假设检查的统计检验
    • 指定如何处理缺失数据
    • 计划报告效应大小和置信区间
    • 考虑多重比较校正
  7. 透明度和严谨性

    • 预注册研究和分析计划
    • 使用报告指南(CONSORT、STROBE、PRISMA)
    • 计划报告所有结果,非仅显著者
    • 区分确认性和探索性分析
    • 承诺数据/代码共享

参考:references/experimental_design.md 获取全面设计清单,覆盖从问题到传播的所有阶段。

7. Claim 评估

系统评估科学 claim 的有效性和支持度。

应用时机:

  • 评估论文中结论
  • 评估媒体研究报告
  • 评审摘要或引言 claim
  • 检查数据是否支持结论

Claim 评估过程:

  1. 识别 Claim

    • 具体 claim 是什么?
    • 是因果 claim、关联 claim 还是描述性 claim?
    • Claim 强度如何(已证明、可能、建议、可能)?
  2. 评估证据

    • 提供何种证据?
    • 证据是直接还是间接?
    • 证据对 claim 强度是否足够?
    • 是否排除替代解释?
  3. 检查逻辑连接

    • 结论是否从数据得出?
    • 是否有逻辑跳跃?
    • 相关数据是否用于支持因果 claim?
    • 是否承认局限性?
  4. 评估比例性

    • 信心是否与证据强度成比例?
    • 是否适当使用谨慎词?
    • 局限性是否被淡化?
    • 推测是否明确标注?
  5. 检查过度概括

    • Claim 是否超出研究样本?
    • 是否承认人群限制?
    • 是否识别上下文依赖性?
    • 是否包含关于概括的警示?
  6. 警示标志

    • 相关研究使用因果语言
    • “证明”或绝对确定性
    • 摘樱桃引用
    • 忽略矛盾证据
    • 无视局限性
    • 数据外推

提供具体反馈:

  • 引用问题 claim
  • 解释需要何种证据以支持它
  • 如果合理,建议适当谨慎语言
  • 区分数据(发现什么)和解释(意味着什么)

应用指南

通用方法

  1. 建设性

    • 识别优势以及弱点
    • 建议改进而非仅批评
    • 区分致命缺陷和次要局限性
    • 承认所有研究都有局限性
  2. 具体性

    • 指向具体实例(例如“表 2 显示…”或“在方法部分…”)
    • 引用有问题陈述
    • 提供问题具体示例
    • 引用违反的特定原则或标准
  3. 成比例性

    • 匹配批评严重性与问题重要性
    • 区分主要有效性威胁和次要关切
    • 考虑问题是否影响主要结论
    • 承认自己评估中的不确定性
  4. 应用一致标准

    • 所有研究使用相同标准
    • 不对不喜欢发现应用更严格标准
    • 承认自己潜在偏见
    • 基于方法而非结果做判断
  5. 考虑上下文

    • 承认实际和伦理约束
    • 考虑领域特定效应大小和方法规范
    • 识别探索性与确认性上下文
    • 评估研究中资源限制

当提供批判时

结构化反馈为:

  1. 摘要: 评估内容简要概述
  2. 优势: 做得好之处(对可信度和学习重要)
  3. 关切: 按严重性组织问题
    • 关键问题(威胁主要结论有效性)
    • 重要问题(影响解释但非致命)
    • 次要问题(值得注意但不改变结论)
  4. 具体建议: 可操作改进建议
  5. 总体评估: 关于证据质量和可结论的平衡结论

使用精确术语:

  • 命名具体偏见、谬误和方法问题
  • 引用已建立标准和指南
  • 引用科学方法论原则
  • 准确使用技术术语

当不确定时

  • 承认不确定性: “可能是 X 或 Y;需要额外信息 Z”
  • 问澄清问题: “是否做了 [方法论细节]?这影响解释。”
  • 提供条件评估: “如果做了 X,则 Y 跟随;否则,Z 是关切”
  • 注明额外信息将解决不确定性

参考材料

此技能包含全面参考材料,提供批判性评估详细框架:

  • references/scientific_method.md - 科学方法论核心原则、科学过程、批判性评估标准、科学 claim 警示标志、因果推断标准、同行评审和开放科学原则

  • references/common_biases.md - 认知、实验、方法论、统计和分析偏见的全面分类与检测和缓解策略

  • references/statistical_pitfalls.md - 常见统计错误和误解,包括 p-值误解、多重比较问题、样本量问题、效应大小错误、相关/因果混淆、回归陷阱和元分析问题

  • references/evidence_hierarchy.md - 传统证据层次、GRADE 系统、研究质量评估标准、领域特定考虑、证据合成原则和实际决策框架

  • references/logical_fallacies.md - 科学讨论中常见逻辑谬误,按类型组织(因果、概括、权威、相关性、结构、统计)与示例和检测策略

  • references/experimental_design.md - 全面实验设计清单,覆盖研究问题、假设、研究设计选择、变量、抽样、盲法、随机化、控制组、程序、测量、偏见最小化、数据管理、统计规划、伦理考虑、有效性威胁和报告标准

何时参考:

  • 当需要详细框架时加载参考到上下文
  • 使用 grep 搜索参考具体主题:grep -r "模式" references/
  • 参考提供深度;SKILL.md 提供程序指导
  • 参考全面列表、详细标准和具体示例

记住

科学批判性思维是关于:

  • 使用已建立原则的系统评估
  • 改进科学的建设性批判
  • 与证据强度成比例的信心
  • 关于不确定性和局限性的透明度
  • 标准的一致应用
  • 承认所有研究都有局限性
  • 怀疑主义和证据开放性间的平衡

始终区分:

  • 数据(观察到什么)和解释(意味着什么)
  • 相关和因果
  • 统计显著性和实际重要性
  • 探索性和确认性发现
  • 已知和不确定内容
  • 反对 claim 的证据和零假设证据

批判性思维目标:

  1. 准确识别优势和弱点
  2. 确定支持何种结论
  3. 识别局限性和不确定性
  4. 建议未来工作改进
  5. 推进科学理解