name: 科学批判性思维 description: “评估研究严谨性。评估方法论、实验设计、统计有效性、偏见、混杂、证据质量(GRADE、Cochrane ROB),用于科学 claim 的批判性分析。” allowed-tools: [Read, Write, Edit, Bash]
科学批判性思维
概述
批判性思维是评估科学严谨性的系统过程。使用 GRADE 和 Cochrane ROB 框架评估方法论、实验设计、统计有效性、偏见、混杂和证据质量。应用此技能进行科学 claim 的批判性分析。
何时使用此技能
此技能应在以下情况使用:
- 评估研究方法和实验设计
- 评估统计有效性和证据质量
- 识别研究中的偏见和混杂
- 评审科学 claim 和结论
- 进行系统综述或元分析
- 应用 GRADE 或 Cochrane 风险评估
- 提供研究论文的批判性分析
用科学示意图增强视觉效果
在使用此技能创建文档时,始终考虑添加科学示意图以增强视觉传达。
如果您的文档未包含示意图:
- 使用 scientific-schematics 技能生成 AI 驱动的出版质量示意图
- 只需用自然语言描述您想要的示意图
- Nano Banana Pro 将自动生成、评审和精修示意图
对于新文档: 默认应生成科学示意图,以可视化文本中描述的关键概念、工作流、架构或关系。
如何生成示意图:
python scripts/generate_schematic.py "您的示意图描述" -o figures/output.png
AI 将自动:
- 创建具有适当格式的出版质量图像
- 通过多次迭代评审和精修
- 确保可访问性(色盲友好、高对比度)
- 在 figures/ 目录中保存输出
何时添加示意图:
- 批判性思维框架示意图
- 偏见识别决策树
- 证据质量评估流程图
- GRADE 评估方法示意图
- 风险评估框架图
- 有效性评估可视化
- 任何受益于可视化的复杂概念
有关创建示意图的详细指南,请参考 scientific-schematics 技能文档。
核心能力
1. 方法论批判
评估研究方法的严谨性、有效性和潜在缺陷。
应用时机:
- 评审研究论文
- 评估实验设计
- 评估研究协议
- 规划新研究
评估框架:
-
研究设计评估
- 设计是否适合研究问题?
- 设计是否支持所提出的因果 claim?
- 比较组是否适当且充分?
- 考虑实验、准实验或观察设计是否合理
-
有效性分析
- 内部有效性: 我们是否信任因果推断?
- 检查随机化质量
- 评估混杂控制
- 评估选择偏见
- 评审损耗/退出模式
- 外部有效性: 结果是否可推广?
- 评估样本代表性
- 考虑设置的生态有效性
- 评估条件是否匹配目标应用
- 构念有效性: 测量是否捕捉到意图构念?
- 评审测量验证
- 检查操作定义
- 评估测量是直接还是代理
- 统计结论有效性: 统计推断是否可靠?
- 验证足够功效/样本量
- 检查假设符合情况
- 评估测试适当性
- 内部有效性: 我们是否信任因果推断?
-
控制和盲法
- 随机化是否正确实施(序列生成、分配隐藏)?
- 盲法是否可行且实施(参与者、提供者、评估者)?
- 控制条件是否适当(安慰剂、主动控制、无治疗)?
- 性能或检测偏见是否可能影响结果?
-
测量质量
- 仪器是否经过验证且可靠?
- 测量是否尽可能客观,或主观但有承认的局限性?
- 结果评估是否标准化?
- 是否使用多重测量以三角验证发现?
参考: 见 references/scientific_method.md 获取详细原则,references/experimental_design.md 获取全面设计清单。
2. 偏见检测
识别和评估可能扭曲发现的潜在偏见来源。
应用时机:
- 评审已发表研究
- 设计新研究
- 解释冲突证据
- 评估研究质量
系统偏见评审:
-
认知偏见(研究者)
- 确认偏见: 是否只突出支持性发现?
- HARKing: 假设是先验陈述还是结果后形成?
- 发表偏见: 文献中是否缺失阴性结果?
- 摘樱桃: 证据是否选择性报告?
- 检查预注册和分析计划透明度
-
选择偏见
- 抽样偏见: 样本是否代表目标人群?
- 志愿者偏见: 参与者是否以系统性方式自选?
- 损耗偏见: 退出率在组间是否不同?
- 生存者偏见: 样本中是否只看到“生存者”?
- 检查参与者流程图并比较基线特征
-
测量偏见
- 观察者偏见: 期望是否可能影响观察?
- 回忆偏见: 回顾性报告是否系统性不准确?
- 社会期望: 回答是否偏向可接受性?
- 仪器偏见: 测量工具是否系统性错误?
- 评估盲法、验证和测量客观性
-
分析偏见
- P-值操纵: 是否进行多重分析直到显著性出现?
- 结果切换: 非显著结果是否被显著结果替换?
- 选择性报告: 是否报告所有计划分析?
- 亚组钓鱼: 亚组分析是否未校正进行?
- 检查研究注册并与发表结果比较
-
混杂
- 哪些变量可能同时影响暴露和结果?
- 混杂是否被测量和控制(统计或设计上)?
- 未测量混杂是否能解释发现?
- 是否有合理替代解释?
参考: 见 references/common_biases.md 获取全面偏见分类与检测和缓解策略。
3. 统计分析评估
批判性评估统计方法、解释和报告。
应用时机:
- 评审定量研究
- 评估数据驱动 claim
- 评估临床试验结果
- 评审元分析
统计评审清单:
-
样本量和功效
- 是否进行先验功效分析?
- 样本是否足够检测有意义效应?
- 研究是否功效不足(常见问题)?
- 小样本的显著结果是否引发效应大小膨胀警示?
-
统计检验
- 检验是否适合数据类型和分布?
- 检验假设是否检查并满足?
- 参数检验是否合理,或应使用非参数替代?
- 分析是否匹配研究设计(例如配对 vs 独立)?
-
多重比较
- 是否测试多重假设?
- 是否应用校正(Bonferroni、FDR 等)?
- 主要结果是否与次要/探索性区分?
- 发现是否可能来自多重测试的假阳性?
-
P-值解释
- P-值是否正确解释(如果零假设为真时数据的概率)?
- 非显著性是否被错误解释为“无效应”?
- 统计显著性是否与实际重要性混淆?
- 是否报告精确 p-值,或仅“p < .05”?
- 是否有可疑聚集在 .05 以下?
-
效应大小和置信区间
- 是否随显著性报告效应大小?
- 是否提供置信区间以显示精度?
- 效应大小在实际意义上是否有意义?
- 标准化效应大小是否在领域特定背景下解释?
-
缺失数据
- 多少数据缺失?
- 是否考虑缺失数据机制(MCAR、MAR、MNAR)?
- 如何处离缺失数据(删除、插补、最大似然)?
- 缺失数据是否可能偏见结果?
-
回归和建模
- 模型是否过拟合(太多预测变量,无交叉验证)?
- 预测是否在数据范围外(外推)?
- 多重共线性问题是否处理?
- 模型假设是否检查?
-
常见陷阱
- 相关视为因果
- 忽略回归到均值
- 基本率忽视
- 德州神枪手谬误(在噪声中找模式)
- 辛普森悖论(亚组混杂)
参考: 见 references/statistical_pitfalls.md 获取详细陷阱和正确实践。
4. 证据质量评估
系统评估证据的强度和品质。
应用时机:
- 权衡证据做决策
- 进行文献综述
- 比较冲突发现
- 确定结论信心
证据评估框架:
-
研究设计层次
- 系统综述/元分析(干预效应最高)
- 随机对照试验
- 队列研究
- 病例对照研究
- 横断面研究
- 病例系列/报告
- 专家意见(最低)
重要: 高层设计并非总是质量更好。设计良好的观察性研究可能比设计差的 RCT 更强。
-
设计类型内的质量
- 风险评估(使用适当工具:Cochrane ROB、Newcastle-Ottawa 等)
- 方法论严谨性
- 透明度和报告完整性
- 利益冲突
-
GRADE 考虑(如适用)
- 从设计类型开始(RCT = 高,观察性 = 低)
- 降级原因:
- 风险偏见
- 研究间不一致
- 间接性(错误人群/干预/结果)
- 不精确性(宽置信区间、小样本)
- 发表偏见
- 升级原因:
- 大效应大小
- 剂量-反应关系
- 混杂会减少(非增加)效应
-
证据收敛性
- 更强时:
- 多重独立复制
- 不同研究组和设置
- 不同方法收敛于同一结论
- 机制和实证证据一致
- 更弱时:
- 单一研究或研究组
- 文献中矛盾发现
- 发表偏见明显
- 无复制尝试
- 更强时:
-
情境因素
- 生物/理论合理性
- 与已建立知识的一致性
- 时序性(原因先于效应)
- 关系特异性
- 关联强度
参考: 见 references/evidence_hierarchy.md 获取详细层次、GRADE 系统和质量评估工具。
5. 逻辑谬误识别
检测并命名科学论证和 claim 中的逻辑错误。
应用时机:
- 评估科学 claim
- 评审讨论/结论部分
- 评估科普传播
- 识别错误推理
科学中常见谬误:
-
因果谬误
- 后此谬误: “B 跟随 A,所以 A 导致 B”
- 相关等于因果: 混淆关联与因果
- 反向因果: 误将原因当效果
- 单一原因谬误: 将复杂结果归因于单一因素
-
概括谬误
- 草率概括: 从小样本得出广泛结论
- 轶事谬误: 个人故事作证明
- 摘樱桃: 只选支持性证据
- 生态谬误: 组模式应用于个体
-
权威和来源谬误
- 诉诸权威: “专家说,所以为真”(无证据)
- 人身攻击: 攻击人而非论证
- 起源谬误: 凭起源判断,而非优点
- 诉诸自然: “自然 = 好/安全”
-
统计谬误
- 基本率忽视: 忽略先验概率
- 德州神枪手: 在随机数据中找模式
- 多重比较: 未校正多重测试
- 检察官谬误: 混淆 P(E|H) 与 P(H|E)
-
结构谬误
- 错误二分法: “要么 A 要么 B”当更多选项存在时
- 移动球门柱: 满足后改变证据标准
- 乞题谬误: 循环推理
- 稻草人: 曲解论证以攻击
-
科学特定谬误
- 伽利略赌注: “他们嘲笑伽利略,所以我的边缘想法正确”
- 无知论证: “未证明假,所以真”
- 乌托邦谬误: 拒绝不完美解决方案
- 不可证伪性: 提出不可测试 claim
当识别谬误时:
- 命名具体谬误
- 解释推理为何有缺陷
- 识别需要何种证据以有效推断
- 注意谬误推理不证明结论假——仅此论证不支持它
参考: 见 references/logical_fallacies.md 获取全面谬误目录与示例和检测策略。
6. 研究设计指导
为规划严谨研究提供建设性指导。
应用时机:
- 帮助设计新实验
- 规划研究项目
- 评审研究提案
- 改进研究协议
设计过程:
-
研究问题精炼
- 确保问题具体、可答且可证伪
- 验证它解决文献中空白或矛盾
- 确认可行性(资源、伦理、时间)
- 定义变量操作化
-
设计选择
- 匹配设计到问题(因果 → 实验;关联 → 观察)
- 考虑可行性和伦理约束
- 选择组间、组内或混合设计
- 计划析因设计如测试多因素
-
偏见最小化策略
- 可能时实施随机化
- 计划所有可行水平的盲法(参与者、提供者、评估者)
- 识别并计划控制混杂(随机化、匹配、分层、统计调整)
- 标准化所有程序
- 计划最小化损耗
-
样本规划
- 进行先验功效分析(指定预期效应、期望功效、α)
- 在样本量中考虑损耗
- 定义清晰纳入/排除标准
- 考虑招募策略和可行性
- 计划样本代表性
-
测量策略
- 选择验证、可靠仪器
- 可能时使用客观测量
- 计划关键构念的多重测量(三角验证)
- 确保测量对预期变化敏感
- 建立评定者间可靠性程序
-
分析规划
- 预指定所有假设和分析
- 明确指定主要结果
- 计划带假设检查的统计检验
- 指定如何处理缺失数据
- 计划报告效应大小和置信区间
- 考虑多重比较校正
-
透明度和严谨性
- 预注册研究和分析计划
- 使用报告指南(CONSORT、STROBE、PRISMA)
- 计划报告所有结果,非仅显著者
- 区分确认性和探索性分析
- 承诺数据/代码共享
参考: 见 references/experimental_design.md 获取全面设计清单,覆盖从问题到传播的所有阶段。
7. Claim 评估
系统评估科学 claim 的有效性和支持度。
应用时机:
- 评估论文中结论
- 评估媒体研究报告
- 评审摘要或引言 claim
- 检查数据是否支持结论
Claim 评估过程:
-
识别 Claim
- 具体 claim 是什么?
- 是因果 claim、关联 claim 还是描述性 claim?
- Claim 强度如何(已证明、可能、建议、可能)?
-
评估证据
- 提供何种证据?
- 证据是直接还是间接?
- 证据对 claim 强度是否足够?
- 是否排除替代解释?
-
检查逻辑连接
- 结论是否从数据得出?
- 是否有逻辑跳跃?
- 相关数据是否用于支持因果 claim?
- 是否承认局限性?
-
评估比例性
- 信心是否与证据强度成比例?
- 是否适当使用谨慎词?
- 局限性是否被淡化?
- 推测是否明确标注?
-
检查过度概括
- Claim 是否超出研究样本?
- 是否承认人群限制?
- 是否识别上下文依赖性?
- 是否包含关于概括的警示?
-
警示标志
- 相关研究使用因果语言
- “证明”或绝对确定性
- 摘樱桃引用
- 忽略矛盾证据
- 无视局限性
- 数据外推
提供具体反馈:
- 引用问题 claim
- 解释需要何种证据以支持它
- 如果合理,建议适当谨慎语言
- 区分数据(发现什么)和解释(意味着什么)
应用指南
通用方法
-
建设性
- 识别优势以及弱点
- 建议改进而非仅批评
- 区分致命缺陷和次要局限性
- 承认所有研究都有局限性
-
具体性
- 指向具体实例(例如“表 2 显示…”或“在方法部分…”)
- 引用有问题陈述
- 提供问题具体示例
- 引用违反的特定原则或标准
-
成比例性
- 匹配批评严重性与问题重要性
- 区分主要有效性威胁和次要关切
- 考虑问题是否影响主要结论
- 承认自己评估中的不确定性
-
应用一致标准
- 所有研究使用相同标准
- 不对不喜欢发现应用更严格标准
- 承认自己潜在偏见
- 基于方法而非结果做判断
-
考虑上下文
- 承认实际和伦理约束
- 考虑领域特定效应大小和方法规范
- 识别探索性与确认性上下文
- 评估研究中资源限制
当提供批判时
结构化反馈为:
- 摘要: 评估内容简要概述
- 优势: 做得好之处(对可信度和学习重要)
- 关切: 按严重性组织问题
- 关键问题(威胁主要结论有效性)
- 重要问题(影响解释但非致命)
- 次要问题(值得注意但不改变结论)
- 具体建议: 可操作改进建议
- 总体评估: 关于证据质量和可结论的平衡结论
使用精确术语:
- 命名具体偏见、谬误和方法问题
- 引用已建立标准和指南
- 引用科学方法论原则
- 准确使用技术术语
当不确定时
- 承认不确定性: “可能是 X 或 Y;需要额外信息 Z”
- 问澄清问题: “是否做了 [方法论细节]?这影响解释。”
- 提供条件评估: “如果做了 X,则 Y 跟随;否则,Z 是关切”
- 注明额外信息将解决不确定性
参考材料
此技能包含全面参考材料,提供批判性评估详细框架:
-
references/scientific_method.md- 科学方法论核心原则、科学过程、批判性评估标准、科学 claim 警示标志、因果推断标准、同行评审和开放科学原则 -
references/common_biases.md- 认知、实验、方法论、统计和分析偏见的全面分类与检测和缓解策略 -
references/statistical_pitfalls.md- 常见统计错误和误解,包括 p-值误解、多重比较问题、样本量问题、效应大小错误、相关/因果混淆、回归陷阱和元分析问题 -
references/evidence_hierarchy.md- 传统证据层次、GRADE 系统、研究质量评估标准、领域特定考虑、证据合成原则和实际决策框架 -
references/logical_fallacies.md- 科学讨论中常见逻辑谬误,按类型组织(因果、概括、权威、相关性、结构、统计)与示例和检测策略 -
references/experimental_design.md- 全面实验设计清单,覆盖研究问题、假设、研究设计选择、变量、抽样、盲法、随机化、控制组、程序、测量、偏见最小化、数据管理、统计规划、伦理考虑、有效性威胁和报告标准
何时参考:
- 当需要详细框架时加载参考到上下文
- 使用 grep 搜索参考具体主题:
grep -r "模式" references/ - 参考提供深度;SKILL.md 提供程序指导
- 参考全面列表、详细标准和具体示例
记住
科学批判性思维是关于:
- 使用已建立原则的系统评估
- 改进科学的建设性批判
- 与证据强度成比例的信心
- 关于不确定性和局限性的透明度
- 标准的一致应用
- 承认所有研究都有局限性
- 怀疑主义和证据开放性间的平衡
始终区分:
- 数据(观察到什么)和解释(意味着什么)
- 相关和因果
- 统计显著性和实际重要性
- 探索性和确认性发现
- 已知和不确定内容
- 反对 claim 的证据和零假设证据
批判性思维目标:
- 准确识别优势和弱点
- 确定支持何种结论
- 识别局限性和不确定性
- 建议未来工作改进
- 推进科学理解