7  Decomposição dos estudos (extração de dados)

Decompor um estudo é transformá-lo em registros estruturados: na base da revisão, as linhas representam os estudos (e/ou os modelos) e as colunas, as variáveis formais, metodológicas e substantivas extraídas de cada um (Schaefer et al. 2025, 20). Dessa base saem a contagem por direção, a meta-análise, a síntese qualitativa e a caixa de ferramentas, e um erro cometido aqui atravessa a revisão sem ser visto. O Cochrane Handbook lembra que erros de extração raramente são detectados por pareceristas, editores ou leitores; um estudo encontrou erros em 20 de 34 revisões e outro, erros substanciais em pelo menos 7 de 27 revisões que calcularam diferenças padronizadas (Li et al. 2024, sec. 5.5.2). As decisões desta etapa são: a unidade de extração e o modelo que representa cada estudo; o tipo de estudo (a1, a2, b1, b2) e as variáveis de cada bloco; o que extrair para cada dimensão da caixa de ferramentas; como codificar mecanismo, moderador, desenho e estimando; como registrar direção e significância; como converter efeitos para uma métrica comum sem perder sinal nem pressupostos; e como pilotar, verificar e validar a extração quando o dado falta ou não fecha.

7.1 Decisões e regras

A tabela resume as regras desta base; as marcadas com (E) vêm da especificação metodológica desta base (Apêndice D). As subseções detalham cada linha.

Decisão Regra
Unidade Estudo é a unidade de síntese; relato é a fonte; efeito é cada estimativa (desfecho × comparação × modelo × subgrupo × momento)
Não são estudos primários Revisões e meta-análises (E); simulações sem estimativa empírica própria
Modelo principal Declarado pelos autores; na falta, o usado na interpretação; depois, a regra do protocolo; critério sempre registrado
Tipo de estudo a1, a2, b1 ou b2 pelo objetivo analítico e pela natureza dos dados; uma ficha por desenho
Direção Sinal da estimativa pontual relativo à direcao_desejada declarada por desfecho no protocolo (E; Seção 7.4)
Significância Variável separada; “nulo” só existe na síntese, com margem fixada a priori (E; Seção 8.1)
Estimando ATE, ATT, ITT, LATE, efeito local na descontinuidade ou associação, com trecho (E; Seção 7.3)
Conversão formula_id, variância e marca de conversão aproximada em toda estimativa convertida (E; Seção 7.4)
Ausência 999 = aplicável e ausente no texto; NA_secao = bloco que não se aplica; “não é possível dizer” sinaliza contato com autores; em colunas numéricas, célula vazia com status
Âncora Toda resposta com trecho literal e página, com a convenção de paginação declarada
Piloto 2 a 3 estudos por bloco a1, a2, b1 e b2 antes da rodada (E)
Números de efeito 100% conferidos contra a página ou extraídos em dupla com arbitragem (E)
Categóricas Segundo codificador cego em ≥ 20% dos estudos (mínimo 10); κ ou PABAK ≥ 0,7 e concordância ≥ 80% por variável (E)

Unidade de extração: estudo, relato e efeito

Numa revisão sistemática, a unidade de interesse é o estudo, não o relato: um estudo pode ter vários relatos, e um relato pode descrever mais de um estudo (Li et al. 2024, sec. 5.2.1). Reunir os relatos do mesmo estudo é padrão obrigatório (Li et al. 2024, MECIR C42), e a ligação acontece antes da extração (Seção 5.1).

Nível Identificador O que se extrai Regra
Estudo id_estudo Contexto, população, intervenção, comparador, desenho, estratégia de identificação, risco de viés Unidade de síntese; nunca contar duas vezes
Relato id_rs, chave Metadados formais, versão, convenção de paginação Relatos divergentes: identificar a fonte principal (Li et al. 2024, sec. 5.5.4)
Efeito id_efeito Estimativa bruta, EP ou IC, n, estimando, modelo, subgrupo, momento, formula_id, trecho e página Extrair todas as estimativas elegíveis e marcar a principal

A definição da linha muda o resultado da síntese e vai no protocolo. Gerring, Knutsen e Berge tratam como uma análise a combinação de estudo, desfecho e indicador, e contam mudanças menores de medida (o log do indicador, a mesma medida de outra base) como variação de especificação, e não como nova análise (Gerring et al. 2022, 362). Cancela e Geys chamam de “teste” cada coeficiente reportado para a mesma variável e reconhecem que estudos com muitos modelos pesam mais nas taxas por teste (Cancela e Geys 2016, 265–66); num slide do material didático sobre análise de dados, 32 estudos sobre voto obrigatório viram 74 modelos (Schaefer 2026b, 39).

Regra do modelo principal. A ordem é: (1) o modelo que os autores declaram principal ou de referência; (2) na falta de declaração, a especificação que os autores usam para apresentar e interpretar os achados, registrando que houve julgamento (Gerring et al. 2022, 362); (3) persistindo o empate, a regra pré-especificada no protocolo, que pode ser uma hierarquia de medidas preferidas, o efeito mediano ou a média das estimativas elegíveis (Li et al. 2024, sec. 5.3.6). O critério vai para criterio_modelo_principal; decisões tomadas depois de ver os dados são mudanças de protocolo (Li et al. 2024, sec. 5.3.6). A regra hierárquica do protocolo está na Seção 3.1, e as estimativas não principais ficam com principal = 0 para sensibilidade e dependência (Seção 8.1).

O que não é estudo primário. Revisões e meta-análises vão para a bola de neve ou para a comparação de resultados e nunca entram no mesmo conjunto de síntese que os estudos primários (E); em revisões rápidas e em overviews, podem ser usadas como fonte de evidência no nível de revisão, com controle explícito de sobreposição (CCA) e sem somar seus estudos aos primários (Garritty et al. 2021, R8; Pollock et al. 2024, sec. V.4.4, V.4.7). Simulações sem estimativa com dados observados também ficam de fora da tabela de efeitos; Cintron e colegas excluíram de sua amostra de estudos de políticas sociais um que relatava apenas efeitos simulados (Cintron et al. 2022, 81). Documentos normativos pedem outro formulário: um protocolo de evidência textual baseado no JBI extrai tipo de texto, população representada, contexto, posição declarada, conclusões com trechos ilustrativos e notas do revisor, com dois revisores independentes e um terceiro para desacordos (Bia et al. 2026, 5).

As três dimensões e a tipologia a1, a2, b1, b2

O material didático sobre extração de dados organiza a extração em características formais (autoria, país, tipo de trabalho, citações, idioma, palavras-chave, resumo), metodológicas (pergunta, unidade de análise, métodos, hipótese, fonte de dados) e substantivas (resultados) (Schaefer 2026a, 10). A proposta OQF acrescenta à dimensão metodológica PICOC, estratégia de identificação, amostra e controles, e à substantiva direção, magnitude, mecanismos, moderadores, percepção, implementação e custos (Schaefer et al. 2025, 20–21, 31). No codebook OQF de exemplo, uma aba comum reúne os traços formais e o problema de pesquisa, e cada tipo de estudo tem um bloco próprio (Schaefer 2026c, quadro_decomposicao_estudos EXEMPLO.xlsx). A tipologia cruza objetivo (interpretação ou descrição, a; teste ou explicação, b) e natureza dos dados (qualitativa, 1; quantitativa, 2) (Schaefer 2026a, 26).

Tipo Definição (Schaefer 2026a, 27–30) Bloco específico no codebook (Schaefer 2026c) Costuma informar (Schaefer 2026b, 51)
a1 Qualitativo interpretativo ou descritivo: sentidos, percepções e dinâmicas da intervenção (etnografia, grupos focais, entrevistas) Desenho, técnicas de coleta, duração do campo, ator central, categorias emergentes, processo causal, condições de ativação, efeitos não intencionais, percepções, implementação observada, gargalos, custo, citação ilustrativa Mecanismo, moderador, percepção, implementação
a2 Quantitativo descritivo: população beneficiária, implementação ou alcance, sem necessariamente estimar efeito causal (surveys, registros, cobertura) Fonte de dados, amostragem, casos, população-alvo, cobertura, perfis dos beneficiários, oferta, percepção, tendência temporal, custo Percepção, implementação, custo
b1 Qualitativo explanatório: padrões causais entre condições e resultados (QCA, process tracing, comparação estruturada) Método comparado, formalização (0 a 2), seleção de casos, desfecho, condições necessárias e suficientes, consistência e cobertura, padrão observado, mecanismo e sua evidência, generalização, custo Mecanismo, moderador, percepção, implementação, custo
b2 Quantitativo explanatório: estimação do efeito causal (RCT, regressão descontínua, diferenças em diferenças, seleção em observáveis) Estratégia, estimador, desfecho e intervenção, média e DP do desfecho, grupos, controles, direção, coeficiente, EP, t, g, mecanismo, moderador, falsificação, percepção, implementação, custo, modelo principal Efeito, mecanismo, moderador, custo

Regras de classificação:

  1. Pelo método, não pelo tema. A classificação usa a estratégia que o estudo de fato emprega, e não o tema nem o rótulo que os autores dão ao desenho; a Cochrane pede descrever desenhos pelas suas características, e não só por rótulos (Cumpston et al. 2026, sec. III.3.4.2). Estudos b2 também informam mecanismos e moderadores, via mediação, efeitos heterogêneos e subgrupos (Schaefer 2026a, 30).
  2. Uma ficha por desenho. Estudo que combina explicitamente dois desenhos gera duas fichas, com a dimensão formal replicada e o sufixo do tipo no ficha_id; numa revisão conduzida pelo autor desta base entre 2025 e 2026 (a revisão A da Seção 12.9), 118 textos geraram 136 fichas.
  3. A fronteira a1/a2 precisa de critério escrito. Na validação dessa revisão, os dois codificadores divergiram no desenho em 4 de 26 textos, sempre sobre quantos e quais desenhos havia e envolvendo a fronteira a1/a2; a lição é fixar o critério no protocolo. Um critério operacional: abrir ficha a2 só quando o estudo produz e analisa dados quantitativos próprios como resultado, e não quando cita números como contexto; o critério e exemplos-limite vão no prompt da variável classificadora e são testados no piloto.
  4. O mapa dimensão × tipo orienta, não restringe. O codebook tem custo_id nos quatro blocos e percepcao_id e implementacao_id também no b2 (Schaefer 2026c, aba b2_quantitativo). Extrai-se toda dimensão que o estudo reportar.

O que extrair para cada dimensão da caixa de ferramentas

Dimensão Pergunta (Schaefer et al. 2025, 19–20) Variáveis mínimas Evidência
Contexto Onde, quando e para quem? País, UF ou município, nível de governo, período, população, comparador, componentes Trecho e página
Efeito Positivo, misto ou negativo, e com que força? Construto, direcao_desejada, estimativa bruta, EP ou IC, n por grupo, DP e seu tipo, estimador, estratégia, estimando, modelo principal, formula_id, significância Tabela com página; número conferido
Mecanismo Como X se liga a Y? mecanismo_status, mecanismo_evidencia, recurso, raciocínio, contexto (Seção 7.2) Trecho dos autores
Moderador Onde, quando e com quem funciona? Moderador, método, pré-especificação, estimativa e EP por subgrupo Tabela ou trecho
Implementação Como se dá nos casos bem-sucedidos? Componentes, níveis de governo e atores, infraestrutura ou pessoal novos, barreiras de fidelidade ou adesão, tempo até o efeito Trecho
Percepção Que sentido os atores atribuem à intervenção? Ator, percepção, citação ilustrativa Trecho
Custo Qual a relação entre custo e benefício? Custo total e por participante, moeda e ano, custos não monetários, custo-efetividade Tabela ou trecho

As variáveis de implementação alimentam a pontuação de complexidade da caixa (Seção 9.1). Para custo, importam o retorno por unidade investida e o custo total, inclusive custos não monetários como o tempo dos profissionais (Kraft 2020, versão do autor, p. 17). Na revisão dos celulares, mecanismos e moderadores apareceram em cinco dos 21 trabalhos (um deles uma revisão) e custos em seis, e os autores notam que os estudos raramente são explícitos, o que exige do codificador conhecimento do campo e de metodologia (Schaefer et al. 2025, 31). A resposta é uma regra de codificação com trecho literal, e não a inferência do codificador.

Correções obrigatórias ao codebook de exemplo

Variável (codebook de exemplo) Como está Problema Versão corrigida
direcao_am Dummy 1 = positivo, 0 = negativo, “no sentido normativo” (Schaefer 2026c, aba b2_quantitativo; Schaefer et al. 2025, 91) Sem categoria para zero; convenção normativa implícita em cada linha direcao_desejada por construto no protocolo; sinal_bruto; direcao (benéfica, danosa, zero) pelo estimador pontual
direcao_re 1 se p < 0,05 e positivo; 0 se p ≥ 0,05; −1 se p < 0,05 e negativo (Schaefer 2026c, aba b2_quantitativo) Mistura direção e significância; “não significativo” vira “sem relação” significancia_05, p_valor e IC em variáveis próprias
hedges_g g = d × J; sem médias, g ≈ t × √(1/n₁ + 1/n₂) (Schaefer 2026c, aba b2_quantitativo) O atalho é o d de um teste t sem covariáveis, sem J, variância nem registro da fórmula formula_id, aproximado, vi (Seção 7.4)
coeficiente, erro_padrao, t_valor, desvio_y “Contínua (ou 999)” (Schaefer 2026c, aba b2_quantitativo) 999 pode entrar num cálculo; o DP não diz de que grupo é Célula vazia com status; dp_y_tipo (controle, combinado, total, linha de base)
Códigos de ausência 999 é “sem informação” em duracao_campo (com longitudinal = 0) e cobertura_percentual (onde 50 também é “parcial”), mas “não aplicável” em consistencia e cobertura do b1 (Schaefer 2026c, abas a1, a2, b1) O mesmo código tem dois sentidos; ausência vira afirmação 999 só para aplicável e ausente; NA_secao para não aplicável; valor e categoria em colunas separadas
estrategia_identificacao Lista com VI e IV_2SLS, PSM e seleção em observáveis, DID e event_study (Schaefer 2026c, aba b2_quantitativo) Categorias sobrepostas geram divergência sem erro de leitura Categorias exclusivas com “outro, especificar”; variante do estimador à parte
Estimando Não existe ITT, LATE, efeito local e ATT respondem a perguntas diferentes estimando com trecho (Seção 7.3)
moderador_id “Sim” com interação significativa, subgrupos com teste de diferença ou efeitos reportados separadamente (Schaefer 2026c, aba b2_quantitativo) A condição de significância pode apagar interações nulas; não guarda estimativas por subgrupo het_metodo, het_pre_especificada, estimativa e EP por subgrupo, qualquer que seja o p
Âncora Só a1 tem citacao_ilustrativa (Schaefer 2026c); no Anexo G há pares _id + trecho, sem página (Schaefer et al. 2025, 59–100) Sem página, não há verificação Trecho literal e página em toda resposta
hieraquia_evidencias 0 a 6, com 5 = RCT e 6 = RS (Schaefer et al. 2025, 89) Desenho não é risco de viés; revisão não é estudo primário desenho descritivo; risco de viés por domínio (Seção 6.1)

A mesma revisão mostra mais duas falhas. A variável de coeficiente estandardizado, que aceitava t, z ou outra estatística, recebeu 999 de um codificador e um d de Cohen de 0,32 do outro para o mesmo texto, com 33,3% de concordância em seis comparações; e a lista de estratégias de identificação incluía revisão sistemática e meta-análise. A correção é separar estatistica_teste de efeito_padronizado_reportado, cada uma com seu tipo, e retirar revisões da lista.

Códigos de ausência. O Handbook recomenda que nenhuma pergunta possa ficar em branco, com opções “não aplicável”, “não reportado” e “não é possível dizer”, esta última marcando itens que podem motivar contato com os autores (Li et al. 2024, sec. 5.4.3). O codebook de exemplo usa 999 tanto para informação ausente quanto para variável não aplicável (Schaefer 2026c). Esta base separa as duas situações: 999 marca variável aplicável mas ausente no texto, e NA_secao, variável de bloco que não se aplica ao tipo do estudo. A skill mantém as duas marcas, acrescenta “não é possível dizer” e as converte em célula vazia com status antes de qualquer cálculo.

Qualidade da extração

Item Regra Fonte
Formulário Título da revisão, extrator e data; perguntas fechadas com “outro, especificar”; nada de resumos em texto não codificado; registrar o trecho que sustenta cada julgamento e onde está Li et al. (2024), sec. 5.4.3
Formato Coletar como reportado e transformar depois, por computador, distinguindo dado da fonte e dado calculado Li et al. (2024), sec. 5.4.3, 5.7
Piloto Formulário pilotado (obrigatório), com várias pessoas extraindo de alguns artigos e conferência de exatidão; nesta base, 2 a 3 estudos por bloco Li et al. (2024), MECIR C43, sec. 5.4.3; (E)
Treinamento No início e periodicamente, com algoritmo para itens que aparecem em vários lugares do relato Li et al. (2024), sec. 5.5.3
Dupla extração Dados de desfecho por duas pessoas independentes (obrigatório); características do estudo (altamente desejável) Li et al. (2024), MECIR C45, C46
Números de efeito 100% conferidos contra a página, ou dupla extração com arbitragem (E)
Categóricas Segundo codificador cego em ≥ 20% (mínimo 10); concordância, κ e PABAK por variável; κ nunca sozinho (E); Byrt et al. (1993)
Deriva A codificação muda entre pessoas e na mesma pessoa ao longo do tempo; repetir a checagem durante a extração Belur et al. (2021)
Desacordos Discussão, terceiro revisor, contato com autores; o que não se resolve é relatado; guardar a versão “como extraída” Li et al. (2024), sec. 5.5.5
Dados faltantes Buscar dados não publicados essenciais (altamente desejável): perguntas abertas para descrições, formulário curto para números, outros autores se o primeiro não responder Li et al. (2024), MECIR C49, sec. 5.2.3
Erratas e consistência Examinar retratações e erratas (obrigatório); conferir magnitude e direção contra o estudo (obrigatório); números só em figura, digitalizar com software Li et al. (2024), MECIR C48, C51, sec. 5.5.8

A evidência sobre dupla extração não é unânime. O Handbook cita um estudo em que a extração dupla independente teve menos erros que a extração única seguida de verificação (Li et al. 2024, sec. 5.5.2); num ensaio cruzado com 26 pares de extratores, os erros foram 17% na verificação assistida por software, 16% na verificação simples e 15% na extração independente, a mais demorada, e os autores concluem que ela pode ser necessária só para itens complexos (Li et al. 2019). Numa revisão de 25 documentos de orientação, 18 recomendam pilotar o formulário numa amostra de estudos e 17, extração por pelo menos duas pessoas (Büchter et al. 2020). As diretrizes de meta-análise em economia pedem dois ou mais codificadores com medida de concordância, mas aceitam que um segundo revisor confira aleatoriamente uma proporção substancial da literatura, se o protocolo disser e justificar (Havránek et al. 2020, sec. 2.2, 3). É a lógica da especificação desta base: verificação integral dos números e amostra cega para as categóricas. As fórmulas de κ e PABAK estão na Seção 5.1; a validação quando um modelo de linguagem extrai, na Seção 12.1.

ImportanteRegras invioláveis desta etapa
  1. Direção pelo estimador pontual, alinhada à direcao_desejada do protocolo; significância sempre em variável separada.
  2. Nenhum número de efeito entra na síntese sem trecho, página e conferência contra a fonte.
  3. Toda conversão registra formula_id, variância e se é aproximada.
  4. Revisões e meta-análises nunca entram no mesmo conjunto de síntese que estudos primários (em rápidas e overviews, só no nível de revisão, com controle de sobreposição); simulações nunca entram como estudo primário.
  5. Ausência de dado nunca vira zero, “não” ou “sem efeito”, nem justifica exclusão silenciosa.

7.2 Mecanismo e moderador: o que codificar

Mecanismo

Hedström e Ylikoski resumem o núcleo comum das definições: o mecanismo é identificado pelo efeito que produz, é causal, tem uma estrutura que a explicação torna visível (por isso reduzi-lo a uma variável interveniente perde o essencial) e forma hierarquias (Hedström e Ylikoski 2010, 50–52). Um esquema de mecanismo diz como o efeito poderia ser produzido; a evidência sobre entidades, atividades e relações o torna plausível, e essa checagem separa a explicação da mera narrativa (Hedström e Ylikoski 2010, 52–53). Mecanismos apoiam a inferência causal e a extrapolação, mas o problema costuma ser discriminar entre mecanismos possíveis (Hedström e Ylikoski 2010, 54), e a pergunta relevante é que acesso ao processo causal uma evidência oferece, não se o método é quantitativo ou qualitativo (Hedström e Ylikoski 2010, 58).

Kaidesoja distingue três conceitos de mecanismo com pressupostos incompatíveis e defende mantê-los separados (Kaidesoja 2021, 15, 29):

Conceito O que é Evidência típica Código na ficha
Variável interveniente Variável entre X e Y, identificada pelo mesmo procedimento de elaboração que detecta confundimento e moderação Correlações com e sem a variável de teste (Kaidesoja 2021, 17) mediador estatístico
Relação contrafactual num modelo estrutural Seta de um DAG ou equação estrutural, suposta invariante e modular Modelos de equações estruturais, desenhos que imitam experimentos (Kaidesoja 2021, 18–22) mediação, com os pressupostos
Estrutura de interação de um processo social Atores situados e suas interações produzindo o resultado Análise narrativa, process tracing, simulação baseada em agentes (Kaidesoja 2021, 23–24) rastreamento de processo, relato de atores, sequência de eventos, comparação entre casos

A confiança num mecanismo aumenta quando ele é confirmado por métodos e dados independentes entre si (Kaidesoja 2021, 27–28); por isso a ficha registra o tipo de evidência de cada estudo, e não só a descrição.

Na avaliação realista, mecanismo é a combinação dos recursos oferecidos pelo programa com o raciocínio dos participantes; Dalkin e colegas propõem separá-los em M(recurso) + C → M(raciocínio) = O, o que ajuda a distinguir mecanismo de contexto e evita confundir a estratégia do programa com o mecanismo (Dalkin et al. 2015, 3–4). No exemplo deles, o registro de cuidados paliativos (recurso), usado com idosos de trajetória de doença imprevisível (contexto), gera ansiedade nos profissionais (raciocínio) e menos registros (resultado) (Dalkin et al. 2015, 5). Em política pública: câmeras de vigilância não reduzem o crime por si; quando reduzem, é por convencer potenciais infratores de que o risco de detecção aumentou (Dalkin et al. 2015, 1–2). A proposta OQF traz exemplos brasileiros: mediação mostrando que o efeito das Delegacias da Mulher sobre a legitimidade da polícia passa pela percepção de segurança, testes com subconjuntos de dados sobre o Luz para Todos e entrevistas, observação e triangulação em estudos qualitativos (Schaefer et al. 2025, 23).

Regras de codificação:

  1. mecanismo_status: não discutido, hipotetizado ou testado; a proposta OQF pede verificar se os estudos mencionam, testam ou identificam mecanismos (Schaefer et al. 2025, 22).
  2. mecanismo_evidencia: mediação, teste de canal, rastreamento de processo, relato de atores, sequência de eventos, análise contrafactual, comparação entre casos (Schaefer et al. 2025, 23; Schaefer 2026c, aba b1_qualitativo_expl).
  3. Recurso, raciocínio e contexto em campos próprios, cada um com trecho (Dalkin et al. 2015, 4).
  4. Padrão comparativo não é mecanismo: “toda vez que X, Y” é diferente de “X ativa Z que produz Y porque…” (Schaefer 2026c, aba b1_qualitativo_expl).
  5. Registra-se só o mecanismo que o estudo menciona, testa ou identifica (Schaefer et al. 2025, 22), com trecho literal e página; hipóteses da equipe vão para a síntese, rotuladas como tais (Seção 9.1).

Campos estruturados importam porque texto livre é onde a concordância cai: na mesma revisão A, a variável aberta de mecanismo teve 16,7% de concordância em 12 comparações, e o bloco a1, 44,4%.

Moderador e efeitos heterogêneos

Chen distingue o mecanismo mediador, que se interpõe entre componentes do programa, do moderador, em que a relação é condicionada por um terceiro fator (Dalkin et al. 2015, 2); na proposta OQF, moderadores são fatores de contexto (complexidade da intervenção, características de beneficiários e implementadores, qualidade das entregas) que produzem efeitos heterogêneos (Schaefer et al. 2025, 23). Cintron e colegas examinaram 54 estudos de 2019 sobre efeitos de políticas sociais na saúde: 24 (44%) relataram efeitos heterogêneos; desses, 15 (63%) declararam a intenção a priori, 17 (71%) usaram só estratificação, 5 (21%) termo de interação, 2 (8%) os dois e nenhum usou algoritmos orientados por dados (Cintron et al. 2022, 79, 81).

Método (Cintron et al. 2022, 80) O que permite concluir O que extrair
Estratificação Descreve o efeito em cada subgrupo; não testa a diferença, mas fornece resultados para testes em revisões futuras Estimativa, EP e n por subgrupo
Termo de interação Quantifica a diferença entre subgrupos e seu p Coeficiente e EP da interação, mais as estimativas por subgrupo
Algoritmo orientado por dados Heterogeneidade exploratória em subgrupos não pré-especificados, com validação cruzada Algoritmo, variáveis candidatas, subgrupos encontrados

O formulário desses autores registra, por estimativa heterogênea, desfecho, avaliação a priori, justificativa teórica, método, subgrupos, estimativas, n, EP, IC, significância, p e medida de efeito (Cintron et al. 2022, 83). Eles recomendam relatar resultados nulos de todos os subgrupos pré-especificados, porque estimativas imprecisas publicadas com sua incerteza podem ser combinadas depois, e lembram que a pesquisa qualitativa ajuda a achar fontes de heterogeneidade (Cintron et al. 2022, 82). A regra da skill segue isso: subgrupos entram com EP qualquer que seja o p. Quando a heterogeneidade é a própria pergunta, cada subgrupo vira linha: Zidar estima efeitos de cortes de imposto por grupo de renda e conclui que a relação com o emprego vem sobretudo dos cortes para grupos de renda mais baixa (Zidar 2017, resumo e p. 1-2). A moderação entre estudos é tema da Seção 8.1.

7.3 Desenho de identificação e estimando

Keele apresenta a inferência causal a partir das hipóteses que dão interpretação causal a uma estimativa, as hipóteses de identificação (Keele 2015), e o Anexo G da proposta OQF remete a ele para classificar a estratégia (Schaefer et al. 2025, 88). A ficha registra estratégia declarada, hipóteses, testes apresentados e estimando; julgar se as hipóteses se sustentam é risco de viés (Seção 6.1).

Desenho Hipótese de identificação Estimando O que extrair
Experimento aleatorizado Tratamento independente dos resultados potenciais; diferença de médias = ATT = ATE (Castro et al. 2024, 12) ATE Unidade de aleatorização, teste de balanceamento (Castro et al. 2024, 15), EP com clusters
Cumprimento parcial ou encorajamento Sorteio como instrumento; monotonicidade ITT pela forma reduzida; LATE dos compliers, por Wald ou MQ2E (Castro et al. 2024, 22–24) Qual foi estimado; take-up diferencial. O ITT, efeito de ofertar a política, interessa em muitos contextos porque o governo só consegue ofertar o programa (Castro et al. 2024, 24)
Regressão descontínua Continuidade dos resultados potenciais no corte; sem manipulação da variável de corte (Castro et al. 2024, 36) Efeito local no corte; na versão fuzzy, a descontinuidade é instrumento (Castro et al. 2024, 38) Janela, forma funcional, teste de densidade, continuidade de outras variáveis, cortes placebo (Castro et al. 2024, 35–37)
Diferenças em diferenças Não observáveis fixos no tempo e tendências paralelas, não testáveis; anos pré-tratamento ajudam a avaliar (Castro et al. 2024, 48) O declarado pelos autores Períodos pré, composição dos grupos em cortes transversais (Castro et al. 2024, 52–53), adoção escalonada e estimador (Castro et al. 2024, 53), EP com cluster (Castro et al. 2024, 54)
Controle sintético A unidade sintética reproduz a trajetória pré-tratamento, com muitos períodos (Castro et al. 2024, 57) Diferença entre tratada e sintética por período (Castro et al. 2024, 56–57) Pesos, ajuste pré, inferência por permutação
Pareamento Independência condicional aos observáveis e suporte comum (Castro et al. 2024, 68) ATT (e ATE sob a hipótese); com trimming, efeito só na região de suporte (Castro et al. 2024, 69, 72) Covariáveis pré-intervenção (Castro et al. 2024, 67), critério de pareamento, placebos (Castro et al. 2024, 71–72)
Painel com efeitos fixos Não observáveis da unidade constantes no tempo (a H1 do DiD) (Castro et al. 2024, 48) O declarado pelos autores Efeitos fixos, tendências, defasagens
Antes e depois; regressão sem estratégia Nenhuma além de controlar observáveis Associação Controles e justificativa

Na amostra de Cintron e colegas, os desenhos mais comuns foram diferenças em diferenças (12), antes e depois (9), regressão (7) e painel com efeitos fixos (6) (Cintron et al. 2022, 81). Em estudos não aleatorizados, estimativas ajustadas costumam ser preferíveis a estatísticas por grupo, e as variáveis de ajuste devem ser registradas (Higgins et al. 2024, sec. 6.3). Estimandos diferentes não são intercambiáveis: a especificação desta base manda analisá-los separadamente ou tratar a diferença como indireção na certeza (Seção 10.1).

7.4 Tamanhos de efeito: extração, alinhamento e conversão

Princípios

  1. Dado mais detalhado disponível (obrigatório): médias, DP e n por grupo ou tabelas 2×2; na falta, estimativas de efeito, IC, estatísticas de teste ou valores-p (Li et al. 2024, MECIR C47).
  2. Como reportado, converter depois, por computador, com registro do original, do calculado e da conta (Li et al. 2024, sec. 5.4.3, 5.7).
  3. Alinhar a direção antes de padronizar. Escalas em sentidos opostos exigem multiplicar um conjunto por −1, sem alterar o DP, e relatar a inversão (Higgins et al. 2024, sec. 6.5.1.2, MECIR C61). Na skill, \(y^{\text{alinhado}} = s \cdot y\), com \(s = +1\) se direcao_desejada = aumentar e \(s = -1\) se reduzir. O t “normativamente ajustado” de Gerring e colegas aplica o princípio, mas os autores marcam cerca de 15% das análises como de classificação discutível e codificam alguns desfechos conforme o contexto (fecundidade alta é problema em países em desenvolvimento; baixa, em desenvolvidos) (Gerring et al. 2022, 365). Por isso a direção desejada é declarada por desfecho e contexto no protocolo (Seção 2.1), e não linha a linha.
  4. Registrar qual DP padroniza. A diferença padronizada supõe que diferenças de DP entre estudos refletem escalas; o g de Hedges usa o DP combinado, supondo DP semelhantes nos grupos, e o Δ de Glass, o DP do comparador (Higgins et al. 2024, sec. 6.5.1.2). Efeitos padronizados pela variação de médias de escola ou de ganhos tendem a ser de uma vez e meia a três vezes maiores que os padronizados pelo DP de alunos, e sem linha de base o DP do controle é preferível, porque a intervenção pode alterar a variação do tratado (Kraft 2020, versão do autor, p. 14-15).
  5. formula_id, aproximado e variância em toda estimativa convertida; aproximadas entram em sensibilidade (Seção 8.1).
  6. Valor t não é tamanho de efeito: mede a estimativa relativa ao EP (Gerring et al. 2022, 364). Guarda-se o t para converter, não para comparar.
  7. Guardar a precisão do original. Gerring e colegas descartaram da figura t calculados a partir de coeficiente e EP publicados com um único dígito (Gerring et al. 2022, 365).

Fórmulas de base

Com o grupo 1 como tratamento (Wilson 2023, eq. 1.1):

\[ s_p = \sqrt{\frac{(n_1-1)s_1^2 + (n_2-1)s_2^2}{n_1+n_2-2}}, \qquad d = \frac{\bar{x}_1-\bar{x}_2}{s_p}, \qquad V_d = \frac{n_1+n_2}{n_1 n_2} + \frac{d^2}{2(n_1+n_2)} \]

\[ J = 1 - \frac{3}{4(n_1+n_2-2)-1}, \qquad g = J\,d, \qquad V_g = J^2 V_d \]

DP e EP a partir do que o estudo informa (Wilson 2023, eq. 1.2; Higgins et al. 2024, sec. 6.3.1, 6.5.2.3):

\[ s = EP \cdot \sqrt{n}, \qquad EP = \frac{\text{limite superior} - \text{limite inferior}}{3{,}92}, \qquad EP_{\text{DM}} = \frac{\lvert \text{DM} \rvert}{t}, \qquad s_p = \frac{EP_{\text{DM}}}{\sqrt{1/n_1 + 1/n_2}} \]

O divisor 3,92 vale para IC de 95% (3,29 para 90% e 5,15 para 99%); com menos de cerca de 60 participantes por grupo, o IC deveria ter usado a distribuição t (Higgins et al. 2024, sec. 6.3.1, 6.5.2.3). Tomar EP por DP é um erro particularmente enganoso, e a dúvida vai aos autores (Higgins et al. 2024, sec. 6.5.2).

Tabela de conversões

Os formula_id são os da tabela de conversões da skill; fora dela, a estimativa é aproximada e testada em sensibilidade (E).

formula_id Entrada Conversão para d Variância Pressupostos e avisos Aprox. Fonte
md_sd Médias, DP, n por grupo Fórmula de base \(V_d\) de base Conferir se é DP e não EP; com DP da amostra total, remover a variância entre grupos 0 Wilson (2023), eq. 1.1-1.3
t_ind t de duas médias independentes, \(n_1\), \(n_2\) \(d = t\sqrt{(n_1+n_2)/(n_1 n_2)}\) \(V_d\) de base t de coeficiente com covariáveis vai para beta_sd ou parcial_r_d; sinal = tratamento − controle 0 Wilson (2023), eq. 1.9
p_n_t p exato, \(n_1\), \(n_2\), sinal de outra fonte \(t = \lvert t^{-1}_{p/2;\,n_1+n_2-2} \rvert\), depois t_ind \(V_d\) de base p suposto bilateral; “p < 0,05” só com a aproximação conservadora p = 0,05; “NS” não converte 1 Wilson (2023), eq. 1.11; Higgins et al. (2024), sec. 6.5.2.3
f1_ind F com 1 gl no numerador, \(n_1\), \(n_2\) \(d = \pm\sqrt{F(n_1+n_2)/(n_1 n_2)}\) \(V_d\) de base F não tem sinal: vem das médias, com trecho 0 Wilson (2023), eq. 1.12
beta_sd Coeficiente B de indicador binário de tratamento, EP de B, DP do desfecho e seu tipo \(d = B/s\) (variantes abaixo) \((d \cdot EP_B/B)^2 = (EP_B/s)^2\) B é diferença ajustada; declarar o tipo de \(s\); sinalizar ITT, LATE ou efeito local; não serve para X contínuo 0 Wilson (2023), eq. 1.31
or_logit OR e IC, ou ln(OR) e EP \(d = \ln(OR)\cdot\sqrt{3}/\pi\) \(V_{\ln OR}\cdot 3/\pi^2\) Variável latente logística com mesma variabilidade nos grupos 0 Deeks et al. (2024), sec. 10.6; Wilson (2023), eq. 1.33
dif_prop_contagens Proporções do desfecho binário no tratamento (\(p_1\)) e no controle (\(p_0\)), \(n_1\), \(n_2\) \(\ln OR = \text{logit}(p_1) - \text{logit}(p_0)\); \(d = \ln(OR)\cdot\sqrt{3}/\pi\) \(V_{\ln OR} = \frac{1}{n_1 p_1} + \frac{1}{n_1(1-p_1)} + \frac{1}{n_2 p_0} + \frac{1}{n_2(1-p_0)}\), vezes \(3/\pi^2\) Tabela 2×2 de proporções brutas (desenho que não é de regressão); variável latente logística; proporções entre 0 e 1, nunca em percentual 0 Chinn (2000); Deeks et al. (2024), sec. 10.6; Viechtbauer (2026)
dif_prop_lpm Efeito em pontos percentuais (modelo de probabilidade linear, DiD ou RDD sobre desfecho binário), EP do efeito em pp (\(EP_{pp}\)) ou seu IC, e \(p_0\) do controle \(p_1 = p_0 + \text{efeito}_{pp}/100\); depois como dif_prop_contagens \(V_{\ln OR} = (EP_{pp}/100)^2/[p_1(1-p_1)]^2\) (método delta com \(p_0\) fixo, cálculo nosso); sem \(EP_{pp}\), pelas contagens Trata o log OR de um efeito ajustado como o de uma tabela 2×2; \(p_0\) do controle no mesmo período; RDD e LATE são efeitos locais e vão para análise separada ou sensibilidade 1 Chinn (2000); Deeks et al. (2024), sec. 10.6
rr_logit Razão de riscos (RR) com IC ou EP de ln RR, e \(p_0\) do controle \(OR = RR(1-p_0)/(1 - RR\,p_0)\); depois \(d = \ln(OR)\cdot\sqrt{3}/\pi\) \(EP_{\ln OR} = EP_{\ln RR}/(1 - RR\,p_0)\) (método delta com \(p_0\) fixo, cálculo nosso); \(V_d = EP_{\ln OR}^2 \cdot 3/\pi^2\) \(RR\,p_0 < 1\); RR ajustado por covariáveis com \(p_0\) bruto é aproximação 1 Zhang e Yu (1998); Chinn (2000)
r_d r ponto-bisserial, \(n_1\), \(n_2\) \(d = r/\sqrt{(1-r^2)\,p_1(1-p_1)}\), \(p_1 = n_1/N\) \(V_d\) de base X dicotômico; r entre contínuas é sintetizado em z de Fisher, \(V_z = 1/(n-3)\) 0 Wilson (2023), eq. 1.26, 3.1
r_d_n_total r ponto-bisserial e só N, sem \(n_1\) e \(n_2\) r_d com \(p_1 = 0{,}5\): \(d = 2r/\sqrt{1-r^2}\) \(V_d\) de base com \(n_1 = n_2 = N/2\) Supõe grupos de mesmo tamanho; com grupos desbalanceados, subestima o d que r_d daria, porque \(p_1(1-p_1)\) é máximo em 0,5; vai para a sensibilidade 1 Wilson (2023), eq. 1.26 (com \(p_1 = 0{,}5\), cálculo nosso)
parcial_r_d t do coeficiente focal (ou \(r_p\)), n, m preditores (com o focal, sem intercepto) \(r_p = t/\sqrt{t^2 + n - m - 1}\); d via r_d só como aproximação \((1-r_p^2)^2/(n-m)\); em z, \(1/(n-m-2)\) Depende das covariáveis de cada modelo; sinal vem do t; síntese possível em \(r_p\), em análise própria 1 Aloe e Becker (2012); Viechtbauer (2026)
parcial_r_d_gl t e gl residual, sem o número de preditores \(r_p = t/\sqrt{t^2 + gl}\), com o gl residual no lugar de \(n - m - 1\); d via r_d \((1-r_p^2)^2/gl\); sem gl, \((1-r_p^2)^2/(n-1)\), que é o caso \(m = 1\) Mesmos pressupostos de parcial_r_d; o denominador da variância fica uma unidade abaixo de \(n - m\), então a variância sai um pouco maior; extrair m sempre que o modelo for descrito 1 Aloe e Becker (2012); Viechtbauer (2026)
mann_whitney_z z do teste de postos, \(n_1\), \(n_2\), sentido da diferença \(r = z/\sqrt{N}\), depois r_d \(V_d\) de base Nunca tratar o p como de teste t; conferir lateralidade do p e sentido do z 1 Fiel Peres (2026), eq. 2
mediana_iqr_wan Mediana \(m\), quartis \(q_1\) e \(q_3\) e n de cada grupo \(\bar{x} \approx (q_1+m+q_3)/3\); \(s \approx (q_3-q_1)/\eta(n)\); depois md_sd Como md_sd Só quando há os dois quartis de cada grupo; distribuição aproximadamente normal; com assimetria, não estimar DP pelo IQR 1 Wan et al. (2014), p. 6; Higgins et al. (2024), sec. 6.5.2.5
mediana_iqr_aprox Mediana e amplitude interquartil, sem os quartis \(\bar{x} \approx m\); \(s \approx \text{IQR}/1{,}35\); depois md_sd Como md_sd Só com n grande e distribuição próxima da normal; a média não é corrigida pela assimetria 1 Higgins et al. (2024), sec. 6.5.2.5
g_informado, d_informado g ou d reportado, com EP ou n Nenhuma (J se for d) \(EP^2\) ou \(V_d\) de base Conferir se é g, d combinado ou Δ de Glass; os termos são usados de forma intercambiável 0 Higgins et al. (2024), sec. 6.5.1.2; Harrer et al. (2021), sec. 3.4.1

Detalhes das linhas mais usadas em avaliação de políticas:

  • beta_sd com DP da amostra total. Remove-se a variância associada ao efeito para obter o DP dentro dos grupos (Wilson 2023, eq. 1.31): \[ s_p = \sqrt{\frac{s_y^2\,(N-1) - B^2\, n_1 n_2 / N}{N-2}}, \qquad d = \frac{B}{s_p} \] É a conversão que esc_B aplica no pacote esc, que implementa a calculadora de Wilson em R (Lüdecke 2019). Com DP do controle, \(d = B/s_c\) e dp_y_tipo = controle. A variância pelo EP de B mantém a estatística do coeficiente e é preferível porque incorpora as covariáveis (Wilson 2023, eq. 1.31); na página consultada ela aparece impressa como \((d \cdot B/EP_B)^2\), que só reproduz o t do coeficiente na forma \((d \cdot EP_B/B)^2\).
  • mediana_iqr_wan e mediana_iqr_aprox. Para n grande, \(\eta(n) \approx 2\,\Phi^{-1}\!\left((0{,}75n-0{,}125)/(n+0{,}25)\right)\), que converge para cerca de 1,35, o divisor da Cochrane; com n pequeno, o de Wan e colegas é mais preciso (Wan et al. 2014, 6). Quando o estudo informa só a amplitude interquartil, sem os quartis, não há como aplicar a fórmula da média de Wan e colegas: a conversão usa o divisor 1,35, que só vale com n grande e distribuição próxima da normal (Higgins et al. 2024, sec. 6.5.2.5), e recebe outro formula_id para não parecer a de Wan. A mediana só substitui a média com distribuição simétrica, e medianas costumam ser reportadas justamente por assimetria (Higgins et al. 2024, sec. 6.5.2.9).
  • r_d_n_total e parcial_r_d_gl. São as duas saídas para quando falta um insumo da linha principal. Sem \(n_1\) e \(n_2\), a proporção do grupo tratado é desconhecida e a fórmula de Wilson (2023, eq. 1.26) é aplicada com \(p_1 = 0{,}5\). Sem o número de preditores, o gl residual do modelo faz o papel de \(n - m - 1\); a variância de grande amostra de Aloe e Becker, implementada no metafor, usa \(n - m\) no denominador (Aloe e Becker 2012; Viechtbauer 2026), e por isso a rota pelo gl dá uma variância um pouco maior. As duas saem com aproximado = 1.
  • Desfechos binários de avaliação de política (dif_prop_contagens, dif_prop_lpm, rr_logit). Matrícula, frequência, evasão e emprego formal costumam aparecer como efeito em pontos percentuais de um modelo de probabilidade linear, de diferença em diferenças ou de regressão descontínua, sem o DP do desfecho que beta_sd exige. Deixar essas estimativas fora da síntese enviesaria a amostra para os estudos que publicam DP. A saída é passar pelo log da razão de chances: com a proporção do controle \(p_0\) e o efeito em pontos percentuais, reconstrói-se \(p_1\), calcula-se \(\ln OR\) e converte-se para d pela aproximação logística, que supõe uma variável latente com distribuição logística (Chinn 2000; Deeks et al. 2024, sec. 10.6). A variância da tabela 2×2 é a que o metafor usa para o log OR (Viechtbauer 2026); quando o estudo dá o erro-padrão do efeito em pontos percentuais, a variância do log OR sai pelo método delta com \(p_0\) tratado como fixo (cálculo nosso), o que ignora a incerteza de \(p_0\) e por isso a linha é aproximada. Razão de riscos vai a razão de chances pela fórmula de Zhang e Yu, que depende do risco no controle (Zhang e Yu 1998). Em todos os casos a proporção vai entre 0 e 1, o efeito em pontos percentuais, e sem \(p_0\) no texto a linha fica sem cálculo, com pergunta aos autores. Um exemplo de conferência: com \(RR = 1{,}25\) e \(p_0 = 0{,}40\), \(OR = 1{,}25 \times 0{,}60/(1 - 0{,}50) = 1{,}5\), e a fórmula de Zhang e Yu devolve \(RR = 1{,}5/(0{,}60 + 0{,}40 \times 1{,}5) = 1{,}25\).
  • Imputar DP de outros estudos é aceitável para uma pequena proporção, com sensibilidade; com a maioria sem DP, não se imputa, e em diferenças padronizadas um DP maior puxa o resultado para a ausência de efeito (Higgins et al. 2024, sec. 6.5.2.7).
  • Coeficientes de modelos diferentes só são comparáveis se o modelo for o mesmo; controles diferentes tornam os b não diretamente comparáveis (Harrer et al. 2021, sec. 17.2). A ficha guarda controles e estimador, e as diretrizes de meta-análise em economia pedem codificar também tipo de modelo, variáveis relevantes omitidas, tipo de dado e a forma original do efeito antes da conversão (Havránek et al. 2020, sec. 2.2).
# Ilustrativo: coeficiente de tratamento (formula_id = beta_sd), DP do controle
d   <- B / s                        # B, ep_B, s, n1, n2 com página registrada
v_d <- (ep_B / s)^2
J   <- 1 - 3 / (4 * (n1 + n2 - 2) - 1)
g   <- J * d; v_g <- J^2 * v_d
g_alinhado <- ifelse(direcao_desejada == "reduzir", -g, g)

Conferências de plausibilidade

A especificação desta base transforma estas conferências em asserções automáticas antes da síntese.

Conferência Alerta Ação
Valores possíveis DP ≤ 0, n ≤ 0, \(n_1 + n_2 > N\), p fora de [0, 1], OR ≤ 0, \(\lvert r \rvert > 1\); proporção fora de (0, 1) ou escrita em percentual, \(p_0 + \text{efeito}_{pp}/100\) fora de (0, 1), \(RR\,p_0 \geq 1\) Voltar à página; corrigir ou marcar como não utilizável
Coerência interna p incompatível com t e gl; IC que não contém a estimativa; médias e DP que implicam t muito diferente do teste relatado Registrar a inconsistência; contatar autores; sensibilidade com as alternativas
DP ou EP Número após ± ou entre parênteses sem rótulo; DP implausível para a escala Conferir no texto e perguntar aos autores (Higgins et al. 2024, sec. 6.5.2)
Magnitude \(\lvert g \rvert > 2\) Conferir EP no lugar de DP, DP de agregados, unidade da escala
Sinal Sinal diferente do descrito no texto; F ou p sem fonte de sinal Registrar a fonte do sinal com trecho
Unidade de análise Observações muito acima das unidades aleatorizadas, sem ajuste para clusters Registrar o nível de aleatorização; ajustar ou sinalizar (Higgins et al. 2024, sec. 6.2.1, MECIR C70)
Grupos múltiplos O mesmo controle em duas comparações da mesma síntese Combinar grupos ou separar comparações (Higgins et al. 2024, sec. 6.2.9, MECIR C66)

O que extrair para interpretar a magnitude

Os rótulos de magnitude dependem do campo e são fixados no protocolo (Seção 3.1); o uso está na Seção 8.1. Cohen propôs d = 0,20, 0,50 e 0,80 (e r = 0,10, 0,30 e 0,50), mas recomendava essas convenções só quando não houvesse estimativas da área (Brydges 2019, 1–2; Kraft 2020, versão do autor, p. 3). Distribuições empíricas como a de Brydges usam valores absolutos (Brydges 2019, 3) e se aplicam a \(\lvert g \rvert\) depois do alinhamento. Na extração, registram-se as características que mudam a magnitude esperada:

Variável Por que extrair
natureza_estimativa (causal ou correlacional) Relações correlacionais tendem a ser maiores que efeitos causais (Kraft 2020, versão do autor, p. 9-10)
tipo_instrumento Testes do pesquisador alinhados à intervenção dão efeitos de duas a quatro vezes maiores que testes padronizados amplos (Kraft 2020, versão do autor, p. 10)
proximidade_desfecho, tempo_desde_intervencao Desfechos próximos e medidos logo depois tendem a ter efeitos maiores (Kraft 2020, versão do autor, p. 10-11)
dp_y_tipo e homogeneidade da amostra DP de agregados, ganhos ou amostras homogêneas inflam o efeito padronizado (Kraft 2020, versão do autor, p. 14-15)
custo_por_participante, escala Efeitos iguais têm relevância diferente conforme custo e possibilidade de expansão (Kraft 2020, versão do autor, p. 17-18)

7.5 Passo a passo

  1. Confira o protocolo congelado (Seção 3.1): codebook v0, direcao_desejada por construto e contexto, regra do modelo principal, DP preferido, conversões permitidas, benchmarks e plano de validação.
  2. Ligue relatos a estudos e confirme que cada PDF é o texto certo (Seção 5.1); na revisão A da Seção 12.9, 3 PDFs baixados não correspondiam ao artigo incluído.
  3. Monte o formulário a partir das tabelas que a revisão vai apresentar, com perguntas fechadas, opções de ausência e instruções ao lado de cada item (Li et al. 2024, sec. 5.4.3); declare a convenção de paginação e o offset de teses e capítulos.
  4. Pilote e treine (portão G6). Dois extratores aplicam o formulário a 2 ou 3 estudos de cada bloco, comparam, conferem contra a fonte e revisam as instruções; mudança grande pede novo teste e pode obrigar a revisitar os já extraídos (Li et al. 2024, sec. 5.4.3, 5.5.3).
  5. Classifique o tipo de estudo e abra uma ficha por desenho.
  6. Extraia as dimensões formal e metodológica, com estratégia, hipóteses de identificação, testes e estimando.
  7. Extraia os efeitos: todas as estimativas elegíveis, como reportadas, com modelo, subgrupo, momento, n, DP e seu tipo, controles, trecho e página; marque o modelo principal e o critério.
  8. Extraia mecanismo, moderador, percepção, implementação e custo, com trecho (Seção 7.2).
  9. Converta e alinhe pela tabela de conversões, com formula_id, aproximado, variância e avisos.
  10. Verifique 100% dos números contra a página e rode as conferências de plausibilidade; número que não passa volta ao extrator ou vira pergunta aos autores.
  11. Valide as categóricas: segundo codificador cego em pelo menos 20% dos estudos (mínimo 10), estratificados por tipo; concordância, κ e PABAK por variável; variável abaixo de 0,7 ou de 80% é redefinida e recodificada em todos. Repita uma checagem menor no meio da extração, porque a codificação deriva (Belur et al. 2021).
  12. Resolva divergências por discussão, terceiro revisor e contato com autores, guardando a versão “como extraída” (Li et al. 2024, sec. 5.5.5).
  13. Trate o dado que falta ou não fecha: contate os autores, registre tentativa e resposta e nunca exclua em silêncio; exclusão por ausência de resultado utilizável só se prevista no protocolo, com motivo.
  14. Consolide e congele (portão G7): base mestre com uma linha por ficha, tabela de efeitos com uma linha por estimativa, versão e hash, desvios do protocolo registrados.

7.6 O que as diretrizes exigem

Diretriz Item Exigência Como atender
PRISMA 2020 9 Quantos revisores coletaram dados de cada relato, se independentes, como dados foram obtidos ou confirmados com investigadores, ferramentas de automação (Page et al. 2021) Piloto, dupla extração ou verificação, contato com autores, uso de IA (Seção 12.1)
PRISMA 2020 10a, 10b Definir desfechos e dizer se todos os resultados compatíveis foram buscados e, se não, como se escolheu; definir as demais variáveis e os pressupostos sobre informação faltante (Page et al. 2021) Construtos, regra do modelo principal, codebook, convenção de ausência
PRISMA 2020 12, 13b Medida de efeito por desfecho; preparação dos dados, com estatísticas faltantes e conversões (Page et al. 2021) g alinhado; tabela de conversões com formula_id
PRISMA 2020 17, 19, 27 Características de cada estudo; estatísticas por grupo e estimativa com precisão; formulários, dados e código disponíveis (Page et al. 2021) Tabelas geradas da base; codebook, base, tabela de efeitos e scripts públicos
PRISMA-ScR 10, 11, 15, 17 Charting com formulários calibrados ou testados, independente ou em dupla; variáveis, pressupostos e simplificações; características e dados de cada fonte (Tricco et al. 2018) Idem, em revisões de escopo
Cochrane (MECIR) C42-C51 Relatos por estudo; formulário pilotado; características suficientes; dupla extração de desfechos; dados mais detalhados; erratas; dados não publicados; braços elegíveis; conferência de magnitude e direção (Li et al. 2024) “Qualidade da extração” e princípios da Seção 7.4
Cochrane (MECIR) C61, C66, C70 Escalas no mesmo sentido; grupos múltiplos sem dupla contagem; clusters e pareamento considerados (Higgins et al. 2024) direcao_desejada; conferências de plausibilidade
MAER-Net 2.1, 2.2 Definição do tamanho de efeito com fórmulas de transformação; dois ou mais codificadores com medida de concordância; lista do que foi codificado (Havránek et al. 2020) Tabela de conversões; relatório de concordância; codebook

Protocolo e revisão devem dizer quais categorias de dados foram extraídas, como os dados de cada relato foram verificados, se os extratores são especialistas no tema, em método ou em ambos, como foram piloto, treinamento e instruções, como se lidou com múltiplos relatos e como se resolveram desacordos (Li et al. 2024, sec. 5.5.11).

7.7 Exemplo trabalhado

Celulares nas escolas: o que a ficha de efeitos deveria registrar

O g de cada estudo foi calculado do coeficiente do modelo principal, dos tamanhos dos grupos e do DP da variável dependente (Schaefer et al. 2025, 32), com código e dados no Anexo J (Schaefer et al. 2025, 103–6). A tabela refaz as conversões com esc e com as fórmulas da Seção 7.4 (cálculo nosso); a reanálise da meta-análise está na Seção 8.5.

id Dado no Anexo J Função g no Anexo J Recalculado O que faltou na ficha
1 B = 0,06; DP = 1,013; n = 66.266 e 64.216 esc_B 0,059 0,059 dp_y_tipo; nível de alocação; EP com clusters
3 B = −0,02; DP = 2,27; n = 4.686 e 4.685 esc_B −0,008 −0,009 direcao = danosa (pequena); significância à parte
4 B = 6,37; DP = 9,70; n = 16 e 16 esc_B 0,668 0,668 com DP total; 0,640 com B/DP Tipo do DP; n conflitante com o total de 192 da tabela final
5 B = 0,12; DP = 0,31; n = 52 e 425 esc_B 0,389 0,389 dp_y_tipo, estimando
15 F = 5,77; n = 25 e 38 esc_f 0,610 0,611 Fonte do sinal
20 F = 3,14; n = 40 e 40 esc_f 0,392 0,392 Fonte do sinal; n conflitante com o total de 160
24 Médias 9,83 ± 3,25 e 7,11 ± 2,96; U = 1859,5; Z = −2,151; P = ,015; n = 63 e 61 esc_t(p = 0.015) 0,440 0,39 pelo z; 0,87 pelas médias Inconsistência entre teste e médias; formula_id; aproximado = 1
28 TE = 0,05; seTE = 0,05; “n” = 9 Nenhuma 0,05 Não se aplica É meta-análise: sai da base

O DP precisa de rótulo. O Anexo J chama o dado de “desvio padrão da variável dependente” (Schaefer et al. 2025, 103), mas esc_B o trata como DP da amostra total; só assim o id 4 dá 0,668. Em estudos grandes a diferença some; em pequenos, não. O sinal precisa de fonte. esc_f e esc_t com p devolvem sempre valores positivos, porque usam a raiz de F e o quantil do p bilateral (Lüdecke 2019); os ids 15 e 20 podem estar certos, mas a ficha precisa do trecho que mostra o tratamento com média maior. No id 24 o Z é negativo, embora o grupo experimental tenha média maior, e por isso o sinal do z, sozinho, não informa o sentido da diferença. Números que não fecham são dado a registrar, não a escolher. No trecho do id 24 (Schaefer et al. 2025, 105), as médias e DP implicam t ≈ 4,9, enquanto o teste de postos dá Z = −2,151; P = ,015 está próximo do p unilateral desse z (0,016), e o bilateral seria 0,031 (cálculo nosso). As rotas dão g de 0,39 a 0,87, e ler ± como EP daria DP de cerca de 26 para médias perto de 10, o que também precisa ser conferido contra a escala da prova. A ficha registra as leituras e a pergunta aos autores e, sem resposta, usa mann_whitney_z com aproximado = 1, testando as demais em sensibilidade (Li et al. 2024, sec. 5.2.3; Fiel Peres 2026).

A classificação dos desenhos também precisava de regra. A proposta conta os oito estudos causais como três experimentais, quatro de seleção em observáveis, identificados entre parênteses como diferenças em diferenças, e uma meta-análise (Schaefer et al. 2025, 32); mas diferenças em diferenças se apoia em tendências paralelas, e não em independência condicional aos observáveis (Castro et al. 2024, 48, 68). E as duas revisões sistemáticas achadas por busca manual entraram na base de 21 trabalhos (Schaefer et al. 2025, 29–31).

A linha do id 24 na tabela de efeitos (colchetes dependem do estudo original, fora do material de exemplo):

Campo Valor
construto_outcome / direcao_desejada Desempenho acadêmico / aumentar
tipo_estatistica mann_whitney (médias e DP também reportados)
m1, sd1, n1 / m2, sd2, n2 9,83; 3,25 [DP ou EP, com trecho]; 63 / 7,11; 2,96; 61
z / p como impresso −2,151 / ,015 [lateralidade a confirmar]
formula_id / aproximado mann_whitney_z / 1
inconsistencia Médias e DP implicam t ≈ 4,9; contato com autores em [data]
evidencia / pagina Trecho literal dos resultados / [página]

REFIS: da base de decomposição à ficha

A pergunta do REFIS tem quatro desfechos: arrecadação, falência de empresas, empregos e compliance tributário (Schaefer 2026a, 6). Na base de decomposição do REFIS, 20 trabalhos chegaram à planilha final e 15 foram marcados para decomposição; 9 vieram do catálogo de teses e dissertações, 4 da bola de neve, 2 da Web of Science, 2 do OpenAlex, 2 da SciELO e 1 do IPEA (Schaefer 2026c, base_decomposição.xlsx, aba Final). A tabela usa os resumos registrados na base (mesma fonte) para mostrar decisões que a ficha exige; a classificação é provisória e só se confirma no texto completo.

id Trabalho, segundo o resumo Tipo provisório Decisão de extração
1 Percepção da efetividade do REFIS por auditores fiscais e advogados, por questionários com perguntas abertas a1 Ator = implementadores e especialistas; percepção com citações; não gera linha na tabela de efeitos
4 Transparência das leis do Refis de 2014 e 2017 e impacto sobre emprego por diferenças em diferenças com pareamento; significância “apenas para pequenas empresas” b2 (a análise da transparência das leis entra como contexto de desenho) direcao_desejada = aumentar; moderador = porte, com estimativa e EP de todos os portes; sinal do texto completo; custo não reportado, com o motivo dado pelos autores
45 Refis estadual do Ceará de 2009 por diferenças em diferenças: sem impacto significativo no geral; aumento da inadimplência em setores, como R$ 26.324,88 por contribuinte na fabricação de produtos alimentícios b2 Construto compliance, direcao_desejada = reduzir; efeito geral com estimativa e EP, nunca “sem efeito”; linhas por setor; efeito em reais exige DP para padronizar
77 Janela de eventos, quebras estruturais e probit dinâmico com efeitos heterogêneos para os Refis do Ceará de 2013, 2014, 2015 e 2017 b2 Regra do modelo principal entre três modelos; persistência maior entre inscritos em dívida ativa como moderador
193 Z-scores de insolvência de 140 companhias que aderiram ao PERT, comparadas com empresas similares; testes de médias inconclusivos e melhora na regressão quantílica “dependendo do setor”; contribuição fala em “falta de efetividade” b2 Direção desejada conforme a construção do indicador; estimativa e interpretação dos autores em campos separados; moderador = setor
106 Modelo com simulações do tax gap com e sem parcelamentos A confirmar: simulação ou estimativa empírica Efeito só simulado não entra na tabela de efeitos; o raciocínio sobre expectativa de novos parcelamentos pode informar mecanismo hipotetizado

Três lições. A mesma política tem desfechos com direções desejadas opostas (emprego aumenta, inadimplência diminui), e a declaração vai no protocolo. Resultado significativo só num subgrupo pede a tabela completa de subgrupos, não a frase do resumo (Cintron et al. 2022, 82). E a conclusão verbal dos autores pode divergir das estimativas (id 193), por isso as duas vão em campos distintos.

As cinco recusas da base pertencem a outras etapas: três trabalhos que “não testa[m] diretamente o parcelamento”, um sobre parcelamento espontâneo com a nota “não é possível extrair os resultados” e um “Não encontrado” (Schaefer 2026c, base_decomposição.xlsx, aba Final). Os quatro são exclusões por intervenção, com motivo no fluxograma; impossibilidade de extrair não é motivo de exclusão por si só (Li et al. 2024, MECIR C49); e “não encontrado” é relato não recuperado (Seção 5.1). O fluxograma do caso informa 16 aprovados, 5 excluídos após leitura completa (4 que “não respondiam” e 1 “não localizado”) e 9 incorporados por bola de neve, com corpus final de 21 (Schaefer 2026a, 8): a conta dá 20, e a base tem 4 trabalhos de bola de neve. Contagens digitadas em cada artefato não se reconciliam. O predomínio de dissertações também afeta a extração: a paginação impressa difere da do PDF, e o offset precisa estar na ficha para a verificação dos trechos funcionar.

Quadros de extração: o que os exemplos ensinam

Exemplo Unidade da linha O que ensina Limitação
WhatsApp e eleições (Schaefer et al. 2019; Schaefer 2026a, 11) Trabalho Três dimensões e mensuração de cada variável, adaptadas de Sampaio e Figueiredo Filho Uma única variável substantiva (“Resultados”, nominal); o recorte temporal como “Ano das eleições analisadas” foi herdado no Anexo G dos celulares (Schaefer et al. 2025, 90)
Cardoso a Lula, revisão de escopo (Juliano et al. 2023; Schaefer 2026a, 14) Trabalho Respostas fechadas (continuidade ou mudança, intensidade) com campo para argumentos Mistura extração com um campo de decisão final (manter ou excluir), que é elegibilidade
Does Democracy Matter? (Gerring et al. 2022; Schaefer 2026a, 15–16) Estudo × desfecho × indicador, com modelo de referência Regra de modelo; t com sinal normativo; 210 observações recodificadas por um segundo autor, com 82% de concordância (Gerring et al. 2022, 362–63) 60 análises descartadas por trazerem só coeficientes e estrelas (Gerring et al. 2022, 367); extrair o EP evita a perda
Comparecimento eleitoral (Cancela e Geys 2016), mais a tabela de outra meta-análise sobre comparecimento (“What Affects Voter Turnout?”) mostrada no slide (Schaefer 2026b, 38–39) Coeficiente ou modelo Direção esperada a priori; operacionalizações tratadas como equivalentes antes de agregar (Cancela e Geys 2016, 265–66) Sucesso e fracasso por significância, sem magnitude; rótulos variam entre meta-análises (“anomaly”, “no link”) e precisam de definição registrada (Seção 8.1)
Revisão A do autor desta base, 2025-2026 (Seção 12.9) Ficha (texto × desenho) 70 variáveis com resposta, trecho e página; conferência automática de 2.683 trechos; recodificação cega de 26 textos Validação entre dois agentes de IA; 80,6% de concordância de valores escondia 44,4% no bloco a1 e 16,7% em mecanismo

7.8 Erros comuns e como evitá-los

Erro Exemplo Como evitar
“Sem efeito” quando p ≥ 0,05 direcao_re = 0 para não significativos (Schaefer 2026c, aba b2_quantitativo); categoria “Nulo” definida pela falta de significância na revisão A (Seção 12.9) Direção pelo estimador pontual; significância à parte
Perder o sinal F convertido sem sinal (ids 15 e 20); no script de simulação de exemplo, esc_mean_sd com grupo 1 = 50 e grupo 2 = 60 devolve −1, como explica Harrer (Harrer et al. 2021, sec. 3.3.1), mas o gráfico se chama “d = 1” (Schaefer 2026c, 1 Simulação tamanho do efeito.R) Grupo 1 = tratamento; direcao_desejada; trecho da fonte do sinal
DP combinado com DP muito diferentes No mesmo script, DP de 30 e 50 dão DP combinado de 44,4 e d = 0,18; com o DP do controle, d = 0,16 (cálculo nosso) dp_y_tipo; DP do controle quando a intervenção pode mudar a variação (Kraft 2020, versão do autor, p. 15)
p de teste de postos como p bilateral de t Id 24 do Anexo J (Schaefer et al. 2025, 105) mann_whitney_z; conferir lateralidade; aproximado = 1
t como magnitude “Quanto maior o valor de T, maior a diferença” (Schaefer et al. 2025, 22) t só para converter (Gerring et al. 2022, 364)
Revisão ou meta-análise como estudo Id 28; duas RS na base dos celulares (Schaefer et al. 2025, 29, 105); RS no topo da hierarquia de evidências (Schaefer et al. 2025, 89) Recusa automática na preparação dos efeitos
Desenho mal classificado Diferenças em diferenças contadas como seleção em observáveis (Schaefer et al. 2025, 32) Categorias definidas pela hipótese de identificação (Seção 7.3)
Especificações do mesmo estudo como evidência independente Taxas por teste (Cancela e Geys 2016, 266) Regra do modelo principal; dependência na síntese
Código de ausência que vira número ou afirmação 999 em colunas contínuas; cobertura 50 como “parcial”; duração ausente como “não longitudinal” (Schaefer 2026c) Célula vazia com status; mesma convenção nos blocos
Estatística de teste e tamanho de efeito na mesma variável 999 e d = 0,32 para o mesmo texto, na revisão A Variáveis e tipos separados
Moderador só quando significativo Regra de moderador_id Todos os subgrupos com EP e método (Cintron et al. 2022, 82)
Mecanismo inventado ou confundido com padrão Codificação sem regra (Schaefer et al. 2025, 31) Status, tipo de evidência e trecho; padrão ≠ mecanismo
Excluir na decomposição por falta de dado “Não é possível extrair os resultados” no REFIS (Schaefer 2026c, base_decomposição.xlsx) Contato com autores; exclusão só na elegibilidade, com motivo
Validar só pela média 80,6% global com 16,7% em mecanismo, na mesma revisão Limiar por variável; redefinir e recodificar a que falha
Codebook herdado sem adaptação Recorte temporal como “Ano das eleições analisadas” numa revisão sobre escolas (Schaefer et al. 2025, 90) Revisar o codebook contra a pergunta no piloto (G6)

7.9 Na skill revisao-sistematica

Contrato planejado (a skill está em construção):

  • Etapas e portões. A etapa 8, piloto com 2 ou 3 estudos por bloco, fecha no G6 (codebook aprovado); a etapa 9, extração e risco de viés em paralelo, fecha no G7 (arbitragem concluída e efeitos aptos). Em checkpoints, os dois param para decisão humana; no autopiloto, viram pendências e os produtos saem como rascunho não validado.
  • Codebook. assets/codebooks/oqf_decomposicao.csv traz o codebook a1/a2/b1/b2 corrigido, nas colunas dimensao, variavel, descricao, prompt, tipo, aplicavel_se, com a classificadora tipo_estudo; é copiado para 05-decomposicao/ e ajustado no protocolo.
  • Fichas. A extração das três dimensões vai para a skill fichamento-sistematico, sempre por chave: um PDF por subagente, até três em paralelo; trecho literal e página em cada resposta; gate que exige 100% dos trechos localizados; fichamentos_master.csv; recodificação cega de amostra; relatório que sinaliza variável com concordância abaixo de 80% ou, se categórica, com κ e PABAK abaixo de 0,7. A arbitragem é humana.
  • Efeitos. O subagente extrator-efeitos lê o PDF inteiro e devolve um CSV com todas as estimativas elegíveis, com trecho e página, sem converter nem interpretar significância. rs.py analise preparar-efeitos junta os CSVs, liga id_estudo e recusa revisões e meta-análises; rs.py analise verificar-efeitos confere trechos e plausibilidade (inclusive \(\lvert g \rvert > 2\)) e exige verificação humana de cada efeito para liberar o G7; rs.py analise efeitos calcula g, variância e sinal alinhado conforme assets/mapas/conversoes_efeito.csv. Os quartis de medianas (q1_1, q3_1, q1_2, q3_2), o número de preditores de uma correlação parcial (m_preditores) e os insumos dos desfechos binários (p0, p1, efeito_pp, se_pp) vão em colunas extras ao fim do CSV de efeitos; sem os quartis e sem m_preditores, a skill usa mediana_iqr_aprox e parcial_r_d_gl e avisa na verificação. Desfechos binários entram com tipo_estatistica dif_prop (proporções ou efeito em pontos percentuais) ou rr (razão de riscos), e a verificação recusa proporção em percentual e combinações impossíveis.
  • Paginação. As fichas citam a numeração impressa com offset; o CSV de efeitos, o índice da página no PDF. O projeto declara as duas convenções.
  • Caixa de ferramentas. assets/mapas/caixa_ferramentas_mapa.csv liga as variáveis da base às dimensões da caixa (Seção 9.1).
  • Salvaguardas. PDF lido em faixas de até 20 páginas, cobrindo o documento inteiro; resumo de subagente nunca é prova; estado e log só pelos scripts; sem a skill irmã, protocolo mínimo de extração com aviso.

7.10 Como relatar

A seção de métodos diz: dimensões e codebook (com link para a versão publicada); unidade de extração e regra do modelo principal; quem extraiu, se de forma independente, piloto e treinamento; como os números foram verificados; validação das categóricas, com amostra e resultado por variável; resolução de desacordos; contato com autores (quantos contatados, quantos responderam); conversões, com fórmulas, pressupostos e quais são aproximadas; direção desejada por desfecho; convenção de ausência; e uso de IA (Seção 12.1). Nos resultados, tabela de características (item 17) e tabela de efeitos com estatísticas por grupo e estimativa com precisão (item 19) (Page et al. 2021); codebook, base, tabela de efeitos e código ficam públicos (item 27).

Os estudos foram decompostos em três dimensões (formal, metodológica e substantiva) com um codebook de bloco comum e blocos para estudos qualitativos descritivos (a1), quantitativos descritivos (a2), qualitativos explicativos (b1) e quantitativos explicativos (b2), disponível em [repositório]. Dois revisores pilotaram o formulário em três estudos de cada bloco, o que gerou [n] alterações (versão 1.1). Cada resposta foi registrada com trecho literal e página, verificados automaticamente. [n] relatos foram ligados a [n] estudos. Para cada desfecho, extraímos todas as estimativas elegíveis e marcamos como principal a especificação declarada pelos autores ou, na falta dela, a usada na interpretação. Um segundo revisor conferiu todos os números de efeito contra a fonte. Um segundo codificador cego recodificou uma amostra aleatória de [n] estudos ([x]%), estratificada por tipo; todas as variáveis categóricas atingiram κ ou PABAK de pelo menos 0,70 e concordância de pelo menos 80%, exceto [variável], redefinida e recodificada em todos os estudos. Contatamos os autores de [n] estudos; [n] responderam. Os efeitos foram expressos como g de Hedges, com sinal positivo indicando benefício na direção declarada no protocolo (redução, no caso de [desfecho]); [n] estimativas dependeram de conversões aproximadas (tabela S[n]) e foram excluídas em análise de sensibilidade.

7.11 Leituras

  • Li et al. (2024): capítulo 5 do Cochrane Handbook; estudo e relato, formulário, piloto, dupla extração, contato com autores, padrões MECIR.
  • Higgins et al. (2024) e Deeks et al. (2024): capítulos 6 e 10 do Handbook; medidas de efeito, DP a partir de EP, IC, t e p, medianas, unidade de análise, conversão de OR.
  • Page et al. (2021) e Tricco et al. (2018): itens de relato da extração.
  • Havránek et al. (2020): diretrizes da MAER-Net; o que codificar em estudos econométricos e o compromisso sobre o segundo codificador.
  • Wilson (2023), Lüdecke (2019), Wan et al. (2014) e Viechtbauer (2026): fórmulas de conversão, sua implementação em R, medianas e correlações parciais.
  • Li et al. (2019), Büchter et al. (2020) e Belur et al. (2021): evidência sobre formas de extração e deriva dos codificadores.
  • Schaefer et al. (2025), Schaefer (2026a), Schaefer (2026b) e Schaefer (2026c): dimensões, tipologia a1/a2/b1/b2, Anexos G e J, codebook de exemplo e base do REFIS.
  • Hedström e Ylikoski (2010), Kaidesoja (2021) e Dalkin et al. (2015): o que conta como mecanismo e que evidência o sustenta.
  • Cintron et al. (2022) e Zidar (2017): efeitos heterogêneos e como extraí-los.
  • Castro et al. (2024) e Keele (2015): desenhos de avaliação de impacto, hipóteses de identificação e estimandos.
  • Gerring et al. (2022), Cancela e Geys (2016), Juliano et al. (2023), Schaefer et al. (2019) e Bia et al. (2026): quadros de extração por modelo, por trabalho e para evidência textual.
  • Brydges (2019) e Kraft (2020): benchmarks de magnitude do campo e características que alteram o efeito esperado.
Aloe, Ariel M., e Betsy Jane Becker. 2012. “An Effect Size for Regression Predictors in Meta-Analysis”. Journal of Educational and Behavioral Statistics 37 (2): 278–97. https://doi.org/10.3102/1076998610396901.
Belur, Jyoti, Lisa Tompson, Amy Thornton, e Miranda Simon. 2021. “Interrater Reliability in Systematic Review Methodology: Exploring Variation in Coder Decision-Making”. Sociological Methods & Research 50 (2): 837–65. https://doi.org/10.1177/0049124118799372.
Bia, Florbela, Matheus Kirton dos Anjos, Zaida Charepe, e Cristina Marques-Vieira. 2026. “Health policies in long-term care facilities for older adults: a systematic review of textual evidence”. MethodsX 16: 103798. https://doi.org/10.1016/j.mex.2026.103798.
Brydges, Christopher R. 2019. “Effect size guidelines, sample size calculations, and statistical power in gerontology”. Innovation in Aging 3 (4): igz036. https://doi.org/10.1093/geroni/igz036.
Büchter, Roland Brian, Alina Weise, e Dawid Pieper. 2020. “Development, testing and use of data extraction forms in systematic reviews: a review of methodological guidance”. BMC Medical Research Methodology 20 (1): 259. https://doi.org/10.1186/s12874-020-01143-3.
Byrt, Ted, Janet Bishop, e John B. Carlin. 1993. “Bias, prevalence and kappa”. Journal of Clinical Epidemiology 46 (5): 423–29. https://doi.org/10.1016/0895-4356(93)90018-V.
Cancela, João, e Benny Geys. 2016. “Explaining voter turnout: A meta-analysis of national and subnational elections”. Electoral Studies 42: 264–75. https://doi.org/10.1016/j.electstud.2016.03.005.
Castro, Caio de Souza, Gabriel Weber Costa, e Lucas Finamor. 2024. Avaliação de Impacto. FGV.
Chinn, Susan. 2000. “A simple method for converting an odds ratio to effect size for use in meta-analysis”. Statistics in Medicine 19 (22): 3127–31. https://doi.org/10.1002/1097-0258(20001130)19:22<3127::AID-SIM784>3.0.CO;2-M.
Cintron, Dakota W., Nancy E. Adler, Laura M. Gottlieb, et al. 2022. “Heterogeneous treatment effects in social policy studies: an assessment of contemporary articles in the health and social sciences”. Annals of Epidemiology 70: 79–88. https://doi.org/10.1016/j.annepidem.2022.04.009.
Cumpston, Miranda, Toby Lasserson, Ella Flemyng, e Matthew J. Page. 2026. “Chapter III: Reporting the review”. Em Cochrane Handbook for Systematic Reviews of Interventions, version 6.5, organizado por Julian P. T. Higgins, James Thomas, Jacqueline Chandler, et al. Cochrane. https://www.cochrane.org/authors/handbooks-and-manuals/handbook/current/chapter-iii.
Dalkin, Sonia Michelle, Joanne Greenhalgh, Diana Jones, Bill Cunningham, e Monique Lhussier. 2015. “What’s in a mechanism? Development of a key concept in realist evaluation”. Implementation Science 10 (1): 49. https://doi.org/10.1186/s13012-015-0237-x.
Deeks, Jonathan J., Julian P. T. Higgins, Douglas G. Altman, Joanne E. McKenzie, e Areti Angeliki Veroniki. 2024. “Chapter 10: Analysing data and undertaking meta-analyses”. Em Cochrane Handbook for Systematic Reviews of Interventions, version 6.5, organizado por Julian P. T. Higgins, James Thomas, Jacqueline Chandler, et al. Cochrane. https://www.cochrane.org/authors/handbooks-and-manuals/handbook/current/chapter-10.
Fiel Peres, Fernanda. 2026. “Effect sizes for nonparametric tests”. Biochemia Medica 36 (1): 5–16. https://doi.org/10.11613/BM.2026.010101.
Garritty, Chantelle, Gerald Gartlehner, Barbara Nussbaumer-Streit, et al. 2021. “Cochrane Rapid Reviews Methods Group offers evidence-informed guidance to conduct rapid reviews”. Journal of Clinical Epidemiology 130: 13–22. https://doi.org/10.1016/j.jclinepi.2020.10.007.
Gerring, John, Carl Henrik Knutsen, e Jonas Berge. 2022. “Does democracy matter?” Annual Review of Political Science 25: 357–75. https://doi.org/10.1146/annurev-polisci-060820-060910.
Harrer, Mathias, Pim Cuijpers, Toshi A. Furukawa, e David D. Ebert. 2021. Doing Meta-Analysis with R: A Hands-On Guide. Chapman; Hall/CRC. https://doi.org/10.1201/9781003107347.
Havránek, Tomáš, T. D. Stanley, Hristos Doucouliagos, et al. 2020. “Reporting guidelines for meta-analysis in economics”. Journal of Economic Surveys 34 (3): 469–75. https://doi.org/10.1111/joes.12363.
Hedström, Peter, e Petri Ylikoski. 2010. “Causal mechanisms in the social sciences”. Annual Review of Sociology 36 (1): 49–67. https://doi.org/10.1146/annurev.soc.012809.102632.
Higgins, Julian P. T., Tianjing Li, e Jonathan J. Deeks. 2024. “Chapter 6: Choosing effect measures and computing estimates of effect”. Em Cochrane Handbook for Systematic Reviews of Interventions, version 6.5, organizado por Julian P. T. Higgins, James Thomas, Jacqueline Chandler, et al. Cochrane. https://www.cochrane.org/authors/handbooks-and-manuals/handbook/current/chapter-06.
Juliano, Maíra Cabral, Augusto Junior Clemente, e Lígia Mori Madeira. 2023. “Mudança ou continuidade na política de combate à pobreza de Cardoso a Lula: uma revisão de escopo”. Revista de Sociologia e Política 31: e005. https://doi.org/10.1590/1678-98732331e005.
Kaidesoja, Tuukka. 2021. “Three concepts of causal mechanism in the social sciences”. Em Norms, Social Structures and Policy Changes: Essays in Honor of Hannu Ruonavaara, organizado por Jani Erola, Päivi Naumanen, Hanna Kettunen, e Vesa-Matti Paasivaara. Uppsala Housing e Urban Studies. Uppsala universitet. https://researchportal.helsinki.fi/en/publications/three-concepts-of-causal-mechanism-in-the-social-sciences/.
Keele, Luke. 2015. “The statistics of causal inference: a view from political methodology”. Political Analysis 23 (3): 313–35. https://doi.org/10.1093/pan/mpv007.
Kraft, Matthew A. 2020. “Interpreting Effect Sizes of Education Interventions”. Educational Researcher 49 (4): 241–53. https://doi.org/10.3102/0013189X20912798.
Li, Tianjing, Julian P. T. Higgins, e Jonathan J. Deeks. 2024. “Chapter 5: Collecting data”. Em Cochrane Handbook for Systematic Reviews of Interventions, version 6.5, organizado por Julian P. T. Higgins, James Thomas, Jacqueline Chandler, et al. Cochrane. https://www.cochrane.org/authors/handbooks-and-manuals/handbook/current/chapter-05.
Li, Tianjing, Ian J. Saldanha, Jens Jap, et al. 2019. “A randomized trial provided new evidence on the accuracy and efficiency of traditional vs. electronically annotated abstraction approaches in systematic reviews”. Journal of Clinical Epidemiology 115: 77–89. https://doi.org/10.1016/j.jclinepi.2019.07.005.
Lüdecke, Daniel. 2019. esc: Effect Size Computation for Meta Analysis. https://CRAN.R-project.org/package=esc.
Page, Matthew J., Joanne E. McKenzie, Patrick M. Bossuyt, et al. 2021. “The PRISMA 2020 statement: an updated guideline for reporting systematic reviews”. BMJ 372: n71. https://doi.org/10.1136/bmj.n71.
Pollock, Michelle, Ricardo M. Fernandes, Lorne A. Becker, Dawid Pieper, e Lisa Hartling. 2024. “Chapter V: Overviews of Reviews”. Em Cochrane Handbook for Systematic Reviews of Interventions, version 6.5, organizado por Julian P. T. Higgins, James Thomas, Jacqueline Chandler, et al. Cochrane. https://www.cochrane.org/authors/handbooks-and-manuals/handbook/current/chapter-v.
Schaefer, Bruno Marques. 2026a. Aula 5: Extração de dados, decomposição (data extraction). Slides da disciplina Revisão sistemática e avaliação de políticas públicas (PPGCP/IESP-UERJ e MAPE), aula de 22 maio 2026. https://osf.io/zs6h4/.
Schaefer, Bruno Marques. 2026b. Aula 6: Análise de dados: perspectivas quali, quanti e mista. Slides da disciplina Revisão sistemática e avaliação de políticas públicas (PPGCP/IESP-UERJ e MAPE), aula de 5 jun. 2026. https://osf.io/zs6h4/.
Schaefer, Bruno Marques. 2026c. Códigos R e bases de dados do curso: pipeline da revisão sobre o REFIS. Material da disciplina Revisão sistemática e avaliação de políticas públicas (PPGCP/IESP-UERJ e MAPE). https://osf.io/zs6h4/.
Schaefer, Bruno Marques, Tiago Alexandre Leme Barbosa, Sara de Sousa Fernandes Epitácio, e Roberta Carnelos Resende. 2019. “Qual o impacto do WhatsApp em eleições? Uma revisão sistemática (2010–2019)”. Revista Debates 13 (3): 58–88. https://doi.org/10.22456/1982-5269.96255.
Schaefer, Bruno Marques, Tomás Paixão Borges, e Carlos Barros Barreto Martins De Freitas. 2025. O que funciona? Proposta metodológica para avaliação de políticas públicas através de revisão sistemática. Preprint, OSF Preprints. https://doi.org/10.31219/osf.io/aht4j_v1.
Tricco, Andrea C., Erin Lillie, Wasifa Zarin, et al. 2018. “PRISMA Extension for Scoping Reviews (PRISMA-ScR): Checklist and Explanation”. Annals of Internal Medicine 169 (7): 467–73. https://doi.org/10.7326/M18-0850.
Viechtbauer, Wolfgang. 2026. metafor: Meta-Analysis Package for R. https://wviechtb.github.io/metafor/reference/escalc.html.
Wan, Xiang, Wenqian Wang, Jiming Liu, e Tiejun Tong. 2014. “Estimating the sample mean and standard deviation from the sample size, median, range and/or interquartile range”. BMC Medical Research Methodology 14: 135. https://doi.org/10.1186/1471-2288-14-135.
Wilson, David B. 2023. Practical Meta-Analysis Effect Size Calculator. Campbell Collaboration. https://www.campbellcollaboration.org/calculator/.
Zhang, Jun, e Kai F. Yu. 1998. “What’s the relative risk? A method of correcting the odds ratio in cohort studies of common outcomes”. JAMA 280 (19): 1690–91. https://doi.org/10.1001/jama.280.19.1690.
Zidar, Owen M. 2017. Tax Cuts for Whom? Heterogeneous Effects of Income Tax Changes on Growth and Employment. NBER Working Paper N. 21035. National Bureau of Economic Research. https://doi.org/10.3386/w21035.