Altamens

Altamens Pesquisa · Reanálise de dados abertos

Quão estável é a sua amplitude de dígitos?

Um teste de regras de pontuação e repetibilidade imediata em 1.433 pessoas: a pontuação mais simples, calculada sobre todas as tentativas, foi a mais repetível, e a nossa pontuação de crédito parcial pré-especificada foi a pior — o oposto do que prevíamos.

Altamens ResearchAtualizado 12 de agosto de 202613 min de leitura

Resumo

Um resultado de amplitude de dígitos é normalmente comunicado como um número único, mas esse número depende tanto da forma como as tentativas são convertidas em pontuação como da pessoa avaliada. Reanalisámos o ficheiro público de tentativas de amplitude de dígitos do conjunto de dados Music Ensemble (CC BY 4.0), no qual adultos realizaram duas vezes seguidas uma tarefa visual de amplitude de dígitos direta com conjuntos de sequências fixas diferentes. Após a limpeza pré-especificada, 38.054 tentativas substantivas de 1.433 participantes entraram na análise primária. Três regras de pontuação foram definidas antes de qualquer resultado ser examinado: a amplitude máxima alcançada, o total de sequências totalmente corretas e o crédito parcial por posição serial restrito às extensões de sequência tentadas em ambos os blocos. O estimando primário foi o ICC(2,1), uma correlação intraclasse de efeitos aleatórios de duas vias, de concordância absoluta e medida única, com 5.000 reamostragens bootstrap de participantes.

As sequências totalmente corretas foram as mais repetíveis (ICC 0,611; IC 95% 0,566–0,651), seguidas da amplitude máxima alcançada (0,535; 0,478–0,586). O crédito parcial em extensões comuns ficou próximo de zero (0,050; −0,009–0,114), uma diferença de −0,485 em relação à amplitude máxima (−0,556 a −0,407). Usar todas as extensões tentadas elevou o crédito parcial a 0,209 (0,145–0,270), mas deixou-o muito abaixo das duas pontuações mais simples, e uma variante por distância de edição comportou-se de forma quase idêntica. A hipótese pré-especificada de que o crédito parcial melhoraria a repetibilidade foi, portanto, contrariada. Uma pontuação pode conter mais detalhe numérico sem conter mais sinal estável entre pessoas.

Principais conclusões

  • Em 1.433 adultos que completaram dois blocos consecutivos de amplitude de dígitos direta, o número total de sequências totalmente corretas foi a pontuação mais repetível: ICC(2,1) = 0,611 (IC 95% bootstrap 0,566–0,651).
  • A amplitude máxima alcançada convencional foi moderadamente repetível: ICC(2,1) = 0,535 (0,478–0,586). A contagem de sequências totalmente corretas superou-a em +0,076 (IC conjunto bootstrap +0,052 a +0,102).
  • A pontuação pré-especificada de crédito parcial por posição serial, calculada sobre as extensões tentadas em ambos os blocos, foi a pior: ICC(2,1) = 0,050 (−0,009–0,114), ou seja −0,485 em relação à amplitude máxima (−0,556 a −0,407). A nossa hipótese foi contrariada, e não apenas não confirmada.
  • Apenas 33,0% dos participantes registaram exatamente a mesma amplitude máxima duas vezes; 45,8% variaram exatamente um nível e 21,2% dois ou mais. A variação absoluta média foi de 0,960 níveis de amplitude.
  • O bloco 2 foi ligeiramente superior em todas as pontuações (amplitude máxima +0,199 níveis; IC 95% +0,130 a +0,267), mas a ordem dos blocos está confundida com o conjunto de sequências, pelo que nenhuma causa pode ser identificada.
  • Isto mede a repetibilidade imediata na mesma sessão em adultos de 18 a 30 anos. Não é uma estimativa de estabilidade de uma semana para a outra, nem um limiar clínico, nem uma norma populacional, nem prova de que o treino melhora a memória.

1A questão de medição

A amplitude de dígitos parece o teste mais simples da psicologia cognitiva. É apresentada uma sequência de dígitos, você reproduz na mesma ordem e as sequências vão ficando mais longas até a tarefa se tornar demasiado difícil. O resultado é normalmente comunicado como um facto: «a minha amplitude de dígitos é sete».

Mas esse número não vem apenas da pessoa. Vem também da regra usada para transformar um conjunto de tentativas numa pontuação.

Suponha que a sequência-alvo é 5 2 9 4 7 1 e alguém responde 5 2 9 4 8 1. Cinco de seis posições estão corretas. Uma regra estrita de acerto/falha trata essa resposta exatamente como uma completamente errada. Uma regra de crédito parcial conserva a informação de que cinco posições estavam certas.

A nossa questão de investigação era restrita e respondível: se a mesma pessoa completa duas versões consecutivas de uma tarefa de amplitude de dígitos direta, qual a regra de pontuação que produz o resultado mais repetível?

A nossa hipótese pré-especificada era que o crédito parcial suavizaria os limiares abruptos criados pela pontuação por amplitude máxima e produziria, por isso, maior fiabilidade entre blocos — uma expectativa coerente com o argumento geral a favor do crédito parcial na literatura sobre memória de trabalho.6 Não foi o caso. A pontuação de crédito parcial foi, de longe, a menos repetível das três.

2A tarefa e o que significa aqui «repetibilidade»

Os participantes realizaram uma tarefa visual de amplitude de dígitos direta. Os dígitos eram apresentados um a um. A tarefa começava com sequências curtas e apresentava duas tentativas em cada extensão de sequência. Se pelo menos uma dessas duas tentativas fosse recordada de forma totalmente correta, a extensão da sequência aumentava em um. A tarefa parava após duas tentativas incorretas na mesma extensão.

É fundamental que os participantes realizaram a tarefa completa duas vezes seguidas, com conjuntos de sequências fixas diferentes. Isso dá duas medições por pessoa em condições muito semelhantes, que é exatamente o que uma questão de repetibilidade exige.

A regra de paragem adaptativa importa para a análise, porque cria uma ausência estrutural de dados: as extensões de sequência mais difíceis nunca são apresentadas depois de um participante parar. Quem tem melhor desempenho num bloco encontra automaticamente sequências mais difíceis nesse bloco, pelo que qualquer pontuação calculada sobre «todas as tentativas que a pessoa viu» é em parte uma pontuação calculada sobre um teste mais difícil. O trabalho metodológico sobre amplitude de dígitos há muito assinala que os detalhes de administração e de paragem moldam a pontuação obtida.7

3O conjunto de dados — e como descarregá-lo

Usámos o conjunto de dados público Music Ensemble: uma bateria laboratorial padronizada de medidas de musicalidade, cognição e personalidade recolhida em 1.438 adultos de 18 a 30 anos em 35 unidades de investigação de 16 países.1 O projeto está publicado abertamente no OSF sob CC BY 4.0.

A limpeza pré-especificada removeu o bloco de familiarização (bloco 0, 2.866 linhas) e 50 tentativas substantivas cujo campo de resposta continha um array vazio. Não havia identificadores de participante/bloco/tentativa em falta nem registos duplicados de participante × bloco × tentativa. As marcas temporais e os identificadores dos experimentadores foram descartados antes da análise, e neste relatório não se ordena nenhum país, centro ou grupo demográfico.

Figura 1Fluxo de inclusão: do ficheiro bruto do OSF ao conjunto de dados primário
  1. Linhas brutas de tentativas de amplitude de dígitos no OSF40,970

    data/raw-after-selection/digit_span.csv · 16 variáveis · um bloco de familiarização mais dois blocos substantivos

  2. Removido: bloco de familiarização (bloco 0)−2,866

    Tentativas de prática, excluídas de todas as pontuações

  3. Identificadores em falta e registos duplicados0

    Não foram encontrados identificadores de participante/bloco/tentativa em falta nem linhas duplicadas de participante × bloco × tentativa

  4. Removido: respostas vazias−50

    Tentativas substantivas cujo campo de resposta era um array vazio; uma análise de sensibilidade mantém-nas como tentativas com crédito zero

  5. Tentativas substantivas primárias38,054

    1.433 participantes, todos com observações identificáveis nos dois blocos substantivos

  6. Mínimo definido no protocolo para prosseguir — cumprido≥ 1,200

    Pelo menos 1.200 participantes com dois blocos identificáveis e cadeias de estímulo/resposta interpretáveis

Todas as exclusões aplicadas ao ficheiro público de tentativas de amplitude de dígitos, na ordem pré-especificada. O protocolo exigia pelo menos 1.200 participantes com dois blocos identificáveis antes de se poder examinar resultados; 1.433 participantes cumpriram o critério, pelo que a análise prosseguiu.

Não aceitámos sem verificação o campo de correção do conjunto de dados. A exatidão foi reconstruída de forma independente a partir do estímulo bruto e da resposta bruta do participante e depois comparada com o indicador fornecido: divergências entre origem e recálculo = 0. O campo de correção publicado coincidiu perfeitamente com a comparação exata estímulo-resposta, o que é um bom sinal para a integridade do ficheiro e significa que as nossas pontuações se apoiam em resultados de tentativa verificados.

4Três formas pré-especificadas de pontuar o mesmo teste

As três pontuações foram derivadas de forma independente dentro de cada bloco, a partir das mesmas tentativas limpas, usando definições escritas antes de qualquer resultado ser examinado.

  1. Amplitude máxima alcançada — a maior extensão de sequência em que pelo menos uma das duas tentativas foi recordada perfeitamente. É o resultado convencional e intuitivo («amplitude = 7»), mas comprime um teste inteiro num único limiar: uma só tentativa bem-sucedida pode subir alguém um nível completo.
  2. Sequências totalmente corretas — a contagem total de tentativas totalmente corretas do bloco. É também a pontuação por bloco usada no estudo Music Ensemble original e aproveita o conjunto completo de resultados de acerto/falha mantendo-se muito fácil de explicar.
  3. Crédito parcial por posição serial — a proporção de posições de dígito apresentadas recordadas com o dígito correto no local correto. Uma sequência de seis dígitos com cinco dígitos corretamente posicionados vale 5 / 6 = 83,3%. Na análise primária, foi calculado apenas sobre as extensões de sequência que o participante tentou em ambos os blocos, precisamente para impedir que a paragem adaptativa comparasse um teste mais fácil com um mais difícil.

5Como a repetibilidade foi estimada

A estatística de fiabilidade primária foi o ICC(2,1): uma correlação intraclasse de efeitos aleatórios de duas vias, de concordância absoluta e medida única.3,4

A concordância absoluta é a escolha decisiva. Uma correlação comum pode manter-se alta mesmo quando a pontuação de todos se desloca sistematicamente entre blocos, porque só lhe interessa a manutenção da ordenação. O ICC(2,1) penaliza esse tipo de discordância, que é exatamente o que se quer quando a questão prática é «esta pessoa obteria o mesmo número outra vez?».

Para cada regra de pontuação calculámos também a estabilidade de ordenação de Spearman, a diferença absoluta média entre blocos, o desvio-padrão intraindividual, a diferença média bloco 2 − bloco 1 e o viés e os limites de concordância de 95% de Bland–Altman.5 Os intervalos de confiança resultaram de 5.000 reamostragens bootstrap de participantes, e os contrastes entre regras de pontuação foram calculados dentro das mesmas extrações bootstrap, para que a diferença entre dois ICC transporte o seu próprio intervalo. Como os participantes foram recrutados em 35 unidades de investigação, cada coeficiente principal foi ainda reestimado com um bootstrap de conglomerados por centro.

6Resultados: venceu a pontuação mais simples sobre todas as tentativas

Resultado primário: a contagem de sequências totalmente corretas foi a pontuação mais repetível (ICC 0,611; IC 95% 0,566–0,651), a amplitude máxima alcançada foi moderadamente repetível (0,535; 0,478–0,586) e a pontuação pré-especificada de crédito parcial em extensões comuns foi praticamente não repetível (0,050; −0,009–0,114).

Figura 2Repetibilidade imediata por regra de pontuação
Sequências totalmente corretasprimary0.61 (0.570.65)
Amplitude máxima alcançada0.54 (0.480.59)
Crédito parcial por posição serial (extensões comuns)0.05 (-0.010.11)
-0.010.170.350.530.72

ICC de efeitos aleatórios de duas vias, concordância absoluta, medida única. Passe o cursor sobre uma linha para a destacar. A linha vertical cinzenta marca o zero.

ICC(2,1) com intervalos de 95% por bootstrap de participantes (5.000 reamostragens), N = 1.433. Mais alto significa mais repetível. A estabilidade de ordenação de Spearman seguiu a mesma ordem: 0,605, 0,535 e 0,064 respetivamente. O intervalo do crédito parcial atravessa o zero, pelo que esta análise não consegue distinguir o seu sinal entre pessoas da ausência total de sinal.

A margem entre as duas pontuações simples foi pequena mas consistente: a contagem de sequências totalmente corretas superou a amplitude máxima alcançada em +0,076, com um IC conjunto de 95% por bootstrap de participantes de +0,052 a +0,102. Vale a pena dizê-lo com clareza, porque a melhor pontuação não foi a mais sofisticada. Foi a contagem comum de sequências corretamente recordadas da tarefa de origem.

O resultado do crédito parcial foi no sentido oposto, e de forma acentuada. Crédito parcial menos amplitude máxima deu −0,485 (IC 95% bootstrap −0,556 a −0,407). O intervalo situa-se muito abaixo de zero, pelo que a hipótese pré-especificada foi contrariada e não apenas não confirmada.

O desempenho médio foi ligeiramente superior no segundo bloco nas três pontuações. A amplitude máxima subiu de 6,548 ± 1,373 para 6,747 ± 1,401 (variação média +0,199; IC 95% +0,130 a +0,267). As sequências totalmente corretas subiram de 9,890 ± 2,443 para 10,273 ± 2,442 (+0,382; IC 95% +0,272 a +0,496). O crédito parcial subiu de 0,876 ± 0,070 para 0,894 ± 0,074 (+0,0179; IC 95% +0,0128 a +0,0229).

Figura 3Médias do bloco 1 face ao bloco 2
Bloco 1Bloco 2

Amplitude máxima alcançada (níveis)

6.5
6.7

Sequências totalmente corretas (contagem)

9.9
10.3

Pontuações médias no primeiro e no segundo bloco consecutivo para as duas regras baseadas em contagens (níveis de amplitude e número de sequências). O crédito parcial deslocou-se na sua própria escala, de 0,876 para 0,894. Como os blocos foram sempre administrados na mesma ordem com conjuntos de sequências fixas diferentes, a ordem dos blocos está confundida com o conjunto de itens e nenhuma causa pode ser identificada.

7Por que uma pontuação mais detalhada não ajudou

Uma pontuação de crédito parcial conserva mais informação ao nível da tentativa individual. Isso não é o mesmo que conservar diferenças estáveis entre pessoas, e este conjunto de dados separa com nitidez as duas ideias.

Restringido às extensões tentadas em ambos os blocos, a pontuação parcial concentrou a maioria dos participantes em exatidão posicional elevada — média de 0,876 no bloco 1 e 0,894 no bloco 2, com desvios-padrão de apenas 0,070 e 0,074. A dispersão entre pessoas disponível para ser reproduzida era, portanto, pequena. Ao mesmo tempo, as posições exatas em que os erros ocorriam variaram consideravelmente entre os dois conjuntos de sequências. A maior parte da resolução numérica adicional era posição do erro, e a posição do erro não se repetiu.

Há uma segunda razão, estrutural, para a restrição a extensões comuns ter prejudicado. Descarta deliberadamente as extensões que um participante alcançou apenas num dos blocos — que é precisamente onde reside grande parte da diferença de capacidade entre pessoas. É por isso que relaxar a restrição melhora substancialmente o coeficiente, como mostra a secção seguinte, sem nunca o aproximar das pontuações simples.

8Quanto uma amplitude se moveu na realidade

A amplitude máxima é o resultado mais fácil de compreender para uma pessoa, pelo que a sua instabilidade é o achado mais relevante na prática. Em 1.433 participantes testados duas vezes na mesma sessão, apenas um terço reproduziu o mesmo número.

Figura 4Variação da amplitude máxima alcançada entre dois blocos consecutivos
Amplitude idêntica em ambos os blocosprimary33.00%
Variação de exatamente um nível45.80%
Variação de dois ou mais níveis21.20%
0%13%25%38%50%

Percentagens descritivas desta experiência na mesma sessão. Não são normas nem limiares para interpretar qualquer resultado individual.

Percentagem dos 1.433 participantes por magnitude da variação da amplitude máxima alcançada entre blocos. Por direção: 38,7% melhoraram, 28,3% pioraram e 33,0% mantiveram-se. A variação absoluta média foi de 0,960 níveis de amplitude — em termos práticos, cerca de um nível.

Isto significa que uma variação como 7 → 8 é totalmente compatível com a variabilidade normal de uma repetição imediata. Não deve ser lida como prova de que a capacidade de memória subjacente da pessoa melhorou.

Os limites de concordância de Bland–Altman mostram o mesmo nas unidades de cada pontuação.5 Para a amplitude máxima, o viés foi de +0,199 com limites de 95% de −2,408 a +2,805 níveis. Para as sequências totalmente corretas, o viés foi de +0,382 com limites de −3,802 a +4,567 sequências. Para o crédito parcial, o viés foi de +0,018 com limites de −0,177 a +0,212. As médias escondem grandes movimentos individuais: o deslocamento médio é pequeno, a amplitude individual não é.

9Análises de sensibilidade e verificações de validação

O resultado central não deve depender de uma implementação arbitrária da pontuação parcial, pelo que executámos as alternativas pré-especificadas: um crédito por distância de edição em vez do crédito posicional estrito, e todas as extensões tentadas em vez das extensões comuns apenas.

Figura 5Variantes de crédito parcial face às pontuações simples
Sequências totalmente corretas (referência)primary0.61 (0.570.65)
Amplitude máxima alcançada (referência)0.54 (0.480.59)
Crédito parcial, todas as extensões tentadas0.21 (0.140.27)
Crédito por distância de edição, todas as extensões tentadas0.21 (0.140.27)
Crédito parcial, extensões comuns (primário)0.05 (-0.010.11)
Crédito por distância de edição, extensões comuns0.05 (-0.010.11)
-0.010.170.350.530.72

A linha vertical cinzenta marca o zero. Ambos os intervalos em extensões comuns incluem o zero.

ICC(2,1) com intervalos de 95% por bootstrap de participantes para quatro implementações de crédito parcial, apresentadas face às duas regras simples. Usar todas as extensões tentadas quase quadruplica a fiabilidade do crédito parcial, e a variante por distância de edição é quase indistinguível do crédito posicional estrito — mas nenhuma versão de crédito parcial se aproxima da amplitude máxima, muito menos da contagem de sequências totalmente corretas.

Mesmo na sua melhor especificação, o crédito parcial ficou muito atrás: crédito parcial em todas as extensões tentadas menos amplitude máxima deu −0,327 (IC 95% −0,400 a −0,248). A conclusão não depende da definição de crédito parcial que utilizemos.

  • Respostas vazias — as 50 tentativas com array vazio foram excluídas na análise primária. Mantê-las como verdadeiras tentativas com crédito zero moveu o ICC do crédito parcial em extensões comuns de 0,0498 para 0,0503. A conclusão não muda, pelo que a regra de exclusão não está a determinar o resultado nulo.
  • Recálculo independente da correção — a exatidão reconstruída a partir do estímulo e da resposta brutos divergiu do indicador fornecido pelo conjunto de dados em 0 tentativas.
  • Bootstrap de conglomerados por centro — reamostrar unidades de investigação inteiras em vez de indivíduos deu intervalos de ICC de 95% de 0,479–0,582 para a amplitude máxima, 0,572–0,646 para as sequências totalmente corretas e −0,019–0,120 para o crédito parcial. A ordenação sobrevive ao respeito pela estrutura de conglomerados do conjunto de dados.
  • Etiquetas de grupo — todas as pontuações foram calculadas independentemente da condição de músico/não músico, do centro e do país, e não foi feita qualquer comparação ou ordenação de grupos.

10O que deve significar uma pontuação de amplitude de dígitos

A leitura mais útil destes resultados é que um resultado de amplitude de dígitos não é simplesmente um facto sobre a memória de uma pessoa. É produzido conjuntamente pelo participante, pelas sequências concretas apresentadas, pela regra de paragem adaptativa e pelo sistema de pontuação. Altere apenas o último e a repetibilidade imediata varia de 0,611 a 0,050 exatamente nas mesmas tentativas.

A amplitude máxima comprime um teste inteiro num único limiar. O crédito parcial conservou mais detalhe das tentativas mas, aqui, conservou sobretudo detalhe que não sobreviveu a uma mudança de conjunto de sequências. A contagem de sequências totalmente corretas foi o melhor compromisso disponível neste conjunto de dados: usa o conjunto completo de resultados de acerto/falha evitando o comportamento de limiar único da amplitude máxima.

A implicação comunicacional é tão importante como a da pontuação. Um resultado descreve-se melhor como desempenho nas condições de teste atuais do que como uma medição fixa da capacidade cognitiva de alguém.

11O que afirmamos e o que não afirmamos

Os limites das afirmações foram fixados antes de existirem resultados, em linha com as boas práticas de avaliação.8 Com os números já disponíveis, as afirmações sustentadas são:

  • Neste conjunto de dados, três regras de pontuação defensáveis aplicadas a tentativas idênticas produziram repetibilidades imediatas muito diferentes.
  • A contagem de sequências totalmente corretas foi a pontuação mais repetível das testadas (ICC 0,611), de forma modesta mas consistente à frente da amplitude máxima alcançada (0,535).
  • A pontuação pré-especificada de crédito parcial por posição serial em extensões comuns não foi mais repetível do que a amplitude máxima; foi drasticamente pior (0,050), e a hipótese foi contrariada.
  • Apenas cerca de um terço dos participantes reproduziu a mesma amplitude máxima em dois blocos consecutivos, com um movimento absoluto médio próximo de um nível.

12Limitações

  1. Ambos os blocos ocorreram na mesma sessão de laboratório, pelo que isto estima a repetibilidade imediata e não a estabilidade ao longo de dias, semanas ou meses.
  2. Os dois blocos usaram conjuntos de sequências fixas diferentes e foram sempre administrados na mesma ordem, pelo que a ordem dos blocos está confundida com o conjunto de itens.
  3. A paragem adaptativa cria uma ausência estrutural de dados: as tentativas mais difíceis nunca são apresentadas depois de um participante atingir o seu ponto de paragem, que é exatamente o que a restrição a extensões comuns tentou — imperfeitamente — resolver.
  4. A restrição a extensões comuns descarta as extensões alcançadas apenas num bloco, e essa escolha é ela mesma parte da razão pela qual o coeficiente primário do crédito parcial é tão baixo; a variante com todas as extensões tentadas é apresentada a seu lado.
  5. A amostra é composta por adultos de 18 a 30 anos recrutados para um programa de investigação sobre músicos/não músicos, e não por uma amostra normativa representativa da população; podem persistir diferenças residuais entre centros apesar do bootstrap de conglomerados.
  6. A tarefa de origem é uma amplitude de dígitos direta visual que começa em dois dígitos; o teste de memória de trabalho da Altamens difere na interface, no dispositivo e na extensão inicial, pelo que estes coeficientes não são estimativas de fiabilidade da Altamens.
  7. A amplitude de dígitos direta é uma componente estreita da memória de curto prazo e não deve ser equiparada à memória de trabalho no seu conjunto nem à capacidade cognitiva geral.
  8. Cinquenta tentativas com resposta vazia exigiram uma regra de tratamento; ambas as regras foram executadas e concordaram, mas a escolha continuou a ser nossa.
  9. O estudo foi guiado por protocolo, com regras de pontuação e estimandos congelados antes de os resultados serem examinados, mas não foi formalmente pré-registado num registo público antes da execução.

Referências

  1. 1.Talamini F, Grassi M, Altoè G, et al. Music Ensemble: a large dataset on musicianship, cognition, and personality in musicians and nonmusicians. Scientific Data 13, 473, 2026. Dataset descriptor, cited for methods only (article is CC BY-NC-ND). https://doi.org/10.1038/s41597-026-06654-0
  2. 2.Music Ensemble consortium Music Ensemble — Open Science Framework project (trial-level data). OSF · DOI 10.17605/OSF.IO/Y97T3, 2026. CC BY 4.0; digit-span trial file at data/raw-after-selection/digit_span.csv. https://osf.io/y97t3/
  3. 3.Shrout PE, Fleiss JL Intraclass correlations: uses in assessing rater reliability. Psychological Bulletin 86(2), 420–428, 1979. Definition of the ICC(2,1) form used here. https://doi.org/10.1037/0033-2909.86.2.420
  4. 4.Koo TK, Li MY A Guideline of Selecting and Reporting Intraclass Correlation Coefficients for Reliability Research. Journal of Chiropractic Medicine 15(2), 155–163, 2016. https://doi.org/10.1016/j.jcm.2016.02.012
  5. 5.Bland JM, Altman DG Statistical methods for assessing agreement between two methods of clinical measurement. The Lancet 327(8476), 307–310, 1986. https://doi.org/10.1016/S0140-6736(86)90837-8
  6. 6.Conway ARA, Kane MJ, Bunting MF, Hambrick DZ, Wilhelm O, Engle RW Working memory span tasks: A methodological review and user's guide. Psychonomic Bulletin & Review 12(5), 769–786, 2005. Reviews all-or-nothing versus partial-credit span scoring. https://doi.org/10.3758/BF03196772
  7. 7.Woods DL, Kishiyama MM, Yund EW, et al. Improving digit span assessment of short-term verbal memory. Journal of Clinical and Experimental Neuropsychology 33(1), 101–111, 2011. https://doi.org/10.1080/13803390903424355
  8. 8.American Educational Research Association, American Psychological Association, National Council on Measurement in Education Standards for Educational and Psychological Testing. AERA, 2014. https://www.testingstandards.net/