Du er her

Psykometriske egenskaper for den norske versjonen av Behavior Inventory of Executive Function (BRIEF)

Publisert
5. april 2011
Abstract

Psychometric properties of the Norwegian version of BRIEF – for children from 5 to 18 years old

This study assesses the psychometric properties of the Norwegian version of the Behaviour Rating Inventory of Executive function (BRIEF) for children from 5 to18 years old. A total of 158 BRIEF protocols from a community-based sample and two mixed clinical samples were analyzed to ascertain reliability and validity of the test. The authors found that typical scores, for Norwegian children aged ten, were comparable to American norms. The internal consistency of the test was sound. The inter-rater reliability between teacher and parent ratings showed moderate agreement as in the original normative sample. Compared to the scores by parents, teachers scored children who received help from specialized child psychiatric services as having less severe problems, while the opposite pattern was evident for children who received help only from school psychology services. This finding emphasizes the need to take contextual factors into account when interpreting BRIEF scores. In summary, the study confirms that the Norwegian version of BRIEF has both an adequate validity and reliability.

Keywords: BRIEF, Norwegian version, psychometric properties

BRIEF er et spørreskjema som kartlegger selvstyringsfunksjoner. Vi undersøkte om den norske oversettelsen av barneversjonen har samme psykometriske egenskaper som den amerikanske originalversjonen.

Forfatterne vil takke Harald Ring i PP-Tjenesten i Tønsberg og Bodil Sjømæling ved Nevroteam, PIV HF for bidrag med BRIEF-protokoller til studien. Prosjektet er gjennomført med økonomisk støtte til Øyvind Fallmyr fra R-BUP Helse Sør-Øst.

Behavior Rating Inventory of Executive Function (BRIEF) er et spørreskjema som skal måle selvstyringsvansker (eksekutiv-vansker) i hverdagsatferd (Gioia, Guy & Kenworthy, 2000). Selvstyringsfunksjoner defineres som de ferdigheter som ligger under målrettet problemløsningsatferd, for eksempel oppmerksomhetsstyring, impulskontroll, fleksibilitet og planlegging. Svikt i disse funksjonene er vanlig i en rekke psykiske lidelser og nevrobiologiske forstyrrelser (Pennington & Ozonoff, 1996). Nevropsykologisk testing har inntil nylig vært den viktigste metoden for å identifisere og kvantifisere selvstyringsvansker hos barn. I de senere år har flere studier reist spørsmål ved den økologiske validiteten ved nevropsykologisk laboratorietesting, siden resultatene ikke alltid samsvarer med observert atferd i hjem eller skole (Anderson, Anderson, Northam, Jacobs & Mikiewicz, 2002; Toplak, Bucciarelli, Jain & Tannock, 2009; Vriezen & Pigott, 2002). Svak økologisk validitet kan skyldes at testsituasjonen ikke gjenspeiler kompleksiteten utenfor testrommet, eller at barnet eller voksne rundt barnet utvikler kompensatoriske strategier (Gioa & Isquith, 2004). Målsettingen med BRIEF var å bedre økologisk validitet i utredning av selvstyringsvansker og differensiere ulike delprosesser i selvstyring.

BRIEF har på kort tid blitt et meget hyppig brukt kartleggingsverktøy til tross for manglende norsk normering. 30% av psykologer i spesialisthelsetjenesten for barn og unge bruker BRIEF

I Norge har BRIEF på kort tid blitt et meget hyppig brukt kartleggingsverktøy til tross for manglende norsk normering. Testbruksundersøkelsen i regi av Testpolitisk Utvalg i Psykologforeningen våren 2009, viste at 30% av psykologer i spesialisthelsetjenesten for barn og unge brukte BRIEF. Vi har i denne studien testet et normalutvalg og et klinisk utvalg, og vurdert om den norske oversettelsen av BRIEF (versjon 5–18 år) har de psykometriske egenskapene som er forutsatt i originalutgaven. Vi undersøker først om amerikanske normer kan brukes på norske forhold ved å avklare om norske barn, i et normalutvalg fra et årskull, avviker fra amerikanske barn i samme aldersgruppe. Videre ser vi om den norske BRIEF-utgaven skiller mellom normalutvalget og det kliniske utvalget. Til slutt vurderes testens reliabilitet ved å estimere indre konsistens og interraterreliabilitet. Spørsmålene vi belyser er sentrale i den metodikken Lindley, Bartram og Kennedy (2008), på vegne av Den europeiske føderasjonen av psykologforeninger (EFPA), har utviklet for vurdering av oversettelser og standardiseringer av tester.

Metode

Utvalg. Tre grupper inngikk i undersøkelsen. Normalgruppen besto av 48 fjerdeklassinger (23 gutter, 25 jenter) fra tre barneskoler i Tønsberg. PP-gruppen besto av 72 barn (59/13) utredet ved PPT i Tønsberg Kommune. BUP-gruppen besto av 40 barn (27/13) fra Nevroteam og Poliklinikk for Horten, Stokke og Andebu, som begge er del av Barne- og ungdomspsykiatrisk avdeling, Psykiatrien i Vestfold HF. Begge kliniske grupper besto av barn med ulik type problematikk. Gjennomsnittsalderen i PPT-gruppen var 10,6 år (s.a. 2,3) og 11,5 år i BUPA-utvalget (s.a.3,2). Alderen for normalgruppen er et estimat basert på at datainnsamlingen skjedde da barna gikk i slutten av 4. klasse eller i starten av 5. klasse, noe som tilsier en gjennomsnittsalder på 10 år. Det var ingen forskjell i alder mellom gruppene, men som forventet var det signifikant flere gutter enn jenter i begge de kliniske utvalgene (PPT: p < .001, BUP: p =.027).

Våre funn gir støtte for gyldigheten av å bruke de opprinnelige amerikanske normene også på den norske versjonen av BRIEF. Indeksskårene synes å være særlig pålitelige, men også de kliniske skalaene er brukbare hvis de fortolkes med forsiktighet

Instrumenter. BRIEF er et spørreskjema som består av 86 ledd rangert på en tredelt skala. Det finnes i lærer-, foreldre- og selvutfyllingsversjon. BRIEF finnes i versjoner beregnet på førskolebarn, skolebarn og voksne. I denne undersøkelsen brukes foreldreversjonen og lærerversjonen for aldersgruppen 5–18 år. Instrumentet gir en profil av selvstyringsfunksjoner basert på 8 kliniske skalaer som grupperes i en Atferdsreguleringsindeks (ARI), en Metakognisjonsindeks (MKI) og en samleskåre kalt Global Selvstyringsindeks (GSI).

ARI består av følgende kliniske skalaer: Impulskontroll måler evne til å holde tilbake handlinger og impulser; Fleksibilitet måler evne til å håndtere endringer i aktivitet eller oppgaver når situasjonen krever det, samt fleksibilitet i problemløsning; Emosjonell kontroll måler regulering av frustrasjon og sinne. MKI består av følgende kliniske skalaer: Igangsetting måler igangsetting og generering av ideer. Arbeidshukommelse måler avledbarhet, utholdenhet samt evne til å holde informasjon i fokus over tid slik at oppgaver kan utføres. Planlegging/Organisering måler evne til å planlegge, skaffe oversikt, sette mål, tidsvurdering og gjennomføring. Orden måler barnets evne til å holde orden i sakene sine i lek og skole. Monitorering måler selvevalueringsferdigheter i oppgaveløsning og sosialt samspill. Barneversjonen av BRIEF er oversatt til norsk av psykologene Øyvind Fallmyr, Katrine Ekerholt og Jude Nicholas, i samarbeid med utgiveren Psychological Assessment Resources.

Prosedyre. Data fra normalgruppen ble innhentet fra foresatte og seks lærere til barn i tre fjerdeklasser på tre forskjellige barneskoler. Samtykkeskjemaer ble gitt foresatte på foreldremøte eller via post for de som ikke var til stede. Det ble sendt ut to purringer. Data fra PPT-gruppen og BUP-gruppen besto av protokoller fra tidligere utredninger av barn med mistanke om selvstyringsproblematikk. Svarprosenten fra normalgruppen var 49%, for PPT-gruppen 97% og 100% for BUPA-gruppen. Prosjektet er godkjent av Regional komite for medisinsk forskningsetikk, Sør (REK).

Data-analyser. Validering av de opprinnelige normene ble gjort ved å se om de var innenfor 95% konfidensintervallet til det norske normalutvalget, hvilket tilsier under 5% sannsynlighet for avvik mellom det amerikanske normeringsutvalget og vårt norske utvalg. Dette er en akseptert metode for å undersøke om en gruppe avviker statistisk fra et normsett (Egeland et al., 2005). Sammenligningen av normalutvalget og de to kliniske gruppene på hver enkeltskala ble gjort med variansanalyse (ANOVA) med Bonferroni-korreksjon for multiple sammenligninger (signifikansnivå p < 0,0062). Signifikante resultater ble undersøkt videre med LSD posthocanalyse.

Reliabiliteten ble undersøkt ved å estimere indre konsistens med Cronbachs alfa-korrelasjonsanalyse og å beregne interrater-reliabiliteten mellom lærerversjon og foreldreversjon med Pearsons bivariate korrelasjonsanalyse.

Resultater

Tabell 1 viser at de amerikanske normene for samtlige skalaer, bortsett fra Monitorering, falt innenfor 95%-konfidensintervallet til det norske normalutvalget for foreldreversjonen. For lærerversjonen lå alle unntatt Fleksibilitet og Planlegging/Organisering innenfor konfidensintervallet. De tre skalaene falt utenfor med små marginer.

Tabell 1. Sammenligning av gjennomsnittsverdier for det norske og amerikanske normalutvalget for foreldreversjonen og lærerversjon

Foreldreversjon

Lærerversjon

Utvalg (antall)

Alder

Norge (48)

9½–10½ år

USA (357)

8–10 år

Samsvar

Norge (48)

9½–10½ år

USA (199)

9–13 år

Samsvar

M (S.A.) 95% K.I.

M

M (S.A.) 95% K.I.

M

Impulskontroll

14,3 (4,1) (13,1–15,5)

14,8

Ja

11,7 (3,0) (10,9–12,6)

12,0

Ja

Fleksibilitet

11,8 (3,4) (10,9–12,9)

12,0

Ja

11,0 (1,9) (10,5–11,6)

11,8

Nei

Emosjonell kontroll

15,6 (3,1) (14,0–17,0)

16,5

Ja

10,2 (2,5) (9,4–10,9)

10,5

Ja

Igangsetting

12,3 (2,5) (11,6–13,0)

12,8

Ja

9,0 (2,7) (8,1–9,7)

9,5

Ja

Arbeidshukommelse

15,0 (4,3) (14,4–16,3)

15,8

Ja

11,5 (3,4) (10,6–12,5)

12,5

Ja

Planlegging/Organisering

19,3 (4,7) (17,9–20,6)

19,3

Ja

11,7 (3,1) (10,8–12,6)

13,0

Nei

Orden

11,2 (2,8) (10,4–12,0)

11,5

Ja

8,2 (2,9) (7,4–9,7)

8,0

Ja

Monitorering

13,1 (3,2) (9,1–14,0)

14,3

Nei

12,8 (3,5) (11,7–13,8)

13,0

Ja

ARI1

41,7 (11,5) (38,4–48,2)

43

Ja

32,8 (7,0) (31,0–34,8)

34,3

Ja

MKI1

71,2 (13,6) (65,2–73,5)

73

Ja

52,8 (13,6) (49,3–57,2)

55,5

Ja

GSI1

113,8 (23,0) (106,6–120,2)

116

Ja

86,1 (19,7) (80,3–92,0)

90,0

Ja

NOTE: 1 ARI (Atferdsreguleringsindeks); MKI (Metakognisjonsindeks); GSI (Global selvstyringsindeks).

M = gjennomsnittverdi; S.A. = standardavvik; K.I. = konfidensintervall.

Tabellene 2 og 3 viser signifikante forskjeller mellom Normalgruppen og BUP-gruppen på alle skalaer, både på lærerversjonen og foreldreversjonen. Det er også signifikante forskjeller på alle skalaer mellom Normalgruppen og PPT-gruppen på lærerversjonen, men ikke på foreldreversjonens tre Atferdsregulering-skalaer (ARI) og på Orden.

Tabell 2. Skårer for lærerversjonen1

Normalutvalg

M S.A.

PPT-utvalg

M S.A.

BUP-utvalg

M S.A.

F

Sig.

Effekter2

Impulskontroll

1,17 0,30

1,90 0,64

1,94 0,62

29,68

N < P, B

Fleksibilitet

1,10 0,19

1,75 0,47

1,80 0,61

35,95

N < P, B

Emosjonell kontroll

1,13 0,28

1,73 0,56

1,82 0,66

25,00

N < P, B

Igangsetting

1,28 0,39

2,21 0,45

1,97 0,62

54,23

N < B < P

Arbeidshukommelse

1,15 0,33

2,25 0,47

2,06 0,57

83,20

N < P, B

Planlegging / organisering

1,17 0,31

2,13 0,48

1,97 0,58

62,94

N < P, B

Orden

1,17 0,41

1,87 0,64

1,62 0,55

21,59

N < B < P

Monitorering

1,28 0,35

2,10 0,49

1,98 0,58

44,71

N < P, B

ARI3

1,13 0,23

1,79 0,49

1,86 0,56

38,19

N < P, B

MKI3

1,21 0,31

2,11 0,38

1,92 0,50

74,84

N < B < P

GSI3

1,18 0,27

1,99 0,36

1,89 0,46

75,69

N < P, B

Note: 1 Gjennomsnittlig skåre pr. ledd (1 = aldri, 2 = noen ganger, 3 = ofte)

2 ANOVA, posthoc-sammenligning, med Bonferroni-korrigert signifikansnivå (p < 0,0062)

3 ARI (Atferdsreguleringsindeks), MKI (Metakognisjonsindeks), GSI (Global selvstyringsindeks)

M = gjennomsnittverdi; S.A. = standardavvik

Tabell 3. Skårer for foreldreversjonen1

Normalutvalg

M S.A.

PPT-utvalg

M S.A.

BUP-utvalg

M S.A.

F

Sig. Effekter2

Impulskontroll

1,43 0,41

1,58 0,46

2,02 0,51

18,99

N, P < B

Fleksibilitet

1,49 0,43

1,54 0,43

2,04 0,45

19,83

N, P < B

Emosjonell kontroll

1,56 0,51

1,68 0,54

2,09 0,50

11,83

N, P < B

Igangsetting

1,56 0,31

1,67 0,38

2,07 0,41

23,47

N < P < B

Arbeidshukommelse

1,50 0,42

2,09 0,40

2,32 0,41

48,24

N < P < B

Planlegging / organisering

1,60 0,39

1,93 0,42

2,15 0,48

18,15

N < P < B

Orden

1,87 0,68

1,94 0,55

2,29 0,50

8,01

N, P < B

Monitorering

1,64 0,40

1,90 0,44

2,18 0,39

18,21

N < P < B

ARI3

1,49 0,41

1,60 0,39

2,05 0,41

22,43

N, P < B

MKI3

1,63 0,31

1,91 0,32

2,20 0,35

33,22

N < P < B

GSI3

1,58 0,32

1,79 0,30

2,15 0,32

35,25

N < P < B

Note: 1 Gjennomsnittlig skåre pr. ledd

2 ANOVA, posthocsammenligning, med Bonferroni-korrigert signifikansnivå (p < 0,0062)

3 ARI (Atferdsreguleringsindeks), MKI (Metakognisjonsindeks), GSI (Global selvstyringsindeks)

M = gjennomsnittverdi; S.A. = standardavvik

Sammenligning av de to kliniske gruppene viser at BUP-gruppen skåres med større vansker enn PPT-gruppen på foreldreversjonen. På lærerversjonen, derimot, skårer PPT- gruppen og BUP-gruppen på samme nivå, bortsett fra på skalaene Igangsetting, Orden og på MKI, hvor PPT-gruppen kommer ut med signifikant større vansker enn BUP-gruppen.

Tabell 4 viser korrelasjonene mellom lærerversjon og foreldreversjon for det norske totalutvalget. Det fremkommer moderate til svake rangkorrelasjoner mellom lærernes og foreldrenes skårer. De er imidlertid signifikante for alle delskalaer og indeksskårer, med unntak av Orden, og er på samme nivå som tilsvarende korrelasjoner i det amerikanske normeringsutvalget.

Tabell 4. Rangkorrelasjon mellom lærerskåre og foreldreskåre

Norsk totalutvalg (134)

Amerikansk normalutvalg (296)

Impulskontroll

0,43 **

0,50 *

Fleksibilitet

0,20 *

0,15 *

Emosjonell kontroll

0,28 **

0,18 *

Igangsetting

0,17 *

0,18 *

Arbeidshukommelse

0,57 **

0,30 *

Planlegging/Organisering

0,48 **

0,35 *

Orden

0,16 †

0,15 *

Monitorering

0,45 **

0,42 *

ARI

0,31 **

0,31 *

MKI

0,40 **

0,34 *

GSI

0,34 **

0,34 *

NOTE: *p < 0,05, **p < 0,001, † p = 0,06

Cronbachs alfa viser høy indre konsistens (c varierer fra 0,88 til 0,95 for de ulike skalaene) i lærerversjonen og noe lavere i foreldreversjonen (c = 0,76–0,92). Verdiene er på samme nivå som i det amerikanske materialet (Cronbachs c = 0,80–0,98).

Diskusjon

Undersøkelsen viste i hovedsak samsvar mellom det norske normalutvalget og de amerikanske normene. Den norske versjonen har beholdt den amerikanske versjonens evne til å differensiere kliniske utvalg fra friske kontroller. Analyse av indre konsistens og rangkorrelasjoner mellom foreldreskåringer og lærerskåringer viste resultater på linje med den amerikanske originalversjonen.

De norske 10-åringene og det amerikanske normeringsutvalgets skårer samsvarer på begge indeksskårene, på totalskåren og på 13 av de 16 kliniske skårene. Der det ikke var samsvar, hadde de norske barna færre vansker enn det amerikanske normalutvalget. Dette må regnes som et godt samsvar og indikerer at de amerikanske normene er gyldige for norske 10-åringer. Kan man dermed kan si at normene generelt er gyldige? Det er et empirisk spørsmål som kun kan avklares ved å generere kontrolldata også på andre aldersgrupper. Innenfor rammen av en begrenset validitetsstudie er likevel denne stikkprøvemetoden å foretrekke fremfor å spre kontrollgruppen på ulike aldersgrupper. Det statistiske argumentet for dette er at konfidensintervallene til kontrollenes gjennomsnitt vil øke med færre barn på hvert trinn, slik at klinisk signifikante forskjeller i skåre ikke blir statistisk avvikende. Å vise til at det ikke fremkommer vesentlige skåreforskjeller, selv der utvalget på ett trinn er nær et halvt hundre barn, indikerer at lærerne og foreldrene har oppfattet skjemaet relativt likt den opprinnelige versjonen.

Begge versjonene skiller mellom de kliniske gruppene og kontrollene, som jo er et nødvendig kriterium for validitet, all den tid vi forutsetter at de kliniske gruppene har genuine selvstyringsvansker på gruppenivå. Det fremkommer også forskjeller mellom de kliniske gruppene. Foreldrene i PPT-gruppen rangerer barna sine med mindre vansker enn BUP-foreldrene, noe som virker rimelig ut fra antagelsen om at barna med de mest omfattende vanskene blir viderehenvist til BUP. I mangelen av detaljert klinisk informasjon om barna, er det vanskeligere å fortolke hvorfor lærerne vurderer at PPT-barna har større metakognitive vansker enn BUPA-barna. Det kan skyldes at BUP-gruppen trolig har mottatt mer pedagogisk hjelp enn PPT-gruppen, noe som kan ha bidratt til at metakognisjonsvanskene på skolen ble redusert.

Reliabilitet, eller indre konsistens, var like høy i det norske som det amerikanske materialet. Dette indikerer at leddene i hver skala måler samme underliggende fenomen.

Fordelen med BRIEF, sammenlignet med andre kartleggingskjemaer, er at oppdelingen av selvstyringsfunksjoner i subfunksjoner samsvarer godt med den kognitive nevropsykologiens eksperimentelle funn og med moderne forståelse av hjernefunksjon (se Faw, 2003). Mens man tidligere gjerne omtalte frontallappsutfall som en type utfall, som typisk ga eksekutivfunksjonssvikt (Pennington & Ozonoff, 1996), vil det i dag være mer vanlig å skille mellom «varme» affektive aspekter knyttet til orbitofrontale områder og «kalde» kognitive aspekter assosiert med dorsolateral prefrontal cortex (Zelazo & Müller, 2002). En konfirmatorisk faktoranalyse av BRIEF (Egeland & Fallmyr, 2010) viste nettopp at Atferdsreguleringsfaktoren med fordel burde deles opp i oppgaverettet Atferdsregulering og Emosjonell regulering, slik man nylig gjorde med den nye voksenversjonen av BRIEF (Roth, Isquith & Gioia, 2005). Nevropsykologiske undersøkelsesmetoder er vanligvis basert på affektnøytral problemløsning der håndtering av interpersonlige forhold ikke undersøkes. Etter vår vurdering har skillet mellom regulering av emosjoner og atferd i BRIEF et potensial for å gi en mer nyansert og korrekt beskrivelse av vansker hos barna/ungdommene. Det gir også bedre samsvar mellom komparentopplysningene som lærere og foreldre gir i BRIEF, og resultatene fra nevropsykologisk undersøkelse.

Begrensninger

Studien har flere begrensninger som innvirker på styrken i funnene: kun halvparten av de foresatte i normalgruppen takket ja til å delta i prosjektet. Dette øker risikoen for en overrepresentasjon av velfungerende barn. Ved at normalutvalget er begrenset til ett årskull, begrenses generaliserbarheten av overensstemmelsen mellom utvalget og de amerikanske normene. En annen begrensning er mangelen på demografiske og diagnostiske data i de kliniske utvalgene. Studien representerer imidlertid det første empiriske grunnlaget for å vurdere anvendbarheten av den norske BRIEF-versjonen, som allerede er i allmenn klinisk bruk. Hovedfunnet er at den norske versjonen har beholdt de psykometriske egenskapene i den opprinnelige utgaven.

Konklusjon

Våre funn gir støtte for gyldigheten av å bruke de opprinnelige amerikanske normene også på den norske versjonen. Indeksskårene synes å være særlig pålitelige, men også de kliniske skalaene er brukbare hvis de fortolkes med forsiktighet. Dette betyr at det er grunnlag for å tolke variasjoner i profiler som indikasjoner på ulike former for selvstyringsvansker. l

Teksten sto på trykk første gang i Tidsskrift for Norsk psykologforening, Vol 48, nummer 4, 2011, side 339-343

Kommenter denne artikkelen

Referanser

Anderson, V. A., Anderson, P., Northam, E., Jacobs, R. & Mikiewicz, O. (2002). Relationships between cognitive and behavioral measures of executive function in children with brain disease. Child Neuropsychology, 8, 231–240.

Egeland, J. & Fallmyr, Ø. (2010). The factorstructure of the Norwegian BRIEF-version: Support for a three-factor solution. Child Neuropsychology.

Egeland, J., Sundet, K., Landrø, N. I., Rund, B. R., Asbjørnsen, A., Hugdahl, K. et al. (2005). Validering av normer for importerte tester av oppmerksomhet og hukommelse i et norsk normalutvalg. Tidsskrift for Norsk Psykologforening, 42, 99–105.

Faw, B. (2003). Prefrontal executive committee for perception, working memory, attention, long-term memory, motori control, and thinking: A tutorial review. Consciousness and Cognition, 12, 83–139.

Gioia, G., Isquith P. K., Guy, S.C. & Kenworthy, L. (2000). Behavior Rating Inventory of Executive Function – Professional manual. Lutz: Psychological Assessment Resources, Inc.

Gioia, G., & Isquith, P. K. (2004). Ecological assessment of executive function in traumatic brain injury. Developmental Neuropsychology, 25, 135–158.

Lindley, P., Bartram, D. & Kennedy, N. (2008). EFPA review model for the Description and evaluation of psychological tests. Test review form and notes for reviewers. (nedlastet 23/11–09 fra www.efpa.eu/professional-development/tests-and-testing).

Pennington, B. F. & Ozonoff, S. (1996). Executive functions and developmental psychopathology. Journal of Child Psychology and Psychiatry, 37, 51–87.

Rescorla, L. A., Achenbach, T. M., Ivonova, M., Dumenci, L. et al. (2007). Behavior and Emotional Problems Reported by Parents of Children Ages 6–16 in 31 Societies. Journal of Emotional and Behavioral disorders, 15, 130–142.

Roth, R. M., Isquith, P. K. & Gioia, G. A. (2005). Behavior Rating Inventory of Executive Function-Adult Version (BRIEF-A). Lutz, Fl: Psychological Assessment Resources, Inc.

Toplak, M. E., Bucciarelli, S. M., Jain, U. & Tannock, R. (2009). Executive functions: performance-based measures and behavior rating inventory of executive function (BRIEF) in adolescents with attention deficit/hyperactivity disorder (ADHD). Child Neuropsychology, 15, 53–77.

Vriezen, E. R. & Pigott, S. E. (2002). The relationship between parental report on the BRIEF and performance-based measures of executive function in children with moderate to severe traumatic brain injury. Child Neuropsychology, 8, 296–303.

Zelazo, P. H. & Müller, U. (2002). Executive function in typical and atypical development. I U. Goswami (red.), Handbook of childhood cognitive development (s. 445–469). Malden: Blackwell Publishing.