Statistical Variability of Biomedical Data: Part 1. The Influence of Serial Correlation on Mean Value Estimates

Abstract

Many biomedical variables are subject to large short-term fluctuations; so, measurements of the variable requires statistical improvement. Such variables also commonly exhibit longitudinal correlation due to systematic variations contributed by underlying biological mechanisms and sometimes constituting most of the variability. This correlation structure interferes with the operation of statistical procedures, such as longitudinal averaging to improve resolution of the mean value, and manipulations designed to provide objective comparative assessments of data samples.

A convenient approach to evaluating and overcoming these problems can be made through the degrees of freedom concept. It is shown how the degrees of freedom content of the sample of serially correlated data is related to the correlation structure of the variable and how this affects variability of the mean in different sized samples. The approach is confirmed both by simulation and by empirical studies on several biomedical variables: various intra-arterial and left ventricular blood-pressure measurements, heart rate, and nystagmus inter-beat intervals in the stimulated electro-oculogram.

The implications for measurement are discussed, specifically in respect of sampling protocols to improve resolution to a specified extent (for which a microprocessor instrument has been designed), as well as in determining the inherent longitudinal resolution of a data sequence and the effective precision displayed by the observations.

Un grand nombre de variables biomédicales est sujet à d'importantes fluctuations à court terme, done les mesures de la variable requiérent une amélioration par la statistique. Ces variables démontrent fréquemment une corrélation longitudinale due à des variations systématiques venant des mécanismes biologiques sous-jacents qui parfois constituent la majeure partie de la variation. Cette structure de corrélation nuit à l'opération des procédures statistiques, telles que le calcul. de la moyenne longitudinale pour améliorer la résolution de la valeur moyenne, et les manipulations conçues pour fournir des évaluations comparatives objectives des statistiques d'échantillons.

On peut arriver à une méthode pratique pour évaluer et surmonter ces problémes par le concept des degrés de liberté. II est démontré comment le contenu des degrés de liberté dans l'échantillon de données en corrélation de série est relié à la structure de la corrélation de la variable et jusqu'à quel point ceci affecte la variabilityé de la moyenne selon les effectifs différents d'échantillons. L'approche est confirmée par des études de simulation et des études empiriques utilisables sur plusieurs variables biomédicales: différentes mesures de tension intra-artérielle et dans le ventricule gauche, fréquence cardiaque, et les intervalles du nystagmus dans l'électro-oculogramme stimulé.

Les implications des prises de mesure sont discutées, specifiquement en rapport avec les protocoles d'échantillonage pour améliorer la résolution jusqu'à un point donné, (taˇche pour laquelle un microprocesseur a été concu) ainsi qu'en rapport avec la détermination de la résolution longitudinale inhérente d'une suite de données et de la précision efTicace affichée par les observations.