Autoregressive Noise, Deserialization, and Trend Detection and Quantification in Annual River Discharge Time Series

Abstract

The evaluation of long-term trends in yearly discharge records, such as annual peak daily flow or total annual runoff, is important to a variety of issues including water resource planning, flood hazard studies, and the assessment of historical data for evidence of anthropogenic climate change effects. Prewhitening or deserialization procedures have recently been developed and applied to adjust statistical tests of monotonic trend, and the nonparametric Mann-Kendall test in particular, for sensitivity to serial dependence. Deserialization attributes much or all of the observed serial correlation in a time series to an autoregressive process; however, deterministic processes can also lead to a large lag-1 serial correlation coefficient, and the physical basis for autoregressive noise may be weaker for annual rather than more finely-discretized (e.g., daily) streamflow records. In this paper, the potential consequences of using such procedures are investigated through a suite of Monte Carlo simulations. We find that prewhitening can substantially and inappropriately reduce the power of trend significance tests and increase slope estimate errors. The choice of whether deserialization is applied is to some degree left to the judgement and conservatism of the individual practitioner. We suggest that such procedures not be applied to a given annual hydrologic time series unless there is a strong site-specific physical basis for the assumption of AR(1) noise and that if deserialization is performed, very recently-developed multi-stage techniques appear preferable. We also present a number of useful ancillary results regarding trend identification in streamflow-derived data.

L’évaluation des tendances à long terme des enregistrements de débit annuel, par exemple le débit quotidien de pointe annuel ou l’écoulement global annuel, revêt de l’importance pour divers aspects, entre autres la planification des ressources en eau, les études de risque de crue et l’évaluation des données historiques pour recueillir des preuves des effets du changement climatique anthropique. Dernièrement, des méthodes de préblanchiment ou de désérialisation ont été mises au point et appliquées afin d’adapter les tests statistiques de tendance monotonique et le test non paramétrique Mann-Kendall en particulier, pour la sensibilité à la dépendance en série. La désérialisation attribue une grande partie ou l’ensemble de la corrélation sériale observée dans une série chronologique à un processus autorégressif; toutefois, les processus déterministes peuvent aussi mener à un vaste coefficient de corrélation sériale avec décalage-1 et le fondement physique du bruit autorégressif peut être plus faible pour les enregistrements d’écoulement fluvial annuels plutôt que ceux qui sont discrétisés plus finement (p. ex. quotidiens). Dans le présent article, les conséquences possibles du recours à de telles méthodes sont étudiées à l’aide d’une série de simulations de Monte Carlo. Nous constatons que le préblanchiment peut réduire considérablement et de manière non appropriée le pouvoir des tests d’hypothèses de tendance et accroître les erreurs d’estimation de la pente. La décision d’appliquer ou non la désérialisation est, dans une certaine mesure, laissée au jugement et au conservatisme du spécialiste concerné. Nous recommandons de ne pas appliquer de telles méthodes à une série chronologique hydrologique annuelle donnée, à moins qu’il n’existe un solide fondement physique propre au site pour l’hypothèse de bruit AR(1). De plus, si l’on se livre à la désérialisation, les méthodes à plusieurs stades mises au point récemment semblent préférables. Nous présentons également un certain nombre de résultats accessoires utiles en ce qui concerne la détermination de la tendance pour les données tirées de l’écoulement fluvial.