Hyperspectral Image Classification Based on Multilayer Perceptron Trained with Eigenvalue Decay

Abstract

Hyperspectral Images (HSI) require sufficient labeled samples and a complex classifier to identify an area. Support Vector Machine (SVM) is one of the most competent algorithms in this field. Neural Networks (NN) is another approach used for classification problems, and both have been widely proposed in the literature. The Convolutional Neural Network (CNN) method has also received significant attention in the deep learning field recently. Nevertheless, during NN training, the overfitting problem may cause continuous dragging of the algorithm toward larger error. In this case, a regularization technique is needed to constitute the most useful decision boundary. The Eigenvalue Decay method is one of the regularization techniques that may be applied for HSI. This study investigates the performance of Multilayer Perceptron trained with an Eigenvalue Decay (MLP-ED) algorithm for HSI classification. The SVM, CNN with Pixel-Pair and CNN-Ensemble methods are used as comparison algorithms for MLP-ED performance assessment. All methods were tested with 3 different high-resolution HSI datasets. While SVM is one of the classic classifiers, and the 2 new CNN algorithms show high performance, the proposed MLP-ED method has more computational efficiency and achieves higher success than the others do.

RÉSUMÉ

Les images hyperspectrales (HSI) nécessitent suffisamment de sites d’entraînement et un classificateur complexe pour reconnaître une zone. La machine à vecteurs de support (SVM) est l’un des algorithmes les plus compétents dans ce domaine. Les réseaux de neurones artificiels (NN) sont une autre approche utilisée pour les problèmes de classification, et les deux ont été souvent proposés dans la littérature. Le réseau de neurones à convolution (CNN) a aussi reçu beaucoup d’attention dans le domaine de l’apprentissage profond. Néanmoins, pendant l’entraînement des NN, le problème de sur-apprentissage peut provoquer un glissement continu de l’algorithme vers une erreur importante. Dans ce cas, une technique de régularisation est nécessaire pour constituer une limite de décision utile. La méthode de décomposition des valeurs propres est l’une des techniques de régularisation pouvant être appliquées aux HSI. Cette étude évalue les performances d’un perceptron multicouche entraîné avec la décomposition des valeurs propres (MLP-ED). La méthode SVM et les réseaux neuronaux de convolution (CNN), avec des pixels-pairs ou d’ensemble, sont utilisées comme algorithmes de comparaison. Toutes les méthodes ont été testées avec trois ensembles de données HSI haute résolution. Alors que le SVM est un classificateur classique, et les deux nouveaux algorithmes CNN se sont montrés performants, la méthode proposée MLP-ED a plus d’efficacité informatique et atteint un plus grand succès que les autres.