CLASSIFICAÇÃO MULTICLASSE DO MICROAMBIENTE TUMORAL NO CÂNCER GÁSTRICO UTILIZANDO ENSEMBLE HIERÁRQUICO DE DOIS NÍVEIS COM MODELOS DE APRENDIZADO PROFUNDO

Abstract

RESUMO: O câncer gástrico (CG) permanece entre as principais causas de morte por câncer no Brasil e no mundo, com altas taxas de incidência e mortalidade, especialmente em países em desenvolvimento. A oncologia moderna evoluiu de modo a estratificar os pacientes em grupos distintos, com base nas características genotípicas e fenotípicas dos tumores, bem como em seus respectivos desfechos clínicos. Nesse contexto, o estudo do microambiente tumoral (TME) é essencial para a definição de condutas terapêuticas individualizadas e eficazes. Assim, a classificação automatizada dos componentes do TME por meio de modelos de aprendizado profundo (DL Deep Learning) surge como uma alternativa promissora. Apesar dos avanços em patologia digital, a classificação automática dos diferentes componentes teciduais do TME em lâminas coradas com Hematoxilina e Eosina (H&E) ainda é pouco explorada em CG. Diante dessa lacuna, este trabalho propõe um método de classificação multiclasse, baseado em um ensemble hierárquico de dois níveis, composto por modelos de DL. Foram avaliadas doze arquiteturas pré-treinadas em ImageNet (EfficientNet, ViT, MobileNet, Xception, VGG, ResNet, DenseNet, AlexNet, entre outras), explorando transferência de aprendizado, extração e concatenação de embeddings, arranjos hierárquicos de classificadores binários, variação do número de neurônios nas camadas totalmente conectadas e técnicas de aumento de dados em tempo de execução. Os experimentos foram conduzidos sobre o conjunto de dados HMU-GC-HE-30K, composto por 31.096 patches balanceados em oito classes de tecidos, utilizando validação cruzada estratificada (k = 8), e 20% das imagens reservadas para teste externo. A partir dos melhores modelos, foi construído um ensemble hierárquico de dois níveis: comitês locais homogêneos e, em seguida, um comitê global entre arquiteturas distintas, usando as predições do comitê local. Os melhores resultados obtidos nos conjuntos de teste indicaram que comitê mais performático obteve acurácia de 81,2%, AUC de 98,1% e F1-score de 81,2%, superando em mais de dez pontos percentuais o baseline da literatura para essa base, e demonstrando a superioridade do ensemble hierárquico frente a classificadores isolados. Esse comitê usou como estratégia de apuração a média ponderada pelo F1-score de cada classe de classificador membros. Esses achados mostram que a combinação estruturada de arquiteturas diversas, aplicada a um comité hierárquico, reduz a variância entre execuções e aumenta a capacidade discriminativa em cenários multiclasse complexos, contribuindo para o avanço da patologia digital assistida por Inteligência Artificial (IA). ABSTRACT: Gastric cancer (GC) remains one of the leading causes of cancer-related death in Brazil and worldwide, with high incidence and mortality rates, especially in developing countries. Modern oncology has evolved toward stratifying patients into distinct groups based on the genotypic and phenotypic characteristics of tumors, as well as on their respective clinical outcomes. In this context, the study of the tumor microenvironment (TME) is essential for defining individualized and effective therapeutic strategies. Thus, the automated classification of TME components using deep learning (DL) models emerges as a promising alternative. Despite advances in digital pathology, the automatic classification of different TME tissue components in hematoxylin and eosin (H&E)stained slides remains underexplored in GC. To address this gap, this work proposes a multiclass classification method based on a two-level hierarchical ensemble composed of DL models. Twelve ImageNet-pretrained architectures (EfficientNet, ViT, MobileNet, Xception, VGG, ResNet, DenseNet, AlexNet, among others) were evaluated, exploring transfer learning, embedding extraction and concatenation, hierarchical arrangements of binary classifiers, variation in the number of neurons in fully connected layers, and on-the-fly data augmentation techniques. The experiments were conducted on the HMU-GC-HE-30K dataset, which comprises 31,096 patches balanced across eight tissue classes, using stratified crossvalidation (k = 8), with 20% of the images held out for external testing. Based on the best-performing models, we built a two-level hierarchical ensemble: homogeneous local committees and, subsequently, a global committee across distinct architectures using the predictions of the local committees. The best results obtained on the test sets indicated that the highest-performing committee achieved an accuracy of 81.2%, an AUC of 98.1%, and an F1-score of 81.2%, outperforming the literature baseline for this dataset by more than ten percentage points and demonstrating the superiority of the hierarchical ensemble over individual classifiers. This ensemble used as its aggregation strategy a class-wise F1-scoreweighted average of the member classifiers predictions. These findings show that the structured combination of diverse architectures within a hierarchical ensemble reduces variance across runs and increases discriminative capacity in complex multiclass scenarios, contributing to the advancement of artificial intelligence (AI)assisted digital pathology.