Deteksi Covid-19 dari Citra X-ray menggunakan Vision Transformer

Abstrak

Virus Corona adalah virus beruntai tunggal RNA yang dapat menginfeksi manusia dan beberapa hewan. Pemanfaatan citra x-ray dada dapat menjadi salah satu sarana untuk pemeriksaan dan memonitor keadaan paru-paru seperti pada terduga penyakit tuberculosis, pneumonia, dan hernia. Pemanfaatan citra x-ray dengen deep learning menjadi salah satu solusi untuk pendeteksian virus covid-19. Arsitektur Vision transformer (ViT) merupakan arsitektur yang terinspirasi dari arsitektur Transformer yang merupakan state-of-the-art (SOTA) dalam pemrosesan bahasa alami. Salah satu dataset citra x-ray yang dapat digunakan oleh public adalah CovidX. Dataset CovidX terbagi menjadi 3 kelas yaitu pneumonia, covid-19, dan normal dengan jumlah total sebanyak 30.530 citra x-ray. Dataset akan menggunakan teknik augmentasi data berupa gaussian blur dan colorjitter. Percobaan arsitektur vision transformer akan dibagi menjadi 3 ukuran yaitu base, large, dan huge. Arsitektur ini akan dikombinasikan dengan transfer learning dan augmentasi data. Proses pelatihan akan berjalan sebanyak 40 Epoch, menggunakan Optimizer Stochastic Gradient Descent, Scheduler WarmupCosine, dan fungsi Cross Entropy Loss. Pengujian akan dilakukan dengan pengujian parameter ukuran arsitektur, pengujian pengaruh transfer learning, pengujian pengaruh augmentasi data, dan pengujian dengan arsitektur lain. Hasil pengujian terbaik dengan parameter akurasi adalah ResNet50 yang dipretrained yang mencapai akurasi sebesar 0,9617006 pada data validasi dan 0,9548872 pada data tes. Berdasarkan nilai akurasi tersebut dapat disimpulkan bahwa terjadi overfitting pada arsitektur ResNet50.