تشخیص زودهنگام بیماری آلزایمر با استفاده از یادگیری عمیق و افزایش داده مبتنی بر SMOTE برای بهبود طبقه‌بندی تصاویر MRI

نوع مقاله : مقاله پژوهشی فارسی

نویسندگان

1 کارشناسی ارشد،گروه مخابرات، دانشکده مهندسی برق و کامپیوتر، دانشگاه تبریز، تبریز، ایران

2 دانشیار،گروه مخابرات، دانشکده مهندسی برق و کامپیوتر، دانشگاه تبریز، تبریز، ایران

چکیده

بیماری آلزایمر شایع‌ترین نوع زوال عقل در جهان است که با وجود نبود درمان قطعی، تشخیص زودهنگام آن می‌تواند روند پیشرفت بیماری را به طرزی چشمگیر کُند کند. در این پژوهش، یک چارچوب مبتنی بر یادگیری انتقالی برای تشخیص مراحل مختلف بیماری آلزایمر از تصاویر MRI مغز ارائه شده است. به‌ منظور کاهش اثر عدم ‌توازن داده‌ها، از تکنیک SMOTE برای متوازن‌سازی کلاس‌ها استفاده شد و سپس، ویژگی‌های عمیق با بهره‌گیری از شبکۀ از پیش ‌آموزش‌دیدۀ InceptionV3 استخراج شدند. در ادامه، طبقه‌بندی نهایی با استفاده از معماری DEMNET انجام شد که به دلیل تعداد پارامتر کمتر و توانایی تعمیم‌پذیری مناسب برای مجموعه‌داده‌های پزشکی کوچک انتخاب شد. نتایج تجربی بر روی مجموعه‌دادۀ Kaggle نشان داد مدل پیشنهادی به دقت برابر 52/98 درصد، صحت برابر 31/98 درصد، معیار پوشش برابر 47/98 درصد و امتیاز F1-score معادل 39/98 درصد دست یافته است. همچنین، مقدار سطح زیر منحنی ROC (AUC) برابر 99 درصد به ‌دست آمد که نشان‌دهندۀ توان تفکیک بسیار زیاد مدل در شناسایی مراحل مختلف بیماری است. مقایسۀ نتایج با حالت بدون استفاده از SMOTE نیز بیانگر بهبود معنادار تمامی معیارهای ارزیابی است. یافته‌های این مطالعه نشان می‌دهد ترکیب یادگیری انتقالی، متوازن‌سازی داده‌ها و معماری سبک DEMNET می‌تواند به‌ عنوان رویکردی کارآمد برای تشخیص خودکار آلزایمر در تصاویر MRI استفاده شود و پتانسیل کاربرد در سامانه‌های تصمیم‌یار بالینی را داشته باشد.

کلیدواژه‌ها

موضوعات

عنوان مقاله [English]

Early Detection of Alzheimer's Disease Using Deep Learning and SMOTE-Based Data Augmentation for Improved MRI Classification

نویسندگان [English]

  • Sajjad Aghasi Javid 1
  • Mahmood Mohassel Feghhi 2
1 MSc, Department of Communications, Faculty of Electrical and Computer Engineering, University of Tabriz, Tabriz, Iran
2 Associate Professor, Department of Communications, Faculty of Electrical and Computer Engineering, University of Tabriz, Tabriz, Iran
چکیده [English]

definitive cure, early diagnosis can significantly slow the disease's progression. In this research, a framework based on transfer learning is presented for diagnosing different stages of Alzheimer's disease from brain MRI images. To reduce the effect of data imbalance, the SMOTE technique was used to balance the classes, and then deep features were extracted using the pre-trained InceptionV3 network. Subsequently, final classification was performed using the DEMNET architecture, which was selected due to its lower number of parameters and strong generalization capability for small medical datasets. Experimental results on the Kaggle dataset showed that the proposed model achieved an accuracy of 98.52%, precision of 98.31%, recall of 98.47%, and an F1-score of 98.39%. Furthermore, the area under the ROC curve (AUC) value was 99%, indicating the model's high discriminative ability in identifying different stages of the disease. A comparison of the results with those obtained without using SMOTE also indicates a significant improvement in all evaluation metrics. The findings suggest that the combination of transfer learning, data balancing, and the lightweight DEMNET architecture can serve as an efficient approach for the automatic diagnosis of Alzheimer's from MRI images. This approach holds promise for application in clinical decision support systems.

کلیدواژه‌ها [English]

  • Alzheimer's Disease
  • Early Detection
  • Convolutional Neural Networks (CNNs)
  • Data Augmentation
  • SMOTE
  • MRI Classification

اصل مقاله

1- مقدمه

[1]

بیماری آلزایمر شایع‌ترین مراحل زوال عقل است که به مراقبت‌های پزشکی گسترده نیاز دارد. برای شروع پیشرفت بالینی و توقف روند بیماری، تجزیه‌وتحلیل زودهنگام و دقیق بیماری آلزایمر ضروری است. این بیماری بر روند کار طبیعی مغز تاثیر منفی می‌گذارد و در آن، فرد وظایف روزمرۀ خود مانند صحبت‌کردن، نوشتن و خواندن را به‌خوبی انجام نمی‌دهد [1، 2]. بیماری آلزایمر یک اختلال مغزی عصبی است که به طور پیوسته سلول‌های مغز را از بین می‌برد. این بیماری باعث ایجاد نقص در حافظه و ظرفیت تفکر می‌شود و در نهایت، باعث از دست دادن توانایی انجام حتی ابتدایی‌ترین وظایف را تسریع می‌کند. در مراحل اولیۀ بیماری آلزایمر، پزشکان از تصویربرداری عصبی و روش‌های تشخیص به کمک رایانه برای طبقه‌بندی بیماری استفاده می‌کنند. خلاصه‌ای از آخرین سرشماری انجمن جهانی آلزایمر گزارش می‌دهد بیش از 9/4 میلیون فرد بالای 65 سال از این بیماری در ایالات متحده جان سالم به در برده‌اند [3]. انجمن جهانی آلزایمر تخمین زده در 50 سال آتی 60 میلیون نفر ممکن است در مرض مبتلا به بیماری آلزایمر قرار بگیرند. حدود 60 الی 80 درصد از میان تمامی انواع زوال عقلی در سطح جهان به آلزایمر مربوط می‌شوند. در هر 3 ثانیه، یک نفر در دنیا دچار زوال عقلی می‌شود که 60 درصد احتمال دارد از نوع آلزایمر باشد [4]. زوال عقلی به همراه آلزایمر را می‌توان به قسمت‌های زیر تقسیم کرد:

  • اختلال شناختی خفیف: بسیاری از افراد با افزایش سن معمولاً تحت تأثیر ضعف حافظه قرار می‌گیرند.
  • زوال عقلی خفیف: از جملۀ علائم زوال عقلی خفیف می‌توان به کمبود حافظه، عدم اطمینان، تغییر در شخصیت و مشکلات در اجرای کارهای روزانه اشاره کرد.
  • زوال عقلی متوسط: علائم بیماری شبیه زوال عقل خفیف است، ولی در عین حال پیشرفت یافته است. ممکن است افراد حتی برای کارهایی ساده مانند شانه‌کردن موهای خود احتیاج به کمک داشته باشند.
  • زوال عقلی شدید: این نوع افراد کنترلی بر مثانۀ خود ندارند. برای این افراد حتی انجام کارهای کوچک دشوار است.

تشخیص زودهنگام و طبقه‌بندی خودکار آلزایمر پدیده‌ای نوظهور است و به یافته‌های جدید در تصویربرداری عصبی چندوجهی در مقیاس بزرگ منجر شده است. روش‌هایی مختلف برای مطالعۀ آلزایمر شامل MRI[i]، توموگرافی انتشار پوزیترون و نتایج توالی‌یابی ژنوتایپ استفاده می‌شوند. عیب بزرگ تجزیه‌وتحلیل روش‌های مختلف برای تصمیم گیری زمان‌بر بودن آنهاست. علاوه ‌بر این، بیماران در معرض اثرات رادیواکتیو قرار می‌گیرند. در این مقاله، از تصاویر MRI استفاده می‌شود، زیرا دارای مزایای انعطاف‌پذیری بیشتر در تصویربرداری، کنتراست بافتی عالی، کمبود اشعۀ یونیزان و توانایی ارائۀ اطلاعات مفید دربارۀ آناتومی مغز انسان هستند [5]. مدل‌های مختلف از قبل آموزش‌دیده در شناسایی خودکار مراحل بیماری آلزایمر توسط اسکن‌های MRI بهتر عمل کرده‌اند. مدل‌های از پیش ‌‌آموزش‌دیده توسط تعدادی زیاد از داده‌ها آموزش می‌بینند؛ در نتیجه، عملکردی بهتر از خود ارائه می‌دهند [6]. در مدل پیشنهادی این مقاله، ابتدا مشکل عدم تقارن داده‌های دریافتی از پایگاه دادۀ kaggle [7] توسط روش بیش‌نمونه‌گیری اقلیت مصنوعی (SMOTE)[ii] متقارن می‌شود. در ادامه، با استفاده از شبکۀ عصبی کانولشنی از پیش‌ آموزش‌دیده، ویژگی‌های کلیدی بیماری آلزایمر از تصاویر MRI مغزی به ‌دست می‌آیند. با توجه به اینکه هستۀ کانولوشنی مدل‌های از پیش ‌‌آموزش‌دیده مانند Inceptionv3 در استخراج ویژگی‌های محلی بهتر عمل می‌کند، ادغام خروجی مدل Inceptionv3 با یک شبکۀ زوال عقلی پارامتر پایین مانند DEMNET باعث بهبود و افزایش دقت تشخیص بیماری آلازایمر می‌شود.

مهم‌ترین دستاوردهای این پژوهش به شرح زیر هستند:

  1. ارائۀ یک معماری ترکیبی جدید شبکۀ عصبی کانولوشنی با پارامترهای نسبتاً کوچک برای تشخیص انواع زوال عقلی که برای آموزش یک مجموعه‌دادۀ کوچک مناسب است.
  2. استفاده از روش SMOTE برای برطرف‌کردن مشکل عدم تعادل طبقه‌ها در مجموعه‌داده با تکرار تصادفی تصاویر طبقۀ اقلیت در کل مجموعه‌داده برای به حداقل رساندن مشکل بیش‌برازش.
  3. ایجاد مدل تعمیم‌پذیر که از مجموعه‌دادۀ کوچک با پارامترها و هزینۀ محاسباتی کاهش‌یافته یاد می‌گیرد و همچنان برای تشخیص بیماری آلزایمر عملکردی بهتر دارد.
  4. استفاده از مدل از پیش ‌آموزش‌دیدۀ Inceptionv3 برای استخراج ویژگی‌های کلیدی تصاویر MRI.
  5. مقایسۀ مدل پیشنهادی با ویژگی‌های استخراج‌شده و پارامترهای تنظیم‌شده برای تشخیص مراحل بیماری آلزایمر از نظر دقت، AUC با دیگر مدل‌های موجود در منابع.

سازمان‌دهی بخش‌های مختلف مقاله به شرح زیر است: مروری بر پژوهش‌های پیشین در بخش دوم قرار گرفته ‌است. رویکرد مدل پیشنهادی در بخش سوم قابل مشاهده است. بخش چهارم نتایج گستردۀ تجربی را تجزیه‌وتحلیل می‌کند، و در نهایت، در بخش پنجم، خلاصه‌ای از نتایج به‌دست‌آمده در این مقاله بررسی می‌شود.

2- مروری بر پژوهش‌های پیشین

یادگیری عمیق به دلیل کاربرد آن در تشخیص بیماری آلزایمر توجه زیادی را به خود جلب کرده است. به‌تازگی، چندین رویکرد یادگیری عمیق به عنوان کمک‌های تشخیصی برای بیماری آلزایمر پیشنهاد شده‌اند که به پزشکان در تصمیم‌گیری‌های پزشکی آگاهانه کمک می‌کنند. در این بخش، برخی از مطالعات مرتبط با این مقاله را ارائه می‌دهیم. لو و همکاران [8] یک شبکۀ عصبی عمیق چندوجهی جدید با روش چندمرحله‌ای برای شناسایی افراد مبتلا به دمانس پیشنهاد کردند. این روش دقت 82 درصد در پیش‌بینی اختلال شناختی خفیف و بیمارانی که بعداً در سه سال آینده به بیماری آلزایمر مبتلا می‌شوند را ارائه می‌دهد. این مدل حساسیت 94 درصد برای طبقۀ بیماری آلزایمر و دقت 86 درصد برای طبقۀ غیر زوال عقلی را به دست می‌آورد. گوپتا و همکاران [9] یک روش تشخیصی برای طبقه‌بندی بیماری آلزایمر با استفاده از مجموعه‌داده‌های ADNI[iii] و مرکز تحقیقات ملی دمانس با ترکیب ویژگی‌های مناطق قشر مغز، زیر قشر مغز و هیپوکامپ از تصاویر MRI پیشنهاد کردند که دقت بهتر 96 درصد برای طبقه‌بندی بیماری آلزایمر در مقابل کنترل سالم را به دست می‌آورد. احمد و همکاران [10] مدل CNN را برای استخراج ویژگی و طبقه‌بندی  SoftMaxبرای تشخیص بیماری آلزایمر پیشنهاد کردند. این مدل از بیش‌برازش جلوگیری می‌کند و با استفاده از ناحیۀ هیپوکامپ چپ و راست در تصاویر MRI  به دقت 05/90 درصد دست می‌یابد. بشیر و همکاران [11] روشی برای محلی‌سازی مناطق هدف از حجم بزرگ MRI برای خودکارسازی فرایند ارائه کردند. بر اساس هیپوکامپ‌های چپ و راست، این روش به دقت‌های 94 و 94 درصد دست می‌یابد. نواز و همکاران [12] یک مدل Alexnet  از پیش ‌آموزش‌دیده را برای طبقه‌بندی مراحل بیماری آلزایمر برای رسیدگی به مشکل عدم تعادل کلاس ارائه کردند. مدل از پیش آموزش‌دیده به عنوان استخراج‌کنندۀ ویژگی استفاده می‌شود و با استفاده از ماشین بردار پشتیبان، همسایگی  Kنزدیک‌ترین و جنگل تصادفی با بیشترین دقت 99 درصد طبقه‌بندی می‌شود. ایراسیتانو و همکاران [13] روشی مبتنی بر داده برای تمایز بین افراد مبتلا به آلزایمر و با تحلیل ثبت‌های غیرتهاجمی EEG[iv] پیشنهاد کردند. چگالی طیفی توان ردیابی‌های EEG در 19 کانال، پروفایل‌های طیفی مربوط را در تصاویر خاکستری دوبُعدی منعکس می‌کند. سپس، مدل CNN[v] برای طبقه‌بندی کلاس باینری و چندطبقه‌ای از تصاویر دوبُعدی با دقت 89 و 83 درصد به ترتیب استفاده می‌شود. جین و همکاران [14] از یک مدل VGG16 از پیش آموزش‌دیده برای استخراج ویژگی استفاده می‌کنند که از FreeSurfer برای پیش‌پردازش، انتخاب برش‌های MRI با استفاده از آنتروپی و طبقه‌بندی با استفاده از انتقال یادگیری به نام مدل ریاضی PFSECTL استفاده می‌کند. پژوهشگران توانستند با استفاده از پایگاه دادۀ  ADNI به دقت 73/95 درصد برای طبقه‌بندی کنترل نرمال اولیه دست یابند. محمود و همکاران [15] از تقسیم‌بندی بافت برای استخراج مادۀ خاکستری از هر فرد استفاده می‌کنند. این مدل به دقت طبقه‌بندی 98 درصد برای آلزایمر در مقابل غیر زوال عقلی و 83 درصد برای بیماران زوال عقلی خفیف در مقابل زوال عقلی متوسط دست می‌یابد. شی و همکاران [16] شبکۀ چندجمله‌ای عمیقی را پیشنهاد کردند که برای مجموعه‌داده‌های کوچک و بزرگ عملکردی خوب برای تشخیص بیماری آلزایمر دارد. این مدل با استفاده از مجموعه‌دادۀ  ADNI به دقت 55 درصد برای هر دو طبقه‌بندی دودویی و چندکلاسه دست می‌یابد. لو و همکاران [17] شبکه‌های عصبی سیامی را برای بررسی ظرفیت تمایز عدم تقارن حجمی تمام مغز پیشنهاد کردند. این تیم از فرایند  MRI Cloud برای ایجاد ویژگی‌های حجمی کم‌بُعد برای ساختارهای مغزی اطلس از پیش تعریف‌شده، و همچنین، یک روش هستۀ غیرخطی منحصربه‌فرد برای نرمال‌سازی ویژگی‌ها و حذف اثرات دسته در سراسر مجموعه‌داده‌ها و جمعیت‌ها استفاده کرد. شبکه‌ها به دقت متعادل 92 درصد برای طبقه‌بندی زوال عقلی با استفاده از مجموعه‌دادۀ ADNI دست می‌یابند. وانگ و همکاران [18] زوال عقلی را با استفاده از یک مدل سه‌بُعدی شبکه‌های کانولوشنی ارائه کردند. 3D-DenseNets با استفاده از یک رویکرد فیوژن مبتنی بر احتمال بهینه شده است. این مدل با استفاده از مجموعه‌دادۀADNI به دقت طبقه‌بندی 97 درصد دست می‌یابد. شانکار و همکاران [19] از روش بهینه‌سازی گرگ خاکستری با درخت تصمیم و مدل CNN برای تشخیص آلزایمر و دست‌یابی به دقت 96 درصد استفاده می‌کنند. جانگل و همکاران [20] یک VGG16 از پیش آموزش‌دیده را برای استخراج ویژگی‌های آلزایمر از پایگاه دادۀ ADNI پیشنهاد کردند. برای طبقه‌بندی، از الگوریتم SVM، خطی متمایز، خوشه‌بندی K میانگین و درخت تصمیم استفاده کردند. آنها به دقت 99 درصد در تصاویر fMRI و میانگین دقت 73 درصد برای تصاویر PET دست می‌یابند. جی و همکاران [21] یک معماری یادگیری عمیق چندمقیاسی سه‌بُعدی برای یادگیری ویژگی‌های آلزایمر پیشنهاد کردند. در یک مجموعه‌دادۀ تصادفی تقسیم‌بندی‌شده بر اساس موضوع، این سیستم به دقت آزامایش حدود 93 درصد با میانگین دقت 87 درصد دست یافت. بی و وانگ [22] یک مدل ماشین بولتزمن کانولوشنی اسپایک برای تشخیص زودهنگام آلزایمر با نقشه‌های ویژگی ترکیبی و یک روش یادگیری چندوظیفه‌ای برای جلوگیری از بیش‌برازش ارائه کردند. صراف و همکاران [23] یک خط لولۀ یادگیری عمیق ارائه کردند که در آن، مدل CNN با بسیاری از تصاویر آموزشی برای انجام طبقه‌بندی ویژگی در فرایندهای مقیاس‌پذیر و تغییرناپذیر آموزش داده می‌شود. این مدل به دقت 94 و 97 درصد برای تصاویر fMRI و MRI دست می‌یابد. افضل و همکاران [24] مشکل عدم تعادل کلاس را در تشخیص زوال عقلی با چارچوب افزایش داده حل می‌کنند و به دقت طبقه‌بندی 98 درصد در یک نمای واحد و 95 درصد در نمای سه‌بُعدی مجموعه‌دادۀ OASIS دست می‌یابند. جدول (1) مروری بر پژوهش‌های پیشین را ارائه می‌دهد. از این مقاله‌ها، روش‌هایی متعدد برای طبقه‌بندی بیماری آلزایمر با استفاده از ماشین و یادگیری عمیق وجود دارند. با این حال، پارامتر مدل بالا و عدم تعادل طبقه‌ها در طبقه‌بندی چندطبقۀ آلزایمر همچنان یک مشکل است. ما یک مدل ترکیبی CNN با پارامتر کمتر برای رسیدگی به این مشکل پیشنهاد می‌کنیم. ما از روش SMOTE برای حل مشکل عدم تعادل طبقۀ داده استفاده کردیم تا بتوانیم چهار

جدول (1): مروری بر بررسی پژوهش‌های پیشین

دقت (%)

تعداد طبقه‌ها

روش

مرجع

4/84

2

Multiscale deep learning

[8]

42/96

2

Combined feature technique

[9]

03/94

4

Ensemble model

[10]

8/89

2

CNN 2D

[13]

73/95

3

CNN

[14]

73/98

2

Transfer Learning

[15]

34/55

4

Deep polynomial network

[16]

72/92

2

Siamese network

[17]

52/97

2

CNN 3D

[18]

46/73

2

VGG16

[20]

53/93

2

CNN 3D

[21]

11/95

2

View 3D model

[24]

مرحلۀ زوال عقلی که ممکن است به آلزایمر منجر شوند را با دقت شناسایی و پیش‌بینی کنیم.

3- مدل پیشنهادی

یادگیری عمیق به‌تازگی در زمینه‌های مختلف مانند تشخیص مالاریا، سرطان دهانۀ رحم، سیستم‌های مدیریت انرژی و تصویربرداری مغز بسیار مورد توجه قرار گرفته است [25]. روش پیشنهادی این مقاله دارای 4 مرحلۀ اصلی است: پیش‌پردازش داده‌ها، متعادل‌کردن مجموعه‌داده با استفاده از روش SMOTE، استخراج ویژگی‌‌ها از تصاویر MRI با استفاده از مدل از پیش آموزش‌دیدۀ Inceptionv3 و طبقه‌بندی نهایی تصاویر با استفاده مدل DEMNET. در ادامه، هر مرحله از مدل پیشنهادی را شرح خواهیم داد.

3-1- تشریح مجموعه‌داده

مجموعه‌دادۀ استفاده‌شده در این پژوهش برای تشخیص بیماری آلزایمر از سامانۀ منبع باز Kaggle جمع‌آوری شده است. این مجموعه‌داده شامل 6400 تصویرر MRI از مغز بیماران است که به چهار طبقۀ مختلف تقسیم‌بندی شده‌اند: زوال عقلی خفیف، زوال عقلی متوسط، غیر زوال عقلی و زوال عقل بسیار خفیف. این تصاویر به‌ طور ویژه برای تحلیل تغییرات مغزی در بیماران آلزایمری جمع‌آوری شده‌اند و می‌توانند در مراحل اولیه و پیشرفتۀ بیماری به پزشکان کمک کنند تا روند پیشرفت بیماری را بهتر درک کنند و برنامه‌های درمانی مؤثرتری پیشنهاد دهند. نمونه‌هایی از تصاویر مربوط به هر یک از چهار طبقه در شکل (1) این مقاله آورده شده‌اند.

تصاویر این مجموعه‌داده با ابعاد اولیۀ 208×176 پیکسل ارائه شده‌اند که برای تطابق با نیازهای مدل‌های

شکل (1): (الف) زوال عقلی خفیف؛ (ب) زوال عقلی متوسط؛ (پ) غیر زوال عقلی؛ (ت) زوال عقلی بسیار خفیف.

 یادگیری عمیق و کاهش پیچیدگی محاسباتی، اندازۀ تصاویر به 128×128 پیکسل تغییر داده شده است. این تغییر اندازه علاوه بر کاهش بار محاسباتی، باعث می‌شود مدل بتواند ویژگی‌های برجسته‌تر و کاربردی‌تر را از تصاویر استخراج کند. برای اینکه دقت بیشتری در پردازش تصاویر حاصل شود، تصاویر قبل از ورود به مدل‌های یادگیری عمیق به صورت استاندارد و یکنواخت مقیاس‌بندی و نویزهای احتمالی از آنها حذف شدند. یکی از چالش‌های اصلی در استفاده از مجموعه‌داده‌های پزشکی، مشکل نامتعادلی کلاس‌هاست. به ‌طور خاص، در این مجموعه‌داده، تعداد نمونه‌های مربوط به طبقه‌های مختلف از جمله زوال عقلی خفیف و بسیار خفیف به طرزی قابل ملاحظه بیشتر از کلاس‌هایی همچون زوال عقلی متوسط و غیر زوال عقلی است. این عدم تعادل ممکن است به ایجاد مدل‌هایی منجر شود که قادر به تشخیص دقیق طبقه‌های با نمونه‌های کمتر نباشند و دقت کلی مدل کاهش یابد. در این مقاله، 80 درصد از کل داده‌ها برای آموزش مدل، 10 درصد برای اعتبارسنجی و10 درصد به ‌عنوان آزمایش مدل تقسیم‌بندی می‌شود.

 

3-2- روش SMOTE

روش SMOTE به عنوان یک روش اساسی برای مقابله با عدم تعادل کلاس‌ها در یادگیری ماشین، به ‌ویژه در کاربردهای یادگیری عمیق، شناخته شده است. عدم تعادل کلاس‌ها یکی از چالش‌های رایج در بسیاری از مجموعه‌داده‌های دنیای واقعی است؛ به ‌ویژه در حوزه‌هایی مانند زیست‌اطلاعاتی، تصویربرداری پزشکی و پیش‌بینی سری‌های زمانی. در سال‌های اخیر، SMOTE شاهد تحولاتی چشمگیر بوده است که به ادغام آن با مدل‌ها و کاربردهای پیچیده‌تر منجر شده است و به این ترتیب، دامنۀ کاربرد آن در حوزه‌های مختلف گسترش یافته است [26]. مفهوم اصلی SMOTE تولید نمونه‌های مصنوعی برای کلاس اقلیت از طریق درون‌یابی بین نمونه‌های موجود است. این روش به کاهش مشکلات ناشی از داده‌های نامتعادل کمک می‌کند؛ جایی که مدل‌ها معمولاً تمایل به ایجاد وابستگی نسبت به طبقۀ اکثریت دارند. SMOTE  به‌ دلیل توانایی آن در متعادل‌کردن توزیع کلاس‌ها به طور گسترده‌ پذیرفته شده است؛ به طوری که اطمینان حاصل می‌شود مدل‌های یادگیری عمیق به اندازۀ کافی با نمونه‌های کلاس اقلیت روبه‌رو می‌شوند که این امر به بهبود عملکرد و عمومیت‌پذیری مدل منجر می‌شود. با این حال، اگرچه SMOTE  در مقابله با عدم تعادل سادۀ طبقه‌ها مؤثر است، محدودیت‌های آن زمانی نمایان می‌شوند که با مجموعه‌داده‌های پیچیده یا با ابعاد بالا مواجه می‌شود [27]. با توجه به سلطۀ روزافزون مدل‌های یادگیری عمیق در بسیاری از حوزه‌ها، پژوهشگران تلاش کرده‌اند تا SMOTE را با این مدل‌های پیشرفته ادغام کنند که این امر به توسعۀ Deep SMOTE منجر شده است. روش سنتی SMOTE ممکن است در مواجهه با مشکل افزایش ابعاد با محدودیت‌هایی روبه‌رو شود؛ مشکلی که در آن، هنگام کار با داده‌های با ابعاد بالا، مانند تصاویر یا دنباله‌های ژنی، تعداد ویژگی‌ها به ‌طرزی چشمگیر بیشتر از تعداد نمونه‌هاست. Deep SMOTE می‌تواند با این مشکل مواجه شود و این چالش را با استفاده از روش‌های افزایش دادۀ ضدرقابتی حل می‌کند که کارایی SMOTE را در فضاهای با ابعاد بالا بهبود می‌بخشد [28]. به ‌ویژه، Deep با ترکیب نقاط داده و ایجاد یک بردار بزرگ‌تر، به طرزی قابل ملاحظه تعداد نمونه‌های آموزشی را افزایش می‌دهد و آن را برای مدل‌های یادگیری عمیق مناسب‌تر می‌کند که به داده‌های زیادی برای آموزش مؤثر نیاز دارند. این نوآوری‌ها به SMOTE اجازه می‌دهند تا با معماری‌های مدرن یادگیری ماشین، به ویژه در زمینۀ داده‌های با ابعاد بالا، سازگار شود. با ادامۀ تکامل ادغام SMOTE با یادگیری عمیق، پژوهش‌های آینده می‌توانند به بهینه‌سازی‌های بیشتری برای بهبود تولید داده‌های مصنوعی، مقابله با مشکلاتی مانند بیش‌برازش و بهبود مقیاس‌پذیری تکنیک‌های SMOTE برای مجموعه‌داده‌های بسیار بزرگ اختصاص یابند. در این مقاله، رتبۀ تصادفی روش SMOTE 42 انتخاب شده است. یکی مزایای استفاده از SMOTE به حداقل رساندن مشکل بیش‌برازش است. جدول (2) توزیع مجموعه‌داده‌ها را قبل از داده‌افزایی و جدول (3) توزیع مجموعه‌داده را پس از افزایش توسط روش SMOTE به 12800 تصویر نشان می‌دهد که هر کلاس شامل 3200 تصویر است.

 

جدول (2): توزیع مجموعه‌داد‌ها قبل از روش SMOTE

طبقه

تعداد تصاویر

زوال عقلی خفیف

896

زوال عقلی متوسط

3200

غیر زوال عقلی

2240

زوال عقلی بسیار خفیف

64

جدول (3): توزیع مجموعه‌داده‌‌ها بعد از روش SMOTE

کلاس

تعداد تصاویر

زوال عقلی خفیف

3200

زوال عقلی متوسط

3200

غیر زوال عقلی

3200

زوال عقلی بسیار خفیف

3200

 

3-3- استخراج ویژگی‌های تصاویر

بررسی‌های انجام‌شده در زمینۀ تصویربرداری پزشکی و کاربردهای آن در حوزه‌های مختلف علوم پزشکی، به ‌ویژه در تشخیص بیماری‌ها، نشان می‌دهند استفاده از شبکه‌های کانولوشنی عمیق از پیش آموزش‌دیده، به‌ ویژه در تصاویر پزشکی، نتایجی بسیار مطلوب‌تر ارائه می‌دهد. این شبکه‌ها که معمولاً بر روی مجموعه‌‌داده‌های عظیم و عمومی مانند ImageNet آموزش دیده‌اند، به دلیل قدرت زیادشان در استخراج ویژگی‌های کلی و عمومی، می‌توانند در مسائلی خاص‌تر و پیچیده‌تر مانند تصاویر پزشکی که معمولاً دارای تعداد نمونه‌های محدود هستند، عملکردی بسیار بهتر داشته باشند [29].

مجموعه‌‌داده‌های پزشکی به دلیل مسائل مختلف همچون هزینه‌های زیاد جمع‌آوری داده، حفظ حریم خصوصی بیماران و نیاز به تجهیزات خاص برای تصویربرداری، معمولاً حجمی محدود دارند. این امر باعث می‌شود هنگام آموزش شبکه‌های عصبی کانولوشنی بر روی این داده‌ها، مشکل بیش‌برازش به‌سرعت بروز کند؛ یعنی مدل ممکن است به ‌طور نامناسب به داده‌های آموزشی خاص خود وابسته شود و نتواند به‌خوبی روی داده‌های جدید و ناآشنا عمومیت پیدا کند. در این شرایط، استفاده از مدل‌های از پیش آموزش‌دیده به‌شدت مفید است. این مدل‌ها به ‌ویژه در صورتی که شبکه‌های عصبی پیچیده و عمیق باشند، می‌توانند از ویژگی‌های عمومی که در طی آموزش بر روی داده‌های عمومی مانند ImageNet استخراج کرده‌اند، استفاده کنند و به ‌این ‌ترتیب، با دقت بیشتری قادر به پردازش داده‌های پزشکی با نمونه‌های محدود خواهند بود.

در این راستا، در مقالۀ حاضر، از شبکۀ کانولوشنی عمیق از پیش آموزش‌دیدۀ Inceptionv3 [30] برای استخراج ویژگی‌های تصاویر MRI استفاده شده است. Inceptionv3 نسخۀ سوم از خانوادۀ شبکه‌های Inception است که به ‌ویژه در زمینۀ پردازش داده‌های با ابعاد بالا و پیچیده، مانند تصاویر پزشکی، عملکردی بسیار خوب دارد. یکی از ویژگی‌های اصلی Inceptionv3 استفاده از کانولوشن‌های فاکتورگرفته‌شده است که این امر به‌ طرزی چشمگیر تعداد پارامترهای شبکه را کاهش می‌دهد، بدون اینکه تأثیر منفی بر کارایی شبکه بگذارد. این کاهش پارامترها در حالی ‌که کارایی شبکه حفظ می‌شود، موجب می‌شود مدل به‌ طرزی بهینه‌تر قادر به یادگیری ویژگی‌های پیچیده از داده‌های ورودی باشد. در مدل پیشنهادی این مقاله، خروجی شبکۀ Inceptionv3 به‌عنوان ورودی برای شبکۀ DEMNET استفاده می‌شود. در حقیقت، ویژگی‌های استخراج‌شده از تصاویر MRI توسط Inceptionv3، پس از حذف لایۀ Softmax شبکه، به‌ طور مستقیم به لایه‌های بعدی شبکۀ DEMNET وارد می‌شوند. این کار باعث می‌شود ویژگی‌ها در سطحی پیشرفته‌تر استخراج شوند، زیرا لایۀ Softmax که معمولاً برای طبقه‌بندی نهایی به کار می‌رود، حذف می‌شود و به ‌این ‌ترتیب، شبکه می‌تواند به ‌طور مستقیم به ویژگی‌های پیچیده‌تر و جزئی‌تر تصاویر دست یابد. این نوع استخراج ویژگی دقیق‌تر، به ‌ویژه در تصویربرداری پزشکی که جزئیات دقیق و حساس تصاویر اهمیت زیادی دارند، مزیتی قابل ملاحظه محسوب می‌شود. در فرایند استخراج ویژگی‌ها از Inceptionv3، از لایه‌های اولیه و میانۀ شبکه برای استخراج نقشه‌های ویژگی استفاده می‌شود. حذف لایۀ Softmax کمک می‌کند تا از داده‌های آموزشی، ویژگی‌هایی استخراج شوند که نمایانگر ویژگی‌های اصلی تصاویر پزشکی هستند، به ‌ویژه ویژگی‌های ساختاری که ممکن است برای تشخیص بیماری‌های مختلف از جمله آلزایمر، سرطان مغز، یا بیماری‌های عصبی اهمیت داشته باشند. این ویژگی‌ها به‌ عنوان ورودی به شبکۀ  DEMNET وارد می‌شوند تا فرایند طبقه‌بندی نهایی به ‌طور دقیق‌تر و با عملکرد بهتر انجام شود. در شکل (2)، مدل پیشنهادی این مقاله به‌ طور دقیق نمایانگر روند کلی فرایند است. در این مدل، پس از استخراج ویژگی‌ها از تصاویر MRI توسط Inceptionv3، این ویژگی‌ها به ‌عنوان ورودی به DEMNET وارد می‌شوند. سپس، DEMNET این ویژگی‌ها را پردازش و مدل نهایی را برای طبقه‌بندی دقیق‌تر بیماری‌ها و اختلالات مغزی تولید می‌کند. این روند به ‌طور کلی شامل چهار مرحلۀ اصلی است: ابتدا پیش‌پردازش داده‌ها، سپس استفاده از SMOTE برای تعادل کلاس‌ها، استخراج ویژگی‌ها با Inceptionv3 و در نهایت، انجام طبقه‌بندی توسط DEMNET. با استفاده از این مدل پیشنهادی و به‌کارگیری شبکه‌های کانولوشنی عمیق از پیش آموزش‌دیده، می‌توان به بهبود دقت تشخیص بیماری‌ها در تصاویری که دارای داده‌های محدود هستند، کمک کرد. این روش باعث می‌شود مدل‌های یادگیری عمیق در زمینه‌های پزشکی، حتی در مواجهه با داده‌های نامتعادل و تعداد کم نمونه‌ها، قادر به عملکرد قابل ‌قبول و پایدار باشند. در آینده، این رویکرد می‌تواند در کنار سایر روش‌های پیشرفتۀ یادگیری ماشین، به ‌ویژه در پزشکی دقیق، تحولات زیادی ایجاد کند. در شکل (2)، مدل پیشنهادی قابل مشاهده است.

شکل (2): چارچوب مدل ترکیبی پیشنهادی با استخراج ویژگی به وسیلۀ شبکۀ عصبی از قبل آموزش‌دیدۀ Inceptinv3

4- شبکۀ زوال عقلی DEMNET

به‌ منظور انجام طبقه‌بندی نهایی مراحل زوال عقل، در این پژوهش از یک معماری کانولوشنی سبک‌وزن با عنوان DEMNET استفاده شده است. هدف اصلی از طراحی این شبکه دست‌یابی به دقت زیاد در شرایط کمبود داده‌های آموزشی و در عین ‌حال، کاهش تعداد پارامترهای قابل‌ آموزش نسبت به شبکه‌های عمیق متداول است.

معماری DEMNET شامل اجزای اصلی زیر است:

  • دو لایۀ کانولوشن اولیه با تابع فعال‌سازی ReLU برای استخراج ویژگی‌های پایه
  • یک لایۀ Max-Pooling برای کاهش ابعاد فضایی و هزینۀ محاسباتی
  • چهار بلوک استخراج ویژگی DEMNET با فیلترهای 32، 64، 128 و 256
  • لایه‌های Batch Normalization برای پایدارسازی فرایند آموزش
  • دو لایۀ Dropout به‌ منظور کاهش بیش‌برازش
  • سه لایۀ تمام‌متصل (Dense) برای نگاشت ویژگی‌های سطح بالا
  • یک لایۀ Softmax برای طبقه‌بندی چهارتایی مراحل زوال عقل

ویژگی متمایز DEMNET نسبت به معماری‌های متداول CNN، سادگی ساختار همراه با توان تفکیک زیاد در داده‌های پزشکی کوچک است. این طراحی امکان استفادۀ مؤثر از ویژگی‌های استخراج‌شده توسط شبکۀ انتقالی InceptionV3 را فراهم می‌کند و در عین‌ حال، پیچیدگی محاسباتی مدل را کنترل می‌کند.

پس از استخراج ویژگی‌های کلیدی، تصاویر برای طبقه‌بندی نهایی به یک شبکۀ عصبی کانولوشنی (CNN) وارد می‌شوند. مدل CNN در این مقاله به ‌طور خاص برای طبقه‌بندی مراحل زوال عقل طراحی شده است تا بیماری آلزایمر را شناسایی کند. معماری پیشنهادی [31] شامل دو لایۀ کانولوشن با تابع فعال‌سازی ReLU، یک لایۀ Max-pooling، چهار بلوک DEMNET، دو لایۀ Dropout، سه لایۀ Dense و یک لایۀ SoftMax برای طبقه‌بندی نهایی است. تابع فعال‌سازی ReLU یک تابع خطی بخش‌پذیر است که به ‌عنوان تابع فعال‌سازی لایه‌های پنهان در نظر گرفته شده است. این تابع می‌تواند مشکل محوشدن گرادیان را حل کند و باعث می‌شود شبکه‌ها سریع‌تر یاد بگیرند و عملکردی بهتر نسبت به سایر توابع فعال‌سازی داشته باشند. اولین لایه در مدل DEMNET، لایۀ ورودی است که در آن، تصاویر MRI نرمال‌شده و افزونه‌سازی‌شده به ‌عنوان ورودی به شبکه وارد می‌شوند. لایه‌های کانولوشنی هستۀ اصلی مدل پیشنهادی DEMNET را تشکیل می‌دهند و بخشی عمده‌ از وظیفۀ محاسباتی شبکه را به عهده دارند. این لایه‌ها ورودی را به ‌صورت تصویر دریافت می‌کنند، سپس با فیلترهای وزنی کانولوشن می‌کنند و به همراه بایاس، نقشۀ ویژگی‌ها یا پاسخ‌های مدنظر را تولید می‌کنند. سپس، پاسخ‌های ویژگی به لایه‌های بعدی ارسال می‌شوند. لایه‌های Pooling بین لایه‌های کانولوشنی قرار دارند و برای کاهش ابعاد نمایشی در دامنۀ فضایی و فضای محاسباتی استفاده می‌شوند. در این پژوهش، از Max-pooling  برای کاهش هزینه‌های محاسباتی لایه‌های بعدی استفاده شده است که با انتخاب بیشترین مقدار پیکسل در کرنل انتخاب‌شده، داده‌ها را فشرده می‌کند. مقدار  Max-pooling با استفاده از رابطۀ (1) محاسبه می‌شود:

فرم ورودی  است، اندازۀ پنجرۀ تجمیع P و گام برابر S است.

بلوک‌هایDEMNET  شامل یک لایه از دو لایۀ کانولوشنی با تابع فعال‌سازی ReLU، یک لایۀBatch Normalization و یک لایۀ Maxpooling هستند. در مدل پیشنهادی، بلوک‌های DEMNET با فیلترهایی مختلف، از جمله 32، 64، 128 و 256 برای استخراج ویژگی‌های تفکیکی در طبقه‌بندی مراحل بیماری آلزایمر استفاده می‌شوند. تعداد مختلف فیلترها به استخراج ویژگی‌های تفکیکی کمک می‌کند. تابع فعال‌سازی ReLU به ‌گونه‌ای طراحی شده است که در صورتی که مقدار ورودی مثبت باشد، ورودی را بدون تغییر بازمی‌گرداند و در غیر این صورت، صفر می‌شود. معادلۀ (2) این تابع به ‌صورت زیر است:

این معماری به ‌طور ویژه برای استخراج ویژگی‌های تفکیکی طراحی شده است که می‌توانند هر مرحله از بیماری زوال عقل را در یک تصویر برجسته کنند. در معماری پیشنهادی، چهار بلوک DEMNET استفاده می‌شوند. پس از لایه‌های کانولوشنی، نرمال‌سازی دسته‌ای انجام می‌شود تا خروجی لایه‌های قبلی نرمال‌سازی شود. این امر به جلوگیری از تغییرات دامنۀ مقادیر ورودی کمک می‌کند. نرمال‌سازی دسته‌ای یک روش منظم‌سازی است که برای کاهش مشکل بیش‌برازش در مدل پیشنهادی به ‌کار می‌رود. لایۀ Dropout به‌ منظور از بین بردن تصادفی برخی از نورون‌ها در لایه‌های پنهان طی فرایند آموزش استفاده می‌شود. این تکنیک همچنین برای کاهش بیش‌برازش در مدل استفاده می‌شود. بهترین مقدار برای نرخ dropout معمولاً بین 2/0تا 5/0 است. پس از لایه‌های کانولوشنی، لایۀ Dense برای تبدیل داده‌های با ابعاد بالا به یک بردار ستونی استفاده می‌شود. خروجی لایۀ کانولوشن به ورودی لایۀ Dense وارد می‌شود. لایۀ Dense همان عملیات ریاضیاتی را اجرا می‌کند که در شبکه‌های عصبی مصنوعی انجام می‌شود. در روش پیشنهادی، سه لایۀ Dense استفاده می‌شوند که هر نورون در لایۀ قبلی به نورون‌های لایۀDense  متصل است. پس از لایۀ Dense، از SoftMax استفاده می‌شود که در آن، تعداد نورون‌ها برابر تعداد کلاس‌ها خواهد بود. در طبقه‌بندی چندطبقه‌ای، برچسب‌ها به‌ صورت  One-hot Encodingهستند و فقط کلاس مثبت در تابع هزینه محاسبه می‌شود. معادلۀ (3) آنتروپی متقاطع را به‌ عنوان تابع هزینه به ‌منظور محاسبۀ احتمال تعلق هر تصویر به هر یک ازC  دسته‌ها تعریف می‌کند:

در معادلۀ بالا،  نمرۀ شبکۀ CNN است.

در این روش، تابع گرادیان [32] برای محاسبه و به‌روزرسانی وزن‌ها در شبکه استفاده می‌شود. در فرایند پس‌انتشار، گرادیان تابع هزینه از نورون‌های خروجی به ورودی‌ها برگشت داده می‌شود و وزن‌ها برای بهینه‌سازی مدل تنظیم می‌شوند. گرادیان برای کلاس‌های منفی به صفر می‌رسد، ولی از آنجا که خروجی SoftMax کلاس مثبت نیز به امتیازهای کلاس‌های منفی وابسته است، گرادیان تابع هزینه برای کلاس‌های منفی نیز محاسبه می‌شود. معادلۀ (4) و معادلۀ (5) جزئیات مربوط به محاسبۀ گرادیان را ارائه می‌دهند:

5- الگوریتم بهینه‌سازی

الگوریتم بهینه‌سازی انتشار میانگین مربعات ریشه (RMS prop) به عنوان الگوریتم بهینه‌سازی برای آموزش مدل پیشنهادی استفاده می‌شود. RMS prop به عنوان روشی برای یادگیری کوچک‌دسته‌ای آشوبناک توسعه یافته است [33]. در طی پس‌انتشار، مشکل گرادیان ناپدیدشونده با نرمال‌سازی گرادیان با استفاده از میانگین متحرک مربعات گرادیان‌ها برطرف می‌شود. این نرمال‌سازی، اندازۀ گام را متعادل می‌کند؛ گام را برای گرادیان‌های بزرگ کاهش می‌دهد تا از انفجار گرادیان جلوگیری شود و گام را برای گرادیان‌های کوچک افزایش می‌دهد تا از ناپدیدشدن گرادیان‌ها جلوگیری کند. RMS prop، به جای اینکه نرخ یادگیری را به عنوان یک هایپرپارامتر در نظر بگیرد، دارای نرخ یادگیری تطبیقی است. این بدان معناست که نرخ یادگیری در طول زمان تغییر می‌کند.

6- ارزیابی عملکرد مدل پیشنهادی

برای تعداد نمونه‌های افراد بیماری که سیستم آنها را درست تشخیص داده، مثبت صحیح (TP) است. تعداد نمونۀ افراد سالم که سیستم آنها را درست تشخیص داده است، مثبت کاذب (TN) در نظر گرفته می‌شود. تعداد نمونه‌های سالمی که سیستم آنها را بیمار تشخیص داده، منفی صحیح (FP) است و تعداد نمونه‌های افراد بیماری که سیستم آنها را سالم تشخیص داده، منفی کاذب (FN) در نظر گرفته می‌شود [34]. معیار دقت پس از آموزش مدل قابل ارزیابی است. در این بخش، نتایج مدل پیشنهادی را بررسی خواهیم کرد. دقت معیار اصلی استفاده‌شده برای تعیین میزان عملکرد مدل در پیش‌بینی مثبت واقعی و منفی واقعی است. دقت را می‌توان از معادلۀ (6) به دست آورد:

نسبت مشاهدات مثبت صحیح به کل پیش‌بینی‌های مثبت را صحت می‌نامیم. اگر صحت برابر 1 باشد، مدل پیشنهادی عملکردی خوب دارد. صحت با استفاده از معادلۀ (7) قابل محاسبه است:

معیار پوشش را می‌توان به عنوان حساسیت تعریف کرد که نشان‌دهندۀ توانایی طبقه‌بندی‌کننده برای مکان‌یابی تمام نمونه‌های مثبت است. معیار پوشش با استفاده از معادلۀ (8) قابل محاسبه است [35].

امتیاز F1 معیاری مهم برای ارزیابی عملکرد طبقه‌بندی‌ کننده‌هاست. طبق معادلۀ (9)، این معیار میانگین همساز صحت و پوشش را محاسبه می‌کند. این معیار همچنین نشان می‌دهد چقدر معیار صحت و معیار پوشش با یکدیگر متوازن هستند [36]:

مدل پیشنهادی با دورۀ epoch 50، اندازۀ دسته‌ای 128 و 001/0 به عنوان نرخ یادگیری اولیه آموزش داده شده است. همچنین، از RMSprop به عنوان بهینه‌ساز در مدل استفاده می‌کنیم. دقت مدل DEMNET بدون استخراج ویژگی با استفاده از داده‌های Kaggle برابر 23/95 درصد است. با ترکیب مدل DEMNET با Inceptionv3 برای استخراج ویژگی‌های کلیدی، دقت 52/98 درصد به دست می‌آید. جدول (4) نشان‌‌دهندۀ معیارهای ارزیابی هر دسته در مدل DEMNET به‌تنهایی است. همچنین، در جدول (5)، معیارهای ارزیابی مدل ترکیبی DEMNET با Inceptionv3 مشاهده می‌شوند.

با وجود اینکه در دستۀ VMD، مدل DEMNET از نظر معیارهای صحت، پوشش و امتیاز F1، به‌ ترتیب با مقادیر 99/0، 00/1 و 00/1، عملکردی بهتر نسبت به مدل ترکیبی دارد، میانگین هر سه معیار در مدل ترکیبی پیشنهادی بهبود می‌یابد. مساحت زیر منحنی ROC نشان‌دهندۀ توانایی مدل در تمایز بین کلاس‌های مثبت و منفی است. AUC بیشتر نشان‌دهندۀ عملکرد بهتر مدل در تمایز بین این دو کلاس است. به طور کلی، AUC بین 5/0 تا 1 در نظر گرفته می‌شود. مقدار 1 برای AUC بهترین مقدار است؛ یعنی مدل توانسته است دو دستۀ مثبت و منفی را به‌درستی تشخیص دهد. اما اگر مقدار AUC به عدد 5/0 برسد، این امر نشان‌دهندۀ تصادفی‌بودن مدل است. محاسبۀ AUC برای هر دوره در طول آموزش امکان نظارت مداوم بر عملکرد مدل را فراهم می‌کند. شکل (3) منحنی ROC مدل پیشنهادی این مقاله را نشان می‌دهد.

 

جدول (4): معیارهای ارزیابی مدل DEMNET بدون استفاده از Inceptionv3

مرحله

صحت

پوشش

امتیاز F1

MID

88/0

98/0

93/0

MOD

98/0

87/0

92/0

ND

98/0

96/0

97/0

VMD

99/0

00/1

00/1

 

جدول (5): معیارهای ارزیابی مدل ترکیبی DEMNET با Inceptionv3

مرحله

صحت

پوشش

امتیاز F1

MID

00/1

98/0

99/0

MOD

99/0

00/1

00/1

ND

00/1

96/0

98/0

VMD

96/0

00/1

98/0

شکل (3): منحنی ROC مدل ترکیبی DEMNET با Inceptionv3

  • توسط روش SMOTE، نمونه‌های موجود در هر دسته متقارن می‌شوند؛ در نتیجه، تأثیر روش SMOTE بر مدل پیشنهادی به‌شدت حائز اهمیت است. در شکل (4)، معیار دقت و AUC مدل DEMNET و مدل ترکیبی پیشنهادی قابل مشاهده است. مدل DEMNET با SMOTE پس از آموزش به دقت 23/95 درصد و بدون SMOTE به دقت ۸۵ درصد دست یافته است. مقدار AUC این مدل به ترتیب ۹۷ درصد با SMOTE و ۹۲ درصد بدون SMOTE است. مدل ترکیبی Inceptionv3 با DEMNET پس از آموزش به دقت 52/98 درصد با SMOTE و ۸8 درصد بدون SMOTE دست یافته است. مقدار AUC این مدل به ترتیب ۹9 درصد با SMOTE و ۹4 درصد بدون SMOTE است.

شکل (4): میزان تأثیر روش SMOTE در دو مدل DEMNET و مدل ترکیبی Inceptionv3 با DEMNET

دقت مدل پیشنهادی در این مقاله با استفاده از روش SMOTE به بهبود حدود 10 درصد دست می‌یابد. همچنین، معیار AUC این مدل با روش SMOTE  5 درصد بهبود یافته است. مدل پیشنهادی، یعنی مدل ترکیبی DEMNET با Inceptionv3، با سایر مدل‌های مختلف CNN و یادگیری ماشین مقایسه شده ‌است. این مقایسه را با نتایج سایر مدل‌های مرتبط در نظر می‌گیریم. همچنین، مدل ترکیبی DEMNET با Inceptionv3 در دو حالت بدون اضافه‌کردن روش SMOTE و با اضافه‌کردن روش SMOTE قابل مشاهده است. مدل‌ پیشنهادی با سایر مدل‌های CNN مانند VGG16، شبکۀ سیامی، شبکۀ کانولوشنی Bi-LSTM و پرسپترون چندلایه مقایسه شده‌ که نتایج آن در جدول (6) قابل مشاهده است. در جدول (6)، به‌جز Inceptionv3 + DEMNET(SMOTE)، تمامی مدل‌ها با داده نامتقارن هستند.

 

جدول (6): مقایسۀ نتایج مدل ترکیبی DEMNET با Inceptionv3 با مدل‌های دیگر

مدل

مجموعه‌داده

نوع داده

دقت (%)

Inceptionv3 + DEMNET(SMOTE)

Kaggle

MRI

52/98

Inceptionv3 + DEMNET(without

SMOTE)

Kaggle

MRI

88

DEMNET

Kaggle

MRI

23/95

Ensemble based classifier

Kaggle

sMRI

05/95

VGG16

Kaggle

MRI

03/96

MLP

Kaggle

MRI

89

CBLSTM + GAIN

Kaggle

MRI

82

CBLSTM + SMOTE

Kaggle

MRI

84

شکل (5): مقایسۀ امتیاز F1 مدل پیشنهادی با سایر مدل‌های منتخب دیگر

این مقاله نه فقط قابل مقایسه با تعدادی زیاد از پژوهش‌های انجام‌شده در این زمینه است، بلکه در برخی از موارد، نتایجی بهتر را نیز شاهد هستیم. در میان مدل‌های معرفی‌شده بعد از مدل پیشنهادی، مدل VGG16 بیشترین دقت را دارد. مدل VGG16 دارای 138 میلیون پارامتر است که توان محاسباتی زیادی را نیاز دارد. در شکل (5)، امتیاز F1 مدل پیشنهادی با سایر مدل‌ها مشاهده می‌شود.

با توجه به مقایسه‌های انجام‌شده، امتیاز F1 مدل پیشنهادی بهتر از معیارهای سایر مدل‌هاست. بعد از مدل پیشنهادی، نتایج مدل‌های VGG16 و DEMNET بالا هستند. از آنجا که پارامترهای مدل DEMNET نسبت به VGG16 به‌شدت کم هستند، در مدل پیشنهادی این مقاله، مدل DEMNET برای ترکیب با Inceptionv3 انتخاب شده است.

7- نتیجه‌گیری

بیماری آلزایمر، یک بیماری مغزی است که به‌تدریج عملکرد حافظه و انجام حتی ساده‌ترین کارهارا مختل می‌کند. برای افراد مسن، یکی از شایع‌ترین بیماری‌ها‌ زوال عقلی است. در مراحل اولیۀ بیماری هیپوکامپ، قشر آنتورینال و سایر نواحی حافظه آسیب می‌بینند. سپس، بیماری بر نواحی قشری مغز اثر می‌گذارد. این امر آسیب زیادی به آداب اجتماعی، زبان و توانایی تفکر فرد می‌رساند. تا کنون، هیچ دارویی برای جلوگیری از افزایش مراحل آلزایمر پیدا نشده‌ است. اما اگر بیماری به‌موقع تشخیص داده شود، می‌توان با داروهای مناسب سرعت آن را به‌شدت کاهش داد. پژوهشگران مختلف در سرتاسر جهان از روش‌های یادگیری ماشین و یادگیری عمیق برای تشخیص اولیۀ بیماری آلزایمر استفاده کرده‌اند. در این مقاله، یک مدل ترکیبی از DEMNET و Inceptionv3 پیشنهاد شده ‌است. این مدل با استفاده از داده‌های استاندارد Kaggle برای طبقه‌بندی مراحل زوال عقلی آموزش یافته‌ است. محدودیت اصلی این پایگاه داده عدم تقارن دسته‌هاست. با استفاده از روش SMOTE، مشکل عدم تقارن دسته‌ها حل می‌شود. مدل جدید ما توسط داده‌های موجود در 4 دسته ارزیابی شد و به دقت کلی 52/98 درصد و به AUC مقدار 99 درصد دست می‌یابد. در نهایت، نتایج مدل با سایر مدل‌های مشابه مقایسه شده‌اند. این مدل می‌تواند قسمت‌های مرتبط با بیماری آلزایمر از مغز را شناسایی کند و به عنوان یک سیستم کارآمد پشتیبان تصمیم‌گیری، به پزشکان در پیش‌بینی شدت بیماری آلزایمر بر اساس سطح زوال عقلی کمک کند. به دلیل مقیاس کوچک داده‌های پزشکی، این پروژه از روش‌های افزایش داده برای افزایش حجم داده‌های آموزشی، جلوگیری از مشکل بیش‌برازش و دست‌یابی به عملکرد بهتر در طبقه‌بندی استفاده می‌کند. این پروژه از دو مدل CNN ترکیبی با عملکرد عالی در طبقه‌بندی تصاویر MRI استفاده می‌کند. برای به دست آوردن یک مدل طبقه‌بندی‌کنندۀ بهتر، سعی شده است تا حد امکان پارامترها و هایپرپارامترها به صورت مناسب تنظیم شوند.

 

[1] تاریخ ارسال مقاله  : 30/11/1403

تاریخ پذیرش مقاله : 30/03/1405

نام نویسنده مسئول : محمود محصل فقهی

نشانی نویسنده مسئول : ایران، تبریز، دانشگاه تبریز، دانشکده مهندسی برق و کامپیوتر، گروه مخابرات

 

[i] Magnetic Resonance Imaging

[ii] Synthetic Minority Over-Sampling Technique

[iii] Alzheimer's Disease Neuroimaging Initiative

[iv] Electroencephalogram

[v] Convolutional Neural Network

 

مراجع

  • S. Liu, S. Liu, W. Cai, H. Che, S. Pujol, R. Kikinis, “Multimodal neuroimaging feature learning for multiclass diagnosis of Alzheimer’s disease”, IEEE Trans. Biomed. Eng., Vol. 62, No. 4, pp. 1132-1140, Apr. 2015. https://doi.org/10.1109/TBME.2014.2372011
  • Rahmani, M. Momeni, “Alzheimer Speech Signal Analysis of Persian-speaking Alzheimer's patients”, Computational Intelligence in Electrical Engineering, Vol. 11, No. 1, pp. 81-94, 2020. https://doi.org/10.22108/isee.2019.109797.1109
  • Giorgio, S. M. Landau, W. J. Jagust, P. Tino, Z. Kourtzi, “Modelling prognostic trajectories of cognitive decline due to Alzheimer’s disease”, NeuroImage Clin., Vol. 26, pp. 1-12, Jan. 2020. https://doi.org/10.1016/j.nicl.2020.102199
  • C. Patterson, “World Alzheimer Report 2018: The state of the art of demental research: New frontiers”, Alzheimer’s Disease International, Jun. 2018. https://doi.org/10.1016/j.jalz.2019.06.4115
  • Moser, A. Stadlbauer, C. Windischberger, H. H. Quick, M. E. Ladd, “Magnetic resonance imaging methodology”, Eur. J. Nucl. Med. Mol. Imag., Vol. 36, No. S1, pp. 30-41, Mar. 2009. https://doi.org/10.1007/s00259-008-0938-3
  • Kumar, K. Guleria, S. Tiwari, “An Analytical Study of Covid-19 Pandemic: Fatality Rate and Influential Factors”, Design Engineering, Vol. 13, pp. 12213-25, Nov. 2021. https://doi.org/10.1186/s41043-024-00673-6
  • Dubey, “Alzheimer’s Dataset”, 2019. [online] Available: https://www.kaggle.com/tourist55/alzheimers-dataset-4-class-of-images
  • Lu, A. K. Popuri, G. W. Ding, R. Balachandar, M. F. Beg, “Multimodal and multiscale deep neural networks for the early diagnosis of Alzheimer’s disease using structural MR and FDG-PET images”, Sci. Rep., Vol. 8, No. 1, pp. 1–13, Dec. 2018. https://doi.org/10.1038/s41598-018-22871-z
  • Gupta, K. H. Lee, K. Y. Choi, J. J. Lee, B. C. Kim, G. R. Kwon, “Early diagnosis of Alzheimer’s disease using combined features from voxel-based morphometry and cortical, subcortical, and hippocampus regions of MRI T1 brain images”, PLoS ONE, Vol. 14, No. 10, 2019. https://doi.org/10.1371/journal.pone.0222446
  • Ahmed, K. Y. Choi, J. J. Lee, B. C. Kim, G.-R. Kwon, K. H. Lee, H. Y. Jung, “Ensembles of patch-based classifiers for diagnosis of Alzheimer's disease”, IEEE Access, Vol. 7, pp. 73373–73383, 2019. https://doi.org/10.1109/ACCESS.2019.2920011
  • Basher, B. C. Kim, K. H. Lee, H. Y. Jung, “Volumetric feature-based Alzheimer’s disease diagnosis from sMRI data using a convolutional neural network and a deep neural network”, IEEE Access, Vol. 9, pp. 29870–29882, 2021. https://doi.org/10.1109/ACCESS.2021.3059658
  • Nawaz, M. Maqsood, S. Afzal, F. Aadil, I. Mehmood, S. Rho, “A deep feature-based real-time system for alzheimer disease stage detection”, Multimedia Tools Appl., pp. 1–19, Jun. 2020. https://doi.org/10.1007/s11042-020-09087-y
  • Ieracitano, N. Mammone, A. Bramanti, A. Hussain, F. C. Morabito, “A convolutional neural network approach for classification of dementia stages based on 2D-spectral representation of EEG recordings”, Neurocomputing, Vol. 323, pp. 96–107, Jan. 2019. https://doi.org/10.1016/j.neucom.2018.09.071
  • Jain, N. Jain, A. Aggarwal, D. J. Hemanth, “Convolutional neural network-based Alzheimer’s disease classification from magnetic resonance brain images”, Cognit. Syst. Res., Vol. 57, pp. 147–159, Oct. 2019. https://doi.org/10.1016/j.cogsys.2018.12.015
  • Mehmood, S. Yang, Z. Feng, M. Wang, A. S. Ahmad, R. Khan, M. Maqsood, M. Yaqub, “A transfer learning approach for early diagnosis of Alzheimer’s disease on MRI images”, Neuroscience, Vol. 460, pp. 43–52, Apr. 2021. https://doi.org/10.1016/j.neuroscience.2021.01.002
  • Shi, X. Zheng, Y. Li, Q. Zhang, S. Ying, “Multimodal neuroimaging feature learning with multimodal stacked deep polynomial networks for diagnosis of Alzheimer’s disease”, IEEE J. Biomed. Health Informat., Vol. 22, No. 1, pp. 173–183, Jan. 2018. https://doi.org/10.1109/JBHI.2017.2655720
  • -F. Liu, S. Padhy, S. Ramachandran, V. X. Wang, A. Efimov, A. Bernal, et al., “Using deep Siamese neural networks for detection of brain asymmetries associated with Alzheimer’s disease and mild cognitive impairment”, Magn. Reson. Imag., Vol. 64, pp. 190–199, Dec. 2019. https://doi.org/10.1016/j.mri.2019.07.003
  • Wang, Y. Shen, S. Wang, T. Xiao, L. Deng, X. Wang, X. Zhao, “Ensemble of 3D densely connected convolutional network for diagnosis of mild cognitive impairment and Alzheimer’s disease”, Neurocomputing, Vol. 333, pp. 145–156, Mar. 2019. https://doi.org/10.1016/j.neucom.2018.12.018
  • K, L. S. K., A. Khanna, S. Tanwar, J. J. P. C. Rodrigues, N. R. Roy, “Alzheimer detection using group grey wolf optimization-based features with convolutional classifier”, Comput. Electr. Eng., Vol. 77, pp. 230–243, Jul. 2019. https://doi.org/10.1016/j.compeleceng.2019.06.001
  • R. Janghel, Y. K. Rathore, “Deep convolution neural network-based system for early diagnosis of Alzheimer’s disease”, IRBM, Vol. 1, pp. 1–10, Jul. 2020. https://doi.org/10.1016/j.irbm.2020.06.006
  • Ge, Q. Qu, I. Y.-H. Gu, A. Store Jakola, “Multiscale deep convolutional networks for characterization and detection of Alzheimer’s disease using MR images”, in Proc. IEEE Int. Conf. Image Process. (ICIP), pp. 789–793, Sep. 2019. https://doi.org/10.1109/ICIP.2019.8803731
  • Bi, H. Wang, “Early Alzheimer’s disease diagnosis based on EEG spectral images using deep learning”, Neural Netw., Vol. 114, pp. 119–135, Jun. 2019. https://doi.org/10.1016/j.neunet.2019.02.005
  • Sarraf, D. DeSouza, J. Anderson, G. Tofighi, “DeepAD: Alzheimer’s disease classification via deep convolutional neural networks using MRI and fMRI”, bioRxiv, Art. No. 070441, 2016. https://doi.org/10.1101/070441
  • Afzal, M. Maqsood, F. Nazir, U. Khan, F. Aadil, K. M. Awan, I. Mehmood, O.-Y. Song, “A data augmentation-based framework to handle class imbalance problem for Alzheimer’s stage detection”, IEEE Access, Vol. 7, pp. 115528–115539, 2019. https://doi.org/10.1109/ACCESS.2019.2932786
  • Lu, A. K. Popuri, G. W. Ding, R. Balachandar, M. F. Beg, “Multimodal and multiscale deep neural networks for the early diagnosis of Alzheimer’s disease using structural MR and FDG-PET images”, Sci. Rep., Vol. 8, No. 1, pp. 1-13, Dec. 2018. https://doi.org/10.1038/s41598-018-22871-z
  • Mansourifar, W. Shi, “Deep Synthetic Minority Over-Sampling Technique”, 2020. https://doi.org/10.48550/arXiv.2003.09788
  • Dablain, B. Krawczyk, N. V. Chawla, “DeepSMOTE: Fusing Deep Learning and SMOTE for Imbalanced Data”, 2021. https://doi.org/10.1109/TNNLS.2021.3136503
  • Werner de Vargas, J. Arthur Schneider Aranda, R. dos Santos Costa, P. Ricardo da Silva Pereira, “Imbalanced data preprocessing techniques for machine learning: a systematic mapping study”, 2023. https://doi.org/10.1007/s10115-022-01772-8
  • Ramaneswaran, K. Srinivasan, P. M. D. R. Vincent, C.-Y. Chang, “Hybrid Inception v3 XGBoost model for acute lymphoblastic leukemia classification”, Comput. Math. Methods Med., Vol. 2021, pp. 1-10, Jul. 2021. https://doi.org/10.1155/2021/2577375
  • Szegedy, V. Vanhoucke, S. Ioffe, J. Shlens, Z. Wojna, “Rethinking the inception architecture for computer vision”, in IEEE Conference on Computer Vision and Pattern Recognition (CVPR), Las Vegas, NV, USA, pp. 2818-2826, Jun. 2016. https://doi.ieeecomputersociety.org/10.1109/CVPR.2016.308
  • Murugan, C. Venkatesan, M. G. Sumithra, X.-Z. Gao, B. Elakkiya, M. Akila, “DEMNET: A deep learning model for early diagnosis of Alzheimer's disease and dementia from MR images”, IEEE Access, Vol. 9, pp. 90319-90329, 2021. https://doi.org/10.1109/ACCESS.2021.3090474
  • M. J. M. Shamrat, “AlzheimerNet: An Effective Deep Learning-Based Proposition for Alzheimer’s Disease Stages Classification From Functional Brain Changes in Magnetic Resonance Images”, in IEEE Access, Vol. 11, pp. 16376-16395, 2023. https://doi.org/10.1109/ACCESS.2023.3244952
  • Esmaeili, M. M. Feghhi, S. Omid Shahdi, “Early COVID-19 Diagnosis from Lung Ultrasound Images Combining RIULBP-TP and 3D-DenseNet”, In Proc. 9th Iranian Joint Congress on Fuzzy and Intelligent Systems (CFIS), Bam, Iran, pp. 1-5, 2022. https://doi.org/10.1109/CFIS54774.2022.9756430
  • Esmaeili, M. Mohassel Feghhi, “COVID-19 Diagnosis: ULBPFPNet Approach on Lung Ultrasound Data”, Iranian Journal of Electrical & Electronic Engineering, Vol. 19, No. 3, pp. 1-10, 2023. https://doi.org/10.22068/IJEEE.19.3.2612
  • Esmaeili, M. Mohassel Feghhi, S. O. Shahdi, “COVID-19 Diagnosis: ULGFBP-ResNet51 approach on the CT and the Chest X-ray Images Classification”, arXiv preprint arXiv:2312.12876, 2023. https://doi.org/10.48550/arXiv.2312.12876
  • Esmaeili, M. Mohassel Feghhi, “Diagnosis of Covid-19 Disease by Combining Hand-crafted and Deep-learning Methods on Ultrasound Data”, Journal of Machine Vision and Image Processing, Vol. 9, No. 4, pp. 31-41, 2022. https://doi.org/146155
هوش محاسباتی در مهندسی برق
دوره 17، شماره 2
شهریور 1405
صفحه 1-14

فایل ها

سابقه مقاله

  • تاریخ دریافت: 30 بهمن 1403
  • تاریخ بازنگری: 05 اسفند 1404
  • تاریخ پذیرش: 30 خرداد 1405
  • تاریخ انتشار: 01 شهریور 1405

هم رسانی

ارجاع به این مقاله

آمار