مدل سخت‌افزاری برای نورون اتفاقی مبتنی بر پیوند تونل مغناطیسی در جریان‌های کمتر از جریان بحرانی

نوع مقاله : مقاله پژوهشی فارسی

نویسندگان

1 دانشجوی دکتری، دانشکده مهندسی برق، دانشگاه شهید بهشتی تهران، تهران، ایران

2 مدیر گروه الکترونیک، دانشکده مهندسی برق. دانشگاه شهید بهشتی، تهران، ایران

3 گروه الکترونیک، دانشکده مهندسی برق، دانشگاه شهید بهشتی، تهران، ایران

چکیده

نورون اتفاقی در شبکه‌های عصبی اهمیت زیادی دارد و یکی از مهم‌ترین مباحث در الگوریتم‌های یادگیری ماشین است. پژوهشگران همواره به پیاده‌سازی سخت‌افزاری شبکه‌های عصبی توجه ویژه داشته‌اند. پیاده‌سازی سخت‌افزاری شبکه‌های عصبی باعث افزایش چشم‌گیر کارایی و کاربرد شبکه‌های عصبی می‌شود؛ به همین دلیل، پیاده‌سازی سخت‌افزاری نورون اتفاقی نیز اهمیت زیادی دارد. در این مقاله با استفاده از ویژگی تغییر حالت احتمالی پیوند تونل مغناطیسی در جریان‌های کمتر از جریان بحرانی، یک مدل سخت‌افزاری برای نورون اتفاقی ارائه شده‌ است. نتایج شبیه‌سازی مدل پیشنهادی با استفاده از نرم‌افزار HSpice نشان می‌دهند مدل پیشنهادی عملکردی مشابه توصیف ریاضی نورون اتفاقی دارد و خطای این مدل نسبت به توصیف ریاضی همـواره کمتر از 4.8% است. همچنین، شبیه‌سازی در گوشه‌های فرآیند ساخت نشان می‌دهد این مدل حتی در حضور تغییرات فرایـند ساخت نیـز عـملکرد پذیرفتنی داشته و میـزان خـطای آن نسـبت به شبیه‌سازی ایدئال و مدل ریاضی به‌ترتیب کمتر از 15.46% و 17.43% است.

کلیدواژه‌ها


عنوان مقاله [English]

Hardware Model for Stochastic Neuron Based on Magnetic Tunnel Junction in the Subcritical Current Switching Regime

نویسندگان [English]

  • Abdola Amirany 1
  • kian Jafari 2
  • Mohammad Hossein Moaiyeri 3
1 Ph.D. Candidate, Electrical Engineering Dep., Shahid Beheshti University (SBU), Tehran, Iran
2 Head of Electronics Group, Electrical Engineering Dep., Shahid Beheshti University (SBU), Tehran, Iran
3 Electronics Group, Electrical Engineering Dep., Shahid Beheshti University (SBU), Tehran, Iran
چکیده [English]

The stochastic neuron has great importance in neural networks and is one of the most important subjects in machine learning algorithms. Hardware implementation of neural networks has always been of interest to researchers and can significantly increase the performance and applications of neural networks. Hence hardware implementation of the stochastic neuron is also important. In this paper, utilizing stochastic behavior of MTJs in subcritical current regime a hardware model for stochastic neurons is proposed. Using HSpice tool, the proposed model was simulated and simulation results show that the proposed model functionality is similar to the mathematical description of the stochastic neuron and the error of this model is always less than 4.8% compared to the mathematical description of the stochastic neuron. Also using corner simulation, it was shown that this model performs properly even in the presence of process variation and its error rate is less than 15.46% and 17.43% compared to the mathematical model and ideal simulation, respectively.

کلیدواژه‌ها [English]

  • pintronic
  • Magnetic tunnel junction
  • Critical current
  • Neuromorphic computing
  • Hardware model
  • Stochastic neuron
  • مقدمه[1]

[2]سیستم‌های محاسباتی موجود با معماری Von-Neumann باوجود اینکه قادر به انجام میلیاردها دستور در ثانیه‌اند، چالش‌های اساسی نیز دارند [1، 2]. این سیستم‌ها عموماً محاسبات را به‌صورت سرّی انجام می‌دهند و درنتیجه با افزایش پیچیدگی عملیات‌های محاسباتی کارایی این سیستم‌ها به‌شدت کاهش می‌یابد و در برخی موارد حتی‌ به انجام محاسبات نیز قادر نیستند [3، 4].

پژوهشگران امروزه به طراحی و ساخت سیستم‌های محاسباتی الگوبرداری‌شده از شبکه‌‌های عصبی طبیعی با ویژگی‌هایی مشابه مغز انسان ازجمله ویژگی یادگیری توجه ویژه داشته‌اند [5، 6]. در کنار طراحی، مدل‌سازی و پیاده‌سازی سخت‌افزاری این سیستم‌ها نیز اهمیت ویژه‌ای دارد. پیاده‌سازی سخت‌افزاری، کارایی سیستم را به‌شدت افزایش می‌دهد. همچنین، توان مصرفی برای انجام هر محاسبه را نیز تا حد چشمگیری کاهش می‌دهد [7، 8].

افزاره‌های اسپینترونیک ازجمله پیوند تونل مغناطیسی به دلیل ویژگی‌های جذابشان ازجمله سازگاری و امکان ساخت در کنار ترانزیستورهای CMOS، نافراربودن، قابلیت مجتمع‌سازی و تغییر حالت احتمالی در جریان‌های کمتر از جریان بحرانی به یکی از گزینه‌های شایان توجه پژوهشگران برای پیاده‌سازی سخت‌افزاری شبکه‌های عصبی تبدیل شده‌اند [9، 10].

یکی از مهم‌ترین عناصر در الگوریتم‌های یادگیری ماشین و پیاده‌سازی سخت‌افزاری شبکه‌های عصبی نورون اتفاقی است [11]. در این مقاله، با استفاده از ویژگی تغییر حالت احتمالی پیوند تونل مغناطیسی در جریان‌های کمتر از جریان بحرانی، یک مدل سخت‌افزاری برای نورون اتفاقی ارائه شده‌است. مدل ارائه‌شده عملکردی مشابه مدل ریاضی نورون اتفاقی داشته و قابل پیاده‌سازی در تعداد زیاد برای پیاده‌‌سازی شبکه‌های عصبی اتفاقی به‌صورت سخت‌افزاری است.

این مقاله به این صورت سازماندهی شده ‌است که در بخش دوم پیش‌نیازهای مورد نیاز ازجمله مدل ریاضی نورون اتفاقی، ساختار پیوند تونل مغناطیسی و رفتار پیوند تونل مغناطیسی در جریان‌های کمتر از جریان بحرانی بررسی شده‌اند. مدل سخت‌افزاری پیشنهادی برای نورون اتفاقی با استفاده از پیوند تونل مغناطیسی در بخش سوم توضیح داده شده‌است. در بخش چهارم، نتایج حاصل از شبیه‌سازی مدل پیشنهادی و نتایج حاصل از شبیه‌سازی‌ها در گوشه‌های فرآیند برای بررسی تأثیر تغییرات فرآیند ساخت بر عملکرد مدل پیشنهادی ارائه شده‌اند. درنهایت، در بخش پنجم نتیجه‌گیری ‌شده است.

 

2- پیش نیاز ها

1-2- نورون اتفاقی

در یک نورون Threshold Logic Unit اگر تمام عوامل مؤثر بر خروجی، مشاهده‌پذیر و در ورودی لحاظ شده باشد، اگر مجموع ورودی‌ها از مقدار آستانه بیشتر باشد، خروجی برابر یک و اگر کوچک‌تر باشد، خروجی برابر صفر خواهد بود [11]؛ اما در یک نورون اتفاقی، تمام عوامل مؤثر بر خروجی در ورودی لحاظ نشده است یا امکان در نظر گرفتن تمامی عوامل وجود ندارد؛ درنتیجه، مقایسه با مقدار آستانه، تنها عامل تعیین‌کنندۀ خروجی نیست و تنها احتمال رخداد هر یک از حالت‌های خروجی (صفر یا یک) را تعیین می‌کند [11]. این تابعِ احتمال با  نشان داده و معمولاً به‌صورت رابطۀ 1 نمایش داده می‌شود [11].

(1)

 

 

در رابطه (1)، v تأثیر ورودی‌های مشاهده‌پذیر (عوامل معلوم) و T تاثیر ورودی‌های مشاهده‌ناپذیر (عوامل نامعلوم) را نشان می‌دهد. همچنین، پارامتر v0 نیز برای انتقال مبدأ مختصات به کار می‌رود. با توجه به رابطه (1) نسبت  تعیین‌کنندۀ رفتار نورون است. اگر این نسبت خیلی بزرگ یا خیلی کوچک باشد، رفتار نرون کاملاً قطعی است و در مقادیر میانی نورون رفتار اتفاقی دارد [11].

 

2-2- پیوند تونل مغناطیسی

پیوند تونل مغناطیسی به‌عنوان عنصر اصلی مدار‌های اسپینترونیک از دو لایۀ فرومغناطیسی تشکیل شده‌‌ است که با یک لایۀ عایق نازک از هم جدا شده‌اند (نشان داده شده در شکل (1)). مشاهده شده ‌‌است اگر قطر لایۀ عایق به اندازۀ کافی نازک باشد، الکترون‌های موجود در یک لایۀ فرومغناطیسی می‌توانند از درون لایۀ عایق، تونل بزنند و به لایۀ فرومغناطیسی دیگر بروند و یک جریان الکتریکی ایجاد کنند [12، 13].

با توجه به جهت‌گیری بردار‌های مغناطیسی لایه‌های فرومغناطیسی نسبت به‌هم برای یک پیوند تونل مغناطیسی دو حالت کاری مختلف ممکن است:

 

(پ)

(ب)

(الف)

شکل (1): پیوند تونل مغناطیسی (الف) ساختار (ب) حالت موازی پ) حالت غیرموازی

حالت موازی: در این حالت بردار‌های مغناطیسی لایه‌های فرو‌مغناطیس هم‌جهت‌اند.

حالت غیرموازی: در این حالت، بردار‌های مغناطیسی لایه‌های فرو‌مغناطیس در خلاف جهت هم‌اند.

دیده شده ‌‌است الکترون‌های لایۀ فرومغناطیسی در یک پیوند تونل مغناطیسی در حالت موازی در مقایسه با حالت غیرموازی با احتمال بیشتری تونل‌زنی می‌کنند و بین دو لایۀ فرومغناطیس جابه‌جا می‌شوند. با توجه به این پدیده، یک پیوند تونل مغناطیسی مانند یک کلید دارای دو حالت است؛ حالت موازی با مقاومت الکتریکی کم و حالت غیرموازی با مقاومت الکتریکی زیاد [12، 13].

بـا توجـه به مقاومت پیوند تونل مغناطیسی در حالت‌های موازی و غیرموازی، پارامترTunnel magnetoresistance  (TMR) به‌صورت رابطۀ (2) تعریف می‌شود [14، 15]. هرچه TMR بیشتر باشد، باعث می‌شود خواندن حالت پیوند تونل مغناطیسی با دقت و قابلیت اطمینان بیشتری انجام شود [14، 15].

(2)

 

در رابطه 2، RAP مقاومت پیوند تونل مغناطیسی در حالت غیرموازی و RP مقاومت پیوند تونل مغناطیسی در حالت موازی است.

 

3-2- رفتار پیوند تونل مغناطیسی در جریان‌های کمتر از جریان بحرانی

برای تغییر حالت پیوند تونل مغناطیسی، یک جریان از این پیوند باید عبور کند. با توجه به ساختار فیزیکی پیوند تونل مغناطیسی، پارامتری به نام جریان بحرانی (رابطه (3)) برای این پیوند تعریف می‌شود [16].

(3)

 

در رابطه (3)،  ثابت میرایی مغناطیسی،  نسبت ژیرومغناطیس،  بار الکترون،  ثابت تراوایی مغناطیسی خلا،  میدان مغناطیسی اشباع، میدان ناهمسان‌گرد مؤثر،  حجم لایۀ آزاد،  ثابت مغناطیسی بور و  فاکتور قطبیدگی اسپین است [16]. رفتار پیوند تونل مغناطیسی در جریان‌های بیشتر و کمتر از جریان بحرانی متفاوت است.

در جریان‌های بیشتر از جریان بحرانی، تغییر حالت پیوند تونل مغناطیسی قطعی است [16].

در جریان‌های کمتر از جریان بحرانی، تغییر حالت پیوند تونل مغناطیسی احتمالی است و از توزیع احتمال بیان‌شده از رابطۀ (4) پیروی می‌کند [16].

(4)

 

 

در این توزیع  مدت زمان عبور جریان از پیوند تونل مغناطیسی،  زمان تغییر حالت استاندارد و  فاکتور دمایی است [16].

 

3- مدل سخت‌افزاری پیشنهادی برای نورون اتفاقی

شکل (2) الف مدل سخت‌افزاری پیشنهادی را برای نورون اتفاقی نشان می‌دهد. این مدل بر‌اساس تقسیم ولتاژ بین یک پیوند تونل مغناطیسی ثابت (Fixed MTJ) با مقاومت (RAP+ RP)/2 و یک پیوند تونل مغناطیسی قابل پیکره‌بندی (Reconfigurable MTJ) کار می‌کند. عملکرد این نورون به سه قسمت پیکره‌بندی، خواندن وضعیت و بازنشانی تقسیم می‌شود.

 

(الف)

(ب)

شکل (2): مدل پیشنهادی (الف) مدل سخت‌افزاری پیشنهادی برای نورون اتفاقی؛ (ب) مدار تولید سیگنال‌های بازنشانی و خواندن.

 

پیکره‌بندی پیوند تونل مغناطیسی: زمانی که سیگنال کلاک (Clk) صفر، سیگنال بازنشانی (ResB) یک و سیگنال خواندن (ReadB) یک باشد، جریان سیناپس (I Synapse) ازطریق ترانزیستور MP1 به مدت 10 نانوثانیه از پیوند تونل مغناطیسی قابل پیکره‌بندی عبور می‌کند. پیکره‌بندی پیوند تونل مغناطیسی قابل پیکره‌بندی با توجه به مقدار جریان سیناپس براساس توزیع احتمال بیان‌شده در بخش 2-3 (رابطۀ (2)) تغییر می‌کند.

خواندن وضعیت پیوند تونل مغناطیسی: زمانی که سیگنال کلاک یک، سیگنال بازنشانی یک و سیگنال خواندن صفر باشد، ترانزیستور MP3 روشن می‌شود و یک تقسیم ولتاژ بین پیوندهای تونل مغناطیسی ثابت و قابل ‌پیکره‌بندی اتفاق می‌افتد. در این زمان، اگر پیوند تونل مغناطیسی قابل پیکره‌بندی در حالت موازی باشد، مقاومت این پیوند از مقاومت پیوند ثابت کمتر خواهد بود و درنتیجه، افت ولتاژ روی این پیوند کمتر از خواهد بود. این افت ولتاژ با وارونگر INV1 به مقدار یک در خروجی (Output) تفسیر خواهد شد. اگر پیوند تونل مغناطیسی قابل پیکره‌بندی در حالت غیرموازی باشد، مقاومت این پیوند از مقاومت پیوند ثابت بیشتر خواهد بود و با توجیه مشابه خروجی صفر خواهد بود. با توجه به  ترانزیستور MP2 که برابر 2 است، جریان عبوری از پیوند‌های تونل مغناطیسی در زمان خواندن کم بوده است (کمتر از 30 میکرو آمپر) و این جریان نمی‌تواند باعث تغییر وضعیت پیوند‌ها شود.

بازنشانی پیوند تونل مغناطیسی: پس از خواندن وضعیت پیوند تونل مغناطیسی، زمانی که سیگنال کلاک یک، سیگنال بازنشانی صفر و سیگنال خواندن یک باشد، ترانزیستور MP2 روشن می‌شود و یک جریان نسبتاً زیاد (در حدود 200 میکروآمپر) به مدت 10 نانو ثانیه از پیوند تونل مغناطیسی عبور می‌کند. این جریان از جریان بحرانی بیشتر است و وضعیت پیوند تونل مغناطیسی متغیر را به‌صورت قطعی به غیر‌موازی تغییر می‌دهد.

سیگنال‌های بازنشانی و خواندن با مدار نشان داده شده در شکل (2) ب با استفاده از ایجاد تأخیر در سیگنال کلاک با وارونگرهای‌ بزرگ (INV2 تا INV5) و سپس NAND کردن سیگنال‌های تأخیریافته با سیگنال کلاک اصلی تولید می‌شود. درخور ذکر است این قسمت از مدار اشتراکی بود و یک مدار نشان داده شده در شکل (2) ب برای تمامی نورون‌های موجود در سیستم کافی است.

4- شبیه‌سازی مدل پیشنهادی

1-4- شبیه‌سازی عملکرد مدل پیشنهادی

با استفاده از مدل ترانزیستورهای CMOS 45 نانومتر و مدل پیوند تونل مغناطیسی ارائه‌شده در [17] مدل پیشنهادی برای نورون اتفاقی در نرم‌افزار HSpice شبیه‌سازی شد. مشخصات پیوند تونل مغناطیسی استفاده‌شده در جدول (1) آمده‌اند. در تمامی شبیه‌سازی‌ها ولتاژ تغذیه 1.1 ولت در نظر گرفته شده‌ است.

 

جدول (1) مشخصات پیوند تونل مغناطیسی استفاده‌شده

متغیر

مقدار

زمان تغییر حالت استاندارد

5 نانوثانیه

فاکتور دمایی

20

جریان بحرانی

100 میکروآمپر

ابعاد لایۀ آزاد

40 × 40 نانومتر

ضخامت لایۀ آزاد

1.3 نانومتر

TMR در ولتاژ بایاس صفر ولت

300%

TMR در ولتاژ کاری مدار

278%

مقاومت پیوند تونل مغناطیسی

8 کیلو اهم تا 32 کیلو اهم

ضخامت لایۀ عایق

0.85 نانومتر

سطح مقطع پیوند

مربع

 

شکل (3) سیگنال‌های مورد نیاز برای عملکرد مدل پیشنهادی و جریان عبوری از پیوند تونل مغناطیسی را نشان می‌دهد. همان‌طور که این شکل نشان می‌دهد ابتدا پیوند مغناطیسی قابل پیکره‌بندی با جریان سیناپس، پیکره‌بندی می‌شود، سپس مدار وارد مرحلۀ خواندن وضعیت پیوند تونل مغناطیسی می‌شود. نکته درخور توجه در این مرحله این است که جریان خواندن به سبب ترانزیستور MP3 در شکل (2) الف محدود شده (20 تا 30 میکروآمپر با توجه به وضعیت پیوند سلول مغناطیسی قابل پیکره‌بندی) و احتمال تغییر حالت در طی عملیات خواند با توجه به محدودبودن جریان و زمان کم عملیات خواندن (5 نانوثانیه) بسیار اندک (در حدود 0.0001%) است. پس از عملیات خواندن نیز یک جریان 200 میکروآمپری به مدت 5 نانوثانیه از پیوند مغناطیسی قابل پیکره‌بندی عبور می‌کند و وضعیت این پیوند را به غیر‌موازی تغییر می‌دهد.

برای بررسی عملکرد مدل پیشنهادی به‌عنوان نورون اتفاقی نیز به این صورت عمل شده ‌است که برای جریان سیناپس در بازه 30 تا 80 میکرو‌آمپر با گام یک میکروآمپر برای هر جریان 1000 بار عملیات پیکره‌بندی پیوند تونل مغناطیسی انجام شده ‌است (درمجموع 51000 عملیات پیکره‌بندی مستقل). سپس نتایج این عملیات‌ها استخراج و با مدل ریاضی نورون اتفاقی مقایسه شده‌اند (شکل 4). با توجه به شکل (4)، مدل پیشنهادی، عملکردی مشابه مدل ریاضی نرون اتفاقی با خطایی کمتر از 4.8% دارد. درخور توجه است با تغییر حجم لایۀ آزاد ( ) طبق رابطه (3) می‌توان جریان بحرانی را تغییر داد و نمودار را به سمت راست یا چپ جابه‌جا کرد.

 

 

 

شکل (3): سیگنال‌های مورد نیاز برای عملکرد مدل پیشنهادی، نواحی عملکردی و جریان عبوری از پیوند تونل مغناطیسی

 

شکل (4): عملکرد مدل پیشنهادی برای نورون اتفاقی در مقایسه با مدل ریاضی نورون اتفاقی

 

2-4- بررسی عملکرد مدل پیشنهادی در حضور تغییرات فرآیند ساخت.

برای بررسی تأثیر تغییرات فرایند ساخت و دما بر عملکرد مدل پیشنهادی، شبیه‌سازی در دو گوشۀ SS (کمترین جریان عبوری) و FF (بیشترین جریان عبوری) انجام شد. متغیرهای جدول (2) به‌عنوان متغییرهای حساس مدار در نظر گرفته شدند [15، 17]. با توجه به شکل (5) الف، مدل پیشنهادی حتی در گوشه‌های فرآیند ساخت نیز عمل‌کرد پذیرفته‌شده‌ای دارد.

شکل (5) ب بیشینۀ خطای مدل پیشنهادی را در گوشه‌های فرایند ساخت نسبت به مدل ریاضی و شبیه‌سازی ایدئال نشان می‌دهد. همان‌طور که این شکل نشان می‌دهد مدل پیشنهادی در گوشه FF نسبت به شبیه‌سازی ایدئال حداکثر 15.46% و نسبت به مدل ریاضی نورون اتفاقی حداکثر 17.43% خطا دارد. نکتۀ شایان توجه دیگر در شکل (5) ب این است که بیشینۀ میزان خطا در بازه 49 تا 56 میکروآمپر (14% بازه کاری نورون) بالای 10% بوده و 86% مواقع کمتر از 10% است.

 

 

 

 

جدول (2) متغییرهای حساس مدار

متغیر

مقدار تغییرات

پیوند تونل مغناطیسی

ضخامت لایۀ آزاد

5%

TMR

10%

ابعاد پیوند

15%

مقاومت واحد سطح

15%

ترانزیستورهای CMOS

طول کانال

5%

نسبت W به L

20%

ولتاژ آستانه

20%

 

(الف)

(ب)

شکل (5) نتایج شبیه‌سازی در گوشه‌های فرآیند ساخت (الف) عملکرد مدل پیشنهادی برای نورون اتفاقی در گوشه‌های SS و FF (ب) میزان خطا نسبت به مدل ریاضی و شبیه‌سازی ایدئال

5- نتیجه‌گیری

در این مقاله، با استفاده از تغییر حالت احتمالی پیوند تونل مغناطیسی در جریان‌های کمتر از جریان بحرانی، یک مدل سخت‌افزاری برای نورون اتفاقی به‌عنوان یکی از مهم‌ترین عناصر در پیاده‌سازی سخت‌افزاری شبکه‌های عصبی و همچنین، الگوریتم‌های یادگیری ماشین و هوش مصنوعی ارائه شدند. نتایج شبیه‌سازی‌ها نشان می‌دهند مدل پیشنهادی برای نورون اتفاقی عملکردی کاملاً مشابه با توصیف ریاضی نورون اتفاقی با خطایی کمتر از 4.8% دارد. همچنین، نتایج شبیه‌سازی در گوشه‌های فرآیند برای بررسی تأثیر تغییرات فرایند ساخت نشان می‌دهد مدل پیشنهادی حتی در گوشه‌های فرآیند ساخت نیز عملکرد پذیرفتنی داشته و میزان خطای آن نسبت به شبیه‌سازی ایدئال و مدل ریاضی به‌ترتیب کمتر از 15.46% و 17.43% است. ازنظر مساحت نیز مدل پیشنهادی به پنج ترانزیستور CMOS و دو پیوند تونل مغناطیس نیاز دارد که از این نظر نیز سربار سخت‌افزاری زیادی ندارد و مساحت زیادی را اشغال نمی‌کند. همچنین، به سبب ماهیت نا‌فرار پیوند تونل مغناطیسی مدل پیشنهادی نیز نافرار است.

 

[1] تاریخ ارسال مقاله: 06/04/1399

تاریخ پذیرش مقاله: 04/11/1399

نام نویسندۀ مسئول: کیان جعفری

نشانی نویسندۀ مسئول: ایران – تهران– دانشگاه شهید بهشتی – دانشکده مهندسی برق

 

[1] S. Basu, R. Bryant, G. De Micheli, T. Theis and L. Whitman, "Nonsilicon, Non-von Neumann Computing—Part I", Proceedings of the IEEE, Vol. 107, No. 1, January 2019, pp. 11-18.
[2] A. Rezaeipanah, A. Mobaraki, and S. Bahrani Khademi, “Optimization of MLP Neural Network Using the FinGrain Parallel Genetic Algorithm for Breast Cancer Diagnosis”, Journal of Modeling in Engineering, Vol. 17, No. 57, 2019, pp 173-186.
[3] M. Asyaei, “Low-Power Register File Design in 90nm CMOS Technology”, Journal of Modeling in Engineering, Vol. 16, No. 54, 2018, pp 69-81.
[4] S. Bahram Beheshti Aval,  V. Ahmadian,  and E. Darvishan, “Damage detection of structures using signal processing and artificial neural networks”, Journal of Modeling in Engineering, Vol. 16, No. 52, 2018, pp 253-265.
[6] S. Shabani Zade Rabori, V. Khatibi Bardsiri, and A. Khatibi Bardsiri, “Presentation of a new method for predicting software defect using neural network combination and grasshopper algorithm.”, Journal of Modeling in Engineering, Vol. 17, No. 57, 2019, pp 201-214.
[7] Z. Moravej, A. Abdoos, and M. Pazoki, “An Intelligent Method for Detection and Classification of Power Quality Events”, Journal of Modeling in Engineering, Vol. 9, No. 27, 2017, pp 23-36.
[5] D. Shin and H. Yoo, "The Heterogeneous Deep Neural Network Processor with a Non-von Neumann Architecture", Proceedings of the IEEE, Early Access, February 2019, pp. 1-16.
[6] S. Shabani Zade Rabori, V. Khatibi Bardsiri, and A. Khatibi Bardsiri, “Presentation of a new method for predicting software defect using neural network combination and grasshopper algorithm.”, Journal of Modeling in Engineering, Vol. 17, No. 57, 2019, pp 201-214.
[7] Z. Moravej, A. Abdoos, and M. Pazoki, “An Intelligent Method for Detection and Classification of Power Quality Events”, Journal of Modeling in Engineering, Vol. 9, No. 27, 2017, pp 23-36.
[8] S. Hu et al., "Associative memory realized by a reconfigurable memristive Hopfield neural network", Nature Communications, Vol. 6, No. 1, June 2015, pp 1-8.
[9] A. Sengupta and K. Roy, "A Vision for All-Spin Neural Networks: A Device to System Perspective", IEEE Transactions on Circuits and Systems I: Regular Papers, Vol. 63, No. 12, December 2016, pp. 2267-2277.
[10] A. Amirany and R. Rajaei, "Fully Nonvolatile and Low Power Full Adder Based on Spin Transfer Torque Magnetic Tunnel Junction With Spin-Hall Effect Assistance", IEEE Transactions on Magnetics, Vol. 54, No. 12, October 2018, pp. 1-7, 2018.
[11] S, Haykin, Neural Networks and Learning Machines, 3rd ed., Prentice Hall, NJ, USA, 2009.
[12] S. Ikeda et al., "Tunnel magnetoresistance of 604% at 300K by suppression of Ta diffusion in CoFeB∕MgO∕CoFeB pseudo-spin-valves annealed at high temperature", Applied Physics Letters, Vol. 93, No. 8, August 2008, pp. 082508.
[13] J. Slonczewski, "Conductance and exchange coupling of two ferromagnets separated by a tunneling barrier", Physical Review B, Vol. 39, No. 10, April 1989, pp. 6995-7002.
[14] R. Rajaei and A. Amirany, "Reliable, High-Performance, and Nonvolatile Hybrid SRAM/MRAM-Based Structures for Reconfigurable Nanoscale Logic Devices", Journal of Nanoelectronics and Optoelectronics, Vol. 13, No. 9, September 2018, pp. 1271-1283.
[15] A. Amirany and R. Rajaei, "Spin-Based Fully Nonvolatile Full-Adder Circuit for Computing in Memory", SPIN, Vol. 09, No. 01, April 2019, pp. 1950007.
[16] Y. Qu, J. Han, B. Cockburn, W. Pedrycz, Y. Zhang and W. Zhao, “A true random number generator based on parallel STT-MTJs”, Design, Automation & Test in Europe Conference & Exhibition (DATE), Lausanne, Switzerland, March 2017, pp. 606-609. 
[17] W. Zhao, Y. Zhang, T. Devolder, J. Klein, D. Ravelosona, C. Chappert and P. Mazoyer, "Failure and reliability analysis of STT-MRAM", Microelectronics Reliability, Vol. 52, No. 9-10, September 2012, pp. 1848-1852.