این شتاب دهنده هوش مصنوعی را می‌توانید به جای درایو SSD نصب کنید!

تب هوش مصنوعی آنچنان بالا گرفته که پردازنده‌‌های AI در هر شکل و فرم فاکتوری در حال عرضه به بازار هستند. همین راستا استارتاپ MemryX به تازگی از شتاب‌دهنده MX3 با توان 27 TOPS رونمایی کرده است که می‌توانید آن را به درگاه M.2 مادربرد متصل کنید.

به گزارش Tom’s Hardware، استارتاپ MemryX، که توسط تیمی از دانشگاه میشیگان بنیانگذاری شده است، به تازگی ماژول شتاب‌دهنده هوش مصنوعی جدید خود را به نام MX3 M.2 با قیمت ۱۴۹ دلار معرفی کرده است. این ماژول با هدف اجرای برنامه های AI روی دستگاه‌های پردازشی لبه (Edge Computing) با نیاز به طراحی جمع‌وجور و بهره‌وری انرژی بالا ساخته شده است.

ویژگی‌های فنی ماژول MX3 M.2

این ماژول از چهار چیپ شتاب‌دهنده هوش مصنوعی MemryX MX3 بهره می‌برد که در قالب استاندارد M.2 2280 طراحی شده است. این ویژگی امکان نصب آسان آن را در سیستم‌هایی که دارای درگاه PCIe Gen 3 M.2 هستند را فراهم می‌کند. هر چیپ MX3 توانایی ارائه ۶ TOPS (ترا عملیات در ثانیه) را داراست و در مجموع، MX3 M.2 می‌تواند تا ۲۴ TOPS قدرت پردازشی را فراهم کند. جالب‌تر اینکه این شتاب دهنده تنها بین ۶ تا ۸ وات انرژی مصرف می‌کند.

ماژول MX3 M.2 از انواع داده‌های مختلف پشتیبانی می‌کند، از جمله وزن‌های ۴ بیتی، ۸ بیتی، ۱۶ بیتی و BFloat16. یکی دیگر مزایای این محصول این است که به خنک کننده فعال نیاز ندارد و تنها با استفاده از یک هیت‌سینک حرارت را مدیریت می‌کند.

آزمایش عملکرد توسط Phoronix

وب‌سایت تخصصی Phoronix عملکرد این ماژول را در سیستمی مجهز به PCIe Gen 3 M.2 و سیستم‌عامل Ubuntu 24.04 LTS آزمایش کرده است. بر اساس این بررسی، نصب ماژول با استفاده از درایورها و ابزارهای متن‌باز ارائه‌شده توسط MemryX بسیار ساده بوده است.

قدرت ۲۴ TOPS ارائه‌شده توسط چهار چیپ MX3، برای بارهای کاری مرتبط با هوش مصنوعی بهینه‌سازی‌شده برای وزن‌های ۸ بیتی کافی بوده است. این ماژول به‌طور خاص در اجرای مدل‌های هوش مصنوعی کوچک تا متوسط کارآمد عمل کرده است. هر چیپ MX3 قابلیت مدیریت تا ۱۰.۵ میلیون پارامتر ۸ بیتی را دارد که در مجموع می‌تواند ۴۲ میلیون پارامتر را پردازش کند. طبق بررسی انجام شده، MX3 M.2 با فریم‌ورک‌‌های محبوبی چون TensorFlow و ONNX نیز سازگار است.

یکی از محدودیت‌های این ماژول، عدم وجود DRAM داخلی است که MemryX وعده داده تا با عرضه یک کارت PCIe جدید در سال ۲۰۲۵ این مشکل را حل کند. کارت آینده قرار است تعداد بیشتری چیپ MX3 داشته باشد و امکانات بیشتری ارائه دهد.

در همین رابطه بخوانید:

- هر آنچه باید درباره TOPS بدانید؛ از صفر تا صد قدرت پردازش هوش مصنوعی پردازنده‌ها
- کیت توسعه هوش مصنوعی Jetson Orin Nano انویدیا معرفی شد؛ ۶۷ تاپس توان پردازشی در کف دستان شما

ماژول MX3 M.2 با قیمت ۱۴۹ دلار، گزینه‌ای مقرون‌به‌صرفه برای توسعه‌دهندگان و سازمان‌هایی است که به دنبال اضافه کردن قابلیت‌های پردازش هوش مصنوعی به دستگاه‌های لبه‌ای خود هستند. MemryX همچنین اعلام کرده که این ماژول در نمایشگاه CES 2025 در لاس‌وگاس به نمایش گذاشته خواهد شد. در این نمایشگاه، عملکرد ماژول در کاربردهای واقعی به نمایش درخواهد آمد تا انعطاف‌پذیری آن بیشتر به چشم بیاید.