هوش مصنوعی EmbeddingGemma 2 گوگل برای اجرای آفلاین روی گوشی معرفی شد

دسته‌بندی: فناوری
تاریخ انتشار: ۱۴۰۵ مهر ۱۵, چهارشنبه ساعت ۵:۳۸۰ رأیبدون امتیاز
هوش مصنوعی EmbeddingGemma 2 گوگل برای اجرای آفلاین روی گوشی معرفی شد

گوگل از مدل متن‌باز EmbeddingGemma 2 با 740 میلیون پارامتر رونمایی کرده است. این مدل می‌تواند متن، کد، تصویر، ویدیو را پردازش کرده و امکان اجرای آفلاین آن روی گوشی فراهم است و تنها حدود 191 مگابایت رم نیاز دارد.

گوگل از مدل متن‌باز EmbeddingGemma 2 با 740 میلیون پارامتر رونمایی کرده است. این مدل می‌تواند متن، کد، تصویر، ویدیو را پردازش کرده و امکان اجرای آفلاین آن روی گوشی فراهم است و تنها حدود 191 مگابایت رم نیاز دارد.

EmbeddingGemma 2 برای تبدیل انواع محتوا به Embedding یا نمایش عددی طراحی شده است. این بردارها به نرم‌افزارها اجازه می‌دهند میزان شباهت معنایی میان داده‌های مختلف را محاسبه کنند و به همین دلیل در جست‌وجوی معنایی، بازیابی اطلاعات و سیستم‌های RAG کاربرد دارند.

پشتیبانی هم‌زمان از چند نوع داده، امکان جست‌وجوی بین‌وجهی را نیز فراهم می‌کند. برای مثال، می‌توان با یک پیام صوتی به دنبال بخش خاصی از یک ویدیو گشت یا با یک عبارت متنی میان ساعت‌ها فایل صوتی جست‌وجو کرد.

گوگل EmbeddingGemma 2 را با 740 میلیون پارامتر، یکی از جمع‌وجورترین مدل‌ها در کلاس خود معرفی می‌کند و مدعی است این مدل در برخی بنچمارک‌های امبدینگ چندوجهی از مدل‌های رقیب با حداکثر دو برابر اندازه نیز بهتر عمل می‌کند.

یکی از پیشرفت‌های قابل توجه EmbeddingGemma 2 در بخش کدنویسی دیده می‌شود. این مدل در Massive Text Embedding Benchmark (MTEB) و بخش کد، امتیاز 78.68 را به دست آورده است؛ در حالی که نسل قبلی EmbeddingGemma امتیاز 68.76 داشت. به این ترتیب، امتیاز مدل جدید نسبت به نسل قبل 9.92 امتیاز افزایش یافته است.

EmbeddingGemma 2 همچنین از بیش از 100 زبان پشتیبانی می‌کند، هرچند گوگل تأکید کرده عملکرد مدل در تمام زبان‌ها یکسان نیست. این مدل فاقد تنظیمات Safety Tuning و Output Moderation است و اقدامات مرتبط با ایمنی در مرحله آموزش داده‌ها اعمال شده‌اند.

eg2-2.jpg

اجرای آفلاین با مصرف حافظه پایین

یکی از مهم‌ترین ویژگی‌های EmbeddingGemma 2 امکان اجرای کاملاً محلی و بدون نیاز به کلید API است. گوگل می‌گوید این مدل برای دستگاه‌های کم‌مصرف بهینه شده و نسخه پردازش متن آن روی Pixel 11 Pro حدود 191 مگابایت رم مصرف می‌کند. اجرای نسخه کامل چندوجهی نیز به حدود 567 مگابایت رم نیاز دارد.

پردازش هر درخواست هنگام اجرای مدل با WebGPU در مرورگر حدود 20 تا 70 میلی‌ثانیه زمان می‌برد. همچنین مدل جدید می‌تواند فضای مورد نیاز برای ذخیره پایگاه داده برداری محلی را تا 6 برابر کاهش دهد.

EmbeddingGemma 2 پنجره زمینه 8192 توکنی دارد که چهار برابر نسل قبلی است. این ظرفیت امکان پردازش حداکثر 29 تصویر، 58 فریم ویدیو یا حدود 5.5 دقیقه صدا را فراهم می‌کند و می‌توان انواع این ورودی‌ها را نیز با یکدیگر ترکیب کرد.

گوگل برای کاربردهایی که تنها به پردازش متن نیاز دارند، نسخه کوچک‌تر 270 میلیون پارامتری را نیز در نظر گرفته است. این نسخه برای برنامه‌هایی که به پردازش تصویر، ویدیو و صدا نیاز ندارند، می‌تواند گزینه کم‌مصرف‌تری باشد.

EmbeddingGemma 2 بر پایه معماری Gemma 4 ساخته شده و از توکنایزر متنی و رمزگذار صوتی مشترک با آن استفاده می‌کند. به گفته گوگل، این معماری امکان اجرای EmbeddingGemma 2 در کنار Gemma 4 را با مصرف حافظه ترکیبی پایین‌تر فراهم می‌کند.

یکی از کاربردهای مهم این مدل، ترکیب آن با مدل‌های زبانی متن‌باز مانند Gemma 4 برای ساخت برنامه‌های RAG کاملاً آفلاین است. در چنین ساختاری، EmbeddingGemma 2 داده‌ها و درخواست کاربر را به بردارهای عددی تبدیل می‌کند و مدل زبانی با استفاده از اطلاعات بازیابی‌شده پاسخ نهایی را تولید می‌کند.

اشتراک‌گذاری

این مطلب برای شما مفید بود؟

بازخورد شما به بهبود کیفیت مطالب کمک می‌کند.

در حال بررسی رأی شما...