Neuchips شتاب‌دهنده‌های استنباط نسل هوش مصنوعی خود را در CES 2024 به نمایش می‌گذارد

Neuchips شتاب‌دهنده‌های استنباط نسل هوش مصنوعی خود را در CES 2024 به نمایش می‌گذارد

Neuchips، ارائه‌دهنده پیشرو راه‌حل‌های مدار مجتمع مخصوص کاربرد هوش مصنوعی (ASIC)، تراشه شتاب‌دهنده هوش مصنوعی Raptor Gen (که قبلاً N3000 نام داشت) و راهکارهای کارت شتاب‌دهنده LLM Evo PCIe خود را در CES 2024 نشان خواهد داد. Raptor، راه‌حل تراشه جدید، اجازه می‌دهد. کسب و کارها برای استقرار استنتاج مدل زبان بزرگ (LLM) با کسری از هزینه راه حل های موجود.

کن لاو، مدیرعامل Neuchips گفت: «ما هیجان‌زده هستیم که تراشه Raptor و برد Evo خود را در نمایشگاه CES 2024 به صنعت معرفی کنیم. “راه حل های Neuchips نشان دهنده پیشرفت بزرگی در قیمت و عملکرد برای پردازش زبان طبیعی است. با Neuchips، هر سازمانی اکنون می تواند به قدرت LLM برای طیف گسترده ای از برنامه های کاربردی هوش مصنوعی دسترسی داشته باشد.

دموکراتیک کردن دسترسی به LLM

Raptor و Evo با هم یک پشته بهینه ارائه می کنند که LLM های پیشرو بازار را به راحتی برای مشاغل قابل دسترسی می کند. راه حل های Neuchips AI به طور قابل توجهی هزینه های سخت افزاری را در مقایسه با راه حل های موجود کاهش می دهد. راندمان انرژی بالا همچنین مصرف برق را به حداقل می رساند و هزینه کل مالکیت را بیشتر کاهش می دهد.

در نمایشگاه CES 2024، Neuchips Raptor و Evo را به نمایش می‌گذارد و چت‌ربات‌های Whisper و Llama AI را روی یک برنامه دستیار هوش مصنوعی شتاب می‌دهد. این راه حل قدرت استنتاج LLM را برای نیازهای کسب و کار در دنیای واقعی برجسته می کند.

شرکت‌های علاقه‌مند به عملکرد انقلابی Neuchips می‌توانند برای ثبت نام در یک برنامه آزمایشی رایگان به غرفه 62700 مراجعه کنند. جلسات فنی اضافی نشان خواهد داد که چگونه Raptor و Evo می توانند هزینه های استقرار برنامه های تبدیل متن به گفتار را کاهش دهند.

شتاب دهنده هوش مصنوعی Raptor Gen عملکرد موفقیت آمیز LLM را تقویت می کند
تراشه Raptor حداکثر 200 ترا عملیات در ثانیه (TOPS) در هر تراشه را ارائه می دهد. عملکرد استثنایی آن برای عملیات استنتاج هوش مصنوعی مانند ضرب ماتریس، برداری و جستجوی جدول تعبیه شده برای مدل‌های هوش مصنوعی Gen-AI و ترانسفورماتور مناسب است. این توان عملیاتی انقلابی به لطف بهینه سازی فشرده سازی و کارایی ثبت شده Neuchips که برای شبکه های عصبی طراحی شده است، به دست می آید.

کارت PCIe Evo Gen 5 استاندارد جدیدی را برای شتاب و مصرف کم انرژی تعیین می کند
مکمل Raptor کارت شتاب بسیار کم مصرف Neuchips Evo است. Evo PCIe Gen 5 را با هشت خط و 32 گیگابایت LPDDR5 ترکیب می‌کند تا به پهنای باند ورودی/خروجی میزبان 64 گیگابایت در ثانیه و پهنای باند حافظه 1.6 ترابایتی در ثانیه تنها با 55 وات در هر کارت دست یابد.

همانطور که با DLRM نشان داده شد، Evo همچنین مقیاس پذیری 100٪ را ارائه می دهد و به مشتریان اجازه می دهد تا با افزودن تراشه های بیشتر، عملکرد را به صورت خطی افزایش دهند. این طراحی ماژولار حفاظت از سرمایه گذاری را برای بارهای کاری هوش مصنوعی آینده تضمین می کند.

محصول بعدی نیم قد، ​​نیم قد (HHHL) به نام Viper که انتظار می رود تا نیمه دوم سال 2024 عرضه شود، انعطاف پذیری بیشتری را برای استقرار فراهم می کند. سری جدید شتاب هوش مصنوعی کلاس مرکز داده را در یک طراحی فشرده به ارمغان می آورد.

مرجع اخبار سخت افزار کامپیوترایران