آمازون با کنار گذاشتن GPU انویدیا به استفاده از تراشه‌های اختصاصی روی می‌آورد

انویدیا:آمازون از مهاجرت پردازش‌های هوش مصنوعی به چیپ‌های اختصاصی «Inferentia» خبر داده که به معنای عدم استفاده از GPU انویدیا خواهد بود.

انویدیا

با این اقدام، بزرگترین سرویس‌های آمازون مانند دستیار مجازی الکسا بجای GPU شرکت‌های دیگر، روی سیلیکون اختصاصی و سریع پردازش می‌شوند. تا به امروز این کمپانی نزدیک به ۸۰ درصد از پردازش‌های الکسا را به نمونه‌های «EC2 Inf1» منتقل کرده که از چیپ‌های Inferentia سرویس‌های وب آمازون (AWS)‌ استفاده می‌کند.

EC2 Inf1 در مقایسه با نمونه‌های G4 که از GPU‌ سنتی استفاده می‌کند.تا ۳۰ درصد عملکرد بالاتری دارد و همچنین هزینه‌ها را تا ۴۵ درصد کاهش می‌دهد. آمازون اعلام کرده که دارای بهترین نمونه‌ها در بازار برای پردازش زبان طبیعی و صدا است.

در واقعیت الکسا روی اسپیکرهای هوشمند هیچ کاری انجام نمی‌دهد . پردازنده‌های AWS در فضای ابری تمام کارها را برعهده می‌گیرد. از نظر فنی، سیستم زمانی شروع به کار می‌کند که چیپ آن کلمه خاصی را تشخیص دهد. پس از این کار صدا به صورت همزمان به فضای ابری منتقل می‌شود و در دیتاسنتر این صدا به متن تبدیل خواهد شد.

الکسا

در مرحله بعد منظور کاربر توسط متن فهمیده می‌شود و اقدامات لازم انجام خواهند شد . برای مثال کاربر به اطلاعاتی مانند شرایط آب و هوا دست پیدا می‌کند. الکسا برای اینکه چنین دیتایی را در اختیار شما قرار دهد، باید ارتباط برقرار کند.

این دستیار مجازی برای چنین کاری از اسکریپت ماژولار استفاده می‌کند . سپس این اسکریپت به فایل صوتی تبدیل شده و به اسپیکر هوشمند آمازون ارسال می‌شود. اسپیکر اکو این فایل صوتی را اجرا می‌کند و شما برای مثال از وضعیت هوا اطلاع پیدا می‌کنید.

در این فرایند، استنباط بخش بزرگی را تشکیل می‌دهد و به همین دلیل آمازون میلیون‌ها دلار روی توسعه چنین چیپ‌هایی سرمایه‌گذاری کرده است. چیپ‌های Inferentia از چهار «NeuronCores» تشکیل شده که هرکدام از آن‌ها دارای تعداد بالایی واحد پردازش دیتای کوچک (DPU) هستند که اطلاعات را به صورت خطی و مستقل پردازش می‌کنند. هر چیپ Inferentia از حافظه کش بالایی بهره می‌برد که تاخیرها را بهبود می‌دهد.

reference

روشن آمازون با کنار گذاشتن GPU انویدیا به استفاده از تراشه‌های اختصاصی روی می‌آورد

  • I’m also writing to make you understand what a remarkable experience my wife’s princess encountered using the blog. She came to understand a good number of things, which include how it is like to possess an amazing teaching style to have many more with no trouble fully grasp several tricky subject matter. You actually did more than our expected results. I appreciate you for offering these valuable, trustworthy, revealing and in addition fun guidance on this topic to Julie.

دیدگاه خود را بنویسید:

آدرس ایمیل شما نمایش داده نخواهد شد.

فوتر سایت

سایدبار کشویی

دسته‌ها