يستفيد فريقنا في شركة Leonardo من الذكاء الاصطناعي المولّد لتمكين المحترفين المبدعين والمتحمسين من إنتاج أصول مرئية بجودة وسرعة واتساق أسلوب لا مثيل لها. السعر مقابل أداء AWS Inf2 باستخدام AWS Inf2، يمكننا خفض تكاليفنا بنسبة 80%، دون التضحية بالأداء، وتغيير عرض القيمة الذي يمكننا تقديمه للعملاء بشكل أساسي، وتمكين ميزاتنا الأكثر تقدمًا بسعر يسهل الوصول إليه. كما أنه يخفف من المخاوف بشأن التكلفة وتوافر السعة لخدمات الذكاء الاصطناعي الإضافية لدينا، والتي تزداد أهميتها مع نمونا وتوسعنا. إنها تقنية رئيسية بالنسبة لنا بينما نواصل دفع عجلة ما هو ممكن مع الذكاء الاصطناعي المولّد، مما يتيح حقبة جديدة من الإبداع والقوة التعبيرية لمستخدمينا.

في Runway، تتيح مجموعتنا من أدوات AI Magic Tools لمستخدمينا إنشاء محتوى وتحريره بشكل لم يسبق له مثيل. نحن نعمل باستمرار على دفع حدود ما هو ممكن من خلال إنشاء المحتوى المدعوم بالذكاء الاصطناعي، ومع زيادة تعقيد نماذج الذكاء الاصطناعي، يمكن أن تصبح تكاليف البنية التحتية الأساسية لتشغيل هذه النماذج على نطاق واسع باهظة الثمن. من خلال تعاوننا مع مثيلات HAQM EC2 Inf2 المدعومة من AWS Inferentia، يمكننا تشغيل بعض نماذجنا بسرعة أعلى تصل إلى ضعف سرعة المثيلات المماثلة القائمة على وحدة معالجة الرسومات (GPU). يتيح لنا هذا الاستنتاج عالي الأداء ومنخفض التكلفة تقديم المزيد من الميزات ونشر نماذج أكثر تعقيدًا وتقديم تجربة أفضل في نهاية المطاف لملايين المبدعين الذين يستخدمون Runway.

في Qualtrics، ينصب تركيزنا على بناء التكنولوجيا التي تسد فجوات الخبرة للعملاء والموظفين والعلامات التجارية والمنتجات. ولتحقيق ذلك، نعمل على تطوير نماذج التعلم العميق (DL) المعقدة متعددة المهام ومتعددة الوسائط لإطلاق ميزات جديدة، مثل تصنيف النص، ووضع علامات التسلسل، وتحليل الخطاب، واستخراج العبارات الرئيسية، واستخراج الموضوعات، والتجميع، وفهم المحادثة كاملة. نظرًا لأننا نستخدم هذه النماذج الأكثر تعقيدًا في المزيد من التطبيقات، يزداد حجم البيانات غير المهيكلة، ونحتاج إلى المزيد من الحلول المحسّنة للاستدلال التي يمكنها تلبية هذه المتطلبات، مثل مثيلات Inf2، لتقديم أفضل التجارب لعملائنا. نحن متحمسون لمثيلات Inf2 الجديدة لأنها لن تسمح لنا فقط بتحقيق سرعة أعلى، مع تقليل وقت الاستجابة بشكل كبير، ولكنها تقدم أيضًا ميزات مثل الاستدلال الموزع ودعم شكل الإدخال الديناميكي المحسن، مما سيساعدنا على التوسع لتلبية احتياجات النشر بينما نمضي نحو نماذج كبيرة أكبر وأكثر تعقيدًا.

لتلبية احتياجات عملائنا لمعالجة اللغة الطبيعية في الوقت الفعلي، نقوم بتطوير نماذج التعلم العميق (DL) الحديثة التي تتناسب مع أعباء العمل الإنتاج الكبيرة. يتعين علينا توفير معاملات ذات زمن استجابة منخفض وتحقيق سرعة عالية لمعالجة خلاصات البيانات العالمية. لقد قمنا بالفعل بترحيل العديد من أعباء العمل الإنتاج إلى مثيلات Inf1 وحققنا انخفاضًا بنسبة 80% في التكلفة مقارنة بوحدات معالجة الرسومات (GPUs). الآن، نعمل على تطوير نماذج أكبر وأكثر تعقيدًا تتيح معنى أعمق من النص المكتوب. يحتاج الكثير من عملائنا إلى الوصول إلى هذه الأفكار في الوقت الفعلي، وسيساعدنا الأداء على مثيلات Inf2 على توفير زمن انتقال أقل وسرعة أعلى عبر مثيلات Inf1. من خلال تحسينات أداء Inf2 وميزات Inf2 الجديدة، مثل دعم أحجام المُدخَلات الديناميكية، نعمل على تحسين كفاءة التكلفة لدينا، ورفع تجربة العملاء في الوقت الفعلي، ومساعدة عملائنا على استخلاص رؤى جديدة من بياناتهم.

أطلقنا خدمة روبوت محادثة بالذكاء الاصطناعي على نطاق واسع على مثيلات HAQM EC2 Inf1 وقللنا وقت استجابة الاستدلال بنسبة 97% مقارنة بالمثيلات المستندة إلى وحدة معالجة الرسومات المماثلة مع تقليل التكاليف أيضًا. كنا سعداء جدًا لرؤية المزيد من التحسينات في الأداء في نتائج الاختبار الأولية على مثيلات HAQM EC2 Inf2. باستخدام نفس نموذج مُعالجة اللغة الطبيعية (NLP) المخصص، تمكنت AWS Inf2 من تقليل وقت الاستجابة بمقدار 10 مرات عبر Inf1. بينما ننتقل إلى نماذج أكبر بمليارات المعلمات، تمنحنا Inf2 الثقة في أنه يمكننا الاستمرار في تزويد عملائنا بتجربة مستخدم فائقة من البداية إلى النهاية.

في Fileread.ai، نقوم ببناء حلول لجعل التفاعل مع مستنداتك سهلاً مثل طرح الأسئلة عليها، وتمكين المستخدمين من العثور على ما يبحثون عنه، من جميع مستنداتهم والحصول على المعلومات الصحيحة بشكل أسرع. منذ التبديل إلى مثيل Inf2 EC2 الجديد، شهدنا تحسنًا كبيرًا في قدرات استدلال مُعالجة اللغة الطبيعية (NLP). لقد أدى التوفير في التكاليف وحده إلى تغيير قواعد اللعبة بالنسبة لنا، مما سمح لنا بتخصيص الموارد بشكل أكثر كفاءة دون التضحية بالجودة. لقد قللنا وقت الاستجابة للاستدلال بنسبة 33% مع زيادة السرعة بنسبة 50% - مما أسعد عملائنا بالتحولات الأسرع. لقد انبهر فريقنا بسرعة وأداء Inf2 مقارنة بمثيلات G5 القديمة، ومن الواضح أن هذا هو المستقبل لنشر نماذج مُعالجة اللغة الطبيعية (NLP)

في Yaraku، مهمتنا هي بناء البنية التحتية التي تساعد الناس على التواصل عبر حواجز اللغة. منتجنا الرائد، YarakuZen، يُمكّن أي شخص، من المترجمين المحترفين إلى الأفراد أحاديي اللغة، من ترجمة النصوص والمستندات وتحريرها بثقة. لدعم هذه العملية، نقدم مجموعة واسعة من الأدوات المتطورة القائمة على نماذج التعلم العميق (DL)، والتي تغطي مهام مثل الترجمة، ومحاذاة الكلمات ثنائية النص، وتجزئة الجمل، ونمذجة اللغة، وغيرها الكثير. باستخدام مثيلات Inf1، تمكنا من تسريع خدماتنا لتلبية الطلب المتزايد مع تقليل تكلفة الاستدلال بأكثر من 50% مقارنة بالمثيلات المستندة إلى وحدة معالجة الرسومات (GPU). نحن ننتقل الآن إلى تطوير الجيل التالي من النماذج الأكبر التي ستتطلب القدرات المحسنة لمثيلات Inf2 لتلبية الطلب مع الحفاظ على وقت استجابة منخفض. مع Inf2، سنتمكن من توسيع نطاق نماذجنا بمقدار 10 أضعاف مع الحفاظ على سرعة مماثلة، مما يسمح لنا بتقديم مستويات أعلى من الجودة لعملائنا.

تتمثل مهمة Hugging Face في إضفاء الطابع الديمقراطي على تعلم الآلة (ML) الجيد لمساعدة مطوري تعلم الآلة (ML) حول العالم على حل مشكلات العالم الحقيقي. والمفتاح في ذلك هو ضمان تشغيل أحدث وأروع الموديلات بأسرع ما يمكن وبكفاءة على أفضل شرائح تعلم الآلة (ML) في السحابة. نحن متحمسون للغاية بشأن إمكانية أن تصبح Inferentia2 الطريقة القياسية الجديدة لنشر نماذج الذكاء الاصطناعي المولّد على نطاق واسع. مع Inf1، رأينا تكلفة أقل بنسبة تصل إلى 70% مقارنة بالمثيلات التقليدية المستندة إلى وحدة معالجة الرسومات (GPU)، ومع Inf2 شهدنا زمن انتقال أقل بما يصل إلى 8 أضعاف للمحولات الشبيهة بـ BERT مقارنة بـ Inferentia1. مع Inferentia2، سيكون مجتمعنا قادرًا على توسيع نطاق هذا الأداء بسهولة ليشمل نماذج اللغة الكبيرة (LLMs) على مقياس معايير 100B+، وإلى أحدث نماذج الانتشار ورؤية الكمبيوتر أيضًا.

تعمل PyTorch على تسريع المسار من النماذج الأولية البحثية إلى عمليات نشر الإنتاج لمطوري تعلم الآلة (ML). لقد تعاوننا مع فريق AWS لتوفير دعم PyTorch الأصلي لمثيلات HAQM EC2 Inf2 الجديدة التي تعمل بنظام AWS Inferentia2. نظرًا لأن المزيد من أعضاء مجتمعنا يتطلعون إلى نشر نماذج الذكاء الاصطناعي المولّد الكبيرة، فإننا متحمسون للشراكة مع فريق AWS لتحسين الاستدلال الموزع على مثيلات Inf2 مع اتصال NeuronLink عالي السرعة بين الرقائق. مع Inf2، يمكن للمطورين الذين يستخدمون PyTorch الآن نشر نماذج اللغة الكبيرة (LLMs) الكبيرة جدًا ونماذج محولات الرؤية بسهولة. بالإضافة إلى ذلك، توفر مثيلات Inf2 إمكانات مبتكرة أخرى لمطوري PyTorch، بما في ذلك أنواع البيانات الفعالة والأشكال الديناميكية والمشغلين المخصصين والتقريب العشوائي المحسن للأجهزة، مما يجعلها مناسبة تمامًا لاعتمادها على نطاق واسع من قبل مجتمع PyTorch.

يتمثل التحدي التاريخي مع نماذج اللغة الكبيرة (LLMs)، وعلى نطاق أوسع مع تطبيقات الذكاء الاصطناعي المولّد على مستوى المؤسسة، في التكاليف المرتبطة بالتدريب وتشغيل نماذج التعلم العميق (DL) عالية الأداء. إلى جانب AWS Trainium، تزيل AWS Inferentia2 التنازلات المالية التي يقدمها عملاؤنا عندما يحتاجون إلى تدريب عالي الأداء. الآن، يمكن لعملائنا الذين يبحثون عن مزايا في التدريب والاستدلال تحقيق نتائج أفضل مقابل أموال أقل. تعمل كل من Trainium وInferentia على تسريع التوسع لتلبية حتى متطلبات التعلم العميق (DL) الأكثر تطلبًا لأكبر الشركات اليوم. سيستفيد العديد من عملاء Nextira الذين يديرون أعباء عمل كبيرة للذكاء الاصطناعي بشكل مباشر من هذه الشرائح الجديدة، مما يزيد من الكفاءة في توفير التكاليف والأداء ويؤدي إلى نتائج أسرع في أسواقهم.

باستخدام CodeWhisperer، نعمل على تحسين إنتاجية مطوري البرامج من خلال تقديم توصيات الأكواد باستخدام نماذج الذكاء الاصطناعي المولّد. لتطوير توصيات الأكواد الفعالة للغاية، قمنا بتوسيع شبكة التعلم العميق (DL) إلى مليارات المعلمات. يحتاج عملاؤنا إلى توصيات الأكواد في الوقت الفعلي أثناء الكتابة، لذلك تعد الاستجابات ذات زمن الوصول المنخفض أمرًا بالغ الأهمية. تتطلب نماذج الذكاء الاصطناعي المولّد الكبيرة حوسبة عالية الأداء لتوفير أوقات استجابة في جزء من الثانية. مع Inf2، نقدم نفس وقت الاستجابة مثل تشغيل CodeWhisperer على تدريب مثيلات GPU المحسّنة لتسلسلات الإدخال والإخراج الكبيرة. وبالتالي، تساعدنا مثيلات Inf2 في توفير التكلفة والطاقة مع تقديم أفضل تجربة ممكنة للمطورين.

أنا متحمس جدًا للإطلاق العام لـ Inf2. إن الأداء المتفوق لـ Inf2، إلى جانب قدرتها على التعامل مع النماذج الأكبر بمليارات المعلمات، يجعلها الخيار الأمثل لخدماتنا وتمكننا من فتح إمكانيات جديدة من حيث تعقيد النموذج ودقته. بفضل التسريع الكبير والفعالية من حيث التكلفة التي تقدمها Inf2، يمكن أن يساعدنا دمجها في البنية التحتية لخدمة HAQM Search في تلبية الطلبات المتزايدة لعملائنا. نحن نخطط لتعزيز تجارب التسوق الجديدة لدينا باستخدام نماذج اللغة الكبيرة (LLMs) المولدِّة باستخدام Inf2.