Perplexity تسرِّع تدريب نماذج التأسيس بنسبة 40% من خلال خدمة HAQM SageMaker HyperPod

على عكس محركات البحث التقليدية، التي غالبًا ما تعطي الأولوية للإعلانات ولكلمات أساسية محددة على حساب النتائج الأكثر صلة، تم تحسين حل Perplexity بحيث يربط المستخدمين بالمعلومات التي يبحثون عنها. يعتمد ما يقرب من 10 ملايين مستخدم نشط شهريًا على Approximately للتعرّف على مفاهيم جديدة والتغلب على التحديات والعثور على إجابات.

وفي هذا السياق، أدلى Aravind Srinivas،‏ الرئيس التنفيذي والشريك المؤسس لشركة Perplexity بتصريح قال فيه: "باستخدام نماذج اللغة الكبيرة (LLM)، يمكننا تجميع قدرات الاستدلال والفهم للغة البشرية في نموذج واحد. وقد ساعدنا هذا، جنبًا إلى جنب مع الحقائق المتاحة على الإنترنت، في إنشاء محرك الإجابات لدينا" وأضاف قائلاً: "ببساطة، دمجنا فهرس البحث التقليدي (محرك الحقائق) مع محرك الاستدلال (نموذج اللغة الكبير) لإنشاء أول محرك إجابات حواري في العالم".

استخدمت Perplexity، منذ تأسيسها في عام 2022، خدمات AWS الأساسية مثل HAQM Elastic Compute Cloud (HAQM EC2) — التي توفر سعة حوسبة آمنة وقابلة لتغيير الحجم لأي عبء عمل تقريبًا — لتشغيل الواجهة الخلفية والواجهة الأمامية ومكونات البحث لمنتجها. ومع نضوج شركة Perplexity وارتفاع عدد نماذج تعلّم الآلة لديها، احتاجت إلى قوة حوسبة هائلة لتتمكن من تقديم الخدمة للمستخدمين.

تحدثت Perplexity إلى خبراء AWS وعلمت أن خدمة HAQM SageMaker HyperPod، وهي عبارة عن بنية تحتية مصممة خصيصًا للتدريب الموزّع على نطاق واسع، يمكنها تلبية احتياجاتها فيما يتعلق بتدريب النماذج على نطاق واسع. تم تكوين HAQM SageMaker HyperPod مسبقًا باستخدام مكتبات التدريب الموزّع من HAQM SageMaker التي جرى تحسينها لتشغيل مهام تدريب التعليم العميق المخصصة والفعالة من حيث التكلفة والقابلة للتوسعة بدرجة كبيرة، الخاصة بالمعالجة المتوازية للبيانات (تقسيم البيانات على وحدات معالجة الرسومات) أو المعالجة المتوازية للنماذج (تقسيم النماذج على وحدات معالجة الرسومات)، بسرعات ربط بيني تتجاوز 1600 جيجابت في الثانية. وتمنع خدمة HAQM SageMaker HyperPod أيضًا الانقطاعات في تدريب نماذج التأسيس عن طريق حفظ نقاط التحقق بشكل دوري. وعند حدوث عطل في الأجهزة أثناء التدريب، تتولى هذه الخدمة المقدمة من AWS الاكتشاف التلقائي للعطل أو إصلاح المثيل المعيب أو استبداله، وتستأنف التدريب من آخر نقطة تحقق محفوظة. هذه العملية تسهِّل تدريب النماذج لأسابيع أو أشهر دون انقطاع في بيئة موزعة.

عرضت AWS على شركة Perplexity نسخة تجريبية مدتها شهر واحد لإظهار قدرات التدريب الموزّع، واكتشفت الشركة خلالها مزايا استخدام AWS. على سبيل المثال، اكتسبت Perplexity مرونة أكبر في تخصيص الموارد؛ فهي تستخدم أنواعًا مختلفة من مثيلات HAQM EC2 ووحدات معالجة الرسومات المصممة خصيصًا لتناسب مهام محددة.

لتدريب نماذج تعلّم الآلة، تتطلب Perplexity مساحات كبيرة من الذاكرة لكي تتمكن من تشغيل كميات هائلة من البيانات وتخزين التدرجات المختلفة. ووقع اختيارها على مثيلات HAQM EC2 P4de - التي توفر أعلى مستوى من الأداء في تدريب نماذج تعلّم الآلة وتطبيقات الحوسبة عالية الأداء - لتشغيل مهام التدريب، مما يمكنها من تلبية متطلبات الذاكرة والنطاق الترددي. وباستخدام HAQM SageMaker HyperPod، تتمكن Perplexity من نقل البيانات بين وحدات معالجة الرسومات المختلفة بشكل أسرع بكثير، مما أثمر عن تقليص وقت تدريب نماذج تعلّم الآلة بنسبة تصل إلى 40 بالمائة.

وفي ضوء ذلك، يقول Srinivas: "ساعدتنا مكتبات المعالجة المتوازية للبيانات والنماذج في SageMaker HyperPod على تحسين وقت التدريب في وحدات معالجة الرسومات ومضاعفة معدل نقل البيانات للتدريب". وأضاف قائلاً: "ونتيجة لذلك، يمكن الآن إجراء تجاربنا التدريبية بسرعة مضاعفة، وهذا يعني أن المطورين لدينا يمكنهم التكرار بسرعة أكبر، مما يؤدي إلى تسريع وتيرة تطوير تجارب الذكاء الاصطناعي الجديدة لعملائنا. ونظرًا إلى أن HAQM SageMaker HyperPod تتولى المراقبة التلقائية لكفاءة الكتلة ومعالجة أعطال وحدة معالجة الرسومات (GPU)، يتمتع مطورونا بالقدرة على التركيز على إنشاء النماذج بدلاً من إمضاء الوقت في إدارة البنية التحتية الأساسية وتحسينها".

تهدف Perplexity إلى تقديم استجابات سريعة ودقيقة لاستعلامات المستخدمين، الأمر الذي يتطلب إمكانات استدلال شبه فورية. وباستخدام مثيلات HAQM EC2 P5 — المستندة إلى وحدة معالجة الرسومات والتي تقدم أعلى مستوى من الأداء وتناسب تطبيقات التعليم العميق — بمقدور Perplexity إنشاء إجابات بإنتاجية أعلى بكثير من ذي قبل. وفي الواقع، يمكن للشركة التعامل في فترات الذروة مع 10000 مستخدم في وقت واحد وأكثر من 100000 استعلام في الساعة دون التأثير على زمن الاستجابة أو تجربة المستخدم. وتستضيف Perplexity أيضًا نموذج Llama 2 المتاح للجمهور على مثيلات HAQM EC2 P5، وتستخدم خدمة HAQM SageMaker HyperPod من أجل الضبط الدقيق لهذا النموذج المفتوح المصدر باستخدام بياناتها الخاصة. بالإضافة إلى أن الضبط الدقيق للنماذج يساعد في تحسين دقة الاستجابات ومدى صلتها، مما يؤدي إلى تخصيص هذا النموذج ليلبي احتياجات محرك الإجابات التابع لـ Perplexity.