بطاقة، وليس شريحة منها
GPU المشترك هو وظيفة شخص آخر تنتهي قبل أن تبدأ وظيفتك. كل بطاقة في هذا الخط مُمرَّرة إلى حالة واحدة عبر رابط كامل بعرض ست عشرة مسارًا وتبقى هناك حتى تلغي، سواء كانت خاملة أم لا.
A shared GPU is someone else’s job finishing before yours starts. Every card in this line is passed straight through to a single instance and stays there until you cancel.
| الخطة | أنوية مخصصة | الذاكرة | تخزين NVMe | الرسوميات | سرعة المنفذ | السعر | |
|---|---|---|---|---|---|---|---|
| G-ADA Inference and light training | 8 | 64 GB | 1 TB | 1 × RTX 4000 Ada · 20 GB | 40 Gbit/s | €239.00 /شهريًا | إعداد |
| G-L40Sالأكثر استخدامًا 48 GB of VRAM, undivided | 16 | 128 GB | 2 TB | 1 × L40S · 48 GB | 40 Gbit/s | €749.00 /شهريًا | إعداد |
| G-L40S×2 Two cards, one NUMA node | 32 | 256 GB | 4 TB | 2 × L40S · 96 GB | 40 Gbit/s | €1420.00 /شهريًا | إعداد |
الأسعار لا تشمل ضريبة القيمة المضافة حيثما تنطبق. حركة المرور: غير محدود، استخدام عادل.
EPYC 9354P host · PCIe 4.0 x16 passthrough · no vGPU time-slicing
أربع وثلاثون مدينة، تسع وعشرون دولة
أرقام زمن الاستجابة هي قيم متوسطة مقاسة من مجساتنا الخاصة، وليست من كتيبات البائعين. إنها تتغير؛ وتتحدث الصفحة عندما تتغير.
التمرير، ولماذا يهم
معظم سعة GPU الرخيصة هي جزء من بطاقة يتداولها طابور. الرقم على صفحة المنتج هو ذاكرة البطاقة، وليس ذاكرتك، والإنتاجية التي تقيسها تعتمد على من استيقظ هذا الصباح.
لا vGPU، لا تقسيم زمني، لا جدولة بينك وبين السيليكون.
هنا تكون البطاقة مربوطة بحالتك على مستوى الهايبرفايزر عبر رابط PCIe 4.0 بعرض ست عشرة مسارًا. الجهاز كله لك: كل الذاكرة، كل وحدات الحوسبة، وعرض نطاق محرك النسخ الكامل. لا شيء مجزأ، ولا شيء في طابور، ولا يظهر أي مستأجر آخر في قائمة أجهزتك.
النتيجة العملية هي أن معيارك هذا المساء يطابق معيارك يوم الثلاثاء الماضي. عمليات الضبط الدقيق التي تستغرق يومين تنتهي في الوقت الذي توقعته ساعتك الأولى. العمل التفاعلي يبقى تفاعليًا، لأنه لا توجد وظيفة دفع مجمعة لمستأجر آخر أمام وظيفتك.
كل الذاكرة، طوال الوقت
ثمانية وأربعون غيغابايت على L40S، وعشرون على RTX 4000 Ada، ولا شيء منها محجوز لقسم الهايبرفايزر. ما تملكه البطاقة هو ما يمكن لعملية الوصول إليه.
الخمول لا يكلفك شيئًا إضافيًا
البطاقة ملكك بالشهر، وليس بالثانية. اترك نموذجًا مقيمًا لمدة ثلاثة أسابيع بين التجارب ولن يستعيده أحد بينما أنت نائم.
بطاقتان، مضيف واحد
الطبقة ذات البطاقتين تضع كلا الجهازين على نفس نطاق NUMA لنفس المضيف. يتواصلان عبر PCIe بدلاً من رابط بين البطاقات، وهو أمر يستحق المعرفة قبل التخطيط لطوبولوجيا تدريب حولهما.
مكدسك الخاص
نسلّمك جهازاً يحتوي على بطاقة ونبقى بعيدين عن الطريق. برامج التشغيل، وبيئة الحاويات، وإصدارات الأطر، والنواة هي مسؤوليتك. لا توجد طبقة مُدارة لديها آراء بشأن بايثون الخاص بك.
ما تناسبه هذه البطاقات
كلتا البطاقتين من فئة محطات العمل وليستا من أعلى مستوى في مجموعة التدريب، والموقع الصادق ينبع من ذلك.
الاستدلال، والضبط الدقيق، والتقديم، والأعمال الرقمية الدفعية. بهذا الترتيب.
إذا كان نموذجك يتسع في ثمانية وأربعين غيغابايت، فإن L40S ستخدمه بكفاءة طالما واصلت الدفع. إذا لم يتسع، فلا حماس يجعلها تتسع، والخطوة الصادقة التالية هي التكميم، أو التقسيم عبر الطبقة المزدوجة، أو فئة مختلفة تماماً من الأجهزة.
| عبء العمل | أي بطاقة | القيد الحقيقي |
|---|---|---|
| خدمة نموذج مكمّم لمستخدمين حقيقيين | RTX 4000 Ada | الذاكرة، ثم تزامن الطلبات |
| خدمة نموذج متوسط الحجم بدقة كاملة | L40S | ثمانية وأربعون غيغابايت هي السقف الذي يقرر ذلك |
| الضبط الدقيق باستخدام المحولات | L40S | ذاكرة VRAM أثناء المرور الخلفي، وليس الإنتاجية الخام |
| ضبط دقيق كامل لنموذج كبير | بطاقتا L40S، أو مكان آخر | يصبح النطاق الترددي بين البطاقات عبر PCIe هو الحد |
| التقديم الدفعي وترميز الفيديو | كلاهما | القرص والشبكة في أغلب الأحيان أكثر من البطاقة |
| المحاكاة الرقمية بدقة مضاعفة | لا أي منهما، عادةً | هذه ليست أجزاء دقة مضاعفة. استخدم أنوية EPYC |
من لا ينبغي له شراء هذا
سعة GPU تجذب التقدير المتفائل أكثر من أي منتج آخر نبيعه. ثلاث مجموعات من الناس يجب أن يمروا بجانب هذا الخط.
أكثر شيء مفيد يمكننا إخبار بعض العملاء به هو أننا المتجر الخطأ.
أنت تدرب شيئاً ضخماً من الصفر
التدريب متعدد العقد مع اتصال عالي النطاق بين المضيفين ليس ما هذا. بطاقتان عبر PCIe على مضيف واحد هو سقفنا، والتظاهر بخلاف ذلك سيضيع أسابيع من وقتك.
تريد فوترة بالثانية
تُستأجر البطاقات شهرياً. إذا كان استخدامك فعلاً عشرين دقيقة أسبوعياً، فمنصة القياس ستكلفك أقل مما سنكلّفك، ونفضل أن نقول ذلك الآن.
نموذجك لا يتسع
ستة وتسعون غيغابايت عبر بطاقتين هو الحد الأقصى القابل للعنونة هنا. احسب حسابات الذاكرة للأوزان والتنشيطات وحالة المُحسِّن قبل الطلب وليس بعده.
تحتاج دقة مضاعفة
هذه أجزاء دقة مفردة ودقة مختلطة. الأكواد العلمية التي تصر على إنتاجية FP64 ستعمل بشكل أسرع على ثمانية وأربعين نواة EPYC من أي من البطاقتين.
تريدنا أن ندير المكدس
لا نقوم بصيانة برنامج تشغيلك، أو نسخة CUDA الخاصة بك، أو مصفوفة الأطر الخاصة بك. تغطي الإضافة الإضافية للتصلب خط الأساس لنظام التشغيل وتتوقف عند هذا الحد.
المضيف حول البطاقة
GPU الجائعة هي جهاز تدفئة باهظ الثمن. المضيف مهم بقدر أهمية البطاقة، وهو المكان الذي تقطع فيه معظم عروض GPU الرخيصة التكلفة بصمت.
EPYC 9354P، ذاكرة ECC، NVMe محلي للجهاز، منفذ أربعين غيغابت.
أنوية يمكنها إطعامها
ثمانية إلى اثنان وثلاثون نواة EPYC مخصصة حسب الطبقة، مثبتة في نفس نطاق NUDA مثل البطاقة. تحميل البيانات والمعالجة المسبقة هما السبب المعتاد لتوقف حلقة التدريب، وهما عمل CPU.
ذاكرة ECC على المضيف
سجّلية DDR5-4800، من أربعة وستين إلى مئتين وستة وخمسين غيغابايت. عملية تستمر ثمانياً وأربعين ساعة هي بالضبط نوع الشيء الذي لا ينبغي أن يُلغى بقلب بت واحد في مخزن محمّل البيانات.
NVMe يواكب
من واحد إلى أربعة تيرابايت من NVMe المحلي من الجيل الرابع، معكوسة. تتدفق مجموعات البيانات من الجهاز نفسه بدلاً من عبور وحدة تخزين شبكة يقرأها شخص آخر أيضًا.
منفذ أربعين غيغابت
يستغرق سحب مجموعة بيانات متعددة التيرابايت أمسية كاملة. الاستخدام العادل على منفذ أربعين غيغابت هو مائتان وخمسون تيرابايت شهريًا، منشور في صفحة التسعير.
وحدة تحكم خارج النطاق
المنفذ التسلسلي و VNC عبر نفق مُصادَق عليه، مشمولان. عندما يفشل تثبيت برنامج تشغيل في منتصف الليل، لا يزال بإمكانك الوصول إلى الجهاز، وهذا هو سبب وجودها بالكامل.
البطاقة مُمرَّرة، لذا يتم تثبيت برنامج التشغيل داخل مثيلك مثل أي جهاز آخر. لا شيء على المضيف يلمس إطار عمل​ك، ولا يعيد إعادة التشغيل التفاوض على أي شيء.
أين توجد البطاقات
أمستردام، فرانكفورت، لندن، نيويورك، دالاس، لوس أنجلوس، سنغافورة وطوكيو. هذه هي الطوابق التي تمتلك كثافة الطاقة والتبريد لتشغيل البطاقات بحمل كامل بشكل مستمر بدلاً من دفعات مهذبة.
ثمانية مواقع في ستة بلدان. وحدات معالجة الرسوميات تحتاج إلى طاقة وتبريد، وليس إلى رموز بريدية.
فرانكفورت هي أكثر طوابق GPU ازدحامًا التي نشغلها وتستقبل بطاقات جديدة أولاً. دالاس هي أسهل مكان للحصول على سعة في وقت قصير، لأن الطاقة هناك رخيصة والطابق كبير. تحمل لوس أنجلوس بطاقات ولكنها تنخفض كثيرًا، لذا اطلب مبكرًا إذا كان المسار المتجه غربًا إلى آسيا هو ما تشتريه.
المخزون يتحرك فعليًا على هذا الخط. البطاقة التي تظهر كمتاحة في منتصف النهار قد لا تكون موجودة في المساء، ونفضل أن نعرض لك علامة نفاد المخزون دقيقة بدلاً من قبول طلب لا يمكننا تنفيذه هذا الأسبوع.
| الموقع | ملاحظات | الاستخدام النموذجي |
|---|---|---|
| أمستردام | الموقع الأكثر كثافة في الأسطول، كل شيء يُشحن هنا أولاً | استدلال أوروبي بزمن وصول منخفض لمعظم القارة |
| فرانكفورت | أكثر طوابق GPU ازدحامًا، أول من يستقبل بطاقات جديدة | التدريب والضبط الدقيق حيث تهم السعة أكثر من الجزء الأخير من الثانية |
| لندن | أقل زمن وصول عبر الأطلسي في أوروبا | خدمة المستخدمين على جانبي المحيط الأطلسي من مكان واحد |
| نيويورك | مرساة الساحل الشرقي، مجموعة منتجات كاملة | الاستدلال في أمريكا الشمالية |
| دالاس | طاقة رخيصة، طابق كبير، أسهل سعة | مهام الدفعات الطويلة وأي شيء حساس للسعر |
| لوس أنجلوس | أفضل المسارات المتجهة غربًا خارج آسيا | خدمة حواف المحيط الهادئ من أمريكا الشمالية |
| سنغافورة | الخيار الافتراضي لجنوب شرق آسيا | الاستدلال الإقليمي |
| طوكيو | زمن الرحلة الأكثر استقرارًا في المنطقة | حركة المرور اليابانية والكورية الحساسة لزمن الوصول |
المهام الطويلة، وكيف لا تخسر واحدة
الضبط الدقيق لمدة ثمانٍ وأربعين ساعة هو رهان على عدم حدوث خطأ لمدة يومين. نظّم المهمة بحيث يكلفك خسارة الرهان ساعة بدلاً من عطلة نهاية الأسبوع.
نقطة تفتيش. سنظل نقولها حتى بعد أن سمعتها مائة مرة.
- 01
نقطة تفتيش إلى NVMe المحلي، كثيرًا
كل بضع مئات من الخطوات، إلى القرص المحلي، لأنه سريع بما يكفي بحيث تكون التكلفة ضئيلة. المهمة التي لا يمكن استئنافها هي مهمة ستنفذها مرتين في النهاية.
- 02
انسخ نقاط التفتيش خارج الجهاز
NVMe المحلي معكوس، وليس خالدًا. الكتابة الاحتياطية خارج العقدة إلى مدينة مختلفة ليلاً، وهي أرخص تأمين في هذه الصفحة.
- 03
لقطة قبل لمس برنامج التشغيل
ترقيات برامج التشغيل والأطر هي السبب الرئيسي لتحول بيئة العمل إلى بيئة لا تعمل. تستغرق اللقطة ثوانٍ لإنشائها وثوانٍ لاستعادتها.
- 04
راقب درجة الحرارة والساعات، وليس الخسارة فقط
البطاقات تخفض أداءها عندما يكون الجو سيئًا. إذا انخفض إنتاجك دون تغيير في كودك، فانظر إلى أرقام الساعات قبل إعادة كتابة محمّل البيانات.
- 05
اسأل قبل التوسع الأفقي
إذا كانت الخطوة التالية تتطلب أربع أو ثماني بطاقات، أخبر الدعم بما تحاول تحقيقه. في بعض الأحيان يكون الحل جهازًا مخصصًا، وأحيانًا يكون الجواب أننا لسنا المورد المناسب.
عندما تفشل العتاد
بطاقات الرسوم عادةً تتدهور بدلاً من أن تموت: انخفاض في الساعات، أخطاء ذاكرة مصححة على البطاقة، وظيفة تعمل فجأة أبطأ بثلث دون سبب تجده في كودك.
البطاقات تفشل بشكل مختلف عن الأقراص. بشكل أبطأ، ومع مزيد من التحذير.
مراقبتنا تراقب درجة حرارة البطاقة وسلوك الساعات وعدادات الأخطاء على كل مضيف. عندما تبدأ بطاقة في التصرف بشكل غير سليم، نتواصل معك قبل أن تتوقف عن العمل، ونحدد موعد الاستبدال حول وظيفتك وليس في منتصفها. إذا فشلت البطاقة تمامًا، يُعاد بناء مثيلك على مضيف آخر في نفس الموقع مع الحفاظ على وحدات التخزين والعناوين.
الاسترداد في هذا الخط أبطأ من بقية الأسطول، ومن الجدير أن نوضح السبب: تيرابايت من البيانات ونموذج مقيم يستغرقان دقائق حقيقية للتحريك وإعادة التحميل. خطط لساعة بدلاً من خمس عشرة دقيقة، واحتفظ بنقاط التفتيش في مكان آخر غير الجهاز المحترق.
تحذير قبل الفشل، حيثما أمكن
تتم قراءة عدادات الأخطاء وقياسات الساعات بشكل مستمر. معظم عمليات استبدال البطاقات تتم في نافذة زمنية نتفق عليها مع العميل مسبقًا.
وحدات التخزين والعناوين تبقى
إعادة البناء تحمل محتويات NVMe وعناوين IP الخاصة بك. لا حاجة لتغيير أي شيء في DNS أو شهاداتك.
الائتمانات تلقائية
ينطبق نفس الضمان التعاقدي 99.99% هنا كما في كل مكان آخر، ويصل الائتمان دون نموذج مطالبة.
أسئلة حول هذا الخط
الجهاز المادي مرتبط بمثيلك عبر رابط ست عشرة مسارًا كاملًا. لا يوجد تقسيم vGPU، لا تقاسم زمني، ولا مستأجر آخر عليها. تعرض قائمة الأجهزة بطاقة واحدة لأن هناك بطاقة واحدة.
لا. البطاقات شهرية، وأقل التزام هو شهر واحد. إذا كان عبء عملك متقطعًا حقًا، سيكون المزود بالعداد أرخص، ولا توجد نسخة من هذه المحادثة حيث ندّعي خلاف ذلك.
لا شيء، إلا إذا طلبت ذلك. الصور تُشحن نظيفة ويتم تثبيت برنامج التشغيل داخل مثيلك، لأن نصف عملائنا في GPU لديهم آراء قوية حول الإصدارات والنصف الآخر لديه حاوية تحمل خاصته.
لا. تقعان على نفس المضيف ونفس مجال NUMA، وتتواصلان عبر PCIe. للعمل المتوازي في البيانات مع تبادل تدرجات معتدل، هذا جيد. لأي شيء يفترض نسيجًا عالي النطاق بين البطاقات، ليس كذلك، ويجب عليك ضبط توقعاتك وفقًا لذلك.
لا. يتطلب التمرير المباشر بناء المضيف له، مع طوبولوجيا PCIe وميزانية الطاقة في مكانها. الانتقال إلى هذا الخط يعني مثيلًا جديدًا ونسخًا للبيانات.
يتم مسح وحدة التخزين وتعود البطاقة إلى المجمع. خذ نقاط التفتيش قبل نهاية المدة، لأن المثيل الملغى يختفي حقًا وليس متوقفًا في انتظارك لتغيير رأيك.
خذ بطاقة كاملة
تحقق أولًا من حساب الذاكرة، واختر الموقع الذي لديه السعة، وادفع بالعملة الرقمية. وصول الجذر يصل في أقل من دقيقة، وقرار برنامج التشغيل يبقى لك، والأيام السبعة الأولى قابلة للاسترداد دون سبب.