Netflix نوآوری و قابلیت اطمینان بالاتر از کارآیی را در اولویت قرار می دهد ، و همانطور که ما همچنان در سطح جهانی مقیاس می گیریم ، یافتن فرصت هایی که تعادل این سه متغیر به طور فزاینده ای دشوار می شود. با این حال ، هر چند وقت یک بار یک فرآیند یا کاربردی وجود دارد که می تواند منحنی را بر روی هر سه عامل تغییر دهد. برای Netflix این فرآیند شامل موتورهای خودکار سازی ترکیبی برای خدمات ما از طریق مقیاس گذاری اتومبیل Scryer و Amazon بود.

در حال حاضر بیش از 15 ٪ از AutoScales ردپای EC2 ما ، و اکثر این استفاده ها توسط نمونه های رزرو شده تحت پوشش قرار می گیرند زیرا ما ارزش قیمت گذاری و ظرفیت را ارزیابی می کنیم. ترکیبی از این دو عامل یک "بازار داخلی" ایجاد کرده است که روزانه بیش از 12000 نمونه بلااستفاده دارد. ما به طور پیوسته روی ساخت یک سیستم خودکار کار کرده ایم که به ما امکان می دهد به طور مؤثر از این فرورفتگی ها استفاده کنیم.

ایجاد ظرفیت نقطه داخلی ساده است: اجرای مقیاس خودکار و خرید نمونه های رزرو شده. در این پست ما با توجه به پیچیدگی هایی که ناشی از مقیاس بزرگ و معماری میکروسرویسم غیر متمرکز ما است ، به چگونگی استفاده از این فرورفتگی می پردازیم. در پست بعدی ، تیم رمزگذاری در مورد جزئیات فنی در خودکار سازی بازار داخلی Netflix بحث می کند و برخی از درس های آموخته شده را برجسته می کند.

چگونه نقطه داخلی شروع شد

شروع اولیه وام گرفتن در مقیاس بزرگ در بهار سال 2015 آغاز شد. یک الگوریتم جدید برای یکی از خدمات شخصی سازی ما ، رتبه بندی ویدیوی آنها را با خوشه پیش ساخته آنها قرار داد و اندازه آن را با 5 برابر یک شب گسترش داد. خوشه مقدماتی آنها SLA برای انجام کارهای روزانه خود بین نیمه شب و 11 صبح داشت و بیش از 1500 R3. 4xlarges در طول بعد از ظهر و عصر استفاده نمی کرد.

با انگیزه در مورد ناکارآمدی ها ، ما به طور فعال خدمات دیگری را جستجو کردیم که شغل های نسبتاً قطع کننده ای داشت که می توانست در طول ساعت ها اجرا شود. تیم رمزگذاری ، که وظیفه تبدیل پرونده های ویدیویی Master Raw را به قالب های قابل مصرف برای اکوسیستم دستگاه ما بر عهده دارد ، کاندیدای کاملی بود. رویکرد اولیه اعمال شده ، یک برنامه استقراض مبتنی بر در دسترس بودن تاریخی بود ، با مقیاس پایین آمدن به صورت دستی بین تیم های شخصی سازی ، رمزگذاری و ظرفیت ابری ارتباط برقرار می کرد.

از آنجا که تیم رمزگذاری همچنان از مزایای ظرفیت اضافی بهره می برد ، آنها علاقه مند به وام گرفتن از فرورفتگی های مختلف در انواع دیگر شدند. به دلیل عدم وجود داده های زمان واقعی که ظرفیت استفاده نشده بین حسابهای خود را نشان می دهد ، ما در تلاش برای ایجاد ابزار و فرآیندهای لازم برای ایجاد وام در یک مقیاس بزرگتر و اتوماتیک ، تلاش خود را برای ایجاد ابزار و فرآیندهای لازم انجام دادیم.

ملاحظات وام

اولین شرط برای وام گرفتن خودکار ، ایجاد تله متری در معرض شمارش رزرو استفاده نشده است. با توجه به اینکه موتورهای خودکار ما با یک دقیقه دانه ای کار می کنند ، ما نمی توانیم از پرونده صورتحساب AWS به عنوان منبع داده خود استفاده کنیم. در عوض ، تیم ابزارهای مهندسی یک API را در داخل سکوی استقرار ما ساختند که در زمان واقعی رزرو استفاده نشده در سطح دقیقه را در معرض دید قرار می دهد. این محاسبه استفاده نشده داده های ورودی را از ابزار استقرار ما ، سیستم نظارت و سیستم رزرو AWS ترکیبی می کند.

شرط دوم یافتن مشاغل دسته ای است که از نظر مدت زمان کوتاه و یا در طبیعت قطع می شوند. مشاغل رمزگذاری دسته ای ما حداقل SLA را بین پنج دقیقه تا یک ساعت داشته و باعث می شود آنها برای پنجره وام دوازده ساعته اولیه ما مناسب باشند. یک مزیت اضافی داشتن شغل هایی است که دارای منابع آگنوستیک هستند و امکان وام بیشتر را فراهم می کند زیرا چشم انداز استفاده ما از نوع نمونه ای از نوع های مختلف ایجاد می کند.

آخرین شرط این است که تیم ها داده های تله متری را جذب کنند و قوانین مناسبی را برای زمان وام گرفتن تعیین کنند. نگرانی اصلی این بود که آیا این وام گرفتن ظرفیت خدمات در مسیر بحرانی را به خطر می اندازد یا خیر. ما این مسئله را با قرار دادن تمام وام های خود در یک حساب جداگانه از حساب تولید خود و اعمال مزایای مالی صورتحساب تلفیقی ، کاهش دادیم. از لحاظ تئوریکی ، یک سیستم وام گرفتن کاملاً خودکار بدون در نظر گرفتن ساختار حساب ، نتایج عملیاتی و مالی یکسانی خواهد داشت ، اما اعمال صورتحساب تلفیقی یک شبکه ایمنی ظرفیت را ایجاد می کند.

نتیجه

در حالت ایده آل ، بازار نقطه داخلی می تواند کارآمدترین بستر برای اجرای مشاغل کوتاه مدت یا قطع قابل قطع از طریق سطل بسته بندی سطح نمونه باشد. مجموعه ای از مراحل کوچک ما را در جهت درست مانند:

• شناسایی نامزدهای آزمون مقدماتی برای به اشتراک گذاری منابع
• ایجاد مشاغل کوتاه مدت یا اصلاح شغل برای قطع تر
• برقراری ارتباط پیام های گسترده تر در مورد اشتراک منابع

در پست بعدی این سری ، تیم رمزگذاری از طریق موارد استفاده خود در بازار نقطه داخلی صحبت می کند و تفاوت های ظریف وام گرفتن در زمان واقعی را در چنین مقیاس به تصویر می کشد. تیم آنها به طور فعال از طریق این مشکل کارآیی هیجان انگیز و بسیاری دیگر در نتفلیکس کار می کند. اگر می خواهید به ما در حل این چالش ها کمک کنید ، لطفاً سایت شغل ما را بررسی کنید!