Machine Learning Engineer (Inference)

شرکت اکالیپتوس استخدام می‌کند.

ما به دنبال یک مهندس/پژوهشگر هستیم تا سیستم‌هایی را برای سرویس‌دهی مدل‌های مدرن یادگیری ماشین در محیط پروداکشن (تولید) طراحی و بهینه‌سازی کند.

شما در حوزه‌های استنتاج مدل‌های زبانی بزرگ (LLM)، زیرساخت پردازنده‌های گرافیکی (GPU) و سرویس‌دهی مدل فعالیت خواهید کرد؛ با تمرکز بر این که مدل‌های متن‌باز (Open-source) را دریافت کرده و آن‌ها را برای انواع بار کاری (Workloads)، کارآمد، قابل اعتماد و آماده ورود به پروداکشن کنید.

الزامات ضروری (Musts)

• درک عمیق از یادگیری عمیق و معماری‌های مدرن LLM.
• تجربه کار با فریم‌ورک‌های یادگیری عمیق مانند PyTorch.
• تجربه بارگذاری، اجرا و سرویس‌دهی مدل‌های متن‌باز.
• درک پایه‌ای از موتورهای استنتاج (Inference engines) مانند vLLM.
• تجربه کار با سرورهای GPU و مدیریت بارهای کاری پردازنده گرافیکی.
• تجربه ساخت، تست، استقرار و راهبری برنامه‌ها در محیط پروداکشن.
• اشتیاق فراوان به یادگیری، پژوهش، آزمایش و توسعه ایده‌های جدید.

مزایا (Pluses)

• تجربه قوی با درون‌ساخت (Internals) موتورهای استنتاج مانند vLLM، SGLang یا موارد مشابه.
• تجربه در زمینه تکنیک‌های بهره‌وری استنتاج مانند Decoding حدسی (Speculative decoding)، کوانتیزاسیون (Quantization)، دسته‌بندی (Batching) و کش کردن (Caching).
• تجربه برنامه‌نویسی GPU/هسته (Kernel) با CUDA، Triton یا CuTe DSL.
• تجربه در استنتاج توزیع‌شده و چند-GPU (Multi-GPU).
• مشارکت در سیستم‌های یادگیری ماشین، کامپایلرها، هسته‌ها (Kernels)، زمان‌بندی‌های استنتاج (Inference runtimes) یا سرویس‌دهی مدل‌های متن‌باز.

درباره اکالیپتوس

اکالیپتوس یک شرکت فناورانه فعال در حوزه هوش مصنوعی است که با ارائه راهکارهای نوآورانه در زیرساخت محاسباتی، بر ارتقای کارایی و عملکرد مدل‌های پیشرفته هوش مصنوعی تمرکز دارد.