Research Engineer - Inference

ElevenLabs · Zdalnie, Warszawa

Opis stanowiska

ElevenLabs to firma zajmująca się badaniami i produktami AI, która zmienia sposób interakcji ludzi z technologią. Szukamy osoby, która dołączy do zespołu badawczego i zajmie się wdrażaniem i optymalizacją modeli AI w produkcji, aby zapewnić szybkie, niezawodne i skalowalne działanie systemów.

Zakres obowiązków

  • Wdrażanie zaawansowanych modeli ML do produkcji i odpowiedzialność za cały proces od badań do infrastruktury serwisowej.
  • Optymalizacja wydajności modeli, w tym obniżanie opóźnień, zwiększanie przepustowości i redukcja kosztów przy użyciu technik takich jak kwantyzacja, destylacja, optymalizacja pamięci KV, strategie batchingu i niestandardowe jądra.
  • Budowa i dostosowywanie wysokowydajnych systemów serwisowych dla aplikacji czasu rzeczywistego, gdzie każda milisekunda ma znaczenie.
  • Tworzenie narzędzi i infrastruktury, które umożliwią badaczom szybkie, bezpieczne i pewne wdrażanie nowych modeli do produkcji.

Wymagania

  • Doświadczenie w wdrażaniu i serwisowaniu modeli ML w produkcji, szczególnie w aplikacjach wrażliwych na opóźnienia.
  • Silne umiejętności inżynierskie w programowaniu GPU i optymalizacji inferencji (np. CUDA, Triton, TensorRT, ramki serwisowe takie jak vLLM lub SGLang).
  • Umiejętność niezależnego profilowania, diagnozowania i eliminowania wąskich gardeł w całym stosie serwisowym, od architektury modeli po jądra i orchestrację.
  • Chęć pracy w dynamicznym, międzynarodowym zespole.

Oferta

  • Praca zdalna z możliwością pracy z Polski.
  • Innowacyjna kultura pracy i możliwość wpływania na rozwój AI.
  • Wsparcie rozwoju zawodowego, w tym stypendia na szkolenia i podróże.
  • Roczne spotkania zespołu w nowych lokalizacjach.
  • Wsparcie finansowe na korzystanie z przestrzeni coworkingowych.

Podobne oferty