Principal Engineer, AI Security & Model Internals
Starsza inżynierka / inżynier ds. bezpieczeństwa AI i modeli (AI Security & Model Internals)
Opera · Warszawa, Wrocław, hybrydowo
Opis stanowiska
Zakres obowiązków
- Badanie wnętrza modeli językowych (np. analiza warstw, głowic, patchowanie aktywacji) za pomocą narzędzi takich jak TransformerLens.
- Skаниowanie modeli zewnętrznych pod kątem ukrytych zagrożeń (backdoorów, trojanów) przed ich udostępnieniem użytkownikom.
- Projektowanie monitorów do analizy stanu modeli w czasie rzeczywistym, np. podczas wywoływania narzędzi.
- Ochrona przed wstrzykiwaniem poleceń (prompt injection) poprzez architekturę odseparowującą niezaufane treści od krytycznych działań.
- Budowa bezpiecznych pipeline do fine-tuning modeli (LoRA, QLoRA) i testowanie ich pod kątem wycieków danych czy regresji bezpieczeństwa.
- Przetwarzanie wyników badań naukowych na praktyczne rozwiązania (monitory, checki) dostosowane do ograniczeń urządzeń.
- Dzielenie się odkryciami poprzez publikacje i open-source narzędzia.
Wymagania
- Zaawansowane umiejętności w Pythonie i PyTorch oraz doświadczenie w budowie systemów (nie tylko notebooków).
- Praktyczna znajomość wnętrza transformerów (np. residual stream) i doświadczenie w manipulacji przepływem danych w modelach.
- Doświadczenie w fine-tuning (LoRA, PEFT) i ocenie wyników.
- Myślenie z perspektywy atakującego (red-teaming, badania luk, CTF, jailbreak) z udokumentowanymi osiągnięciami.
- Umiejętność szybkiego wdrażania pomysłów z badań naukowych na prototypy.
- Biegła komunikacja pisemna w języku angielskim i umiejętność krytycznego podejścia do pomysłów.
Oferta
- Praca w międzynarodowym, inkluzywnym zespole z płaską strukturą i krótkimi drogami decyzyjnymi.
- Wsparcie w rozwoju kompetencji i elastyczny model pracy.
Podobne oferty
-
Software Engineer II, Backend
Programistka / Programista backend (Backend Engineer)
ok. 21 600-31 600 zł brutto / mies. Zdalnie -
System Engineer II
Inżynierka / Inżynier systemów (DevOps)
-
Software Engineer II
Programistka / Programista (Software Engineer II)
-
Senior Security Engineer - Isovalent
Specjalistka / Specjalista ds. cyberbezpieczeństwa (Security Engineer)
Zdalnie -
Staff Software Engineer, Backend (Identity International)
Starsza programistka / Programista backend (Identity International)
ok. 30 400-40 400 zł brutto / mies. Zdalnie