Principal Engineer, AI Security & Model Internals

Starsza inżynierka / inżynier ds. bezpieczeństwa AI i modeli (AI Security & Model Internals)

Opera · Warszawa, Wrocław, hybrydowo

Opis stanowiska

Zakres obowiązków

  • Badanie wnętrza modeli językowych (np. analiza warstw, głowic, patchowanie aktywacji) za pomocą narzędzi takich jak TransformerLens.
  • Skаниowanie modeli zewnętrznych pod kątem ukrytych zagrożeń (backdoorów, trojanów) przed ich udostępnieniem użytkownikom.
  • Projektowanie monitorów do analizy stanu modeli w czasie rzeczywistym, np. podczas wywoływania narzędzi.
  • Ochrona przed wstrzykiwaniem poleceń (prompt injection) poprzez architekturę odseparowującą niezaufane treści od krytycznych działań.
  • Budowa bezpiecznych pipeline do fine-tuning modeli (LoRA, QLoRA) i testowanie ich pod kątem wycieków danych czy regresji bezpieczeństwa.
  • Przetwarzanie wyników badań naukowych na praktyczne rozwiązania (monitory, checki) dostosowane do ograniczeń urządzeń.
  • Dzielenie się odkryciami poprzez publikacje i open-source narzędzia.

Wymagania

  • Zaawansowane umiejętności w Pythonie i PyTorch oraz doświadczenie w budowie systemów (nie tylko notebooków).
  • Praktyczna znajomość wnętrza transformerów (np. residual stream) i doświadczenie w manipulacji przepływem danych w modelach.
  • Doświadczenie w fine-tuning (LoRA, PEFT) i ocenie wyników.
  • Myślenie z perspektywy atakującego (red-teaming, badania luk, CTF, jailbreak) z udokumentowanymi osiągnięciami.
  • Umiejętność szybkiego wdrażania pomysłów z badań naukowych na prototypy.
  • Biegła komunikacja pisemna w języku angielskim i umiejętność krytycznego podejścia do pomysłów.

Oferta

  • Praca w międzynarodowym, inkluzywnym zespole z płaską strukturą i krótkimi drogami decyzyjnymi.
  • Wsparcie w rozwoju kompetencji i elastyczny model pracy.

Podobne oferty

  • Software Engineer II, Backend

    Programistka / Programista backend (Backend Engineer)

    Affirm Umowa o pracę
    • Dla rodziców
    • Python
    • MySQL
    • AWS
    • Kubernetes
    • Kotlin
    ok. 21 600-31 600 zł brutto / mies. Zdalnie
  • System Engineer II

    Inżynierka / Inżynier systemów (DevOps)

    Qualtrics Kraków, hybrydowo Umowa o pracę
    • Linux
    • Java
    • Python
    • Docker
    • Kubernetes
  • Software Engineer II

    Programistka / Programista (Software Engineer II)

    Qualtrics Kraków, hybrydowo Umowa o pracę
    • Agile
    • JavaScript
    • Python
    • Microservices
    • Web development
  • Senior Security Engineer - Isovalent

    Specjalistka / Specjalista ds. cyberbezpieczeństwa (Security Engineer)

    Cisco Kraków Umowa o pracę
    • Azure
    • Python
    • AWS
    • Kubernetes
    • Bash
    Zdalnie
  • Staff Software Engineer, Backend (Identity International)

    Starsza programistka / Programista backend (Identity International)

    Affirm Umowa o pracę
    • Dla rodziców
    • Python
    • MySQL
    • AWS
    • Kubernetes
    • Kotlin
    ok. 30 400-40 400 zł brutto / mies. Zdalnie