AI Security Engineer

Specjalistka / Specjalista ds. bezpieczeństwa AI (AI Security Engineer)

Bjak · Zdalnie

Opis stanowiska

Zakres obowiązków

  • Ocena danych klientów wysyłanych do zewnętrznych dostawców modeli AI pod kątem minimalizacji, kontroli dostawców, retencji, logowania i dopuszczalnego użytkowania.
  • Projektowanie mechanizmów ograniczających uprawnienia agentów AI, narzędzi, działań i dostępu do systemów na zasadzie najmniejszych uprawnień.
  • Wdrażanie i testowanie izolacji danych między klientami w ramach promptów, historii rozmów, wyszukiwania, pamięci i usług połączonych z AI.
  • Modelowanie zagrożeń i testowanie podatności na iniekcje promptów oraz pośrednie iniekcje poprzez dokumenty, treści pobrane, linki i inne nieufne wejścia.
  • Współpraca z zespołami Product i Engineering w zakresie bezpiecznego przetwarzania dokumentów, obsługi treści, walidacji wyjść i aprobaty dla wrażliwych działań.
  • Wsparcie w zakresie spełnienia wymagań SC TRM i BNM RMiT dla ryzyk technologicznych związanych z AI, w tym oceny ryzyka, nadzoru nad dostawcami, dowodów kontroli i napraw.
  • Budowa testów bezpieczeństwa, monitoringu i procedur reagowania na nadużycia AI, ujawnienie danych, nieautoryzowane działania i incydenty dostawców.

Wymagania

  • Tytuł w dziedzinie informatyki, cyberbezpieczeństwa, AI lub pokrewnej dziedzinie, lub równoważne doświadczenie.
  • 3+ lata doświadczenia w bezpieczeństwie aplikacji, bezpieczeństwie produktów, inżynierii bezpieczeństwa lub bezpieczeństwie systemów AI.
  • Doświadczenie w wdrażaniu lub zarządzaniu kontrolami SC TRM i BNM RMiT, ryzykiem technologicznym lub dowodami kontroli regulacyjnych.
  • Zrozumienie integracji zewnętrznych modeli LLM, API modeli, narzędzi agentów, RAG oraz architektur aplikacji AI.
  • Znajomość zagrożeń takich jak iniekcje promptów, pośrednie iniekcje, wyciek danych między użytkownikami, nadmierne uprawnienia agentów i ujawnienie danych dostawcom.
  • Umiejętności programowania lub pisania skryptów, preferowane języki Python i TypeScript/Node.js, oraz znajomość API i chmur AWS lub GCP.
  • Możliwość współpracy z zespołami Product, Legal, Compliance, Data i Engineering w zakresie praktycznych kontroli i komunikacji ryzyka.

Oferta

  • Praca zdalna z możliwością pracy z dowolnego miejsca na świecie.
  • Praca w międzynarodowym zespole z ponad 20 narodowościami.
  • Możliwość rozwoju w dynamicznie rozwijającej się firmie z misją ułatwiania zarządzania finansami.
Aplikuj

Podobne oferty

  • Developer Tools DevOps Engineering Intern - 2027

    Stażystka / Stażysta DevOps w narzędziach deweloperskich (Developer Tools)

    NVIDIA Warszawa Umowa o pracę
    • Bez doświadczenia
    • Python
    • Git
    • Docker
    • Kubernetes
    • Jenkins
    ok. 9 800-17 000 zł brutto / mies.

  • Image and Data Processing Libraries Intern

    Stażystka / Stażysta w bibliotekach przetwarzania obrazów i danych (AI/ML, C++/CUDA)

    NVIDIA Warszawa Umowa o pracę
    • Python
    • C++
    • AI
    • CUDA
    • OpenMP
    ok. 9 800-17 000 zł brutto / mies.

  • Security Architect

    Architektka / Architekt bezpieczeństwa IT (Security Architect)

    Bjak Umowa o pracę
    • Python
    • Swift
    • AWS
    • Node.js
    • TypeScript
    Zdalnie

  • Data Privacy Security Engineer

    Specjalistka / Specjalista ds. ochrony danych i bezpieczeństwa (Data Privacy Security Engineer)

    Bjak Umowa o pracę
    • AWS
    • GCP
    • Tokenizacja
    • Bezpieczeństwo danych
    • Szyfrowanie
    Zdalnie

  • DevSecOps Engineer

    Specjalistka / Specjalista DevSecOps (DevOps z bezpieczeństwem)

    Bjak Umowa o pracę
    • Python
    • Docker
    • AWS
    • Kubernetes
    • GCP
    Zdalnie