AI Engineer
Zakres obowiązków:
Projektowanie promptów jako artefaktów produktowych, odpornych na halucynacje, z separacją danych zaufanych i niezaufanych w kontekście
Tworzenie modularnych promptów (role, instrukcje, constraints, output schema) z myślą o reużywalności, parametryzacji i wersjonowaniu
Projektowanie system promptów dla agentów z dostępem do narzędzi, w tym precyzyjnych opisów narzędzi (tool descriptions traktowanych jako element promptu)
Projektowanie outputów zgodnych z systemami downstream: JSON, schematy decyzyjne, tabele, struktury walidowalne
Wsparcie projektowania orkiestracji multi-agent (np. wzorce supervisor/worker, specjalizacja agentów)
Zarządzanie kontekstem w długich trajektoriach: kompresja, podsumowania pośrednie, strategie pamięci
Projektowanie promptów dla scenariuszy RAG: wzorce cytowania, grounding na źródłach, obsługa sytuacji „brak danych w kontekście / nie wiem"
Współpraca przy projektowaniu strategii retrievalu i kompresji kontekstu pod konkretny use case biznesowy
Budowa golden datasets oraz eval setów dopasowanych do use case'u (zarówno dla pojedynczych promptów, jak i całych trajektorii agentowych)
Definiowanie i mierzenie metryk: jakość finalnej odpowiedzi, task success rate, tool-call accuracy, jakość trajektorii, stabilność, koszt i czas wykonania
Stosowanie podejścia LLM-as-a-judge ze świadomością jego ograniczeń i bias
Regression testing przy zmianach promptów, modeli lub wersji API; udział w testach UAT
Praca z narzędziami klasy Braintrust, LangSmith, Langfuse, Promptfoo lub własnymi harness'ami ewaluacyjnymi
Identyfikacja i mitygacja ryzyk: prompt injection (szczególnie w architekturach z narzędziami), data exfiltration przez tool use, jailbreaks, niepożądane ujawnienie danych
Świadome projektowanie z uwzględnieniem PII w promptach i logach, separacji trusted/untrusted content w kontekście
Praca z trace'ami agentów, analiza failure modes, root cause analysis dla niepożądanych zachowań
Iteracyjne ulepszanie promptów na podstawie danych z runtime, nie tylko intuicji
Przekładanie potrzeb biznesowych (use case'y, procesy, decyzje) na skuteczne rozwiązania promptowe i agentowe
Wymagania:
Doświadczenie w projektach opartych o agentowe systemy LLM realizowanych w środowisku regulowanym (np. bankowość), obejmujących etapy PoC, pilotażu i UAT
Praktyczna znajomość pracy z Azure OpenAI w środowisku enterprise oraz doświadczenie z modelami reasoningowymi (np. o-series, Claude Extended Thinking)
Umiejętność projektowania i rozwijania promptów zgodnie z podejściem „prompt as code" — wersjonowanie w Git, code review, CI/CD, testy regresyjne, środowiska dev/test/prod
Doświadczenie w projektowaniu modularnych promptów i architektur agentowych (ReAct, planning, self-check, multi-agent orchestration)
Znajomość scenariuszy RAG oraz grounding — projektowanie rozwiązań opartych o źródła wiedzy, regulacje, procedury i dokumenty klienta
Umiejętność tworzenia promptów odpornych na halucynacje, prompt injection i inne ryzyka bezpieczeństwa związane z LLM
Doświadczenie w integracji rozwiązań AI z systemami biznesowymi oraz narzędziami orkiestracji agentów
Znajomość metod ewaluacji jakości modeli i promptów: golden datasets, eval sets, regression testing, LLM-as-a-judge, metryki jakości i stabilności
Praktyka w pracy z narzędziami typu LangSmith, Langfuse, Braintrust, Promptfoo lub własnymi frameworkami ewaluacyjnymi
Umiejętność analizy trace'ów agentów, debugowania failure modes oraz iteracyjnego ulepszania rozwiązań na podstawie danych runtime
Doświadczenie we współpracy z product ownerami, analitykami, zespołami AI/data/IT oraz obszarami compliance, risk, security i model risk management
Umiejętność przekładania potrzeb biznesowych na skuteczne rozwiązania promptowe i agentowe
Oferujemy:
Dofinansowanie karty sportowej
Stałe wsparcie konsultanta
Program rekomendacji pracowników