T-Hub - AIOps Engineer - AI Infrastructure Orchestration

T-Hub - AIOps Engineer - AI Infrastructure & Orchestration

Form of Employment: Contract of Employment

Location: Warsaw/Remote/Hybrid work model

Have you ever asked yourself whether you'd rather work in a big-tech, software house or startup? At home or in the office? In international teams or polish? At T Hub, there's one answer - **YES!

T Hub Poland** is a dynamic, forward-thinking division in T-Mobile Poland, where technology matters! It’s a place where best talents converge to ideate, prototype, and implement cutting-edge solutions in international projects held in Deutsche Telekom Group.

• Design, deploy, and maintain vLLM inference services on OpenShift/Kubernetes running on bare-metal GPU infrastructure.
• Manage NVIDIA GPU resources, including GPU partitioning and allocation, to maximize utilization across multiple models and tenants.
• Automate model lifecycle management, including model onboarding, versioning, deployment, hot-swapping, and rollback from private registries such as Hugging Face Enterprise and S3.
• Implement and manage Horizontal Pod Autoscaling (HPA) based on workload demand, queue depth, and GPU resource utilization.Optimize vLLM configurations and serving parameters to maximize performance, throughput, and resource efficiency.
• Build and maintain observability and monitoring solutions for AI inference services, including metrics collection, logging, and tracing.
• Instrument vLLM endpoints to expose metrics related to token consumption, latency, throughput, and error rates.
• Develop usage tracking mechanisms to monitor token consumption by API key, user, team, or department, supporting quota management and chargeback/showback requirements.
• Create and maintain Grafana dashboards covering infrastructure health, GPU utilization, inference performance, service availability, and business consumption metrics.
• Configure proactive monitoring and alerting using Prometheus and Alertmanager to detect infrastructure failures, performance degradation, and unusual consumption patterns.
• Implement and maintain API Gateway solutions to provide authentication, authorization, rate limiting, and intelligent routing to inference services.
• Ensure secure operation of AI services through network segmentation, ingress and egress controls, and adherence to security best practices.
• Maintain audit logging capabilities to support compliance, security investigations, and operational governance.
• Collaborate with AI Engineering, Platform Engineering, Security, and Infrastructure teams to deliver reliable, scalable, and secure AI services.
• Participate in troubleshooting, incident response, root cause analysis, and continuous platform improvement initiatives.

**W realizacji zadań

pomoże Ci**

• 5+ years of experience in DevOps, Site Reliability Engineering (SRE), Platform Engineering, or Infrastructure Operations.
• At least 2 years of hands-on experience supporting MLOps, AI Infrastructure, or Large Language Model (LLM) platforms.
• Strong experience with Kubernetes and OpenShift administration in production environments.
• Proven experience deploying and operating vLLM-based inference platforms in production.
• Strong understanding of LLM serving concepts, including Paged Attention, continuous batching, and inference optimization techniques.
• Deep knowledge of NVIDIA GPU technologies, CUDA drivers, NVIDIA Container Toolkit, and GPU troubleshooting.Hands-on experience with Prometheus, Grafana, OpenTelemetry, and ELK Stack.
• Experience building observability solutions, including custom metrics, exporters, dashboards, and alerting mechanisms.
• Strong Python programming skills with experience developing automation and operational tooling.
• Experience with Bash scripting and Linux systems administration.
• Familiarity with GitLab CI, Jenkins, ArgoCD, and Infrastructure-as-Code practices.
• Strong analytical and problem-solving skills with the ability to work in complex, distributed environments.Excellent communication and collaboration skills.

Working at T Hub will offer you an unique and highly rewarding experience on IT market. As a leader in the telecommunications industry, we do not only provide a platform to hone your technical skills but also empower you to be a catalyst for innovation.

You'll have the opportunity to work at the forefront of modern technologies, from 5G to IoT and AI, shaping the future of connectivity.

Biorąc udział w naszych rekrutacjach możesz liczyć na uczciwość i transparentność. Dokładnie i sprawiedliwie rozważamy każdą kandydaturę, bez wyjątku. Dla nas nie ma znaczenia Twoja rasa, kolor skóry, Twoja orientacja seksualna, tożsamość płciowa, pochodzenie, niepełnosprawność, poglądy, wygląd, czy religia, która wyznajesz.

Liczą się tylko Twoje kompetencje.

Gwarantujemy Ci także, że uczestnicząc w rekrutacjach do #MagentaTeam zawsze otrzymasz informacje zwrotną!

Jesteśmy firmą technologiczną, a naszym celem jest tworzenie innowacyjnych rozwiązań dla klientów ondywidualnych i biznesowych.

W T-Mobile wszyscy żyjemy w świecie magenta! Kolor ten jest nam bliski, bo oznacza wiarę w powodzenie podejmowanych działań, pewność siebie i wytrzymałość. Właśnie tacy jesteśmy jako zespół.

W #MagentaTeam stawiamy na wymianę doświadczeń, zwinną pracę i szybko adaptujemy się do zmian! #MagentaTeam to jednak przede wszystkim mix różnych kompetencji i doświadczeń, osobowości, temperamentów i poglądów. Właśnie w tej różnorodności widzimy naszą największą siłę.

Przesłanie do spółki T-Mobile Polska S.A. („T-Mobile”) danych osobowych w zakresie szerszym, niż określony w art. 22 (1) Kodeksu pracy, stanowi zgodę na przetwarzanie tych danych przez T-Mobile w celu prowadzenia procesu rekrutacyjnego. Zgodę możną wycofać w dowolnym czasie. Wycofanie zgody nie wpływa na zgodność z prawem przetwarzania dokonanego przed jej wycofaniem.

1) Administratorem Pani/Pana danych osobowych jest T-Mobile Polska S.A. (T-Mobile) z siedzibą w Warszawie przy ul. Marynarskiej 12, 02-674 Warszawa.

2) T-Mobile wyznaczył inspektora ochrony danych, z którym można skontaktować się:

• a) poprzez e-mail [email protected]

• b) listownie na adres:

T-Mobile Polska S.A.

Ul. Marynarska 12

02-674 Warszawa

Z dopiskiem: „Inspektor Ochrony Danych Osobowych”

3) Pani/Pana dane osobowe pozyskane w toku procesu rekrutacji będą przetwarzane:

• a) w celu wykonania obowiązków wynikających z przepisów prawa, związanych z procesem rekrutacji, w tym przede wszystkim Kodeksu pracy – podstawą prawną przetwarzania jest obowiązek prawny ciążący na T-Mobile (art. 6 ust. 1 lit c ogólnego rozporządzenia o ochronie danych osobowych nr 2016/679 - RODO; w związku z przepisami Kodeksu pracy);

• b) w celu przeprowadzenia procesu rekrutacji w zakresie danych niewymaganych przepisami prawa – podstawą prawną przetwarzania jest zgoda (art. 6 ust. 1 lit a RODO);

• c) dla celów prowadzenia przyszłych procesów rekrutacyjnych, w przypadku wyrażenia zgody na przetwarzanie danych w tym celu – podstawą prawną przetwarzania jest zgoda (art. 6 ust. 1 lit a RODO);

• d) w celu weryfikacji posiadanych przez Pana/Panią kwalifikacji i umiejętności oraz ustalenia warunków współpracy – podstawą prawną przetwarzania danych jest prawnie uzasadniony interes T-Mobile (art. 6 ust. 1 lit f RODO). Prawnie uzasadnionym interesem T-Mobile jest weryfikacja kandydatów do pracy oraz określenie warunków ewentualnej współpracy z Panią/Panem;

• e) w celu ustalenia lub dochodzenia ewentualnych roszczeń lub obrony przed takimi roszczeniami przez T-Mobile – podstawą prawną przetwarzania danych jest prawnie uzasadniony interes T-Mobile (art. 6 ust. 1 lit f RODO).

4) Jeżeli dane osobowe nie zostały przez Panią/Pana podane samodzielnie, źródłem danych osobowych jest agencja rekrutacyjna.

5) Odbiorcami Pani/Pana danych osobowych mogą być upoważnieni pracownicy i współpracownicy T-Mobile, podwykonawcy T-Mobile, oraz podmioty upoważnione do otrzymania danych osobowych na podstawie przepisów prawa.

6) T-Mobile przekazuje dane osobowe poza Europejski Obszar Gospodarczy tylko wtedy, gdy jest konieczne i z zapewnieniem odpowiedniego stopnia ochrony, przede wszystkim poprzez:

• współpracę z podmiotami przetwarzającymi dane osobowe w państwach, w odniesieniu do których została wydana stosowna decyzja Komisji Europejskiej dotycząca stwierdzenia zapewnienia odpowiedniego stopnia ochrony danych osobowych;

• stosowanie standardowych klauzul umownych zatwierdzonych przez Komisję Europejską;

• stosowanie wiążących reguł korporacyjnych zatwierdzonych przez właściwy organ nadzorczy.

W celu uzyskania informacji w ww. zakresie oraz uzyskania kopii zabezpieczeń, należy skontaktować się na jeden z adresów wskazanych w ust. 2 powyżej.

7) T-Mobile będzie przetwarzać dane osobowe zawarte w Pani/Pana dokumentach aplikacyjnych.

8) Pani/Pana dane osobowe będą przetwarzane do momentu zakończenia aktualnego procesu rekrutacji i wyboru kandydata lub kandydatów przez T-Mobile, a w zakresie w jakim przetwarzanie odbywa się na podstawie zgody – do jej wycofania . Okres przetwarzania może zostać każdorazowo przedłużony o okres przedawnienia roszczeń, jeżeli przetwarzanie Pani/Pana danych osobowych będzie niezbędne dla ustalenia lub dochodzenia ewentualnych roszczeń lub obrony przed takimi roszczeniami przez T-Mobile.

9) Jeżeli została wyrażana przez Panią/Pana zgoda na przetwarzanie danych osobowych na potrzeby przyszłych procesów rekrutacyjnych Pani/Pana dane osobowe będą przetwarzane przez okres 6 miesięcy lub do momentu wycofania zgody na przetwarzanie danych osobowych.

10) Każdą z wyrażonych zgód można wycofać w dowolnym momencie. Wycofanie zgody nie wpływa na zgodność z prawem przetwarzania dokonanego przed jej wycofaniem. Dla celów dowodowych T-Mobile prosi o wycofywanie zgód drogą pisemną lub elektroniczną.

11) Przysługuje Pani/Panu prawo: dostępu do treści danych oraz żądania ich sprostowania, usunięcia, ograniczenia przetwarzania, prawo do przenoszenia danych osobowych.

12) Przysługuje Pani/Panu także prawo wniesienia skargi do organu nadzorczego zajmującego się ochroną danych osobowych, gdy uzna Pani/Pan, że przetwarzanie Pani/Pana danych osobowych narusza przepisy RODO.

13) Przysługuje Pani/Panu prawo do zgłoszenia sprzeciwu względem przetwarzania danych osobowych w celu określonym w punkcie 3 d) i e) powyżej, z przyczyn związanych z Pani/Pana szczególną sytuacją. Dla celów dowodowych T-Mobile prosi o wniesienie sprzeciwu drogą pisemną lub elektroniczną.

14) Podanie danych osobowych jest wymagane przez przepisy prawa, w tym przede wszystkim przez Kodeks pracy. Konsekwencją niepodania tych danych jest brak możliwości rozpatrzenia Pani/Pana kandydatury w procesie rekrutacyjnym. W zakresie danych niewymaganych, przepisami prawa, w tym Kodeksu pracy podanie danych jest dobrowolne.

• Wyrażam zgodę na przetwarzanie moich danych osobowych przez T-Mobile Polska S.A. zawartych w aplikacji na potrzeby przyszłych procesów rekrutacyjnych. Jestem świadomy/a, że mam prawo do wycofania zgody w każdym czasie. Wycofanie zgody nie ma wpływu na zgodność z prawem przetwarzania dokonanego przed jej wycofaniem.

T-Mobile Polska informuje, że posiada procedurę zgłoszeń wewnętrznych w zakresie określonym w ustawie o ochronie sygnalistów, określającą pisemny kanał zgłoszeń (https://tmpl.integrityline.app/) i dopuszczającą zgłoszenia anonimowe.