Software Technical Leader - GenAI Gateway
Como Software Technical Leader en Mercado Libre, diseñarás y escalarás sistemas innovadores y seguros que resuelven problemas reales y de alto impacto. Trabajarás en un entorno dinámico con tecnología de vanguardia, aplicando buenas prácticas de ingeniería, modelos de IA propios y aprendizaje continuo, con el propósito de democratizar el comercio electrónico y los servicios financieros en América Latina.
Imagináte emprendiendo proyectos desafiantes, dinámicos e innovadores y siendo responsable de:
Liderar técnicamente la estrategia de inferencia de modelos open source, definiendo la arquitectura de serving y estrategias de optimización de costo y latencia.
Diseñar e implementar soluciones de token compression, prompt caching, optimización de KV-cache y quantización para mejorar el throughput y reducir costos a escala.
Desarrollar componentes core del gateway en Go, garantizando alta disponibilidad, bajo overhead y escalabilidad horizontal.
Mentorear a ingenieros del equipo y revisar diseños técnicos, elevando el estándar de calidad de código e ingeniería en la organización.
¿Qué buscamos en vos?
Contar con experiencia liderando técnicamente iniciativas o equipos de ingeniería de software.
Tener experiencia hands-on en la inferencia de modelos LLM open source.
Poseer dominio de Go para el desarrollo de sistemas de alto rendimiento, considerando concurrencia, gRPC y manejo de memoria.
Contar con conocimientos sobre arquitectura de GPUs, CUDA y consideraciones de hardware para procesos de inferencia.
¿Te animás a dejar huella en la tecnología de América Latina? ¡Postulate y sumate a nuestro propósito!
Modalidad: Híbrida. Site: Arias, Saavedra. CABA