Senior ML Platform Engineer, Inference & MLOps

Sứ mệnh

Quy trình AI đòi hỏi những lựa chọn vận hành chuẩn xác, từ định tuyến, lập lịch đến đo lường và quản lý phiên bản. Phát triển hạ tầng giúp các đội ngũ thử nghiệm và phát hành trong khi luôn nắm rõ chất lượng, độ trễ và chi phí.

Công việc của bạn

• Thiết kế hệ thống phục vụ mô hình, định tuyến nhà cung cấp, hàng đợi và kiểm soát đồng thời.
• Tối ưu hóa bộ nhớ đệm, gom cụm (batching) và sử dụng token song song với việc đo lường chất lượng đầu ra.
• Xây dựng khả năng quan sát độ trễ, lỗi và chi phí gắn với quản lý phiên bản mô hình/cấu hình.
• Phát triển cơ chế triển khai cuốn chiếu, phục hồi và chạy lại cho các tác vụ thời gian dài.

Những gì bạn mang lại

• Kinh nghiệm về hạ tầng học máy, MLOps hoặc vận hành các dịch vụ AI.
• Thành thạo Python, Go hoặc TypeScript và am hiểu sâu về container cùng dịch vụ đám mây.
• Kinh nghiệm với khả năng quan sát hệ thống, CI/CD, quản lý khóa bảo mật và xử lý sự cố.
• Khả năng xác định điểm nghẽn bằng số liệu đo lường và giải thích rõ sự đánh đổi giữa hiệu năng và chi phí.

Về Mollkom

Mollkom là môi trường điều hành thương mại tích hợp AI. Chúng tôi kết nối khâu chuẩn bị sản phẩm, nội dung, marketing và chăm sóc khách hàng với đơn hàng, tồn kho, điểm bán hàng và giao vận, giúp mọi mắt xích vận hành từ một nguồn tri thức chung.