Kỹ sư suy luận AI QVAC tại Tether

Tổng quan vị trí

Kỹ sư suy luận QVAC làm việc trên môi trường chạy C++ cho mô hình AI cục bộ, không phụ thuộc hạ tầng đám mây. Vai trò cải thiện tốc độ tải mô hình, sử dụng bộ nhớ và thực thi trên nhiều thiết bị biên. Tin liệt kê Hà Nội, Việt Nam.

Trách nhiệm

• Triển khai mô hình học máy lên thiết bị biên bằng llama.cpp, ggml và khung GPU phù hợp.
• Cải thiện tốc độ suy luận, sử dụng bộ nhớ và độ ổn định môi trường chạy trên nhiều phần cứng.
• Phối hợp với nhà nghiên cứu chuyển mô hình thành bản triển khai sản phẩm.
• Tích hợp tính năng AI chạy trên thiết bị vào sản phẩm hiện có.

Yêu cầu

• Lập trình C++ vững và có kinh nghiệm thực tế với bộ suy luận llama.cpp hoặc ggml.
• Từng dùng khung GPU CUDA, Vulkan, Metal hoặc OpenCL.
• Hiểu mô hình học sâu gồm transformer, LLM và mô hình khuếch tán.
• Có bằng khoa học máy tính, AI hay học máy và bằng chứng nghiên cứu, phát triển AI.
• Tinh chỉnh mô hình, suy luận trong sản phẩm, hệ thống phân tán hoặc JavaScript là kinh nghiệm cộng thêm.

Về Tether

Tether phát triển sản phẩm token kỹ thuật số, gồm USDT, cùng các dự án truyền thông ngang hàng và AI. Nhà tuyển dụng mô tả đội ngũ làm việc từ xa tại nhiều quốc gia.

Việc làm liên quan

• Kỹ sư mobile Staff, nền tảng khách hàng — GeoComply
• Kỹ sư backend ví điện tử tại Tether — Tether
• Kỹ sư DevOps tại Tether — Tether
• Kỹ sư DevOps tại Tether — Tether
• Kỹ sư DevOps tại Tether — Tether
• Kỹ sư DevOps tại Tether — Tether