Kỹ sư Red Team, Safeguards tại Anthropic

Đã xác nhận còn mở

Kiểm thử sản phẩm AI của Anthropic để phát hiện jailbreak, prompt injection và đường lạm dụng khác; xây framework red team tự động cho agent và bảo mật sản phẩm.

Anthropic

Địa điểm: Làm việc từ xa-Friendly (Travel Required) | San Francisco, CA
Hình thức làm việc: remote

Tổng quan vị trí

Nhóm Safeguards của Anthropic tìm Kỹ sư Red Team để phát hiện điểm yếu trong sản phẩm AI đã triển khai trước khi kẻ tấn công khai thác. Phạm vi gồm hạ tầng sản phẩm, hành vi mô hình và các kiểu lạm dụng như thao túng tài khoản có tổ chức hoặc gian lận thanh toán.

Trách nhiệm

Thực hiện kiểm thử đối kháng trên các bề mặt sản phẩm, kết hợp nhiều kỹ thuật khai thác và mô phỏng chuỗi tấn công thực tế.
Phát triển phương pháp kiểm thử cho hệ thống agent, việc dùng công cụ và các cách tương tác AI mới.
Xây framework tự động để liên tục đánh giá bảo mật và nguy cơ lạm dụng.
Phối hợp với nhóm sản phẩm, kỹ thuật và chính sách để chuyển phát hiện thành biện pháp bảo vệ và chỉ số phát hiện.

Yêu cầu

Có kinh nghiệm kiểm thử xâm nhập, red team hoặc bảo mật ứng dụng.
Có kinh nghiệm kiểm thử jailbreak mô hình và luồng agent để tìm đường prompt injection.
Có kỹ năng bảo mật web thực hành và sử dụng công cụ như Burp Suite, Metasploit hoặc script tự viết.
Có kinh nghiệm tạo công cụ kiểm thử bảo mật tự động hoặc framework kiểm thử riêng cho LLM, và trình bày rõ kết quả.

Phúc lợi

Tin tuyển dụng nêu chế độ nghỉ phép, nghỉ chăm con, giờ làm linh hoạt và chương trình đối ứng tùy chọn khi quyên góp cổ phần.
Anthropic cho biết nhân viên thường làm việc tại văn phòng ít nhất 25% thời gian; một số vị trí yêu cầu nhiều hơn. Hãy kiểm tra điều kiện địa điểm và đi lại của vị trí này trong tin gốc.

Về Anthropic

Anthropic phát triển hệ thống AI, chú trọng độ tin cậy, khả năng diễn giải, khả năng điều khiển và an toàn.

Cách ứng tuyển

Kiểm tra tin gốc và gửi hồ sơ trực tiếp qua trang tuyển dụng của nhà tuyển dụng.

Xem tin gốc và ứng tuyển

Nguồn được kiểm tra: 2026-09-30

Cho thấy bạn làm được gì

Tạo hồ sơ miễn phí từ CV và dự án thực tế. Bạn có thể chia sẻ liên kết hồ sơ khi sẵn sàng. Việc ứng tuyển tin này vẫn thực hiện trực tiếp với nhà tuyển dụng.

Tạo hồ sơ miễn phí