Kỹ sư trưởng về an toàn & bảo mật AI tại Bosch

Tổng quan vị trí

Về vai trò.

Chúng tôi đang tìm Kỹ sư trưởng về an toàn & bảo mật AI để sở hữu công cụ đánh giá và kiểm tra bảo mật an toàn trên danh mục sản phẩm hỗ trợ AI và công cụ nội bộ ngày càng tăng của Bosch — triển khai mô hình ngôn ngữ lớn và hệ thống AI tác nhân (bao gồm Giao thức bối cảnh mô hình – tích hợp gọi công cụ kiểu) và các dịch vụ doanh nghiệp mà họ kết nối. Bạn sẽ dẫn đầu cả hai mặt của cùng một vấn đề: liệu hệ thống AI có hoạt động an toàn hay không (nó có từ chối các yêu cầu có hại, tránh các đề xuất không an toàn, nằm trong phạm vi dự định của nó hay không) và liệu nó có an toàn hay không (nó có thể bị thao túng bằng cách tiêm nhanh, bị lừa sử dụng sai công cụ của nó hoặc làm rò rỉ dữ liệu đáng lẽ không nên làm). Đây là nhiệm vụ của nhiều đơn vị kinh doanh chứ không phải của một dòng sản phẩm duy nhất - bạn sẽ xây dựng hoạt động này phần lớn từ đầu.

Trách nhiệm chính.

Trách nhiệm

• Thiết kế và chạy các đánh giá an toàn cho các tính năng dựa trên LLM và tác nhân AI: lập nhóm đỏ cho các kết quả đầu ra có hại, sai lệch hoặc không an toàn; thử nghiệm bẻ khóa và vượt qua lan can; điểm chuẩn có hệ thống đối với các chế độ lỗi an toàn đã biết.
• Thiết kế và chạy thử nghiệm bảo mật cho cùng một hệ thống: chèn nhanh (trực tiếp và gián tiếp), lạm dụng đại lý, công cụ/plugin quá mức và rủi ro cấp phó nhầm lẫn trong kiến ​​trúc gọi công cụ kiểu tác nhân và MCP.
• Xây dựng và duy trì mô hình mối đe dọa bao trùm toàn bộ đường dẫn từ đầu vào của người dùng thông qua suy luận mô hình đến thực thi công cụ — xác định nơi lỗi an toàn và lỗi bảo mật thực sự có cùng lỗ hổng cơ bản.
• Xác minh các điều khiển của con người trong vòng lặp và lan can có phù hợp về mặt kiến ​​trúc ở bất cứ nơi nào tác nhân AI có thể thực hiện hành động mang tính hệ quả (ghi vào hệ thống kinh doanh, giao tiếp tự động, thay đổi mã) — không chỉ hiện diện trong giao diện người dùng có thể được nói chuyện xung quanh.
• Phạm vi, tóm tắt và đánh giá kết quả đầu ra của các nhà cung cấp red-teaming/pentest bên ngoài; viết các thông số kỹ thuật kiểm tra và tiêu chí chấp nhận cho các cam kết dành riêng cho AI.
• Theo dõi và áp dụng các khuôn khổ mới nổi — Top 10 OWASP cho Ứng dụng LLM, Top 10 OWASP cho Ứng dụng tác nhân, Khung quản lý rủi ro AI của NIST, ISO/IEC 42001 và Đạo luật AI của EU — chuyển nghiên cứu mới thành các yêu cầu thử nghiệm nội bộ cụ thể trước khi nó trở thành sự cố.
• Hợp tác với các nhóm kỹ thuật AI/ML trong các đơn vị kinh doanh để xem xét vấn đề an toàn và bảo mật trong thiết kế hệ thống chứ không chỉ được kiểm tra sau thực tế.
• Đưa ra bằng chứng và tài liệu hỗ trợ nhu cầu tuân thủ và quản trị AI (hệ thống quản lý AI ISO/IEC 42001, đánh giá rủi ro theo Đạo luật AI của EU, quy trình đánh giá AI chịu trách nhiệm nội bộ).
• Xây dựng công cụ kiểm tra khi cần: khai thác lời nhắc đối nghịch, quy trình bẻ khóa/đội đỏ tự động và bộ làm mờ lược đồ công cụ/MCP.
• Hướng dẫn các kỹ sư về thiết kế hệ thống AI an toàn và bảo mật, đồng thời phát triển phương pháp này khi mở rộng quy mô trên nhiều nhóm và sản phẩm hơn.

Yêu cầu

• Required Qualifications.
• Preferred Qualifications.
• Chứng chỉ liên quan (bất kỳ điểm cộng nào sau đây).
• Bằng Cử nhân hoặc Thạc sĩ về Khoa học Máy tính, Học máy hoặc lĩnh vực liên quan.
• Hơn 6 năm thử nghiệm bảo mật, nghiên cứu an toàn AI/ML hoặc lĩnh vực liên quan chặt chẽ với thành tích tìm ra các vấn đề thực sự trong hệ thống thực.
• Thử nghiệm trải nghiệm thực tế hoặc hệ thống LLM/tác nhân AI nhóm đỏ - tiêm nhanh, bẻ khóa, lạm dụng công cụ/plugin quá mức - nghiên cứu độc lập hoặc đóng góp nguồn mở đều được chấp nhận tùy theo mức độ mới của chuyên ngành này.
• Hiểu biết thực tế về ít nhất một khung quản lý/an toàn AI (NIST AI RMF, ISO/IEC 42001, Đạo luật AI của EU) và cách chuyển khung thành các yêu cầu kỹ thuật cụ thể.
• Khả năng mã hóa đủ (Python và/hoặc JavaScript/Node) để xây dựng các khai thác đánh giá và công cụ kiểm tra thay vì chỉ dựa vào kiểm tra thủ công.
• Viết kỹ thuật tốt — thoải mái đưa ra các phát hiện và thông số kỹ thuật mà cả kỹ sư và các bên liên quan về quản trị/tuân thủ có thể trực tiếp hành động.
• Nền tảng thực hành trực tiếp trong Giao thức bối cảnh mô hình (MCP) hoặc các khung gọi công cụ tác nhân tương đương.
• Nền tảng thử nghiệm thâm nhập truyền thống (web/API/mạng), OSCP hoặc tương đương.
• Kinh nghiệm đóng góp cho chương trình tuân thủ hoặc quản trị AI chính thức.
• Các ấn phẩm, kết quả thi đấu của CTF/đội đỏ hoặc công cụ bảo mật nguồn mở trong không gian an toàn/bảo mật AI.
• Có kinh nghiệm cố vấn hoặc xây dựng một nhóm kiểm tra an toàn/bảo mật nhỏ.
• Thử nghiệm xâm nhập/bảo mật mang tính tấn công — OSCP, OSWE, OSEP, GPEN, GWAPT hoặc CEH.
• Bảo mật dành riêng cho AI — Chứng chỉ bảo mật AI ISC2, Chuyên gia bảo mật AI tấn công được Hội đồng EC chứng nhận hoặc Chuyên gia bảo mật AI được chứng nhận (CAISP).
• Quản trị/tuân thủ AI — Kiểm toán viên chính hoặc Người triển khai chính ISO/IEC 42001 hoặc Chuyên gia quản trị AI IAPP (AIGP).

Phúc lợi

• Tham gia vào một công ty toàn cầu năng động và phát triển nhanh (môi trường nói tiếng Anh), có cơ hội làm việc trong các dự án toàn cầu và là thành viên của nhóm đổi mới đóng góp các ý tưởng sáng kiến ​​cho thế giới công nghệ cao.
• Cơ hội công tác: công việc ngắn hạn và dài hạn tại các văn phòng trên toàn thế giới.
• Tham gia vào các chương trình đào tạo đa dạng của chúng tôi, chương trình này chắc chắn sẽ giúp củng cố cả cá nhân và tính chuyên nghiệp của bạn.
• Thưởng lương tháng 13 + thưởng hiệu suất hấp dẫn (bạn sẽ thích!) + đánh giá hiệu suất hàng năm.
• Được đề nghị 100% lương và đóng bảo hiểm xã hội bắt buộc trong 2 tháng thử việc.
• Hơn 15 ngày nghỉ phép năm + 1 ngày nghỉ sinh nhật.
• Bảo hiểm sức khỏe cao cấp dành cho nhân viên và hai người thân trong gia đình.
• Thời gian làm việc và mô hình làm việc linh hoạt.
• Phụ cấp ăn trưa và gửi xe.
• Lợi ích tốt từ các hoạt động của công ty như: bóng đá, cầu lông, yoga, Aerobic, teambuilding….

Về Bosch

Bosch Global Software Technologies phát triển các giải pháp kỹ thuật và phần mềm trong Tập đoàn Bosch. Trung tâm phát triển tại Việt Nam đặt ở TP. Hồ Chí Minh và hợp tác với các nhóm quốc tế.

Khám phá việc làm theo danh mục

Việc làm liên quan

• Kỹ sư DevOps đám mây AWS cấp cao — Bosch
• Kỹ sư AI ứng dụng web (Full-Stack + LLM/ AI) — Bosch
• Kỹ sư phần mềm .NET Full Stack (Hệ thống sản xuất) (HcP/ICO3) — Bosch
• Kỹ sư AI ứng dụng — BJAK
• Kỹ sư phần mềm ứng dụng cấp cao — phát triển với AI — EPAM
• Process Automation & AI Developer — CÔNG TY TNHH SOCOTEC VIỆT NAM