Một bot tuyển dụng AI, được tạo ra với mục đích tối ưu hóa quy trình ứng tuyển, lại vô tình tạo ra một vấn đề bảo mật thông tin cá nhân (PII) khổng lồ cho McDonald’s.

Hóa ra, dữ liệu cá nhân của hàng triệu ứng viên đã bị lộ thông qua bot này, có biệt danh là Olivia, trên trang web McHire do Paradox.ai xây dựng cho chuỗi nhà hàng hamburger này. Về cơ bản, bất kỳ hacker nào nhập tên quản trị viên và mật mã “123456” đều có thể truy cập vào tất cả các cuộc trò chuyện và thông tin sơ yếu lý lịch được chia sẻ giữa ứng viên và Olivia.

Các nhà nghiên cứu bảo mật Sam Curry và Ian Carroll đã quyết định thử nghiệm khả năng tuyển dụng của Olivia sau khi thấy các ứng viên phàn nàn rất nhiều trên Reddit về bot tuyển dụng này và những câu trả lời vô nghĩa của nó. Sau khi “ứng tuyển” vào một công việc tại Mickey D’s, làm theo hướng dẫn của Olivia để cung cấp dữ liệu, bao gồm cả ca làm việc ưu tiên và thực hiện một bài kiểm tra tính cách mà họ thấy là một “trải nghiệm đáng lo ngại”, các nhà nghiên cứu đã tình cờ phát hiện ra thông tin đăng nhập của chủ nhà hàng cho phép chủ sở hữu xem ứng viên.

“Hóa ra chúng tôi đã trở thành quản trị viên của một nhà hàng thử nghiệm bên trong hệ thống McHire. Chúng tôi có thể thấy tất cả nhân viên của nhà hàng chỉ đơn giản là nhân viên của Paradox.ai, công ty đứng sau McHire,” họ viết trong một bài đăng trên blog và kể lại với Wired.

“Điều này thật tuyệt vì giờ đây chúng tôi có thể thấy ứng dụng hoạt động như thế nào, nhưng thật khó chịu vì chúng tôi vẫn chưa chứng minh được bất kỳ tác động thực tế nào đến tính bảo mật hoặc tính toàn vẹn,” họ nói.

Bằng cách ứng tuyển vào một vị trí công việc thử nghiệm đã được thiết lập bởi tài khoản, họ có thể thấy những gì nhà hàng có thể thấy: “Tất cả các cuộc trò chuyện đang diễn ra với ‘Olivia’.” Họ phát hiện ra nhà hàng có thể “can thiệp khi họ đạt đến những giai đoạn nhất định, như hoàn thành bài kiểm tra tính cách.”

Nhưng mãi đến khi họ nhấp vào liên kết “thành viên nhóm Paradox”, họ mới tìm thấy “mỏ vàng”. Họ đã có thể đăng nhập bằng tên người dùng 123456 và trình tự tương tự cho mật khẩu, sau đó “nhanh chóng nhận ra API này cho phép chúng tôi truy cập mọi tương tác trò chuyện của bất kỳ ai đã từng ứng tuyển vào McDonald’s.”

Không hẳn là những gì chuỗi nhà hàng burger này dự định cung cấp.

Evan Dornbush, Giám đốc điều hành của Desired Effect, cho biết: “Sự cố này là một ví dụ điển hình về những gì xảy ra khi các tổ chức triển khai công nghệ mà không hiểu cách thức hoạt động của nó hoặc cách nó có thể được vận hành bởi những người dùng không đáng tin cậy.”

Đó là một bài học phải được dạy đi dạy lại. William Leichter, Giám đốc cấp cao tại PointGuard AI, cho biết: “Vấn đề này không phải là duy nhất đối với AI — đó là một mô hình lặp đi lặp lại với mọi công nghệ ‘thay đổi cuộc chơi’ được cho là.”

Leichter lưu ý rằng “chu kỳ cường điệu thúc đẩy các tổ chức triển khai nhanh chóng, theo đuổi lợi ích trước mắt trong khi gạt bỏ các chuyên gia bảo mật dày dạn kinh nghiệm,” giống như ngành công nghiệp đã thấy “trong thời kỳ đầu đổ xô lên đám mây một thập kỷ trước, khi các nhà phát triển tải dữ liệu nhạy cảm lên các vùng chứa Amazon S3 mà không có biện pháp bảo vệ mật khẩu cơ bản.”

Điều nổi bật nhất đối với Randolph Barr, CISO tại Cequence Security, là việc sử dụng thông tin xác thực dễ đoán, một điều cấm kỵ trong OWASP Top 10, “đã được cho phép trong một hệ thống sản xuất mà không cần xác thực đa yếu tố (MFA).” Ông nói, đó không chỉ là một sơ suất kỹ thuật, “nó phản ánh một điểm yếu lớn hơn trong chính chương trình bảo mật.” Và nó đặt ra một câu hỏi về những thực hành bảo mật nền tảng nào khác có thể bị thiếu.

Aditi Gupta, quản lý cấp cao, tư vấn dịch vụ chuyên nghiệp tại Black Duck, cho biết điều đó chỉ ra một “vấn đề mang tính hệ thống trong cách các tổ chức tiếp cận bảo mật, đặc biệt là khi triển khai các giải pháp AI và tự động hóa.”

Bà nói, các sự cố như sự cố tại McDonald’s, sẽ đủ sức thuyết phục để các tổ chức “ưu tiên các biện pháp bảo mật cơ bản để đảm bảo sự tin tưởng không bị xâm phạm vào phần mềm của họ, đặc biệt là đối với thế giới do AI cung cấp ngày càng được kiểm soát.”

Kobi Nissan, Đồng sáng lập kiêm Giám đốc điều hành của MineOS, cho biết khi việc áp dụng AI tăng tốc, AI không nên được coi là một điều mới lạ, mà “như một tài sản được quản lý và triển khai các khuôn khổ đảm bảo trách nhiệm giải trình ngay từ đầu.”

Tin tốt là McDonald’s đã giảm thiểu vấn đề bảo mật cụ thể này. Và những ứng viên việc làm thận trọng luôn có thể đến Burger King, nơi họ có thể cho rằng có được bảo mật theo cách của họ… và nơi họ không phải bảo vệ một máy làm kem luôn bị hỏng.

Giải thích thuật ngữ:

• PII (Personally Identifiable Information – Thông tin nhận dạng cá nhân): Là bất kỳ thông tin nào có thể được sử dụng để xác định một cá nhân cụ thể, ví dụ như tên, địa chỉ email, số điện thoại, v.v.
• AI (Artificial Intelligence – Trí tuệ nhân tạo): Là khả năng của máy tính hoặc hệ thống để thực hiện các nhiệm vụ thường đòi hỏi trí thông minh của con người, chẳng hạn như học hỏi, suy luận và giải quyết vấn đề.
• Hacker: Một người cố gắng truy cập trái phép vào hệ thống hoặc dữ liệu máy tính.
• API (Application Programming Interface – Giao diện lập trình ứng dụng): Là một tập hợp các quy tắc và thông số kỹ thuật mà phần mềm có thể tuân theo để giao tiếp với nhau.
• OWASP Top 10: Là danh sách các rủi ro bảo mật ứng dụng web quan trọng nhất.
• MFA (Multi-Factor Authentication – Xác thực đa yếu tố): Là một phương pháp xác minh danh tính người dùng bằng cách yêu cầu họ cung cấp hai hoặc nhiều yếu tố xác thực.
• CISO (Chief Information Security Officer – Giám đốc an ninh thông tin): Là người chịu trách nhiệm về an ninh thông tin của một tổ chức.