Hướng dẫn cho CISO về điều hướng tác động an ninh của AI: Tóm tắt báo cáo SANS

Trí tuệ nhân tạo (AI) không còn là một khái niệm xa vời. Việc chúng ta ứng dụng AI không còn là vấn đề “khi nào” mà là các nhà lãnh đạo an ninh nên tự hỏi “chúng ta sẽ làm điều đó một cách có trách nhiệm như thế nào”.

Để giúp bạn hiểu và áp dụng AI một cách chiến lược trong Trung tâm điều hành an ninh (SOC), Viện SANS đã thực hiện một cuộc khảo sát toàn diện. Báo cáo này, “Khảo sát AI SANS 2025: Đo lường tác động của AI đến an ninh sau ba năm”, được chấp bút bởi Ahmed Abugharbia và Brandon Evans, cung cấp những hiểu biết quan trọng về cách các tổ chức hiện đang sử dụng AI, những thách thức mà họ phải đối mặt và tương lai dành cho các chuyên gia an ninh.

Bản tóm tắt này nêu bật những phát hiện chính từ báo cáo SANS, cung cấp một cái nhìn rõ ràng về tình hình hiện tại và quỹ đạo tương lai của AI trong an ninh mạng.

AI đang ở đâu trong an ninh mạng ngày nay?

Cuộc khảo sát của SANS cho thấy một khoảng cách đáng kể giữa nhận thức và việc triển khai AI mạnh mẽ trong an ninh. Trong khi một nửa số tổ chức được khảo sát hiện đang sử dụng AI cho các nhiệm vụ an ninh mạng và 100% dự định kết hợp AI tạo sinh (GenAI) trong năm tới, thì việc áp dụng rộng rãi cho các chức năng quan trọng vẫn còn hạn chế. Chỉ có 50,3% số người được hỏi tích cực sử dụng GenAI cho mục đích an ninh.

Các nhóm ứng phó sự cố thể hiện sự quan tâm đáng kể đến AI, với 71,2% tin rằng AI có thể tăng cường các công cụ hiện có như SIEM, SOAR và EDR. Tuy nhiên, chỉ một phần ba số tổ chức có kế hoạch sử dụng AI để điều tra sự cố trong tương lai. Hiện tại, các ứng dụng chính của AI tập trung vào các chức năng hỗ trợ, chẳng hạn như làm phong phú cảnh báo, thay vì hành động tự động.

Khi nói đến các hành động SOC tự động, mức độ chấp nhận hiện tại cho thấy nhiều hơn về sự thoải mái và tin tưởng của ngành đối với công nghệ mới nổi hơn là chỉ ra những hạn chế của bản thân công nghệ. Để khắc phục điều này và thúc đẩy hiệu quả, các nhà lãnh đạo an ninh mạng nên xem xét cách sử dụng các khoản đầu tư công nghệ hiện có, chẳng hạn như tự động hóa dựa trên quy tắc, để đóng vai trò là lan can bảo vệ, vừa cho phép vừa bảo vệ AI.

Hướng dẫn tìm hiểu các thách thức về an ninh mạng AI

Báo cáo làm sáng tỏ một số thách thức và mối lo ngại cấp bách mà các nhà lãnh đạo an ninh phải giải quyết. Một điểm khó khăn lớn đối với các nhà phân tích là số lượng báo động sai quá lớn do các hệ thống AI tạo ra. Nhiều người tin rằng vấn đề này xuất phát từ dữ liệu cũ trong các mô hình.

Bất chấp việc áp dụng AI còn hạn chế cho mục đích phòng thủ, các nhóm an ninh rất lo ngại về các mối đe dọa do AI cung cấp mới nổi, đặc biệt là kỹ thuật xã hội được cá nhân hóa cao và deepfake. Mối lo ngại cũng mở rộng đến việc những kẻ tấn công sử dụng AI để tăng tốc độ khám phá lỗ hổng và trốn tránh bị phát hiện.

Các tổ chức cũng lo lắng về tính bảo mật của chính các nền tảng AI. Nhiều nhà lãnh đạo lo ngại rằng nhân viên có thể chuyển dữ liệu nhạy cảm sang các nền tảng GenAI, dẫn đến rò rỉ. Để đẩy nỗi sợ hãi này đi xa hơn một bước, có lo ngại rằng những kẻ tấn công có thể thao túng dữ liệu huấn luyện, dẫn đến các phản hồi nhanh chóng bất lợi. Những lo ngại này nhấn mạnh nhu cầu cấp thiết về các giải pháp AI cấp doanh nghiệp, an toàn.

Đã đến lúc cho một cuộc cách mạng về quản trị và lực lượng lao động AI

Báo cáo SANS nhấn mạnh sự thiếu tham gia đáng lo ngại của nhóm an ninh trong việc quản lý GenAI. Nhiều chuyên gia an ninh mạng tin rằng họ nên đóng một vai trò trong quản trị AI toàn doanh nghiệp, nhưng rất ít tổ chức có một chương trình quản lý rủi ro AI chính thức. Điều này chỉ ra sự khác biệt giữa việc nhận ra tầm quan trọng của quản trị và việc tích cực thực hiện nó.

Tác động của AI đối với lực lượng lao động an ninh mạng cũng rất đáng kể. Hơn một nửa số tổ chức báo cáo rằng AI đã ảnh hưởng đến các yêu cầu đào tạo của nhóm an ninh của họ. Phần lớn nhấn mạnh sự cần thiết của các khóa học AI/an ninh mạng chuyên biệt hơn, cũng như học tập liên tục, để theo kịp các công nghệ AI đang phát triển.

Bất chấp những thay đổi này, hầu hết những người được hỏi vẫn lạc quan rằng AI sẽ không loại bỏ công việc của họ, dự đoán nhu cầu ngày càng tăng đối với các chuyên gia có chuyên môn về AI và an ninh mạng trong ba năm tới. Họ tin rằng AI sẽ tự động hóa các tác vụ tẻ nhạt, thay đổi vai trò thay vì thay thế công việc của con người.

Chìa khóa để AI có thể đoán trước cho các nhóm SOC

Tại Swimlane, chúng tôi nhận thấy rằng tương lai của AI trong an ninh mạng không chỉ là về khả năng của nó mà còn là về sự tin tưởng, khả năng kích hoạt và khả năng mở rộng quy mô trong phạm vi ngân sách và dưới sự giám sát.

Swimlane Turbine là một nền tảng tự động hóa AI có tính chất đại diện. Nó tích hợp với tất cả các công cụ an ninh hiện có của bạn, cho phép chia sẻ dữ liệu liền mạch, nhưng có chọn lọc và các nỗ lực ứng phó sự cố phối hợp. Sức mạnh cốt lõi của chúng tôi là hợp nhất và điều phối các tín hiệu từ khắp môi trường của bạn, tổng hợp, tương quan và làm phong phú dữ liệu một cách liền mạch với toàn bộ chiều sâu của ngăn xếp công nghệ và doanh nghiệp của bạn.

Hero AI, bộ tính năng AI tạo sinh và tác nhân của chúng tôi, tương tác liền mạch với dữ liệu đã chọn và các hành động trong playbook trên toàn nền tảng Turbine. Bằng cách kết hợp AI và tự động hóa cổ điển theo cách này, khả năng dự đoán của tự động hóa tất định đóng vai trò là lan can bảo vệ cho việc áp dụng AI có thể dự đoán được.

Nắm bắt AI, một mệnh lệnh chiến lược cho các nhà lãnh đạo an ninh mạng

Cuộc khảo sát của SANS chỉ rõ rằng AI đã đến và sẽ có tác động sâu sắc đến an ninh mạng. Đối với các nhà lãnh đạo an ninh và CISO, việc hiểu những thay đổi này và điều chỉnh chiến lược của bạn là rất quan trọng. Hãy nắm bắt AI không phải là sự thay thế cho chuyên môn của con người, mà là một công cụ mạnh mẽ giúp tăng cường khả năng của nhóm bạn, hợp lý hóa các hoạt động và cho phép tổ chức của bạn tự tin điều hướng bối cảnh mối đe dọa đang phát triển.

Để hiểu sâu hơn về những phát hiện này và thông báo cho chiến lược AI của bạn, hãy tải xuống báo cáo đầy đủ về Khảo sát AI SANS 2025: Đo lường tác động của AI đến an ninh sau ba năm ngay hôm nay.

Giải thích thuật ngữ:

• AI (Trí tuệ nhân tạo): Là khả năng của máy tính hoặc hệ thống để thực hiện các nhiệm vụ mà thường đòi hỏi trí thông minh của con người, như học hỏi, suy luận và giải quyết vấn đề.
• SOC (Trung tâm điều hành an ninh): Là một bộ phận hoặc trung tâm chịu trách nhiệm giám sát và bảo vệ hệ thống thông tin của một tổ chức.
• SIEM (Quản lý thông tin và sự kiện bảo mật): Là một hệ thống thu thập và phân tích dữ liệu nhật ký và sự kiện từ nhiều nguồn khác nhau để phát hiện các mối đe dọa bảo mật.
• SOAR (Điều phối, tự động hóa và phản hồi bảo mật): Là một bộ công cụ và quy trình giúp tự động hóa các tác vụ bảo mật, điều phối các phản ứng sự cố và cải thiện hiệu quả hoạt động bảo mật.
• EDR (Phát hiện và ứng phó điểm cuối): Là một giải pháp bảo mật giám sát các thiết bị điểm cuối (như máy tính và máy chủ) để phát hiện và ứng phó với các mối đe dọa.
• GenAI (AI tạo sinh): Là một loại AI có khả năng tạo ra nội dung mới, chẳng hạn như văn bản, hình ảnh, âm thanh và video.
• CISO (Giám đốc an ninh thông tin): Là người chịu trách nhiệm về chiến lược và hoạt động an ninh thông tin của một tổ chức.