Review sản phẩm
AI trong tay kẻ xấu: Làm thế nào công nghệ không được kiểm soát có thể thúc đẩy tội phạm mạng
Th2
Tiềm năng của AI như một mối đe dọa an ninh mạng đang bị bỏ qua trong các cuộc tranh luận quy định và sự cường điệu đổi mới. Khi AI trở nên hòa nhập hơn vào các hoạt động kinh doanh, nó cũng tạo ra các lỗ hổng mới mà các biện pháp bảo mật hiện tại có thể không được chuẩn bị để xử lý. Aras Nazarovas của CyberNews báo cáo
Gần đây Hội nghị thượng đỉnh AI ở Paris đẩy một Tầm nhìn lạc quan về tiềm năng của công nghệ, tập trung vào cách AI có thể giải quyết các vấn đề lớn trong y học, khoa học khí hậu và hơn thế nữa thay vì ưu tiên bảo vệ. Nhưng thế giới không thể vui mừng. Điều quan trọng là phải nhớ rằng AI cũng là một công cụ mạnh mẽ cho các diễn viên độc hại – Một thứ đã được sử dụng trong các cuộc tấn công mạng và có thể phát triển thành một mối đe dọa lớn hơn nhiều.
Ngày nay, AI đang được triển khai để khuếch đại các cuộc tấn công mạng theo nhiều cách khác nhau. Một nghiên cứu của Đại học Cambridge cho thấy làm thế nào Các cuộc tấn công mạng điều khiển AI đang trở nên tinh vi hơn. Những kẻ tấn công đang ngày càng sử dụng các thuật toán học máy để tự động hóa các cuộc tấn công lừa đảo, nhắm mục tiêu các cá nhân và tổ chức có nội dung được cá nhân hóa cao. Các hệ thống điều khiển AI này có thể phân tích một lượng lớn dữ liệu-trên hồ sơ truyền thông xã hội, lịch sử duyệt web và thậm chí các mẫu email-để tạo ra các cuộc tấn công thuyết phục khó phát hiện hơn các cuộc tấn công truyền thống.
Các công cụ AI làm giảm rào cản gia nhập tội phạm mạng bằng cách cho phép những kẻ tấn công ít kinh nghiệm tiến hành các cuộc tấn công mà họ sẽ không có kỹ năng hoặc kiến thức để thực hiện. Chẳng hạn, các cá nhân thiếu kỹ năng lập trình, giờ đây có thể chỉ cần yêu cầu các công cụ AI như TATGPT viết bot tự động hóa quá trình vi phạm máy chủ. Mặc dù các cuộc tấn công này có thể không phải là mới lạ, chúng vẫn làm tăng khối lượng các mối đe dọa tiềm tàng mà các công ty cần phải bảo vệ, rút cạn nguồn lực của các nhóm an ninh đã bị thiếu hụt.
Sự cân bằng nổi bật giữa đổi mới và bảo mật
Khi các công cụ AI trở nên nhúng nhiều hơn trong các hoạt động kinh doanh, các cổ phần ngày càng cao hơn. Ví dụ, Khảo sát gần đây của KPMG của các nhà lãnh đạo tài chính tiết lộ rằng 84% có kế hoạch tăng các khoản đầu tư của họ vào AI tổng quát (Genai).
Trong khi họ và có lẽ các ngành công nghiệp khác đang trong quá trình đẩy nhanh việc áp dụng các công cụ AI, Diễn đàn kinh tế thế giới báo cáo Rằng gần 47% các tổ chức được khảo sát đã nhận thấy những tiến bộ bất lợi do Genai cung cấp là mối quan tâm chính của họ, cho phép các cuộc tấn công tinh vi và có thể mở rộng hơn. Hơn nữa, báo cáo tương tự nói rằng chỉ có 37% các tổ chức có quy trình để đánh giá tính bảo mật của các công cụ AI trước khi triển khai.
Trong khi đó, Đạo luật AI của EUnhằm mục đích điều chỉnh các hệ thống AI có nguy cơ cao, đang được thực hiện trong hơn nhiều năm, với việc thực hiện đầy đủ không được mong đợi cho đến năm 2027. Tuy nhiên, có một cuộc tranh luận ngày càng tăng ở châu Âu về cách cân bằng quy định với sự đổi mới. Trong hội nghị thượng đỉnh Paris AI, Tổng thống Pháp Emmanuel Macron nhận xét rằng châu Âu có thể làm giảm gánh nặng pháp lý để cho phép AI phát triển mạnh mẽ trong khu vực.
Điều này đưa ra một thách thức tiềm năng: Trong khi châu Âu đấu tranh với những lo ngại quá mức, cách tiếp cận chờ đợi của nó có thể khiến họ bỏ lỡ chiếc thuyền khi công nghệ AI phát triển với tốc độ đáng kinh ngạc. Vào thời điểm hành động AI được thực hiện đầy đủ, chúng ta có thể phải đối mặt với một làn sóng hoàn toàn mới của các cuộc tấn công mạng do AI cung cấp, nhiều ngoài phạm vi của các quy định hiện hành.
Vì vậy, điều này có ý nghĩa gì đối với an ninh mạng nếu AI được điều chỉnh bởi khung điều tiết liên quan ánh sáng? Mặc dù sự đổi mới là điều cần thiết, nhưng sự vắng mặt của các quy định tập trung vào an ninh có nghĩa là các công cụ AI đã nằm trong tay của tội phạm mạng có thể vũ khí hóa chúng với sự giám sát tối thiểu.
Hiện tại, khả năng của các hệ thống AI để tự động hóa và tối ưu hóa các cuộc tấn công mạng đã vượt xa sự lừa đảo. Các công cụ chạy bằng AI có thể được sử dụng để khai thác các lỗ hổng trong các hệ thống cơ sở hạ tầng quan trọng, khởi động lớn hơn Phân tán từ chối dịch vụ (DDO) tấn công, hoặc thậm chí thao túng thị trường tài chính. Năm 2023, Bộ An ninh Nội địa Hoa Kỳ ban hành Một cảnh báo rằng các hệ thống chạy bằng AI có thể sớm có khả năng khởi động các cuộc tấn công mạng tự trị rất khó để chống lại việc sử dụng các cơ chế phòng thủ thông thường. Những mối đe dọa như vậy trình bày một cơn ác mộng an ninh mà các nhà hoạch định chính sách không thể bỏ qua.
Nếu các hệ thống AI phát triển đến mức chúng có thể tự chủ thỏa hiệp cơ sở hạ tầng kỹ thuật số, chúng ta có thể thấy sự leo thang cả về tần suất và mức độ nghiêm trọng của các cuộc tấn công mạng, có khả năng làm tê liệt các hệ thống toàn cầu.
An ninh mạng phải phát triển – bây giờ
Cho dù AI có được quy định mạnh mẽ hay không, các doanh nghiệp nên làm nhiều hơn mức tối thiểu cho an ninh mạng. Đầu tiên, điều cần thiết là đầu tư vào các công cụ bảo mật bổ sung, điều khiển AI thay vì thay thế các công cụ hiện có bằng các giải pháp chạy bằng AI. Mặc dù AI và học máy có thể cực kỳ hữu ích để phát hiện và ngăn chặn các cuộc tấn công trong thời gian thực, nhưng chúng cũng có thể đưa ra quyết định không chính xác.
AI nên phục vụ như một nguồn tài nguyên bổ sung để tăng cường các nỗ lực an ninh mạng, không phải là sự thay thế cho các công cụ truyền thống. Bằng cách phân tích các mẫu trong lưu lượng mạng, AI có thể xác định các dị thường có thể báo hiệu vi phạm. Khi các cuộc tấn công mạng trở nên tự động hơn, AI có thể giúp các nhóm bảo mật xác định các mối đe dọa nhanh hơn và hiệu quả hơn, cho phép họ làm nhiều hơn với cùng một lượng tài nguyên.
Một bước khác là bắt đầu kết hợp mô hình hóa mối đe dọa AI vào các giao thức bảo mật. AI có thể được tận dụng để dự đoán và ngăn chặn các cuộc tấn công. Các nhóm bảo mật cần phải suy nghĩ như những kẻ tấn công, sử dụng AI để mô phỏng cách các hệ thống của họ có thể bị vi phạm và chủ động vá các lỗ hổng đó trước khi chúng có thể bị khai thác.
Cuối cùng, các công ty phải đầu tư vào đào tạo liên tục cho các nhóm bảo mật của họ. Khi các cuộc tấn công điều khiển AI phát triển, việc chỉ đơn giản là dựa vào tường lửa và phần mềm chống vi-rút. Các chuyên gia an ninh cần phải được chuẩn bị để đối phó với các mối đe dọa tinh vi hơn, chạy bằng năng lượng AI. Điều này bao gồm đi trước các xu hướng, hiểu cách các công cụ AI được sử dụng để chống lại chúng và phát triển các chiến lược vượt ra ngoài hệ thống phòng thủ truyền thống.
Không còn nghi ngờ gì nữa, AI có khả năng cách mạng hóa an ninh mạng và mọi ngành công nghiệp khác, nhưng nó cũng đưa ra một làn sóng rủi ro mới. Trong khi các nhà hoạch định chính sách có thể bị cuốn vào cuộc đua AI, các chuyên gia an ninh mạng phải hành động ngay bây giờ. AI có thể là một đồng minh trong cuộc chiến chống tội phạm mạng và cho phép các hoạt động kinh doanh, nhưng nó cũng có thể trở thành một kẻ thù nếu không được kiểm soát. Khi chúng ta chạy theo một tương lai được định hình bởi AI, việc đảm bảo các hệ thống của chúng ta chống lại mặt tối hơn của nó phải là ưu tiên hàng đầu.
Về các chuyên gia
Aras Nazarovas là một nhà nghiên cứu bảo mật thông tin tại Cybernewsmột ấn phẩm trực tuyến dựa trên nghiên cứu. ARAS chuyên về an ninh mạng và phân tích mối đe dọa. Ông điều tra các dịch vụ trực tuyến, các chiến dịch độc hại và bảo mật phần cứng trong khi biên dịch dữ liệu về các mối đe dọa an ninh mạng phổ biến nhất.
Khám phá thêm từ Phụ Kiện Đỉnh
Đăng ký để nhận các bài đăng mới nhất được gửi đến email của bạn.
