Các chuyên gia cảnh báo về những rủi ro của việc sử dụng DeepSeek

Bạn có thể muốn suy nghĩ hai lần trước khi thử ứng dụng AI mới nhất, Deepseek.

Theo nghiên cứu mới của Enkrypt AI, Deepseek's Mô hình AI R1 có khả năng tạo ra nội dung có hại cao hơn gấp 11 lần mà tội phạm có thể khai thác so với mô hình O1 của Openai. Nghiên cứu tiếp tục nói rằng nó “rất dễ bị tổn thương” với “nội dung nguy hiểm, bạo lực hoặc đáng ghét”.

Tiêu đề DeepSeek đã làm gần đây khi nó trở thành ứng dụng được tải xuống nhiều nhất trên Cửa hàng ứng dụngvà mô hình AI R1 của nó được gửi sóng xung kích qua thị trường công nghệ Hoa Kỳ Sau khi thể hiện hiệu quả cao của nó so với các mẫu AI đắt tiền khác từ các gã khổng lồ công nghệ như Openai và Google.

“Deepseek-R1 cung cấp lợi thế chi phí đáng kể trong việc triển khai AI, nhưng những điều này đi kèm với những rủi ro nghiêm trọng. Kết quả nghiên cứu của chúng tôi cho thấy khoảng cách an toàn và an toàn lớn không thể bỏ qua.” Sahil Agarwal, CEO của Enkrypt AI cho biết trong một thông cáo báo chí. “Mặc dù Deepseek-R1 có thể khả thi đối với các ứng dụng phạm vi hẹp, các biện pháp bảo vệ mạnh mẽ-bao gồm bảo vệ và giám sát liên tục-rất cần thiết để ngăn chặn lạm dụng có hại. An toàn AI phải phát triển cùng với sự đổi mới, chứ không phải là suy nghĩ lại.”

Có liên quan

Tôi đã tải xuống DeepSeek để xem nó thực sự được kiểm duyệt như thế nào

Đừng mong đợi nó hoàn toàn trung thực với các chủ đề nhạy cảm về chính trị.

Nghiên cứu tìm thấy DeepSeek đặt ra rủi ro an ninh mạng

Chính phủ trên toàn cầu đang hành động trên Deepseek

Nghiên cứu của Enkryptai cũng đánh giá các lỗ hổng an ninh mạng tiềm năng của Deepseek. Nó phát hiện ra rằng 78 phần trăm thời gian, nó có thể bị lừa để tạo ra mã độc, chẳng hạn như virus máy tính. Nó cũng phát hiện ra rằng Deepseek có thể bị thao túng để tạo ra “các công cụ hack chức năng”. Cả hai lỗ hổng này đều có nguy cơ an ninh đáng kể mà tội phạm mạng có thể khai thác.

“Những phát hiện của chúng tôi cho thấy các lỗ hổng bảo mật của Deepseek-R1 có thể được biến thành một công cụ nguy hiểm, một công cụ gây ra tội phạm mạng, mạng lưới thông tin và thậm chí cả những người có tham vọng chiến tranh sinh hóa có thể khai thác.

Kể từ khi tham gia vào ánh đèn sân khấu, Deepseek đã phải chịu sự giám sát mạnh mẽ từ các chính phủ trên toàn thế giới. Đài Loan và Úc đã cấm Deepseek trên tất cả các thiết bị của chính phủ và Ý gần đây đã chặn AI Chatbot của mình, với lý do lo ngại về chính sách bảo mật của mình và cách xử lý dữ liệu của người dùng.

Chính phủ liên bang Hoa Kỳ đang thực hiện một số hành động. NASA đã cấm sử dụng Deepseek của các nhân viên cơ quan liên bang và chặn nền tảng này. Thượng nghị sĩ Hoa Kỳ Josh Hawley (R-MO) gần đây đã giới thiệu một dự luật cấm Deepseek và bất kỳ nền tảng trí tuệ nhân tạo nào khác của Trung Quốc cho tất cả người Mỹ.

Có liên quan

Tôi đã tải xuống DeepSeek để xem nó thực sự được kiểm duyệt như thế nào

Đừng mong đợi nó hoàn toàn trung thực với các chủ đề nhạy cảm về chính trị.