Các nhà phát triển tên Microsoft nó đã kiện vì lạm dụng các công cụ AI của mình

Microsoft đang cố gắng thể hiện cam kết của mình đối với sự an toàn của AI bằng cách sửa đổi một vụ kiện được đệ trình vào năm ngoái để vạch mặt bốn nhà phát triển mà họ cáo buộc đã trốn tránh các công cụ AI của mình để tạo ra Deepfakes nổi tiếng. Công ty đã nộp đơn kiện vào tháng 12 và lệnh của tòa án cho phép Microsoft thu giữ một trang web liên quan đến hoạt động giúp nó xác định các cá nhân.

Bốn nhà phát triển được cho là một phần của mạng lưới tội phạm mạng toàn cầu có tên là Storm-2139: Arian Yadegarnia hay còn gọi là Fiz Fiz của Iran; Alan Krysiak hay còn gọi là Drago Drago của Vương quốc Anh; Ricky Yuen hay còn gọi là CG CG-dot của Hồng Kông và Phát Phùng Tấn AKA Hồi Asakuri của Việt Nam.

Microsoft nói rằng có những người khác mà họ đã xác định là liên quan đến chương trình này, nhưng không muốn đặt tên cho họ để không can thiệp vào một cuộc điều tra đang diễn ra. Nhóm, theo Microsoft, đã xâm phạm các tài khoản với quyền truy cập vào các công cụ AI thế hệ của mình và quản lý để bẻ khóa của họ để tạo ra bất kỳ loại hình ảnh nào họ muốn. Sau đó, nhóm đã bán quyền truy cập cho những người khác, những người đã sử dụng nó để tạo ra những người nổi tiếng của Deepfake, trong số những hành vi lạm dụng khác.

Sau khi nộp đơn kiện và thu giữ trang web của nhóm, Microsoft cho biết các bị cáo đã chuyển sang chế độ hoảng loạn. Việc thu giữ trang web này và sau đó không biết các hồ sơ pháp lý vào tháng 1 đã tạo ra phản ứng ngay lập tức từ các diễn viên, trong một số trường hợp khiến các thành viên trong nhóm bật lên và chỉ tay vào nhau, nó nói trên blog của mình.

Những người nổi tiếng, bao gồm Taylor Swift, là mục tiêu thường xuyên của nội dung khiêu dâm Deepfake, đưa khuôn mặt của một người thực sự và chồng chất một cách thuyết phục trên một cơ thể khỏa thân. Quay trở lại vào tháng 1 năm 2024, Microsoft đã phải cập nhật các mô hình văn bản trên hình ảnh sau khi hình ảnh giả của Swift xuất hiện trên web. AI thế hệ làm cho việc tạo ra những hình ảnh có rất ít khả năng kỹ thuật, điều này đã dẫn đến một dịch bệnh của các trường trung học trên khắp Hoa Kỳ đang trải qua các vụ bê bối Deepfake. Những câu chuyện gần đây từ các nạn nhân của Deepfakes minh họa cách tạo ra các hình ảnh không phải là một hành động không có nạn nhân bởi vì nó xảy ra kỹ thuật số nhưng chuyển thành tổn hại trong thế giới thực bằng cách làm cho các mục tiêu cảm thấy lo lắng, sợ hãi và vi phạm khi biết ai đó bị ám ảnh bởi họ đủ để làm điều đó.

Đã có một cuộc tranh luận đang diễn ra trong cộng đồng AI về chủ đề an toàn và liệu các mối quan tâm là có thật hay có ý định giúp những người chơi lớn như Openai đạt được ảnh hưởng và bán sản phẩm của họ bằng cách tạo ra sức mạnh thực sự của trí tuệ nhân tạo. Một trại đã lập luận rằng việc giữ cho các mô hình AI đóng nguồn có thể giúp ngăn chặn các hành vi lạm dụng tồi tệ nhất bằng cách hạn chế khả năng của người dùng để tắt các điều khiển an toàn; Những người trong trại nguồn mở tin rằng làm cho các mô hình tự do sửa đổi và cải thiện là cần thiết để tăng tốc ngành, và có thể giải quyết lạm dụng mà không cản trở sự đổi mới. Dù bằng cách nào, tất cả đều cảm thấy giống như một sự phân tâm từ mối đe dọa ngay lập tức hơn, đó là AI đã lấp đầy web với thông tin không chính xác và nội dung dốc.

Mặc dù rất nhiều nỗi sợ hãi về AI cảm thấy quá mức và giả thuyết trong tự nhiên, và dường như không có khả năng AI thế hệ ở bất cứ nơi nào đủ tốt để tiếp nhận cơ quan của riêng mình, việc AI lạm dụng để tạo ra Deepfakes là có thật. Phương tiện pháp lý là một cách mà những hành vi lạm dụng có thể được giải quyết ngày hôm nay. Đã có một loạt các vụ bắt giữ trên khắp Hoa Kỳ của các cá nhân đã sử dụng AI để tạo ra Deepfakes of Junors, và Đạo luật Không Fakes được giới thiệu trong Quốc hội năm ngoái sẽ khiến nó trở thành một tội ác để tạo ra hình ảnh dựa trên sự giống nhau của ai đó. Vương quốc Anh đã xử phạt việc phân phối khiêu dâm Deepfake, và chẳng mấy chốc, nó cũng sẽ là một tội ác để thậm chí sản xuất nó. Úc gần đây đã hình sự hóa việc sáng tạo và chia sẻ Deepfakes không thỏa thuận.