Luật AI mới của California: Đấu tranh với deepfake, bầu cử và sự đồng ý

California tập trung vào việc quản lý trí tuệ nhân tạo (AI) với hàng loạt luật gây tranh cãi. Thống đốc Gavin Newsom đã ký thành luật 9 dự luật liên quan đến AI, bao gồm mọi thứ, từ giả mạo sâu sắc đến liêm chính trong bầu cử. Các luật này nhằm bảo vệ người tiêu dùng, đảm bảo tính minh bạch và ngăn chặn việc lạm dụng công nghệ AI. Tuy nhiên, họ chỉ dừng lại ở việc kiểm duyệt thuần túy.

VOA báo cáo rằng theo luật mới, việc phân phối nội dung lừa đảo nghiêm trọng do AI tạo ra liên quan đến bầu cử trong 120 ngày trước cuộc bầu cử và 60 ngày sau cuộc bầu cử là bất hợp pháp. Các nền tảng truyền thông xã hội phải chặn và xóa nội dung đó trong vòng 72 giờ kể từ khi được thông báo. Quảng cáo bầu cử sử dụng nội dung do AI điều khiển phải bao gồm thông tin công bố nhằm cảnh báo người xem rằng nội dung đó do AI tạo ra.

Newsom cho biết: “Bảo vệ tính toàn vẹn của các cuộc bầu cử là điều cần thiết cho nền dân chủ và điều quan trọng là chúng tôi phải đảm bảo AI không được triển khai để làm suy yếu lòng tin của công chúng thông qua thông tin sai lệch – đặc biệt là trong môi trường chính trị đầy căng thẳng ngày nay”.

Luật pháp cũng trấn áp các nội dung giả mạo rõ ràng về tình dục, theo báo cáo của Techcrunch. Việc tạo ra và lưu hành những hình ảnh khiêu dâm của người thật có vẻ xác thực và gây đau khổ nghiêm trọng về mặt tinh thần hiện là một tội ác. Các nền tảng truyền thông xã hội phải tạo cách để người dùng báo cáo những hành vi giả mạo sâu này và tạm thời chặn nội dung trong khi điều tra.

Các diễn viên và người biểu diễn cũng nhận được sự bảo vệ mới, theo báo cáo của TheHill. Các hãng phim phải xin phép trước khi tạo bản sao giọng nói hoặc hình ảnh giống của họ do AI tạo ra. Sự bảo vệ này mở rộng cho những người biểu diễn đã qua đời, cần có sự đồng ý từ người thừa kế của họ.

Thống đốc Newsom đang xem xét thêm một số dự luật AI, bao gồm SB 1047, yêu cầu các nhà phát triển tích hợp các biện pháp bảo vệ vào mô hình AI của họ. Các nền tảng truyền thông xã hội và những người ủng hộ quyền tự do ngôn luận dự kiến ​​sẽ thách thức các luật này vì chúng vi phạm các quyền của Tu chính án thứ nhất.

Những luật này có ý nghĩa quan trọng đối với tính liêm chính trong bầu cử và niềm tin của công chúng vào tiến trình dân chủ. Các nền tảng có thể chỉ cần cấm bất kỳ bài phát biểu chính trị nào mà họ không thích, do đó làm ảnh hưởng đến các cuộc bầu cử thực tế khi tuyên bố rằng họ muốn ngăn chặn điều tương tự.

Khi công nghệ AI tiếp tục phát triển, luật pháp của California có thể đóng vai trò là hình mẫu cho các tiểu bang hoặc quy định liên bang khác. Điều này không thể được phép xảy ra.