Có vẻ như mặc dù Internet ngày càng tràn ngập những hình ảnh giả mạo, nhưng ít nhất chúng ta có thể đánh giá được khả năng ngửi thấy mùi BS của con người khi điều đó quan trọng. Một loạt nghiên cứu gần đây cho thấy thông tin sai lệch do AI tạo ra không có bất kỳ tác động đáng kể nào đến cuộc bầu cử năm nay trên toàn cầu vì nó vẫn chưa tốt lắm.
Trong những năm qua, đã có rất nhiều lo ngại rằng nội dung ngày càng thực tế nhưng tổng hợp có thể thao túng khán giả theo những cách bất lợi. Sự trỗi dậy của AI sáng tạo lại làm dấy lên những lo ngại đó một lần nữa, vì công nghệ này giúp mọi người dễ dàng tạo ra các phương tiện hình ảnh và âm thanh giả trông giống như thật. Hồi tháng 8, một nhà tư vấn chính trị đã sử dụng AI để giả giọng nói của Tổng thống Biden để thực hiện một cuộc gọi tự động yêu cầu cử tri ở New Hampshire ở nhà trong thời gian bầu cử sơ bộ của đảng Dân chủ tại bang.
Các công cụ như ElevenLabs cho phép gửi một đoạn âm thanh ngắn gọn về ai đó đang nói và sau đó sao chép giọng nói của họ để nói bất cứ điều gì người dùng muốn. Mặc dù nhiều công cụ AI thương mại có rào chắn để ngăn chặn việc sử dụng này nhưng các mô hình nguồn mở vẫn có sẵn.
Bất chấp những tiến bộ này, Thời báo tài chính trong một câu chuyện mới, nhìn lại một năm và nhận thấy rằng, trên khắp thế giới, rất ít nội dung chính trị tổng hợp được lan truyền rộng rãi.
Nó trích dẫn một báo cáo từ Viện Alan Turing cho thấy chỉ có 27 nội dung do AI tạo ra đã lan truyền trong cuộc bầu cử châu Âu vào mùa hè. Báo cáo kết luận rằng không có bằng chứng nào cho thấy cuộc bầu cử bị ảnh hưởng bởi thông tin sai lệch về AI vì “hầu hết sự tiếp xúc đều tập trung vào một số ít người dùng có niềm tin chính trị đã phù hợp với các câu chuyện hệ tư tưởng được nhúng trong nội dung đó”. Nói cách khác, trong số ít người đã xem nội dung (trước khi nó được gắn cờ) và tin vào điều đó, nó đã củng cố niềm tin đó về một ứng cử viên ngay cả khi những người tiếp xúc với nó biết rằng bản thân nội dung đó là do AI tạo ra. Báo cáo trích dẫn một ví dụ về hình ảnh do AI tạo ra cho thấy Kamala Harris đang phát biểu trước một cuộc biểu tình đứng trước cờ Liên Xô.
Tại Hoa Kỳ, Dự án Kiến thức Tin tức đã xác định được hơn 1.000 ví dụ về thông tin sai lệch về cuộc bầu cử tổng thống, nhưng chỉ 6% được thực hiện bằng AI. Trên X, việc đề cập đến “deepfake” hoặc “do AI tạo” trong Ghi chú cộng đồng thường chỉ được đề cập khi phát hành các mô hình tạo hình ảnh mới, chứ không phải vào thời điểm bầu cử.
Điều thú vị là có vẻ như người dùng trên mạng xã hội có nhiều khả năng xác định sai thực tế hình ảnh được tạo ra bởi AI hơn so với cách khác, nhưng nhìn chung, người dùng thể hiện sự hoài nghi lành mạnh. Và phương tiện truyền thông giả mạo vẫn có thể bị vạch trần thông qua các kênh liên lạc chính thức hoặc thông qua các phương tiện khác như tìm kiếm hình ảnh ngược của Google.
Thật khó để định lượng một cách chắc chắn có bao nhiêu người đã bị ảnh hưởng bởi deepfake, nhưng những phát hiện cho thấy chúng không hiệu quả sẽ rất có ý nghĩa. Hình ảnh AI ngày nay xuất hiện khắp nơi, nhưng những hình ảnh được tạo ra bằng trí tuệ nhân tạo vẫn có chất lượng kém, có dấu hiệu nhận biết là giả. Một cánh tay có thể dài bất thường hoặc khuôn mặt không phản chiếu chính xác trên bề mặt gương; có nhiều dấu hiệu nhỏ cho thấy hình ảnh đó là hình ảnh nhân tạo. Photoshop có thể được sử dụng để tạo ra những bức ảnh giả mạo thuyết phục hơn nhiều, nhưng để làm được điều đó đòi hỏi phải có kỹ năng.
Những người ủng hộ AI không nhất thiết phải cổ vũ cho tin tức này. Điều đó có nghĩa là hình ảnh được tạo ra vẫn còn có thể tiếp tục. Bất cứ ai đã xem qua mô hình Sora của OpenAI đều biết video mà nó tạo ra không hay lắm – nó trông gần giống như thứ gì đó được tạo ra bởi một công cụ đồ họa trò chơi điện tử (suy đoán rằng nó đã được đào tạo về trò chơi điện tử), một video rõ ràng không hiểu các đặc tính như vật lý.
Như đã nói, vẫn còn những mối lo ngại. Báo cáo của Viện Alan Turing làm sau cùng thì kết luận rằng niềm tin có thể được củng cố bằng một tác phẩm deepfake thực tế chứa thông tin sai lệch ngay cả khi khán giả biết phương tiện truyền thông không có thật; nhầm lẫn xung quanh việc liệu một phần của phương tiện truyền thông có thực sự gây tổn hại đến niềm tin vào các nguồn trực tuyến hay không; và hình ảnh AI đã được sử dụng để nhắm mục tiêu vào các nữ chính trị gia bằng các nội dung khiêu dâm sâu sắc, có thể gây tổn hại về mặt tâm lý và danh tiếng nghề nghiệp của họ vì nó củng cố niềm tin phân biệt giới tính.
Công nghệ chắc chắn sẽ tiếp tục được cải thiện, vì vậy đây là điều cần chú ý.
