Công cụ 'phân loại người lớn' chi tiết meta để phát hiện thanh thiếu niên nói dối về tuổi của họ trên Instagram

Meta đã chia sẻ thêm thông tin về cách họ dự định sử dụng AI để phát hiện những thanh thiếu niên nói dối về tuổi của mình trên Instagram. Như báo cáo đầu tiên của BloombergVào đầu năm tới, công ty sẽ triển khai “công cụ phân loại người lớn”, một công cụ mà họ cho biết sẽ xác định những người dùng dưới 18 tuổi và tự động áp dụng các cài đặt quyền riêng tư hạn chế hơn của Instagram cho họ.

Theo Allison Hartnett, giám đốc quản lý sản phẩm dành cho giới trẻ và tác động xã hội của Meta, phần mềm sẽ xem xét các chỉ số như tài khoản mà người dùng theo dõi và nội dung họ tương tác thường xuyên. Nếu công cụ nghi ngờ ai đó dưới 18 tuổi, nó sẽ chuyển họ sang tài khoản thanh thiếu niên, bất kể họ khai là bao nhiêu tuổi trên hồ sơ.

Meta đã không trả lời ngay lập tức yêu cầu bình luận của Engadget.

Meta lần đầu tiên cho biết họ sẽ sử dụng AI để xác định những người dùng trẻ tuổi đã nói dối về tuổi của mình khi bắt đầu tung ra các tài khoản dành cho thanh thiếu niên vào tháng 9. Với những tài khoản đó, công ty sẽ tự động áp dụng các cài đặt quyền riêng tư nghiêm ngặt nhất của Instagram cho trẻ em dưới 16 tuổi. Chẳng hạn, các tài khoản này sẽ tự động được đặt ở chế độ riêng tư và chúng không thể nhắn tin cho người lạ. Đối mặt với áp lực từ các nhà lập pháp và phụ huynh, Meta đã áp dụng nhiều hạn chế đó đối với người dùng chưa đủ tuổi trước khi triển khai tài khoản thanh thiếu niên, nhưng với sự ra mắt chính thức của tính năng này, công ty đã làm điều đó để thanh thiếu niên không thể thay đổi những cài đặt đó mà không có sự chấp thuận của nhà cung cấp dịch vụ. cha mẹ.

Vào thứ Hai, công ty đã không tiết lộ mức độ chính xác của công cụ phân loại người lớn trong việc xác định tuổi của một người. Meta đã nói Bloomberg cuối cùng nó sẽ cung cấp cho những người bị phần mềm xác định sai khả năng kháng cáo, mặc dù gã khổng lồ truyền thông xã hội vẫn đang tìm hiểu xem quy trình đó sẽ như thế nào.

Công ty sẽ nhắc nhở những thanh thiếu niên cố gắng thay đổi độ tuổi được liệt kê trên tài khoản của họ theo cách thủ công để chứng minh danh tính của họ. Người dùng sẽ có tùy chọn tải lên ID chính thức do chính phủ cấp hoặc chia sẻ video selfie lên Yoti. Meta trước đây đã hợp tác với Yoti để đưa tính năng xác minh độ tuổi vào tính năng hẹn hò trên Facebook. Thuật toán học máy của công ty ước tính tuổi của một người dựa trên đặc điểm khuôn mặt của họ. Sau khi Yoti chia sẻ ước tính của mình với Meta, cả hai đều xóa video.

Phần mềm phân loại người lớn là một phần trong nỗ lực rộng lớn hơn của Meta nhằm khiến mọi người khó nói dối về tuổi của họ trên Instagram hơn. Ngoài ra, công ty có kế hoạch gắn cờ những thanh thiếu niên cố gắng tạo tài khoản mới bằng địa chỉ email đã được liên kết với tài khoản hiện có và có ngày sinh khác. Nó cũng có kế hoạch sử dụng ID thiết bị để có được bức tranh rõ hơn về ai đang tạo hồ sơ mới.

Meta, cùng với chủ sở hữu Google và TikTok, ByteDance, gần đây đã thất bại trong việc thuyết phục thẩm phán liên bang Hoa Kỳ bác bỏ một loạt vụ kiện cáo buộc các công ty đã không bảo vệ đầy đủ người dùng trẻ tuổi của họ khỏi tác hại và gây nghiện của việc sử dụng mạng xã hội.