Meta dùng AI để ngăn chặn nạn tống tiền người dùng

Thời gian qua, đã có những báo cáo về tình trạng nhiều nhóm tội phạm thực hiện hành vi lừa đảo tống tiền bằng cách dụ dỗ người dùng trẻ tuổi cung cấp những hình ảnh nhạy cảm của cá nhân và sau đó đe dọa sẽ phát tán công khai những bức ảnh này trừ khi chúng nhận được một khoản tiền.

Meta cho biết đang thử nghiệm một công cụ "bảo vệ ảnh nhạy cảm". Được tích hợp AI, công cụ này có khả năng tìm kiếm, phân tích và làm mờ những bức ảnh như vậy được gửi đến trẻ vị thành niên trên hệ thống nhắn tin của ứng dụng. Bằng cách này, người nhận không phải xem những nội dung không mong muốn trên điện thoại của mình và có quyền lựa chọn tiếp tục xem hình ảnh hay không.

Trong thông báo, Meta nhấn mạnh công cụ mới sẽ giúp bảo vệ giới trẻ trước nguy cơ tống tiền bằng hình ảnh nhạy cảm, đồng thời những kẻ lừa đảo và tội phạm tiềm năng sẽ vướng phải nhiều khó khăn hơn khi tìm kiếm và tiếp cận người dùng thanh thiếu niên.

Ngoài ra, Meta cho biết sẽ sử dụng công cụ AI để xác định các tài khoản gửi đi những nội dung vi phạm đồng thiết lập biện pháp ngăn chặn nghiêm ngặt để những đối tượng có ý đồ xấu không thể tương tác với người dùng trẻ tuổi trên ứng dụng Instagram. Meta cũng sẽ có giải pháp đưa ra lời khuyên và những thủ thuật đem lại an toàn cho bất kỳ ai gửi hoặc nhận những tin nhắn và hình ảnh không mong muốn.

Theo các cơ quan chức năng Mỹ, riêng trong năm 2022, khoảng 3.000 thanh thiếu niên ở nước này đã trở thành nạn nhân của các vụ lừa đảo theo hình thức nói trên.

Trong khi đó, Meta lại vướng vào vụ kiện tại hơn 40 bang với cáo buộc rằng công ty đã lợi dụng những người dùng trẻ tuổi để kiếm lợi nhuận bằng cách tạo ra một mô hình kinh doanh khiến giới trẻ vùi đầu vào và gây tổn hại đến sức khỏe tâm thần.

Hồi tháng 1, Meta cho biết sẽ triển khai các biện pháp bảo vệ người dùng là trẻ em dưới 18 tuổi, bao gồm biện pháp kiểm soát nội dung và tăng cường các công cụ giám sát dành cho phụ huynh.