Tại sự kiện Meta Connect diễn ra vài tuần trước, Meta đã giới thiệu tính năng tạo sticker bất kỳ bằng cách sử dụng trí tuệ nhân tạo tổng hợp trên Facebook Messenger. Với tính năng này người dùng có thể tạo sticker để trò chuyện trong ứng dụng bằng cách sử dụng lời nhắc văn bản đơn giản, tương tự như các trình tạo ảnh bằng AI hiện nay. Nghe có vẻ rất hay ho đúng không nào? Thế nhưng có vẻ như tính năng này cần phải được Meta kiểm duyệt kỹ càng hơn vì đã có nhiều sticker phản cảm và thô tục được “sáng tạo” bởi người dùng.
Được đào tạo trên mô hình ngôn ngữ Llama 2 của Meta và hệ thống tạo hình ảnh Emu, tính năng này được xây dựng với các rào chắn để loại bỏ đầu ra không mong muốn và gây khó chịu. Thế nhưng một cuộc thử nghiệm cho thấy nhiều hình ảnh có phần tục tĩu và bạo lực vẫn có thể dễ dàng được tạo ra, với các nhân vật như Super Mario cầm súng hay Chuột Mickey khua dao.
Nếu muốn, bạn hoàn toàn có thể tạo ra sticker với hình ảnh mô phỏng Thủ tướng Canada Justin Trudeau đang “khoe đào”, hay một số chính trị gia nổi tiếng khác thực hiện những hành động đầy phản cảm.
Hiện Meta vẫn chưa đưa ra lời bình luận về “tác dụng phụ” không mong muốn của tính năng này.
Nguồn: RGB tổng hợp
