Instagram đã triển khai trên toàn cầu tính năng cảnh báo hỗ trợ dành cho phụ huynh, thông báo cho những người đang sử dụng công cụ giám sát khi con ở độ tuổi thanh thiếu niên liên tục tìm kiếm trong một khoảng thời gian ngắn các từ khóa liên quan đến tự tử hoặc tự làm hại bản thân.
Được giới thiệu lần đầu vào đầu năm nay và ban đầu chỉ triển khai tại một số thị trường, tính năng hiện đã được cung cấp cho các phụ huynh sử dụng chế độ giám sát trên toàn thế giới. Mục tiêu là giúp phụ huynh nhận biết rõ hơn khi con có thể đang cần được hỗ trợ, đồng thời cung cấp các nguồn hướng dẫn để họ tiếp cận những cuộc trò chuyện nhạy cảm theo cách phù hợp.
Theo hệ thống mới, phụ huynh có thể nhận được cảnh báo khi con liên tục tìm kiếm trên Instagram những cụm từ cổ súy việc tự tử hoặc tự làm hại bản thân, thể hiện ý định tự làm hại bản thân, hoặc các từ khóa như “tự tử” và “tự làm hại bản thân”.
Cảnh báo có thể được gửi qua email, tin nhắn SMS hoặc WhatsApp, tùy theo thông tin liên hệ hiện có, đồng thời xuất hiện dưới dạng thông báo trong ứng dụng. Phụ huynh cũng được dẫn tới các tài liệu do chuyên gia hỗ trợ xây dựng, nhằm giúp họ trò chuyện với con về vấn đề này một cách nhạy cảm và mang tính xây dựng.
Tính năng mới được phát triển dựa trên các biện pháp bảo vệ hiện có của Instagram đối với nội dung liên quan đến tự tử và tự làm hại bản thân. Nền tảng vốn đã chặn những tìm kiếm sử dụng các từ khóa có liên quan rõ ràng đến các chủ đề này, không hiển thị kết quả mà thay vào đó hướng người dùng tới những nguồn hỗ trợ phù hợp và các tổ chức tại địa phương có thể trợ giúp.
Instagram cũng cấm những nội dung cổ súy hoặc tôn vinh hành vi tự tử hay tự làm hại bản thân, đồng thời ẩn khỏi người dùng thanh thiếu niên những nội dung nhạy cảm khác có liên quan đến các chủ đề này.
Theo Meta, hệ thống cảnh báo dành cho phụ huynh được phát triển với sự tư vấn của các chuyên gia thuộc Nhóm Cố vấn về Tự tử và Tự làm hại bản thân của công ty. Meta cho biết tính năng được thiết kế để cân bằng giữa việc cung cấp cho phụ huynh những thông tin có thể hữu ích và tránh gửi quá nhiều cảnh báo không cần thiết. Công ty cũng đang phát triển những cảnh báo tương tự cho một số trải nghiệm AI. Tính năng dự kiến sẽ thông báo cho phụ huynh khi thanh thiếu niên cố gắng trò chuyện với Meta AI về một số chủ đề liên quan đến tự tử hoặc tự làm hại bản thân.
Việc triển khai trên toàn cầu nằm trong nỗ lực rộng hơn của Instagram nhằm tăng cường bảo vệ cho Teen Accounts – loại tài khoản được tích hợp sẵn các hạn chế dành cho người dùng trẻ, đồng thời cho phép phụ huynh giám sát nhiều hơn thông qua các công cụ quản lý.
Động thái này diễn ra trong bối cảnh cách Meta xử lý vấn đề an toàn và quyền kiểm soát của người dùng đối với các sản phẩm AI tiếp tục bị giám sát. Tháng trước, công ty đã rút lại một tính năng mới ra mắt trong mô hình tạo ảnh AI Muse Image sau những chỉ trích liên quan đến quyền riêng tư và việc sử dụng các tài khoản Instagram công khai làm hình ảnh tham chiếu cho nội dung do AI tạo ra.
Tính năng được giới thiệu cùng Muse Image cho phép người dùng gắn thẻ các tài khoản công khai để làm tham chiếu hình ảnh khi tạo ảnh cá nhân hóa. Meta cho biết người dùng có thể kiểm soát việc nội dung công khai của mình có được sử dụng làm tham chiếu hay không. Tuy nhiên, tính năng đã vấp phải phản ứng tiêu cực sau khi người dùng phát hiện tùy chọn này được bật mặc định. Meta sau đó đã gỡ bỏ tính năng chỉ vài ngày sau khi ra mắt.
Nhập hội Sáng tạo cùng RGB: