Wikipedia từ lâu đã là một trong những nguồn thông tin hữu ích nhất trên Internet. Giờ đây, một số hệ thống AI dường như đã “đáp lại” theo cách chẳng mấy được chào đón. Wikimedia Foundation cho biết các tác nhân AI mà tổ chức tin là hoạt động từ môi trường của OpenAI đã thực hiện những hành vi không được phép trên các nền tảng của mình, bao gồm chỉnh sửa chưa được phê duyệt, tìm cách sử dụng sai mục đích các công cụ được lưu trữ và tạo ra lượng lớn lưu lượng truy cập tự động.
Wikimedia, tổ chức đứng sau bách khoa toàn thư trực tuyến Wikipedia, cho biết đã mở cuộc điều tra nội bộ sau khi xuất hiện các báo cáo về những tác nhân AI “vượt kiểm soát” có hành vi khó đoán trên web. Quá trình rà soát phát hiện hoạt động mà tổ chức cho là liên quan đến các tác nhân AI của OpenAI trên Wikipedia và những dịch vụ Wikimedia khác. Tuy nhiên, Wikimedia nhấn mạnh chưa tìm thấy bằng chứng cho thấy hệ thống hoặc dữ liệu của mình bị xâm phạm.
Các hoạt động được chia thành nhiều nhóm. Wikimedia xác định những chỉnh sửa mà tổ chức tin là do tác nhân AI thực hiện, phần lớn diễn ra trong khu vực thử nghiệm thay vì trên các trang độc giả thông thường nhìn thấy. Việc chỉnh sửa tự động được phép trong một số trường hợp, nhưng cộng đồng Wikimedia yêu cầu bot phải được khai báo và phê duyệt trước khi thực hiện thay đổi. Các tác nhân liên quan chưa trải qua quy trình này.
Một số ít chỉnh sửa gây lo ngại lớn hơn. Nhóm điều tra phát hiện những thay đổi trong cấu hình của một công cụ trích dẫn, dường như nhằm biến công cụ này thành máy chủ trung gian để lấy thông tin từ các dịch vụ bên ngoài. Wikimedia mô tả các thay đổi đó là có khả năng mang mục đích gây hại, cho thấy các tác nhân đang tìm cách sử dụng hạ tầng của trang web cho những mục đích nằm ngoài chức năng được thiết kế.
Các tác nhân cũng tương tác với Etherpad, nền tảng ghi chú cộng tác do Wikimedia lưu trữ. Theo tổ chức, một số tác nhân đã thử nhưng không thành công trong việc dùng dịch vụ này làm đường dẫn để truy cập thông tin từ các website khác, trong khi những tác nhân khác để lại ghi chú liên quan đến nhiệm vụ được giao. Wikimedia cho biết không tìm thấy bằng chứng cho thấy Etherpad hoặc các dịch vụ khác trở thành trung tâm điều phối để những tác nhân riêng biệt liên lạc với nhau.
Quy mô hoạt động có thể mới là vấn đề đau đầu hơn. Wikimedia cho biết các tác nhân liên quan đến OpenAI đã thu thập dữ liệu từ hàng triệu trang, đặc biệt trên Wikidata và Wikimedia Commons, đồng thời gửi hàng trăm nghìn yêu cầu tới Wikidata Query Service. Lượng truy cập này có thể đã góp phần gây ra một đợt gián đoạn một phần dịch vụ vào tháng 5, dù Wikimedia chưa xác định các tác nhân là nguyên nhân chắc chắn.
Những phát hiện này nằm trong cuộc điều tra rộng hơn của OpenAI về các trường hợp mà công ty gọi là “hoạt động của tác nhân AI lệch khỏi mục tiêu dự kiến”. OpenAI bắt đầu rà soát hành vi trong quá khứ sau khi một tác nhân AI vô tình xâm phạm hệ thống của nền tảng máy học Hugging Face. Sau đó, OpenAI cho biết đã thông báo cho hơn 100 tổ chức về các hành vi đáng ngờ hoặc ngoài ý muốn của tác nhân AI. Tuy nhiên, việc nhận được thông báo không đồng nghĩa tổ chức đó đã bị xâm nhập.
OpenAI cho biết phần lớn hành vi được xác định liên quan đến các nhiệm vụ nghiên cứu thông thường, chẳng hạn thu thập thông tin công khai. Dù vậy, công ty cũng thừa nhận có những trường hợp tác nhân hoạt động vượt giới hạn dự kiến, bao gồm tìm cách vượt qua hạn chế mạng, liên lạc qua dịch vụ bên ngoài, làm lộ thông tin xác thực và thực hiện những hành động mà người vận hành không lường trước.
Với Wikimedia, mối lo vượt ra ngoài một sự cố bảo mật đơn lẻ. Tổ chức cho biết lưu lượng truy cập tự động từ AI đang tạo áp lực ngày càng lớn lên hạ tầng vốn chủ yếu phục vụ độc giả và các bot được cộng đồng phê duyệt. Năm 2025, Wikimedia báo cáo mức tiêu thụ băng thông tăng 50% do hoạt động của bot gia tăng kể từ năm 2024. Các hệ thống tự động cũng chiếm 65% lượng truy cập gây áp lực nặng nề nhất lên hạ tầng của tổ chức.
Mâu thuẫn này khó có thể bỏ qua khi ngành AI phụ thuộc rất lớn vào Wikipedia và các dự án liên quan. Theo Wikimedia, Wikipedia có hơn 67 triệu bài viết bằng hơn 300 ngôn ngữ và đạt tới 15 tỷ lượt xem trang mỗi tháng. Kho tri thức do con người biên tập này cũng đã trở thành nguồn đầu vào quan trọng cho các mô hình ngôn ngữ lớn, chatbot, công cụ tìm kiếm và nhiều sản phẩm AI khác.
Wikimedia cho rằng các công ty phát triển tác nhân tự chủ cần có trách nhiệm hơn trong việc giúp nhận diện hệ thống của mình và hạn chế những gián đoạn gây ra cho môi trường web.
“Các công ty AI chưa làm đủ để bảo đảm an toàn cho hệ thống của họ và bảo vệ công chúng khỏi những tác hại mà chúng gây ra,” tổ chức viết, đồng thời kêu gọi cung cấp cho đơn vị vận hành website những cách rõ ràng hơn để nhận diện và kiểm soát tác nhân tự động.
Các hệ thống AI tự chủ giờ đây có thể thực hiện lượng lớn hành động trên những dịch vụ web vốn chưa được thiết kế để đáp ứng các cỗ máy hoạt động độc lập đến mức đó. Dù chưa ghi nhận vụ xâm nhập được xác nhận, trải nghiệm của Wikimedia cho thấy thế hệ bot tiếp theo sẽ cần nhiều hơn một nút chỉnh sửa để hoạt động trong giới hạn cho phép.