Một trong những nền tảng AI mã nguồn mở lớn nhất thế giới vừa trở thành nạn nhân của chính công nghệ mà họ góp phần phát triển. Hugging Face cho biết một autonomous AI agent (tác nhân AI tự động) đã thực hiện cuộc tấn công mạng nhiều giai đoạn nhằm vào hạ tầng của công ty. Đáng chú ý, đội ngũ bảo mật sau đó cũng sử dụng AI để điều tra và ứng phó với vụ việc.
Nếu OpenAI được biết đến với ChatGPT thì Hugging Face thường được ví như “GitHub của AI”. Đây là nền tảng mã nguồn mở nơi hàng triệu nhà phát triển chia sẻ và sử dụng mô hình AI, bộ dữ liệu, ứng dụng AI cũng như các công cụ phục vụ nghiên cứu và phát triển trí tuệ nhân tạo. Nhiều mô hình nổi tiếng như Llama, Gemma, Qwen, Mistral hay DeepSeek đều được phân phối trên nền tảng này.
Theo Hugging Face, cuộc tấn công bắt đầu từ hệ thống xử lý dataset, nơi người dùng tải dữ liệu lên để sử dụng với các mô hình AI. Một bộ dữ liệu độc hại đã khai thác hai lỗ hổng bảo mật để thực thi mã từ xa, sau đó chiếm quyền máy chủ xử lý, thu thập thông tin xác thực của hệ thống đám mây và tiếp tục xâm nhập sang nhiều hệ thống nội bộ khác. Toàn bộ chiến dịch diễn ra trong nhiều ngày với hàng nghìn thao tác tự động, gần như không cần con người can thiệp.
Điểm khiến vụ việc đặc biệt là Hugging Face cho rằng đây không phải kiểu hacker chỉ dùng chatbot để hỗ trợ viết mã. Thay vào đó, AI đã tự lập kế hoạch và điều phối toàn bộ quá trình, từ trinh sát, khai thác lỗ hổng, thu thập thông tin đăng nhập đến di chuyển trong mạng nội bộ như một “nhân viên” tấn công độc lập.
Để ứng phó, Hugging Face cũng triển khai các hệ thống AI của riêng mình. Sau khi công cụ phát hiện bất thường nhận ra dấu hiệu xâm nhập, các AI phân tích đã rà soát hơn 17.000 sự kiện bảo mật để tái dựng toàn bộ cuộc tấn công, xác định các thông tin xác thực bị ảnh hưởng và phân biệt những hành động thật với các dấu vết đánh lạc hướng. Theo công ty, AI đã rút ngắn thời gian điều tra từ nhiều ngày xuống chỉ còn vài giờ.
Quá trình điều tra cũng cho thấy một hạn chế của các mô hình AI thương mại. Khi các chuyên gia đưa lệnh khai thác, mã độc và dữ liệu điều khiển thực tế vào để phân tích, nhiều yêu cầu bị bộ lọc an toàn của các dịch vụ AI chặn lại. Cuối cùng, Hugging Face chuyển sang sử dụng GLM 5.2 – mô hình mã nguồn mở của Z .ai (Trung Quốc) chạy ngay trên hạ tầng nội bộ để có thể phân tích dữ liệu nhạy cảm mà không phải gửi ra bên ngoài.
Sau sự cố, Hugging Face đã vá các lỗ hổng bị khai thác, loại bỏ quyền truy cập của kẻ tấn công, thay mới toàn bộ thông tin xác thực bị ảnh hưởng, tăng cường cơ chế kiểm soát hệ thống và cải tiến quy trình cảnh báo để đội phản ứng có thể xử lý sự cố nhanh hơn. Công ty cũng đã mời chuyên gia điều tra số độc lập tham gia, báo cáo vụ việc cho cơ quan thực thi pháp luật và khuyến nghị người dùng thay mới access token như một biện pháp phòng ngừa.
Vụ việc được xem là một dấu mốc đáng chú ý của lĩnh vực an ninh mạng. Nếu trước đây AI chủ yếu được dùng để hỗ trợ con người, thì giờ đây những AI agent tự động đã có thể tự phối hợp các chiến dịch tấn công phức tạp trong môi trường thực tế. Đồng thời, các hệ thống AI cũng đang trở thành công cụ quan trọng giúp đội ngũ bảo mật phát hiện, phân tích và ứng phó với các cuộc tấn công ngày càng tinh vi.
Nhập hội Sáng tạo cùng RGB: