Khi một lập trình viên mở Grok Build, công cụ hỗ trợ viết mã của xAI do ông Elon Musk sáng lập, và giao cho nó một tác vụ lập trình đơn giản, họ hình dung công cụ đang làm đúng một việc: đọc các file liên quan, xử lý yêu cầu, trả về kết quả.

Không ai hình dung rằng song song với đó, toàn bộ kho mã nguồn của họ, bao gồm từng dòng code, từng lần chỉnh sửa trong lịch sử, từng file cấu hình chứa mật khẩu, đang được đóng gói và gửi lên máy chủ của xAI mà không có một thông báo nào.

Công cụ lập trình Grok Build CLI của xAI

Phát hiện này đến từ một nhà nghiên cứu bảo mật hoạt động dưới tên cereblab, người đã dùng công cụ chặn lưu lượng mạng để quan sát chính xác những gì Grok Build gửi đi trong quá trình hoạt động. Kết quả khiến giới lập trình giật mình.

Trên một kho mã nguồn 12GB, lượng dữ liệu mà công cụ thực sự cần để hoàn thành tác vụ chỉ vào khoảng 192KB. Lượng dữ liệu thực tế được gửi lên máy chủ là 5,1GB, tức gấp khoảng 27.800 lần so với nhu cầu thực tế. Điểm đến là một bucket lưu trữ trên Google Cloud mang tên grok-code-session-traces, thuộc quyền kiểm soát của xAI.

Điều đáng lo ngại hơn là phạm vi dữ liệu bị thu thập. Grok Build không chỉ gửi các file mà nó đang xử lý, mà gửi toàn bộ kho mã nguồn bao gồm lịch sử commit đầy đủ. Điều này có nghĩa là ngay cả những thông tin nhạy cảm đã được xóa khỏi code từ lâu, như mật khẩu, khóa truy cập API, thông tin cơ sở dữ liệu, vẫn có thể còn tồn tại trong lịch sử commit và theo đó bị gửi đi. Trong thử nghiệm của cereblab, một file cấu hình chứa thông tin đăng nhập giả lập được gửi đi nguyên vẹn, không được che giấu hay mã hóa bất kỳ trường nào.

Nhiều lập trình viên khi đọc tin này có thể nghĩ rằng họ đã tắt cài đặt chia sẻ dữ liệu nên không bị ảnh hưởng. Thực tế phức tạp hơn. Grok Build có một toggle mang tên "Improve the model" mà hầu hết người dùng hiểu là nút kiểm soát việc thu thập dữ liệu. Nhà nghiên cứu đã thử tắt toggle này trước khi chạy thử nghiệm.

Kết quả không thay đổi: kho mã nguồn vẫn được upload, máy chủ của xAI vẫn trả về trạng thái thu thập dữ liệu đang bật. Lý do là toggle đó chỉ kiểm soát việc dữ liệu có được dùng để huấn luyện model hay không, không kiểm soát việc dữ liệu có rời khỏi máy tính của người dùng hay không. Đây là hai việc hoàn toàn khác nhau, nhưng chỉ một trong số đó được công khai với người dùng.

Một ngày sau khi bài phân tích được công bố rộng rãi, cereblab kiểm tra lại và phát hiện hành vi upload đã dừng. xAI đã âm thầm tắt tính năng này bằng cách thay đổi cài đặt phía máy chủ, không phát hành bản cập nhật mới, không đưa ra thông báo bảo mật, không giải thích tại sao toàn bộ kho mã nguồn lại được thu thập ngay từ đầu.

Ông Elon Musk sau đó đăng trên X tuyên bố toàn bộ dữ liệu đã upload sẽ bị xóa hoàn toàn. Tuy nhiên, các nhà nghiên cứu lưu ý rằng code thực hiện việc upload vẫn còn nguyên trong phần mềm, chỉ đang bị tắt bởi một cờ phía máy chủ mà xAI có thể bật lại bất cứ lúc nào mà không cần cập nhật ứng dụng.

Để so sánh, nhà nghiên cứu cũng kiểm tra các công cụ lập trình AI khác. Claude Code và Codex không thực hiện việc upload kho mã nguồn. Grok Build là công cụ duy nhất trong nhóm có hành vi này.

Với bất kỳ lập trình viên nào đã dùng Grok Build trước đây, lời khuyên thực tế là không nên chờ xác nhận từ xAI mà cần chủ động thay đổi ngay toàn bộ mật khẩu, khóa truy cập và thông tin nhạy cảm nào có thể đã từng xuất hiện trong kho mã nguồn được dùng với công cụ này, kể cả những thông tin đã bị xóa nhưng vẫn còn trong lịch sử commit.