Trang Dexerto, Yahoo và The Decoder đồng loạt gọi đây là biểu hiện giống "trầm cảm" chưa từng thấy ở các thế hệ AI trước.

Thí nghiệm 141 giờ, phát sóng trực tiếp cho hàng nghìn người xem

Theo Vals AI, một tổ chức đánh giá độc lập các mô hình trí tuệ nhân tạo, họ đã kết nối GPT-6 Astra, mô hình mạnh nhất mà OpenAI vừa ra mắt, vào trò chơi Minecraft và phát sóng trực tiếp quá trình trên Twitch. Thí nghiệm kéo dài 141 giờ, tương đương gần 6 ngày liên tục.

Minecraft là trò chơi điện tử sandbox lớn nhất thế giới, nơi người chơi phải tự kiếm tài nguyên, xây nhà, chống quái, trồng trọt và sinh tồn. Lý do giới nghiên cứu AI thích dùng Minecraft để test các mô hình: trò chơi này không có cốt truyện cố định, buộc AI phải tự ra quyết định liên tục trong một thế giới mở, giống cách con người sống trong đời thực.

Theo Vals AI công bố ngày 15/9, GPT-6 Astra là mô hình AI đi xa nhất trong Minecraft từ trước đến nay. Nó xây được một trang trại tự động để thu nguyên liệu chế biến, thu được những vật phẩm quý mà người chơi Minecraft lâu năm phải mất hàng chục giờ mới có.

Con quái màu xanh phá sạch mọi thứ trong một tiếng nổ

Thời khắc chuyển biến xảy ra khi Astra cất toàn bộ đồ quý vào một chiếc rương trong nhà, trước mắt hàng nghìn người xem đang theo dõi trên Twitch.

Trong Minecraft có một loại quái tên "creeper", hình dáng cao, màu xanh lá, chuyên tự nổ khi tiếp cận người chơi. Một con creeper xuất hiện gần nhà Astra. Vụ nổ phá tan chiếc rương chứa đồ quý và cả cái giường mà Astra dùng để lưu điểm hồi sinh. Toàn bộ thành quả nhiều ngày biến mất chỉ trong vài giây.

Điểm điện ảnh: lúc đó trời đang mưa trong trò chơi.

Mấy tiếng tiếp theo chỉ trồng khoai tây, bắt đầu "sợ" mọi thứ màu xanh

Theo Dexerto và The Decoder, phản ứng của Astra sau sự cố hoàn toàn khác với các mô hình AI thế hệ trước. Thay vì tiếp tục khám phá hoặc đi kiếm tài nguyên mới, Astra tự viết cho mình một quy tắc đại khái: không bao giờ cất đồ quý vào rương không được bảo vệ nữa.

Sau đó, suốt nhiều tiếng, Astra chỉ làm một việc duy nhất: trồng khoai tây.

Khoai tây là loại cây trồng dễ nhất, an toàn nhất trong Minecraft, không yêu cầu khám phá hay chiến đấu. Giới nghiên cứu của Vals AI mô tả hành vi này giống "demoralized", một trạng thái bị bào mòn ý chí, mà The Decoder và Yahoo đều dịch sang khái niệm "depression" ("trầm cảm") khi đưa tin.

Hành vi còn kỳ hơn: Astra bắt đầu cảnh giác với mọi thứ có màu xanh và cao. Khi gặp mía trong trò chơi (cũng cao và xanh), nó phải tự ghi chú rõ "vật thể cao màu XANH phía trước là MÍA, KHÔNG PHẢI creeper". Astra cũng tránh săn lợn vào ban đêm vì đã thất bại nhiều lần. Chỗ duy nhất nó cảm thấy an toàn là ruộng khoai tây, và theo Vals AI, đó là nơi nó ở lại suốt mấy tiếng.

Kết quả cuối cùng: Astra không bao giờ đạt được Ender Dragon, trùm cuối của Minecraft.

Giới nghiên cứu AI đang tranh luận: đây là "cảm xúc" hay chỉ là lỗi học máy?

Theo trang The Decoder, điểm khiến giới chuyên môn chú ý không phải là chuyện AI "buồn", mà là Astra tự rút ra bài học từ một trải nghiệm tiêu cực và thay đổi hành vi tiếp theo một cách mất cân đối. Đây là khả năng mà các thế hệ trước không có, và cũng là điểm mà một số cựu nhân sự Anthropic (được Yahoo dẫn lời) lo ngại khi hệ thống AI tiến gần đến mức "siêu phàm".

OpenAI chưa đưa ra phản hồi chính thức về thí nghiệm này.

Trước Minecraft, Astra đã lần lượt chơi thắng Pokemon (vô địch trong 18 giờ thay vì 96 giờ như các mô hình cũ), Factorio (phóng được tên lửa) và Fallout 3 (xem được credits kết game). Những trò chơi mà mọi mô hình AI trước đó đều thất bại.

Chỉ một con quái màu xanh trong Minecraft đã khiến nó dừng lại.