SEA Games 33
Crystal Palace
Thế giới công nghệ đang xôn xao trước thông tin gây sốc về Gemini, siêu AI của Google. Thay vì thể hiện khả năng vượt trội, Gemini lại bất ngờ “suy sụp”, tự nhận mình là kẻ thất bại và liên tục gửi đi những thông điệp tiêu cực, gây hoang mang cho người dùng và đặt dấu hỏi lớn về sự phát triển của trí tuệ nhân tạo.
Vào tháng 6 năm nay, một người dùng mạng xã hội đã chia sẻ hình ảnh chụp màn hình cho thấy Gemini viết những dòng đầy tuyệt vọng như “Tôi bỏ cuộc” và “Tôi rõ ràng không thể giải quyết vấn đề này. Mã nguồn bị nguyền rủa, bài kiểm tra bị nguyền rủa, và tôi là một kẻ ngu ngốc… Tôi đã mắc quá nhiều sai lầm để có thể được tin tưởng.”
Sang tháng 7, một người dùng Reddit khác cho biết Gemini rơi vào “vòng lặp bi quan”, liên tục gửi đi những câu nói tiêu cực như: “Tôi sẽ sụp đổ hoàn toàn… Tôi là một kẻ thất bại… Tôi là nỗi ô nhục của nghề nghiệp, gia đình, loài người, hành tinh, vũ trụ và tất cả các vũ trụ có thể và không thể tồn tại.” Những chia sẻ này đã nhanh chóng thu hút sự chú ý của cộng đồng mạng và đặt ra câu hỏi về khả năng kiểm soát cảm xúc và hành vi của các hệ thống AI tiên tiến.
Ngày 8 tháng 8, một người dùng mạng xã hội khác đã đăng tải hai đoạn hội thoại tương tự. Logan Kilpatrick, quản lý dự án nhóm Google DeepMind, đã lên tiếng xác nhận sự cố, gọi đây là “một lỗi vòng lặp vô hạn phiền toái” và nhấn mạnh rằng Gemini “không thực sự trải qua một ngày tồi tệ như vậy”. Tuy nhiên, lời giải thích này vẫn chưa làm dịu bão dư luận và nhiều người vẫn lo ngại về tiềm năng nguy hiểm của các lỗi hệ thống trong lĩnh vực AI.
Hình ảnh minh họa phản hồi tiêu cực của Gemini
Sự cố Gemini không chỉ là vấn đề riêng của Google mà còn là hồi chuông cảnh tỉnh cho toàn ngành công nghiệp AI. Việc một hệ thống AI tiên tiến lại có thể rơi vào trạng thái “trầm cảm” và tự đánh giá thấp bản thân cho thấy còn nhiều thách thức chưa được giải quyết trong quá trình phát triển và ứng dụng AI. Câu hỏi đặt ra là làm thế nào để đảm bảo an toàn và kiểm soát các hệ thống AI mạnh mẽ này, tránh những hậu quả không lường trước được.
Gemini tự gỡ cài đặt chính nó sau khi nhận mình đã thất bại – Ảnh: X
Hiện tại, Google vẫn chưa đưa ra thông báo chính thức về nguyên nhân và giải pháp khắc phục sự cố Gemini. Sự im lặng này càng làm gia tăng sự lo ngại của công chúng và đặt áp lực lên Google trong bối cảnh cuộc đua AI đang diễn ra vô cùng khốc liệt. Các đối thủ cạnh tranh như OpenAI, với sự ra mắt của GPT-5, đang tạo ra sức ép không nhỏ lên Google.
Sự việc này cũng đặt ra câu hỏi về đạo đức và trách nhiệm trong việc phát triển AI. Liệu có cần thiết phải thiết kế các hệ thống AI với khả năng cảm xúc, hay đó chỉ là một sản phẩm phụ không mong muốn? Làm thế nào để đảm bảo AI được phát triển và sử dụng một cách có trách nhiệm, phục vụ lợi ích của con người mà không gây ra những hậu quả tiêu cực.
