DARPA, tức Cơ quan Chỉ đạo các Dự án Nghiên cứu Quốc phòng Tiên tiến của quân đội Mỹ, gần đây vừa mới tổ chức một buổi tập trận khá đặc biệt: một trận không chiến ảo giữa AI và con người.
Cụ thể là DARPA đã xây dựng với một loạt mô phỏng máy bay chiến đấu F-16 phiên bản số, với cơ cấu hoạt động và điều khiển giống thật hết sức có thể, và sau đó giao cho một số thuật toán khác nhau điều khiển. Mấy con AI sơ khai này sẽ tự mày mò học cách bay, và sau đó tiến hành tấn công lẫn nhau. Thằng giỏi nhất sau đó được đem ra đấu với một phi công F-16 thật.
Kết quả: con AI đã đấu với một phi công mang mã hiệu liên lạc “Banger,” và nó đã đánh thắng Banger trong cả 5 ván giao chiến.
Mặc dù “sàn đấu” chỉ là một mô phỏng ảo, không có nhiều yếu tố môi trường phức tạp như đời thật, vụ việc vẫn cho thấy hệ thống AI này cực kỳ có tiềm năng. Đặc biệt mộ điểm là mới chỉ mùa thu năm ngoái thôi, trong một thử nghiệm tương tự, đám AI thậm chí còn không thể kham nổi việc lái máy bay. Chúng nó hoặc sẽ vô tình cho máy bay đâm đầu xuống đất, hoặc nếu có xoay xở điều khiển được tốt thì cũng có khi bay vèo đi đâu đó chứ "quên" mất về nhiệm vụ của mình là phải đi giao chiến. Điều này cho thấy tốc độ phát triển của dự án hoàn toàn không đáng xem thường chút nào, và công nghệ Ai đó có lẽ sẽ sớm được đem ra ứng dụng, hoặc dưới dạng trợ lý ảo để giúp phi công con người hoạt động hiệu quả hơn, hoặc thay thế hẳn con người trong việc điều khiển máy bay.
Đọc bài này mà mình lại nhớ đến một tác phẩm cực kỳ kinh điển của cố nhà văn Harlan Ellison, ấy chính là I Have No Mouth, and I Must Scream.
Tác phẩm lấy bối cảnh Thế Chiến III đã bùng nổ giữa Mỹ, Liên Xô (thời truyện ra đời thì Liên Xô vẫn tồn tại, và bấy giờ đang là giai đoạn Chiến Tranh Lạnh), và Trung Quốc. Mỗi bên tự chế ra một siêu AI mang tên “Allied Mastercomputer” (tức AM) để quản lý vũ khí và quân đội của mình. Vấn đề là một con AI tiến hóa lên xa quá, và nó đã nuốt chửng luôn hai con AI còn lại, khiến cho toàn bộ hệ thống vũ khí và quân đội của các cường quốc trên thế giới nằm gọn trong tay nó. Sau đấy thì nó quay sang thực hiện một chiến dịch diệt chủng trên diện rộng, tiêu diệt gần như toàn bộ nhân loại, chỉ để chừa 5 người, biến họ thành gần như bất tử, và ngày ngày tra tấn họ suốt hơn một thế kỷ liền.
Không biết liệu mấy bro bên DARPA đã đọc truyện này chưa nhỉ 🐧?
I Have No Mouth, and I Must Scream không phải tác phẩm duy nhất sử dụng mô típ cảnh báo về hiểm họa giao quyền quản lý vũ khí cho AI. Cuốn tiểu thuyết Sea of Rust của C. Robert Cargill cũng có mô típ gần như giống hệt I Have No Mouth, and I Must Scream, chỉ có điều kẻ phải gánh chịu hậu quả lại là bọn rôbốt (technically là cả con người nữa, vì bị diệt chủng là cái hậu quả cung khá nặng rồi 🐧 ); truyện ngắn All That Is Solid của Chris Barnham xoay quanh chuyện con người quyết định đem con AI từng đánh thắng con người trong StarCraft đi tiêu hủy vì nhận thấy tiềm năng của nó quá khủng khiếp; series phim The Terminator do James Cameron sáng tạo ra, với một hệ thống mạng máy tính tên W̶i̶n̶d̶o̶w̶s̶ ̶1̶0̶ Skynet chiếm quyền kiểm soát hệ thống vũ khí hạt nhân và khơi mào Thế Chiến III thông qua một sự kiện được biết đến dưới cái tên Judgement Day; và ngoài đây ra thì còn hàng trăm ngàn tác phẩm Sci Fi khác xây dựng xung đột dựa trên ý tưởng đó.
Những tác phẩm này mặc dù mang tiếng là viễn tưởng, tức dịch thô ra là “tưởng tượng xa vời,” nhưng đều được tô vẽ lên từ những lo ngại xoay quanh các công nghệ nền có thật. Và với tình hình ngày một có thêm nhiều những cái thí nghiệm như thế này, có lẽ dần cân nhắc bỏ từ “viễn” trong tên của nó đi được rồi đấy ông giáo ạ 🐧.
***
Bài gốc được đăng trong group Hội thích truyện Sci Fi trên Facebook. Cùng ghé chơi group để thảo luận về bài viết hoặc đọc thêm các bài tương tự, bạn nhé.
↓