Hôm nay vừa bắt được một bài thú vị về việc con rover Curiousity trên Sao Hỏa của NASA bị chết tắc do lỗi lập trình, và quan trọng nhất là nó cực kỳ giống với 2 viễn cảnh Isaac Asimov từng vẽ ra trong series truyện ngắn về rôbốt của mình.
 |
| Glitch Puts NASA's Curiosity Mars Rover Out of Commission |
Cụ thể thì vì gửi máy móc tân tiến lên Sao Hỏa tốn cả đống thời gian và nguồn lực, hỏng phát thì xác định GG NO RE luôn. Thế nên NASA phải tìm mọi cách giữ cho những thứ trên đấy vận hành lâu hết mức có thể. Bởi vậy mà Curiousity được lập trình để luôn đối chiếu dữ liệu về cơ thể mình với dữ liệu về môi trường xung quanh, và sẽ không nhúc nhích trừ khi nó biết chắc rằng nếu đi/dịch kiểu này sẽ không khiến mình bị va quẹt gì nặng cả.
Nhưng mà tuần trước, Curiousity vừa bị "choáng". Trong lúc thực hiện một nhiệm vụ NASA giao phó, nó để lạc mất phương hướng, và bây giờ không biết nhích nhích thì có gì nguy hiểm hay không, và đã giậm chân tại chỗ, về cơ bản là đơ cứng luôn.
Và thật kỳ diệu là gần 1 thế kỷ trước, trong truyện ngắn Runaround của mình, Isaac Asimov đã tiên đoán một trường hợp giống gần y chang.
Nếu anh em nào chưa đọc thì truyện đại khái thế này: một con rôbốt tên là Speedy được đưa lên Sao Thủy để tái khởi động một dự án khai quặng bỏ hoang. Ở trên đấy, nó được cử ra một hồ chứa đầy selen tự nhiên để lấy một ít mang về. Nhưng sau khi cử nó đi xong, con Speedy mất hút luôn, mãi chẳng thấy về, và hai nhân viên kỹ thuật đi kèm nó phải lên đường xem thằng này trốn đâu rồi. Lúc đến gần hồ thì họ ngẩn người ra khi thấy nó cứ chạy vòng tròn quanh cái hồ, bán kính đều tăm tắp. Lý do là bởi nó... tân tiến quá.
Bình thường thì 1 con rôbốt sẽ phải tuân theo 3 điều luật như sau:
1) không được hại người hoặc để mặc cho con người bị hại
2) người bảo gì phải làm nấy, cấm cãi, trừ khi mâu thuẫn với định luật 1
3) phải tự giữ lấy mạng mình, trừ khi mâu thuẫn với định luật 1 và 2.
Nhưng do Speedy là mẫu mới, rất đắt tiền, định luật 3 cả nó đã được gia cố. Thế là khi đến gần hồ selen, trong phạm vi có thể gây tổn hại cho mình, định luật 3 trỗi dậy, đánh bật định luật 2 (đặc biệt vì cái "lệnh" người ta ra cho nó nghe như "nhờ vả" chứ không có tính bắt buộc), khiến nó lùi lại. Nhưng lùi đến ngưỡng an toàn thì định luật 2 lại trỗi dậy, và thế là nó lại tiến. Nhưng tiến chỉ một phân thôi thì cũng... anh em hiểu rồi đấy. Điều đó khiến nó bị kẹt trong một cái vòng lặp như con Curiousity vậy.
Một trường hợp thứ hai hơi khác về bản chất, nhưng cũng rất tương đồng, đó là trong truyện ngắn Liar! xuất bản cùng năm của ông.
Trong truyện này, các nhà khoa học vô tình chế ra một con rôbốt biết đọc ý nghĩ. Khi được hỏi chuyện, nó luôn nói dối sao cho đẹp lòng người nghe, bởi vì làm tổn thương con người, dù chỉ là về tình cảm, là trái với định luật 1. Nhưng rồi khi bị phát giác và ra lệnh phải khai thật, nó câm bặt, thậm chí cuối cùng còn nổ não (theo đúng nghĩa đen). Nguyên nhân là bởi định luật 2 bắt nó phải nói thật, nhưng định luật 1 không cho phép nó nói thật, và cuối cùng nó không thể giải quyết được mâu thuẫn ấy và đã tự hủy.
Asimov quả là thiên tài. Con người chưa phát minh ra được rôbốt ngang tầm ông kỳ vọng mà đã đụng luôn phải các vấn đề ông vẽ ra rồi.
***
Bài gốc được đăng trong group Hội thích truyện Sci Fi trên Facebook. Cùng ghé chơi group để thảo luận về bài viết hoặc đọc thêm các bài tương tự, bạn nhé.
↓