…That Thou Art Mindful of Him, một định luật rôbốt mới, và tính thời sự của nó trong bối cảnh ngày nay
Bữa nay mình vừa mới bắt được một bài khá thú vị, xoay quanh một truyện ngắn của Isaac Asimov và sự tương đồng của nó với AI thời nay. Cụ thể, câu chuyện được bàn đến trong bài là …That Thou Art Mindful of Him, một truyện ngắn xuất bản hồi năm 1974, và về sau đã được tổng hợp thành tuyển tập The Complete Robot.
 |
| 3 rules for robots from Isaac Asimov — and one crucial rule he missed |
Trong truyện, một công ty chuyên về rôbốt mang tên U.S. Robots đang có ý định giới thiệu rôbốt vào thị trường Trái Đất (từ trước đến nay, bọn rôbốt chỉ toàn làm việc tại các khu công nghiệp hoặc trạm nghiên cứu ngoài vũ trụ). Vấn đề là người dân trên Trái Đất cực kỳ dị ứng với lũ rôbốt, và chưa một nỗ lực chèo kéo nào U.S. Robots triển khai từng thành công cả. Trong số những lý do khiến con người nghi kỵ rôbốt, có một cái nảy sinh từ bộ Định luật Rô-bốt học mà mọi con rôbốt đều được lập trình phải tuân theo. Mấy cái luật đó là:
Rôbốt không được phép làm hại con người hoặc thấy người bị hại mà không ra tay cứu giúp.
Rôbốt phải tuân theo mọi mệnh lệnh do con người đưa ra trừ khi mệnh lệnh đó mâu thuẫn với Định luật Thứ nhất.
Rôbốt phải tự bảo vệ tính mạng bản thân trừ phi sự tự vệ đó gây mâu thuẫn với Định luật Thứ nhất hoặc Thứ hai.
Trong số ba định luật này, thằng thứ nhất và thằng thứ ba không có gì đáng nói cả. Nhưng riêng thằng thứ hai thì sẽ gây ra vấn đề nếu ta để bọn rôbốt gia nhập xã hội loài người. Như anh em đã biết đấy, trên đời có đủ thành phần tạp nham, Thạch Sanh thì ít mà Lý Thông thì nhiều. Con người chúng ta thì đủ biết khôn ngoan để ngó lơ những thằng Lý Thông, nhưng với bọn rôbốt, Thạch Sanh hay Lý Thông đều là người tất, và hễ ai ra lệnh là chúng nó cũng nghe theo, ngay cả khi cái lệnh ấy do một kẻ bất hảo đưa ra.
Dù không phải là nguyên nhân thực sự sâu xa cho việc con người ghét rôbốt, cái Định luật Hai kia vẫn là nguyên nhân dễ thấy nhất, và rất hay được phe bài rôbốt đem ra dùng làm vũ khí để phá thối các nỗ lực giới thiệu rôbốt đến với người tiêu dùng phổ thông. Để giải quyết điều này, phía U.S. Robots quyết định sẽ dạy bọn rôbốt cách phân biệt đối xử. Họ sản xuất ra một dòng rôbốt mới, gọi là “George.” Lũ rôbốt này về cơ bản vẫn tuân thủ 3 định luật đã nói, nhưng bọn nó được yêu cầu phải nghiền ngẫm về câu này: “What is Man that thou art mindful of Him?” (tạm dịch: “Con người là chi mà Ngài lưu tâm đến?”).
Dựa trên cái tiền đề đấy, bọn rôbốt đã suy ngẫm xem ai mới thực sự xứng đáng để mình lưu tâm nghe lệnh, còn ai thì không. Kết luận bọn nó rút ra được là: (A) rôbốt nên nghe lệnh một người có học thức, sống kỷ luật, và có lý trí, và (B) rôbốt không nên để các đặc điểm bề ngoài như màu da, giới tính, hoặc khuyết tật thể chất tác động đến quyết định nghe lệnh của mình.
Và tình cờ thay, có một nhóm khớp hoàn toàn với 2 tiêu chí trên: chính bản thân lũ rôbốt. Bọn này là những cá thể có học thức, sống kỷ luật, và suy nghĩ theo kiểu lý trí nhất trên đời, và điểm khác biệt duy nhất giữa chúng nó và con người bình thường chỉ toàn mang tính thể chất bề ngoài. Chính vì thế, bọn nó kết luận rằng trong mọi tình huống, mệnh lệnh do chính chúng nó đưa ra cần được ưu tiên hơn mệnh lệnh của một người bình thường.
Nói cách khác, nhờ một kiểu suy luận khá vòng vèo, chúng nó đã đi đến kết luận rằng mình là một dạng con người cao cấp hơn con người gốc, và hoàn toàn có thể tiếm quyền con người.
Cũng như mọi câu chuyện liên quan đến các Định luật Rôbốt học khác của Asimov, câu chuyện này muốn cho ta thấy rằng xây dựng một bộ luật để kiểm soát trí thông minh, bất kể nó có ở dạng nào, cũng là một việc khó hơn lên trời. Nếu luật mà cứng nhắc quá, cái trí thông minh kia sẽ bị gò bó hoặc gây ra những hệ quả nguy hại, thế nên ta phải chừa ra đủ chỗ để còn du di và áp dụng linh hoạt. Nhưng chính việc chừa chỗ như thế sẽ lại khiến bộ luật xuất hiện những kẽ hở, và từ đó, hàng bao vấn đề không lường đến được sẽ xảy ra.
Tuy nhiên, như bài báo bên dưới có nói đấy, cái mẩu truyện này còn đưa ra thêm một câu hỏi thú vị nữa, và nó đặc biệt mang tính thời sự trong thời buổi ngày nay, đấy là chính xác thì điều gì mới thực sự làm nên điểm khác biệt giữa rôbốt và con người?
Như trong truyện, bọn rôbốt đã xác định rằng một con người tối thượng là một tạo vật sở hữu “trí tuệ đỉnh cao.” Đây nhìn chung cũng là một trong những tiêu chí con người sử dụng để tự tách biệt bản thân với các loài khác. Việc con người có thể tự tin rằng mình hơn tầm các loài thú vật không chỉ đơn thuần nằm ở những thứ mang tính bề ngoài như dáng đứng thẳng hay chi linh hoạt hay bất kỳ khía cạnh vật chất nào khác. Nếu chỉ có thế thôi, một con rôbốt hay thậm chí một con vượn cũng có thể ngang tầm con người. Cái mấu chốt là chúng ta có một khối óc thông minh tuyệt đỉnh, không một loài nào sánh kịp. Từ trước đến nay, ngay cả những công cụ tính toán siêu việt nhất cũng chỉ có thể vượt mặt được ta ở một số lĩnh vực cực kỳ hạn hẹp, chứ không thể bì được với bộ óc toàn năng và linh hoạt của con người.
Nhưng nếu định nghĩa thứ làm nên sự khác biệt của con người là trí thông minh, điều gì sẽ xảy ra khi ta tạo ra được những cỗ máy hay những thực thể trí thông minh nhân tạo ưu việt hơn hẳn mình?
Hiện thời, điều này vẫn chưa xảy ra, nhưng chỉ cần nhìn qua một lượt các ngành công nghệ máy học ngày nay là ta sẽ không khỏi cảm thấy nghi ngờ rằng mình đang đi những bước đầu tiên trên con đường chế ra những trí thông minh ưu tú hơn cả bản thân rồi. Ta có những con chatbot có thể trò chuyện và đối đáp gần như ngang ngửa với con người, những thuật toán sáng tác văn thơ và vẽ mới được cả tranh dựa trên việc học hỏi các mô hình sẵn có. Lũ này tính đến hiện tại vẫn còn rất đơn sơ, và việc liệu bọn nó có thực sự “thông minh” không thì cũng là một vấn đề đang được bàn cãi. Nhưng căn cứ vào cái cách chúng nó liên tiếp đạt được những bước nhảy vọt đáng nể chỉ trong một thời gian rất ngắn, cách thành phẩm bọn nó làm ra càng lúc càng khó có thể phân biệt với thành phẩm con người, ta không khỏi băn khoăn rằng có khi nào trong tương lai, lũ AI đó sẽ trở thành những thực thể thông minh hơn một con người trung bình, hoặc ít nhất là trên mọi tiêu chí có thể cân đo đong đếm được về trí tuệ, chúng nó đều sẽ đánh bật con người hay không.
Và nếu cái ngày đó đến, cái gì sẽ khiến con người thực sự là “con người” nữa đây? Mỗi cái mã gen với mớ thịt da và máu chảy trong người thôi ư? Nhưng mà gà, vịt, ngan, ngỗng, chó, mèo, và đủ loài động vật khác cũng đều có mã gen riêng và thịt da riêng đấy thôi, dùng mấy cái đấy làm tiêu chí để phân biệt con người với AI thì chẳng lẽ bây giờ, đứng trước AI, con người và thú vật cũng chỉ ngang hàng nhau thôi ư?
Bài báo không thực sự đưa ra một câu trả lời nào cho chính cái vấn đề này, nhưng nó cũng chốt lại với một cái ý kiến khá hay. Theo lời bài báo, trong quá trình bước vào một cái tương lai nơi AI có thể làm ra những thành phẩm tốt ngang, hay thậm chí tốt hơn con người, chúng ta phần đông sẽ vẫn muốn được biết đâu là đồ do AI tạo ra, và đâu là đồ do con người tạo ra. Có lẽ đây là một cách để ta níu giữ lấy cái sự đặc biệt của mình, cho rằng chỉ đơn thuần vì nó được ra đời dưới bàn tay con người, một cuốn tiểu thuyết, một bài thơ, một bài hát, hoặc một bức tranh sẽ mặc định trở nên tốt hơn, ngay cả khi nguồn gốc của thành phẩm không hề làm thay đổi chất lượng thực của nó. Con người chỉ đơn thuần có quyền được biết mình đang tương tác với ai, con người hay AI mà thôi.
Chính bởi vậy, bài báo tin rằng Asimov đáng ra nên bổ sung thêm một Định luật Bốn: một con rôbốt phải tự xưng danh bản thân là rôbốt.
Mặc dù tác giả bài báo này không nói thêm gì về cái Định luật Bốn ấy cả, khả năng rất cao ông anh đã thó cái định luật đấy từ một nhà văn người Bulgaria, ấy là Lyuben Dilov. Ông này là một trong những nhà văn tiên phong (hoặc có khi còn là nhà văn đầu tiên) từng tìm cách cải thiện bộ luật Asimov đã đề ra. Trong The Path of Icarus, một cuốn tiểu thuyết hồi năm 1974, ông đã đề ra một thứ gọi là Định luật Bốn Rôbốt học, và nó có nội dung như sau:
Trong mọi trường hợp, rôbốt đều phải tự khai ra danh tính rôbốt của mình.
Và hẳn anh em sẽ có thể thấy, cái định luật đó giống gần như y xì đúc những gì bài báo này đã nói. Có khác chăng chỉ là Dilov chưa bao giờ dùng cái luật đấy để phục vụ nhu cầu phân biệt thành phẩm của rôbốt với thành phẩm của con người cả, mà chỉ toàn những thứ khác thôi.
Và tiện thể, Lyuben Dilov từng có một truyện ngắn được xuất bản ở Việt Nam dưới cái tên “Rôbốt” (gốc là “Роботы осознают свое предназначение,” hay “Rôbốt nhận ra mục đích của mình”). Truyện cũng có đề cập đến định luật 4, ít nhiều xoay quanh việc rôbốt thay thế con người, và trở thành một phiên bản ưu việt hơn của con người (chỉ có điều cái này mang tính hài hước hơn, chứ không sởn tóc gáy như cái truyện của Asimov hay bi quan như cái bài báo bên dưới). Truyện được gộp trong một tuyển tập mang tựa đề Tội Ác Giả Tưởng, do nhà sách Mão (chỗ số 5 Đinh Lễ) phát hành. Nếu có anh em nào quan tâm thì có thể tìm đọc thử nó nhé.
***
Bài gốc được đăng trong group Hội thích truyện Sci Fi trên Facebook. Cùng ghé chơi group để thảo luận về bài viết hoặc đọc thêm các bài tương tự, bạn nhé.
↓