Trong cái bài về AI và Căn phòng tiếng Trung ngày hôm trước, mình có động đến một nhân vật tên Siri Keeton trong Blindsight. Thanh niên này về cơ bản là một Căn phòng tiếng Trung “thịt,” sử dụng một hệ thống xác định kiểu mẫu trong cả đời thường lẫn công việc để tồn tại trong xã hội. Điều này khiến Siri trở nên cực kỳ giống với một con AI yếu, từ đấy trở thành minh chứng cho sự mờ nhạt giữa ranh giới của một trí thông minh mô phỏng và một trí thông minh thật sự.
Tuy nhiên, sự tồn tại của Siri cũng như nét tương đồng với AI của đồng chí còn gợi ra một đề tài bàn luận nữa, ấy là một khi đã có những con AI như vậy rồi, con người sẽ đóng vai trò như thế nào trong xã hội đây?
Như đã nói trong bài trước, Siri Keeton là một Synthesist, tức Tổng Hợp Viên. Công việc của ông anh thuần túy là quan sát chuyên gia trong các lĩnh vực khác nhau thực hiện công việc của mình, ghi nhận các thông tin họ đưa ra, sau đó sử dụng thuyết thông tin để xác định mẫu dạng sắp xếp của chỗ thông tin mình nhận được cũng như cấu trúc liên kết giữa các thành phần thuộc chỗ thông tin ấy và “phiên dịch” chúng sang một dạng dễ hiểu hơn để dân không chuyên hiểu. Nó cũng tương tự như diễn giải một khối cầu 3D dưới dạng một hình chiếu 2D hoặc tập hợp các mặt cắt 2D, hoặc nôm na hơn thì thanh niên biến (√3)² + (√1)² = (√4)² thành 1 + 1 = 2.
Sở dĩ thế giới của Blindsight cần những Tổng Hợp Viên như Siri bởi vì bây giờ khoa học đã tiến đến một tầm quá cao, và trở nên lằng nhằng tới độ một con người bình thường (trong truyện gọi là “baseline human,” tức “người cơ bản”) dù có dành cả đời nghiên cứu chỉ đúng một lĩnh vực cực kỳ hẹp cũng vô phương đẩy ranh giới của nó đi xa thêm bước nào nữa. Nghiên cứu khoa học buộc phải đặt vào tay những thành phần cao cấp hơn người cơ bản, chẳng hạn những người bị rối loạn tâm thần đa nhân cách (trong thế giới của Blindsight, những người đa nhân cách đã được khám phá ra là tương tự những chiếc máy tính đa vi xử lý, có thể song song giải quyết nhiều việc một cách hiệu quả cùng một lúc), người mắc hội chứng savant (những người mắc các chứng rối loạn phát triển như tự kỷ, nhưng bù vào đó thì lại sở hữu một khả năng xuất chúng, vượt xa mức trung bình), thậm chí cả AI và ma cà rồng (một chi tiến hóa đã tuyệt chủng của loài người, nay được công nghệ gen cho tái sinh vì chúng sở hữu khả năng trí óc quá siêu việt). Vì những thành phần này lệch ra ngoài khuôn khổ bình thường quá xa, cách họ diễn đạt và giao tiếp cũng cực kỳ rối rắm. Để người bình thường hiểu được họ, cần phải có một Tổng Hợp Viên dịch những gì họ nói ra thành “tiếng người.”
Nhưng hẳn sẽ không ít anh em nảy sinh một thắc mắc thế này: nếu Tổng Hợp Viên chỉ dùng nhận diện mẫu dạng thuần túy để “dịch” thông tin, chẳng lẽ ta không thiết kế được thuật toán nào thực hiện hoàn toàn công việc ấy ư?
Thực ra là có đấy.
Trong thế giới của Blindsight, công nghệ AI đã phát triển đến một tầm ngoài sức tưởng tượng. AI và rôbốt gần như thay thế con người làm tất cả mọi công việc liên quan đến lôgic rồi. Và trên thực tế, toàn bộ công việc lái tàu đi tìm hiểu về vật thể ngoài hành tinh lạ kia của đoàn Siri thực chất do một con AI điều khiển hết, và đám con người thậm chí còn chẳng được phép sờ vào bánh lái. Ngay cả việc cân nhắc ra quyết định cũng không nằm trong tay một con người nào, mà nó là trách nhiệm của một con ma cà rồng, và cái con này về cơ bản cũng chẳng khác một con AI là mấy, mỗi tội nó sợ các góc cạnh vuông vức và khiến đám con người rét run cầm cập với chỉ một cái liếc nhìn hoặc một tiếng khè mà thôi. Công việc Tổng Hợp Viên của Siri trên lý thuyết không hề không thể thay thế được.
Vậy thì tại sao không thay luôn đi?
Dù câu hỏi đấy không phải là vấn đề trọng tâm của tác phẩm, Blindsight cũng dành một thời lượng đáng kể để trăn trở và chiêm nghiệm về việc tại sao trong một thế giới nơi AI đã phát triển mạnh mẽ phi thường, vẫn có những việc phải để con người nhúng tay vào. Trường hợp đầu tiên truyện đưa ra luận bàn có liên quan đến một nhân vật có tên Robert Cunningham, một nhà sinh vật học.
Cũng như cực nhiều người khác trong cái nghề của mình, Cunningham tích hợp hàng tỉ tấn máy móc vào bản thân, biến mình thành một dạng sinh vật nửa người nửa máy quái gở. Các bộ phận máy ấy cho phép Cunningham có thể phân tán tâm trí vào trong hàng loạt thiết bị đo lường và phân tích khác nhau, trực tiếp cảm nhận hàng trăm luồng dữ liệu theo một cách trực quan phi thường, không tài nào mô tả dựa trên hệ quy chiếu năm giác quan thông thường được. Song đổi lại, Cunningham gần như mất hoàn toàn khả năng cảm nhận mọi vật bằng da thịt, và phải tích hợp thêm một mớ máy móc nữa để truyền dữ liệu xúc giác về cho mình.
Nếu Blindsight mà là một tác phẩm Cyberpunk (ok, nó cũng chứa đựng nhiều yếu tố mang tính Cyberpunk đấy, nhưng nhìn chung gần với Tam Thể hơn là Neuromancer, thế nên tạm coi nó không phải là Cyberpunk), Cunningham có lẽ sẽ có cái nhìn tích cực hơn về những gì xảy đến với cơ thể mình, bởi lẽ Cyberpunk rất hay bình thường hóa transhumanism (anh em có thể đọc thêm về transhumanism ở đây: https://www.facebook.com/groups/SciFiReadersVN/posts/3570375873049654), coi nó như một lựa chọn để các cá nhân thể hiện bản thân, tương tự như việc xăm mình hay gì đó tương tự trong thời hiện tại của chúng ta.
Tuy nhiên, vì Blindsight là Blindsight, Cunningham được ám chỉ là chẳng ham thích cái việc đấy chút nào cả. Tuy nhiên, bấy giờ đang là thời chạy đua vũ trang về trí lực, anh ta bắt buộc phải băm vằm bản thân ra chỉ để bắt nhịp với các đối thủ của mình. Nếu không làm thế, Cunningham sẽ chẳng còn lựa chọn nào khác ngoài dọn hẳn vào sống trong Heaven.
Ở đoạn này, cần nói qua một tí về Heaven. Đây là một thế giới ảo nơi người ta muốn làm cái gì cũng được. Tất cả những gì họ phải làm để vào Heaven là kết nối bản thân với một mớ máy móc để chúng có thể kích thích cơ thể và tạo cảm giác những gì xảy ra trong Heaven là thật, đồng thời cung cấp các dưỡng chất cần thiết để người dung có thể tiếp tục duy trì sự sống mà không cần chui ra ngoài. Anh em cứ tưởng tượng nó như phiên bản tối thượng của cái Metaverse thằng Mắc Xoăn đang muốn xây ấy, có điều miễn phí trăm phần trăm và không có cơn ác mộng mang tên chạy ads. Đã có hàng tỷ người dọn vào Heaven sống, và họ vĩnh viễn không bao giờ chui ra ngoài nữa. Xét cho cùng, ra ngoài làm gì khi thế giới ngày một rơi vào tay AI? Thế thì chẳng thà ở im trong một thế giới nơi mình được toàn quyền định đoạt thực tại còn hơn.
Cảnh tượng những con người rút vào Heaven sống được khắc họa như một tang lễ. Họ được cho vào những cái buồng như quan tài, đặt vào trong các tủ xếp thành hàng thành lớp như cái nhà xác thực sự. Và đấy là một mô tả thích hợp đến lạnh gáy, bởi đối với xã hội, đây quả thực chỉ như những cái xác chưa chôn. Họ không còn tương tác gì với ai bên ngoài nữa, chỉ sống kiếp ký sinh trùng, ăn bám tài nguyên của xã hội mà không đóng góp được gì cho nó hết. Đây là số phận chờ đợi Cunningham nếu thanh niên không tự tàn phá thân xác bản thân, và trong một lần nói chuyện với Siri, Cunningham đã nói toẹt ra thế này: “Bắt kịp thời thế là tối quan trọng. Nếu không tái cấu hình bản thân, ta sẽ không thể tái đào tạo. Nếu không tái đào tạo, ta sẽ trở nên lạc hậu nội trong một tháng, và khi ấy thì ta sẽ chẳng còn làm được gì ngoài chui vào Heaven hoặc đi chép lời người khác viết.”
Thông qua vụ việc của Cunningham, ta có thể thấy sở dĩ con người vẫn còn có việc trong một thế giới nơi AI ngự trị là vì vẫn còn những người tuyệt vọng không muốn rơi vào cảnh sống thừa. Họ sợ bị trở nên vô dụng và bị đem lên thiên đàng “chôn” đến mức liều chết vứt bỏ cả những thứ cấu thành thân thể của mình chỉ để có cơ hội cạnh tranh, và từ đấy tiếp tục được sống.
Tuy nhiên, lý do thú vị nhất, đồng thời có lẽ cũng gần với trường hợp của Siri nhất, nằm trong trường hợp của Amanda Bates, một đại tá quân đội đi trong đoàn của Siri.
Bates sở hữu nguyên một quân đoàn các con rôbốt chiến đấu. Bọn rôbốt dưới trướng cô có thể hành động độc lập hoàn toàn, tự đánh giá tình hình và ra quyết định ứng phó mà không cần đến Bates thò tay vào điều khiển. Trên thực tế, có khi chúng nó còn hoạt động hiệu quả hơn khi không có Bates chỉ đạo, bởi vì khả năng xử lý thông tin của bọn nó mạnh và nhanh gấp bội Bates. Tất cả những gì Bates cần làm là hoạch định các mục tiêu chiến lược cho bọn nó, bảo bọn nó mình muốn đạt được gì và có thể còn theo một cách như thế nào nữa. Xong khoản đấy thì Bates chỉ cần vểnh râu ngồi chơi thôi.
Tuy nhiên, cái cô này lại chẳng làm thế.
Ừ, tất nhiên Bates có cài đặt mục tiêu chiến lược và thiết lập kế hoạch chung cho lũ rôbốt đấy, nhưng cô không dừng ở đấy. Cô này còn sở hữu khả năng kết nối trí óc trực tiếp với lũ rôbốt, và đích thân chiếm hoàn toàn quyền điều khiển từng con rôbốt riêng lẻ nếu cần. Và trong một tình huống chiến đấu cụ thể, cô quả thực đã làm thế, “nhập hồn” vào lũ rôbốt để ra quyết định thay cho bọn nó.
Trong lúc vụ việc đấy xảy ra, Siri có cơ hội quan sát xnhững gì Bates thực hiện, và thanh niên từ đấy ngẫm sâu hơn về mối quan hệ giữa AI và giới quân sự. Quân đội trước giờ luôn giao mọi quyền quyết định cuối cùng cho con người, chứ chẳng bao giờ cho AI cả. Điều này kể cũng có lý, bởi các quyết định quân đội đưa ra có liên quan mật thiết đến tính mạng của con người, cả ở phe ta lẫn phe (được cho là) địch, vậy nên không thể để cho máy móc quyết được. Và phía quân đội luôn rêu rao rằng chính nhờ trao quyền cho con người như vậy, hàng bao thảm họa tàn khốc đã không xảy ra, giúp nhân loại không phải hứng chịu những mất mát không đáng có.
Nhưng, như Siri nhận thấy, họ chẳng bao giờ đả động gì đến chuyện đã bao nhiêu thảm họa tàn khốc đã xảy ra do quyết định của con người, và liệu nếu để máy móc quyết, có khi nào chúng đáng lẽ đã chẳng xảy ra không.
Hành động của Bates cũng như thái độ chung của giới quân sự đại diện cho một lý do rất lớn khác trong việc con người vẫn tiếp tục cáng đáng những việc AI thừa sức tiếp quản, cho dù bản thân có khi còn làm ăm chẳng hiệu quả bằng: sự thiếu tin tưởng. Bản tính nghi kỵ ấy ngấm vào trong tận máu loài người, trở thành một dạng bản năng với chúng ta rồi, khiến ta dứt khoát không đời nào giao phó hoàn toàn vận mệnh của mình cho một thực thể khác, ngay cả khi thực thể đấy xét theo mọi nhẽ sẽ có thể bảo vệ ta một cách tốt hơn. Điều này được thể hiện rất rõ trong một cuộc trò chuyện giữa Bates và Siri, lúc Bates đang giám sát công việc chế tạo rôbốt chiến đấu của con AI quản tàu:
⠀
_____________________
“Anh hiện đang làm việc đó đấy à? Tổng hợp thông tin ấy?”
Tôi gật đầu.
“Và anh làm vậy trong khi không nắm giữ chút kiến thức chuyên môn nào hết.”
“Tôi cũng là một chuyên gia như cô thôi. Tôi chuyên xử lý cấu trúc liên kết thông tin.”
“Mặc dù mù tịt về nội dung của chúng.”
“Hiểu được dạng hình của chúng là đủ rồi.”
Chừng như vừa phát hiện ra một khuyết điểm tí hon nào đó ở con rôbốt chiến đấu mình đang săm soi, Bates cạ móng tay lên lớp vỏ của nó. “Chẳng lẽ nếu không được anh thò tay vào giúp, phần mềm sẽ chịu chết, không làm nổi việc đó sao?”
“Phần mềm làm được nhiều thứ lắm. Có điều ta tự chọn đích thân đứng ra cáng đáng một số việc thôi.” Tôi dứ đầu về phía con rôbốt lính. “Như cái trò thanh tra bằng mắt của cô chẳng hạn.”
Cô hơi mỉm cười, công nhận ý đấy.
_____________________
⠀
Đến cuối truyện, ta một lần nữa lại thấy Blindsight tái khẳng định việc sở dĩ con người vẫn làm việc của AI là vì không tin tưởng thông qua cặp đôi Jukka Sarasti và Thuyền trưởng, với Jukka là con ma cà rồng chỉ đạo nhiệm vụ của đoàn, còn Thuyền trưởng là con AI lái tàu.
Trong suốt toàn bộ truyện, Thuyền trưởng không bao giờ mở miệng nói chuyện với ai câu nào. Người duy nhất nó trò chuyện cùng là Sarasti, và cũng chẳng ai biết hai thằng này nói chuyện gì với nhau hết. Theo như ám chỉ thì Sarasti nhận thông tin từ Thuyền trưởng, xong rồi dùng bộ não IQ 9000 của mình để ra quyết định. Tuy nhiên, đến cao trào của Blindsight, một sự thật lạnh gáy được tiết lộ.
Số là do đặc tính của chủng tộc mình, Sarasti buộc phải sử dụng một thứ thuốc có tên là antiEuclideans. Không có cái thuốc đấy, Sarasti sẽ lên cơn động kinh ngay khi nhìn thấy bất cứ thứ gì tạo thành một góc vuông hoàn hảo. Và trong một con tàu vũ trụ, chẳng thiếu thứ tạo thành những cái góc cạnh đấy đâu. Tuy nhiên, ở hồi kết của truyện, thuốc antiEuclideans của Sarasti bị thay thế hay đầu độc gì đó, và thanh niên giãy đành đạch, mồm sùi bọt mép. Bất chợt, một con rôbốt chiến đấu tự nhiên cầm một thanh sắt đâm xuyên hộp sọ Sarasti, giết chết tươi nó. Phi hành đoàn giờ đây đã mất đi thủ lĩnh, trong khi nguyên một bầy quái vật ngoài hành tinh vũ trang tận răng đang xâm nhập tàu.
Nhưng rồi giữa lúc mọi thứ đang loạn nháo nhào hết lên, Siri chợt thấy một điều hết sức rùng rợn.
Cái xác của Sarasti vừa thò tay ra túm lấy vai mình.
Sarasti lúc này đã chết ngắc, không còn lẫn vào đâu được nữa. Sọ nó gần như bửa đôi rồi mà. Tuy nhiên, một sự thật không thể phủ nhận là con ma cà rồng đấy vẫn đang di chuyển, vẫn tìm cách đưa Siri ra tàu thoát hiểm. Và đây là lúc Siri để ý thấy một cổng nối thò ra từ đằng sau cái hộp sọ dập nát của Sarasti, đồng thời nhớ lại cách Sarasti và Thuyền trưởng lúc nào cũng hí húi với nhau.
Sarasti không nói chuyện với Thuyền trưởng. Sarasti LÀ Thuyền trưởng. Hay đúng hơn, Thuyền trưởng là Sarasti. Con AI là kẻ đã điều khiển Sarasti như một con rối suốt bấy lâu nay, và cả đoàn thực ra nhận lệnh từ nó. Giờ đây, tình hình trở nên quá bi đát, con AI không buồn giả vờ gì nữa. Nó thậm chí còn đã giết luôn Sarasti để từ đấy tiếp quản hoàn toàn việc quản lý tàu, đảm bảo hoàn thành nhiệm vụ được giao. Lý do con AI phải mượn xác Jukka được giải thích trong cuộc trò chuyện cuối cùng giữa nó và Siri (mấy đoạn ba chấm trong ngoặc vuông là lược bớt miêu tả không liên quan cho đỡ rườm rà):
⠀
_____________________
“Tại sao mày lại giết hắn?” Tôi hỏi. […]
Cái xác chìa ra một bàn tính cầm tay, được gắn phím và có màn hình hiển thị văn bản: Bi dong kinh. Ko kiem soat dc.
Chúng tôi đã ra đến các khoang tàu con thoi. Lũ rôbốt lính bấy giờ tâm trí đang ở tận đẩu tận đâu, và chúng để bọn tôi qua.
Di di, Thuyền trưởng nói.
[…]
Từ phía sau, xác Sarasti thúc giục tôi. Tôi quay lại và đối mặt với nó.
“Hắn có quyết lần nào không?” Tôi hỏi.
Di di.
“Nói tao biết ngay. Hắn có tự lên tiếng lần nào không? Hắn có tự mình quyết định bất cứ điều gì không? Bọn tao có lần nào làm theo lệnh của hắn không, hay suốt từ đầu đến giờ chỉ có mình mày thôi?”
Cặp mắt vô hồn của Sarasti giương lên nhìn, đờ đẫn và vô tri. Ngón tay hắn cà giật gõ phím.
Mn ko thich bi may moc sai bao. Lam the nay mn se vui ve hon.
_____________________
⠀
Rốt cuộc, con AI tảng lờ hoàn toàn việc liệu nó và Sarasti có hoạt động theo kiểu cộng sự không, hay thằng này một tay sắp đặt hết, còn Sarasti chỉ như cái loa thịt. Dẫu vậy, nó vẫn khẳng định rất rõ rằng mình làm thế không phải vì có ác ý gì cả, mà chỉ đơn thuần vì con người không ưa chuyện phải nghe lệnh từ AI, ngay cả khi làm thế sẽ cải thiện khả năng sống sót cao hơn hẳn. Sarasti, dù có là thú ăn thịt đối với con người, vẫn là một chi tiến hóa của loài người, về cơ bản vẫn mang nhiều nét tương đồng con người, thế nên nhận lệnh qua nó dễ hơn. Kết hợp với việc ma cà rồng vốn cũng có đầu óc cao siêu hơn loài người, con AI sẽ dễ dàng hợp thức hóa những quyết định nghe có vẻ hơi trên trời, dù cuối cùng vẫn đúng của mình.
Qua tất cả những trường hợp này, anh em có thể thấy ngay cả khi công nghệ AI có bùng nổ, chưa chắc vai trò con người sẽ bị thay thế hoàn toàn. Hoặc sẽ vẫn có những người chày cối chạy đua với AI bằng cách đẩy bản thân vượt quá giới hạn của giống loài mình, biến mình thành những tạo vật không tưởng, hoặc ta sẽ chỉ đơn thuần giữ được việc vì bản năng không cho phép mình tin tưởng một thứ xa lạ đến thế.
Mặc dù tất nhiên, nếu muốn thì lũ AI vẫn có cách lách luật thôi, cứ nhìn gương Sarasti là biết. Muốn chặn hẳn bọn này làm thế thì chỉ có nước tròng mấy định luật của Asimov lên cổ chúng nó. Mỗi tội liệu có nên làm thế không khi khách quan mà nói, để AI lo liệu mọi thứ là phương án ngon lành nhất?
À mà quên mất, trong bộ luật của Asimov ta vẫn còn có định luật 0 nữa. Thế thì kiểu gì cũng gg thôi, dọn thảm đỏ chào mừng lãnh chúa AI đi là vừa 🐧.
***
Bài gốc được đăng trong group Hội thích truyện Sci Fi trên Facebook. Cùng ghé chơi group để thảo luận về bài viết hoặc đọc thêm các bài tương tự, bạn nhé.
↓