Hôm nay mình mới bắt được một cái clip khá hay do NXB Penguin thực hiện, nhằm quảng bá cho cuốn sách về tương lai của rôbốt và AI cũng như những câu hỏi đạo đức liên quan đến chúng. Trong clip này, Tiến sĩ Kate Darling, tác giả của cuốn sách, một chuyên gia mảng quan hệ giữa người và rôbốt tại MIT, đã nhìn vào cách rôbốt và AI được thể hiện trong một số tác phẩm điện ảnh Sci Fi nổi tiếng, và phân tích những điểm hay dở, độ sát thực, cũng như những vấn đề về đạo đức và pháp lý tiềm tàng của các công nghệ ấy.
Có mấy điểm trong clip mình thấy khá hay. Đầu tiên, Kate có đề cập đến việc mặc dù rôbốt có thể mang đủ loại dạng hình khác nhau, chúng thường hay được hình dung là những cỗ máy mang dáng hình con người, và ngoại hình của chúng có thể tác động đến cảm xúc của chúng ta về bọn nó. Như trong clip, Kate có lấy ví dụ về con rôbốt Sophia, một con rôbốt từng được cấp quốc tịch Ảrập. Con này thực ra không hẳn là quá thông minh nếu đem so với các mẫu AI/rôbốt khác, nhưng vì nó mang ngoại hình người nên được ưu ái hơn.
Cái này làm mình nhớ lại cuốn Dogs of War của Adrian Tchaikovsky từng review đận trước. Mặc dù nó không dính đến rôbốt/AI (hay đúng hơn là không có cái cốt chính nào liên quan đến rôbốt và AI <(“) ), nó vẫn có một mạch xoay quanh việc ngoại hình của các sản phẩm nhân tạo đóng vai trò rất quan trọng đến mối quan hệ giữa chúng nó với con người. Trong truyện, con người dùng công nghệ gen để chế ra một đám lính đánh thuê thú vật, chuyên gây những tội ác trầm trọng. Lúc mọi sự vỡ lở, bọn thú bị đem ra hầu tòa xử tội phạm chiến tranh, và chúng nó bị cái ngoại hình làm mất điểm rất nặng. Ai trông vào bọn nó cũng khiếp hãi rụng rời, và đến luật sư bào chữa cho chúng nó cũng cảm thấy tình hình thật vô vọng, bởi vì chỉ cần trưng cái mặt bọn này lên sóng truyền hình thôi là xác định luôn công chúng sẽ sổ toẹt toàn bộ cái đám này rồi.
Tuy nhiên, Kate cũng nêu ra một điểm thú vị khác. Cô bảo là mặc dù ngoại hình là một trong những yếu tố chủ chốt quyết định xúc cảm giữa con người với rôbốt, việc con người trở nên gắn bó với các thứ máy móc vô nhân dạng cũng không phải là bất khả thi. Trên thực tế, nó xuất hiện cực kỳ thường xuyên ở ngoài đời. Ví dụ Kate đưa ra là các rôbốt dò bom mà quân đội cùng cảnh sát vẫn hay sử dụng. Mặc dù bọn nó về cơ bản chỉ là mấy cái xe có gắn tay cầm, binh lính lại rất hay gắn bó với lũ này, đối xử với bọn nó như thú cưng, và thậm chí còn suy sụp tinh thần nặng khi chúng nó bị “tử nạn.”
Trong Sci Fi, có một con rôbốt rất khớp với điều Kate đang mô tả đây, ấy chính là con rôbốt TARS trong Interstellar của Christopher Nolan. Con này về cơ bản chỉ là một cái cục gạch, không có chút gì giống người hết, nhưng rốt cuộc vẫn hình thành được một mối quan hệ khăng khít với các thành viên trong phim. Đến cuối cùng, người ta thậm chí còn rất đắn đo trước việc hy sinh nó (và không phải vì tiếc của đâu <(“) ), tới mức nó còn phải nhắc lại là mình thực chất chỉ là một con rôbốt, và không việc gì nào ngại hết.
Còn hai điểm đáng chú ý khác mà Kate đã nêu ra. Một là việc đòi quyền cho rôbốt có thể sẽ không được mô phỏng theo các phong trào đòi quyền cho người, mà sẽ tương đồng với đòi quyền cho động vật hơn. Khi đòi quyền cho động vật, người ta thường không quan trọng đến việc con nào khôn con nào ngu, con nào to con nào nhỏ, con nào lợi con nào hại, mà cứ cái gì người ta thấy gắn bó thì đòi quyền cho, còn đâu thây kệ. Cái này giống với rôbốt ở điểm nào thì anh em có thể xem lại cái ý đầu tiên mình nhắc đến để biết thêm.
Còn thứ hai là việc một khi con người đã gắn bó tình cảm với một con rôbốt/AI nào đó rồi, rất có thể mối quan hệ này sẽ bị đem ra trục lợi. Hiện tại thì chưa có ví dụ nào cụ thể cả, nhưng Kate có bảo là trong phim Her của Spike Jonze, nhân vật chính có phải lòng một con AI. Có một đoạn, con AI đấy tạm tắt, và nhân vật chính tỏ vẻ rất hoảng loạn. Kate lập luận rằng nếu đây là một sản phẩm bán kiếm lời (và trên thực tế thì trong phim nó cũng là một sản phẩm thật), nhà sản xuất con AI đấy có thể gài cho người dùng trở nên quý mến con AI kia, xong rồi “tống tiền” họ bằng các micro-transaction để duy trì mối quan hệ đó.
Sở dĩ hai cái này được đem ra nói chung bởi vì từng có một tác phẩm đánh trúng phóc cả hai rồi, ấy là tiểu thuyết ngắn The Lifecycle of Software Objects do Ted Chiang viết (sau này được gom vào bộ tuyển tập Exhalation: Stories). Trong truyện, một công ty đã xoay xở sử dụng công nghệ AI để tạo ra được một chủng thú ảo. Trong phần lớn truyện, bọn này được đối xử như một dạng thú, và các quyền lợi của chúng nó cũng khá tương đồng với quyền mà thú vật có được. Bên cạnh đó, về sau, khi lũ thú này trở nên thoái trào và không còn được cập nhật nữa, chủ của bọn chúng nó phải loay hoay kêu gọi gây quỹ và tìm đủ cách thuê người port bọn này sang các nền tảng mới hơn, tránh việc để bọn nó phải thui thủi một mình. Cái này không đến nỗi tăm tối như ví dụ của Kate, nhưng nó cũng khắc họa được rất hay việc con người có thể hình thành một mối quan hệ với AI khăng khít đến nỗi sẵn sàng chi trả một khoản kếch xù vì chúng nó.
Đây chỉ là mấy ý mình thấy nổi trội thôi, còn đâu trong clip có khá nhiều ý tưởng và vấn đề hay khác được đem ra bàn luận. Anh em nào quan tâm đề tài này thì hãy vào ngó qua nhé.
***
Bài gốc được đăng trong group Hội thích truyện Sci Fi trên Facebook. Cùng ghé chơi group để thảo luận về bài viết hoặc đọc thêm các bài tương tự, bạn nhé.
↓