Hôm qua, mình có đề cập đến vụ OpenAI “chém đầu” nguyên một đám chatbot do Jason Rohrer chế tạo, và đặc biệt là có động một chút đến việc hành động “sát sinh” của OpenAI kể ra cũng không phải là vô lý. Điều này làm mình nhớ đến một clip từng xem của Foundation for Economic Education (FEE), bàn luận về việc liệu có nên mặc định cấp cho một AI phát triển được khả năng nhận thức những quyền cơ bản tương tự con người hay không dựa trên bộ phim Free Guy.
Trong trường hợp anh em chưa biết, Free Guy lấy bối cảnh là một cái game tương tự GTA (đại khái là một thành phố ảo nơi người chơi có thể vào phá phách đủ kiểu), và trong đó có một thằng NPC (nhân vật do máy điều khiển) tự nhiên trở nên có nhận thức (tức thanh niên biến từ một phần mềm đơn thuần sang một con AI nghiêm chỉnh). Về sau, phim có một mạch cốt là Antwan (bên chủ game) muốn phát hành sequel cho game, nhưng gặp khó khăn vì thằng NPC/con AI kia (từ giờ gọi là con AI cho lành) nổi quá nên người chơi chỉ chú ý đến nó mà chẳng đoái hoài gì đến cái sequel hết. Thế là Antwan muốn xóa sổ nó đi cho nhẹ nợ.
Trong clip này, FEE có điểm qua một số khái niệm liên quan đến quyền cũng như định nghĩa về AI nói chung, cùng với việc khi nào thì một con AI có thể vượt qua được ranh giới để trở thành “người” chứ không còn là tài sản nữa. Cái mớ này có nhiều chỗ khá nhập nhằng, đặc biệt trong phần phân định ranh giới giữa AI và người, và bản thân FEE cũng thừa nhận khả năng cao sẽ chẳng bao giờ ta có được một câu trả lời rõ ràng về khoản này. Tuy nhiên, FEE cũng nêu quan điểm rằng để được coi là một con người xứng đáng sở hữu quyền riêng, con AI sẽ không chỉ cần sở hữu một độ thông minh tương đương con người, vì như thế chỉ chứng minh được là chúng giỏi mô phỏng thôi. Tối thiểu, nó sẽ cần phải:
1) Thực sự thấu hiểu khái niệm đúng sai về đạo đức.
2) Có thể tự ra quyết định về đạo đức.
3) Hiểu và có thể đòi được các quyền của mình.
4) Hiểu và có thể tôn trọng được các quyền tương tự của người khác.
5) Tồn tại dưới dạng một thực thể vật lý để chịu trách nhiệm cho các hành vi của mình.
Dựa vào đây, FEE nhìn lại phiên bản xuất hiện trong Free Guy. Thứ FEE xoáy mạnh vào nhất là con AI không thể tôn trọng quyền sở hữu tài sản của người khác, cụ thể ở đây là Antwan. Antwan đã đầu tư tiền bạc và thời gian để tạo ra nó, tức con AI đó là thành quả lao động của Antwan, và Antwan phải có toàn quyền quyết định đối với thành quả lao động của mình. Như vậy, nếu con AI mà có quyền tự chủ như người, tức có thể hành động ngược với ý muốn của Antwan, thì nó đã cướp trắng công sức lao động của Antwan rồi. Quyền tự chủ của con AI sẽ mặc định mâu thuẫn với quyền hưởng lợi từ thành quả lao động của Antwan. Bên cạnh đó, để con AI này tồn tại được, nó bắt buộc phải chiếm dụng server của Antwan và tiêu thụ điện năng từ đấy. Antwan một lần nữa sẽ bị xâm phạm quyền sở hữu tài sản chỉ để con AI này hưởng quyền được sống.
Chính từ đây, FEE rút ra kết luận rằng con AI không thể tồn tại nếu không nhờ tài nguyên của Antwan, và sẽ khiến Antwan lãng phí tài nguyên để duy trì sự tồn tại của nó. Chính vì thế mà con AI không thể được hưởng quyền làm người, và Antwan hoàn toàn có thể làm bất kỳ điều gì mình muốn với nó, kể cả nếu hành động của Antwan đối với con AI sẽ bị coi là vi phạm nhân quyền nếu áp dụng cho một con người khác.
Lập luận của FEE kể cũng là một góc nhìn thú vị đối với việc suy xét cấp quyền cho AI. Tuy nhiên, thật không may cho FEE, ngay ngày nay thôi, có một thực thể đang tồn tại sờ sờ ngoài đời, và nó đánh sập hoàn toàn lôgic liên quan đến việc tôn trọng quyền của FEE.
Thực thể ấy là trẻ con.
Lũ trẻ con không tự nhiên chui từ dưới đất lên, mà chúng là thành quả lao động của bố mẹ chúng. Ở góc độ sinh học thuần túy, bọn trẻ con để thành hình đã phải “hút máu” bà mẹ theo đúng nghĩa đen: chúng nó về cơ bản ăn trộm dưỡng chất từ cơ thể người mẹ, trong khi để có được những dưỡng chất đấy thì người mẹ phải lao động để kiếm thức ăn. Nếu nhìn ra ngoài góc độ sinh học, ta sẽ còn thấy để một đứa trẻ ra đời, bố mẹ chúng nó đã phải chi ra rất nhiều thời gian, tiền bạc, công sức để làm bản thân trở nên đủ hấp dẫn với bạn đời của mình và rốt cuộc đi đến quyết định có con với nhau. Trong quá trình thai nghén, đứa trẻ tiếp tục ngốn rất nhiều tiền bạc của bố mẹ để trang trải cho các khoản thuốc men, khám chữa các kiểu. Tận sau khi đã sinh ra rồi, chúng nó vẫn tiếp tục không thể tự duy trì sự tồn tại của mình, dù chỉ ở mức cơ bản nhất, nếu không được bố mẹ tiếp tục lãng phí tài nguyên để nuôi.
Như vậy, lũ trẻ con không thể tồn tại nếu không nhờ tài nguyên của bố mẹ, và sẽ khiến bố mẹ tiếp tuc lãng phí tài nguyên để duy trì sự tồn tại của mình. Theo đúng lập luận của FEE, trẻ con không thể được hưởng quyền làm người, và bố mẹ chúng nó hoàn toàn có thể làm bất kỳ điều gì mình muốn với chúng nó, như thể chúng là tài sản của mình vậy.
Và thế là, tương tự như cách Antwan có thể cưỡng ép con AI phải chịu hành hạ tra tấn về thể xác bởi người chơi để mang về lợi nhuận cho mình, bố mẹ có thể cưỡng ép trẻ con phải đứng ra cho những kẻ bạo dâm hành hạ để thu vén lợi nhuận riêng. Cũng tương tự như cách Antwan có thể chấm dứt sự tồn tại của con AI khi thấy nó không còn mang lại lợi ích cho mình thông qua việc phá hủy server của nó để dọn đường cho một bản sequel có tiềm năng mang lại nhiều lợi nhuận hơn, bố mẹ cũng có thể đem con đi dìm chết nếu cảm thấy việc nuôi nấng nó không còn có lợi và muốn dồn tối đa tài nguyên cho một đứa con khác với tiềm năng lợi nhuận cao hơn. Còn cả trăm ví dụ khác có thể lôi ra để so sánh đôi bên, nhưng tạm thế thôi chắc cũng đủ rồi.
Có thể sẽ có người nói rằng bọn trẻ con đặc biệt ở một chỗ chúng nó về sau sẽ có khả năng tự duy trì sự tồn tại của mình, chưa kể còn quay lại báo hiếu với bố mẹ, tức đảm bảo mình không ăn không thành quả lao động của người khác. Vấn đề là điều này cũng có thể được áp dụng cho cái con AI kia.
Tính đến thời điểm trong của bộ phim, con AI chưa thể tự duy trì được, nhưng đấy là bởi nó chỉ vừa mới nhận ra bản chất thật của sự tồn tại của mình, và cần thời gian thích nghi. Sau khi đã hiểu rõ mọi thứ hơn, nó hoàn toàn có thể cung cấp một dịch vụ hữu ích cho người khác làm từ môi trường ảo của mình, chẳng hạn như lập trình thuê, xử lý giấy tờ, giảng dạy, quản trị, tư vấn tài chính, hay thậm chí chỉ đơn thuần làm idol/influencer ảo trên Youtube cũng được. Nó sẽ tạo ra được một nguồn doanh thu riêng, và từ đấy có thể quay ngược lại để trang trải chi phí vận hành server cho Antwan. Ngay cả những đầu tư ban đầu của Antwan cũng có thể được quy đổi ra thành một con số tiền mặt cụ thể (và điều này thậm chí còn dễ dàng hơn việc quy đổi ơn nghĩa của bố mẹ với một đứa trẻ) để con AI kia từ đó lao động và trả nợ ngược lại, từ đó đảm bảo Antwan vẫn có thể được hưởng lợi từ thành quả lao động của bản thân (mặc dù làm thế thì có khi lại nhập nhằng với lao động khế ước, và anh em có thể tham khảo bài này để hiểu tại sao đó lại là một vấn đề: https://www.facebook.com/groups/SciFiReadersVN/posts/3647190122034895).
Nói cách khác, nếu quyết định việc có nên trao quyền người cho một thực thể sở hữu khả năng nhận thức và trí tuệ ngang ngửa với con người không dựa trên tiêu chí liệu hành động trao quyền ấy có giẫm chân lên quyền của người khác không (và trong trường hợp cụ thể này, quyền được nhắc đến là quyền sở hữu tài sản), con AI của Free Guy xét chuẩn ra còn đáng được hưởng quyền hơn cả trẻ con. Nếu khẳng định nó không thể có những quyền cơ bản, FEE về cơ bản ỉa lên đầu toàn bộ những luật lệ liên quan đến quyền trẻ con mất rồi.
Thú vị là trong lúc đưa ra những dẫn chứng để củng cố lập luận của mình, FEE đã nhắc đến khá nhiều tác phẩm Sci Fi khác liên quan đến AI và quyền người của AI nhưng lại ngó lơ một tác phẩm cực nổi, căn bản vì nó gợi cho người ta nghĩ đến chính vấn đề trẻ con trên, và từ đó có thể đạp đổ hoàn toàn lập luận của bên này. Tác phẩm ấy là series Star Trek: The Next Generation. Cụ thể hơn, trong một tập phim có tên là The Measure Of A Man, khi Thuyền trưởng Picard phải tìm cách chứng minh một con rôbốt tên Data xứng đáng được hưởng quyền người, ông đã đưa ra bài phát biểu huyền thoại sau:
“Chỉ huy Riker đã chứng minh một cách đầy ấn tượng cho tòa án này thấy rằng Thiếu tá Data là một cỗ máy. Ta có phủ nhận điều đó không? Không, bởi vì nó chẳng liên quan gì sất: chính chúng ta cũng là máy móc đấy thôi, có điều là những cỗ máy kiểu khác. Chỉ huy Riker cũng đã nhắc cho ta nhớ rằng Thiếu tá Data được tạo ra bởi một con người; ta có phủ nhận điều đó không? Không. Một lần nữa, nó chẳng liên quan gì sất. Trẻ em được tạo ra từ các ‘khối lắp ghép’ là ADN của cha mẹ chúng đấy. Chúng có phải là tài sản không nào?”
Thế mới thấy là cãi nhau về cái đề tài này đúng là nhọc xác thật. Tự nhiên thấy thương cho mấy nhà làm luật tương lai quá 🐧.
***
Bài gốc được đăng trong group Hội thích truyện Sci Fi trên Facebook. Cùng ghé chơi group để thảo luận về bài viết hoặc đọc thêm các bài tương tự, bạn nhé.
↓