Trong cái bài về phim hoạt hình do Netflix và Wit Studio thực hiện với sự trợ giúp của công cụ AI hôm qua, mình có đề cập đến việc nó bị cộng đồng làm nghệ thuật chửi sấp mặt. Một trong số các phản đối chính yếu được họ đưa ra là việc đáng lẽ cặp đôi trên phải bỏ tiền ra thuê họa sĩ về vẽ thủ công, chứ không phải tự động hóa quy trình bằng công nghệ và tước mất cơ hội việc làm của con người.
Trong lúc đọc những phản đối đấy, mình sực nhớ đến một tình tiết thú vị vừa phát hiện ra gần đây về trong một tác phẩm Sci Fi rất kinh điển. Tác phẩm đấy là Little Lost Robot.
Phòng trường hợp có anh em nào chưa biết, Little Lost Robot là một mẩu truyện ngắn do Isaac Asimov sáng tác, lần đầu được xuất bản vào năm 1947 trên tạp chí Astounding Science Fiction, và đến năm 1950 thì được tích hợp vào tuyển tập I, Robot và đem in thành sách. Truyện lấy bối cảnh là một trạm nghiên cứu ngoài không gian, nơi bên cạnh những nhân sự con người thì còn có cả một số “nhân viên” rôbốt nữa. Lũ rôbốt đều phải tuân thủ ba Định luật Rôbốt học rất chặt chẽ như sau:
- Rôbốt không được phép làm hại con người, hoặc thấy người bị hại mà không ra tay cứu giúp.
- Rôbốt phải tuân theo mọi mệnh lệnh do con người đưa ra, trừ khi mệnh lệnh đó mâu thuẫn với Định luật Thứ nhất.
- Rôbốt phải tự bảo vệ tính mạng bản thân, trừ phi sự tự vệ đó gây mâu thuẫn với Định luật Thứ nhất hoặc Thứ hai.
Trong bối cảnh bình thường thì đây là những luật lệ hết sức hữu ích, nhưng ở trên cái trạm vũ trụ kia, chúng lại có phần bất cập.
Để hiểu được tại sao, ta cần nói sơ qua về một tính chất khá đặc biệt của công việc trên trạm. Nó là thế này: đôi khi, nhân viên con người trong trạm sẽ phải bước vào các môi trường có phóng xạ yếu. Nếu vào đấy đứng quá lâu, con người sẽ có thể bị tử vong. Tuy nhiên, nếu chỉ vào một thời gian ngắn xong rời đi, con người sẽ không bị ảnh hưởng gì về sức khỏe cả; và vì công việc trên trạm không bao giờ đòi hỏi ai phải vào đấy lâu lắc, việc có người đứng “tắm” trong cái phóng xạ đấy không có gì đáng lo hết.
Khốn nỗi lũ rôbốt không hiểu được điều này. Ngay khi nhìn thấy có người bước vào môi trường phóng xạ, chúng nó sẽ tức thì ghi nhận rằng tính mạng con người kia đang bị đe dọa, và định luật thứ nhất (cụ thể là vế hai của định luật này) sẽ bắt chúng nó phải hộc tốc lao vào lôi người đấy ra. Hành động này vừa gây cản trở công việc, vừa khiến lũ rôbốt bị thiệt hại nghiêm trọng, vì cái phóng xạ kia sẽ hủy hoại máy móc bên trong của chúng nó, thành thử bên chủ trạm đã quyết định sửa lại định luật đấy. Giờ đây, chúng nó chỉ còn không được phép chủ động hại người thôi, chứ nếu thấy người gặp nguy thì vẫn có thể bàng quan đứng ngoài.
Thế rồi sau một sự cố nhất định, một con rôbốt đã bị sửa luật như trên đã trốn mất. Nó trà trộn vào hàng ngũ một mẻ rôbốt mới toanh vừa được đưa lên trạm, với hy vọng sẽ được đưa về Trái Đất. Vì để sổng một con rôbốt như thế thì rất nguy hiểm, một nhóm chuyên gia rôbốt học phải xác định xem nó là con nào trong cái đám rôbốt kia.
Vấn đề là bọn rôbốt này giống nhau như tạc, thế nên không thể dựa vào đặc điểm hình thể hay cấu tạo kỹ thuật thuần túy của chúng nó để phân biệt bọn nó với nhau được. Cách duy nhất là phỏng vấn từng con một, sau đó phân tích dữ liệu câu trả lời của chúng nó. Để làm được như vậy, người ta sẽ phải thực hiện một quy trình phân tích bằng toán rất phức tạp, và Asimov đã tả về quy trình đó như thế này:
Ordinarily, the mathematical interpretation of verbal reactions of robots is one of the more intricate branches of robotic analysis. It requires a staff of trained technicians and the help of complicated computing machines. Bogert knew that. Bogert stated as much, in an extreme of unshown annoyance after having listened to each set of replies, made lists of word deviations, and graphs of the intervals of responses.
“There are no anomalies present, Susan. The variations in wording and the time reactions are within the limits of ordinary frequency groupings. We need finer methods. They must have computers here. No.” He frowned and nibbled delicately at a thumbnail. “We can't use computers. Too much danger of leakage. Or maybe if we-”
Tạm dịch, đoạn đó là như sau:
Bình thường, diễn giải phản ứng bằng lời của rôbốt thông qua toán học là một trong những chi ngành rất phức tạp trong phân tích rôbốt học. Nó đòi hỏi phải có một đội ngũ kỹ thuật viên được huấn luyện bài bản, kết hợp với sự hỗ trợ của các thiết bị tính toán tinh xảo. Bogert biết rõ điều này. Và sau một hồi lắng nghe từng nhóm câu trả lời, lên danh sách các chênh lệch về từ vựng, cùng với lập đồ thị các khoảng lời đáp, Bogert đã phải vừa giấu kín cái tâm thái bực bội vô cùng của mình, vừa nói thẳng ra điều trên.
“Chẳng có dị biến nào hết, Susan ạ. Độ chênh trong lối diễn đạt và thời gian phản ứng đều nằm trong ngưỡng giới hạn các nhóm tần suất bình thường. Chúng ta cần những phương pháp chính xác hơn. Ở đây hẳn phải có máy tính chứ. À không.” Ông nhíu mày và nhẹ nhấm móng tay. “Không dùng máy tính được. Quá dễ rò rỉ thông tin. Hoặc có thể nếu ta...”
Nếu đọc hai cái đoạn trên, đặc biệt là trong bản dịch, anh em hẳn sẽ không thấy có điều gì đáng chú ý cả. Đây chỉ là một cuộc hội thoại rất bình thường, bàn về khó khăn của công việc cũng như hạn chế của việc sử dụng máy tính. Có cái gì đặc biệt ở đây đâu?
Nếu nghĩ như vậy, anh em đã phạm phải một cái sai lầm giống hệt mình hồi trước: quên không tính đến cái thời của Asimov.
Cụ thể hơn, trong thời Asimov, máy tính hãy còn là một thứ công nghệ rất xa vời. Vâng, đúng là cái khái niệm “máy tính toán” đã có tít từ thế kỷ 19, và bắt đầu từ thập niên 30 thì máy tính toán điện tử cũng đã ra đời rồi đấy. Trên thực tế, thuật ngữ “computer” (tức “máy tính”) còn đã bắt đầu được sử dụng theo đúng cái nghĩa ta hiểu về nó ngày nay (một cái máy biết tính toán) từ năm 1945, và lần đầu được tích hợp vào tên một mẫu máy tính toán cụ thể vào năm 1946 (cụ thể là ENIAC, tức “Electronic Numeral Integrator And Computer,” một thiết bị do Đại học Pennsylvania chế tạo), trước thời Little Lost Robot được xuất bản.
Tuy nhiên, trong ngôn ngữ hàng ngày, “computer” không được dùng để chỉ “máy tính.” Nó là một từ dùng để chỉ nghề, với các “computer” mang nghĩa “những người làm công việc tính toán.” Computer bắt đầu thịnh hành dưới dạng cái tên nghề chính thức từ khoảng giai đoạn Thế Chiến I, và nó kéo dài đến tận sau cái thời Little Lost Robot xuất bản, lúc máy tính dần trở nên dễ tiếp cận với doanh nghiệp và các tổ chức lớn hơn. Tỉ dụ, nếu nhìn vào lịch sử NASA, anh em sẽ thấy họ có nguyên một bộ phận dành cho những nhân viên tính toán, và những con người đấy được gọi là “computer,” và họ tiếp tục được thuê tuyển cho đến tận cuối thập niên 1950, khi máy tính đã chứng minh được độ đáng tin cậy của mình.
Giờ quay trở lại với Little Lost Robot nhé. Anh em hãy để ý rằng ở trong phần trích dẫn trên, cụ thể là đoạn thứ nhất, Asimov đề cập đến “trained technicians” (tức “kỹ thuật viên”), một đối tượng riêng biệt với “computing machines” (tức “thiết bị tính toán”). Điều này là một manh mối cho thấy trong thế giới của câu chuyện, “computer” có thể tồn tại dưới dạng nhân viên tính toán, mặc dù vẫn có khả năng “kỹ thuật viên” ở đây là nhân viên sử dụng máy tính.
Tuy nhiên, nếu nhìn sang đoạn hai, ta sẽ thấy có một manh mối nữa cho thấy “computer” chỉ có thể là nhân viên tính toán. Ở đoạn này, Asimov bảo rằng dùng “computer” sẽ có thể gây “rò rỉ thông tin.” Nếu đây mà là thời hiện đại, với máy tính được nối mạng các kiểu và có đủ thứ phần mềm gián điệp được cài cắm, thì cái vấn đề rò rỉ thông tin này nghe cũng hợp lý thôi. Vấn đề là câu chuyện được sáng tác năm 1947, gần 2 thập kỷ trước khi tiền thân của Internet ra đời, và trong vũ trụ của Asimov thì không có cái gì tương tự với nó hết. Thế nên nếu với cái chuẩn máy tính của thời ông cụ, việc rò rỉ thông tin từ máy tính sẽ không thể xảy ra. Nhưng nếu hiểu theo nghĩa “computer” là nhân viên tính toán, thì điều này sẽ trở nên rất lôgic, bởi vì những người này sẽ có thể bép xép thông tin cho người khác.
Nói tóm lại, cái đoạn thứ hai trong phần trích trên thực chất phải được dịch như sau:
“Chẳng có dị biến nào hết, Susan ạ. Độ chênh trong lối diễn đạt và thời gian phản ứng đều nằm trong ngưỡng giới hạn các nhóm tần suất bình thường. Chúng ta cần những phương pháp chính xác hơn. Ở đây hẳn phải có tính toán viên chứ. À không.” Ông nhíu mày và nhẹ nhấm móng tay. “Không dùng tính toán viên được. Quá dễ rò rỉ thông tin. Hoặc có thể nếu ta...”
Ok, giờ biết vụ “computer” của Asimov thực chất là người làm nghề tính toán rồi, vậy nó liên quan gì đến cái tranh cãi về AI cướp việc kia thế?
À thì, điểm liên quan ở đây chính là cách các “computer” thịt đã bị “computer” máy cướp mất công việc đấy. Trước thời máy tính ra đời, computer là một cái nghề rất quan trọng với xã hội, và nó tạo ra công ăn việc làm cho rất nhiều người. Trên thực tế, phần lớn computer lại còn là phụ nữ, thậm chí còn là phụ nữ da màu nữa kia, những đối tượng vốn có rất ít cơ hội việc làm trong giai đoạn những thập niên 40 - 60. Nhưng khi máy tính xuất hiện, nó mang đến cho mọi người khả năng tự động hóa quy trình tính toán, nâng cao năng suất làm việc và tiết kiệm một lượng lớn chi phí/thời gian, thế nên dần dần nó đã cướp hết công ăn việc làm của các nhân viên tính toán, bất chấp công việc ấy đòi hỏi hàm lượng chất xám rất cao, và nó là kế sinh nhai của hàng chục vạn con người thấp cổ bé họng.
Quá trình tự động hóa công việc tính toán đã diễn ra triệt để đến mức toàn bộ cái ngành này thậm chí còn đã bị xóa sổ, và ngày nay, khi nghe đến từ “computer,” thứ duy nhất hiện ra trong đầu ta là máy tính chứ không còn là nhân viên tính toán nữa. Chỉ những nhà tính toán bậc cao, tức các nhà toán học và các kỹ sư, những người có thể sáng tạo ra các phép toán và lý thuyết mới, mới được giữ lại làm, còn những người chỉ tính toán ở mức làng nhàng thì đều bị cho ra đường một cách rất nhẫn tâm.
Thay vì dùng máy tính, đáng lẽ các doanh nghiệp và tổ chức hoàn toàn có thể thuê những tính toán viên kia về làm việc để giúp hỗ trợ tài chính cho họ, đảm bảo cuộc sống cho những con người đấy. Nhưng những tổ chức tuyển dụng kia không làm điều đó. Chính chúng ta ngày nay cũng có thể thuê người về làm thủ công các công việc tính toán, thay vì mở Excel và để các hàm trong đấy cân hết mọi việc, nhưng chúng ta cũng không làm điều đó. Lý do rất đơn giản: làm thế quá tốn kém, và hiệu suất công việc sẽ rất thấp. Nếu không nhắm mắt để máy tính cướp đi công việc của một bộ phận rất lớn những người tri thức như vậy, cái “ngày hôm nay” của chúng ta có khi sẽ lạc hậu tận nửa thế kỷ so với cái ngày hôm nay mà chúng ta đang được tận hưởng.
Và qua trường hợp của cái phim ngắn anime hôm trước, ta cũng lại thấy một điều tương tự đang xảy ra với AI và các họa sĩ. Vẽ tranh nền cũng là một công việc đòi hỏi kỹ năng cao, và nó cũng là nồi cơm của cả chục vạn người. Dùng AI để tự động hóa phần việc đấy và chỉ giữ lại những họa sĩ bậc cao và cho các “thợ vẽ” ra đường thì cũng giống như dùng máy tính để tự động hóa việc tính toán vậy: nó sẽ khiến một lượng rất lớn phải thất nghiệp, và xét về mặt tình người mà nói, đây là một việc rất nhẫn tâm.
Nhưng cũng như với máy tính, AI có thể giúp nâng cao năng suất làm hoạt hình, chưa kể còn giảm chi phí cần đầu tư trong một cái ngành vốn ngốn tiền khủng khiếp (để làm ra 1 tập anime chừng 30 phút, công ty sẽ bay màu tầm 13 triệu yên) và cạnh tranh khốc liệt vô ngần (ngày nay một season có đến gần trăm bộ anime cùng giành giật thị phần với nhau, chứ không chỉ còn loe ngoe dăm chục bộ như trước nữa). Thay vì dùng AI, các hãng hoàn toàn có thể thuê họa sĩ về để làm các công việc như vẽ nền theo chỉ đạo để đảm bảo cơm áo cho họ, nhưng làm thế cũng chẳng khác nào chúng ta vứt bỏ máy tính để đi thuê các nhân viên tính toán về. Ừ, nó sẽ giúp nuôi nhiều miệng ăn lắm đấy, nhưng đổi lại là cái gì? Là năng suất sản xuất thấp, là rào cản gia nhập cao, là giá thành đắt đỏ.
Nói như vậy không phải là để bảo việc áp dụng AI vào những công việc nghệ thuật hình ảnh thế này chẳng hề có gì đáng tranh cãi đâu. Ở thời điểm hiện tại, AI đầy rẫy những vấn đề, chẳng hạn tính pháp lý của việc sử dụng các sản phẩm chúng nó tạo ra, nhùng nhằng về đạo đức của việc huấn luyện bọn này cách vẽ dựa trên dữ liệu đầu vào là hình ảnh của các họa sĩ còn sống và/hoặc còn được bảo hộ bản quyền, việc AI có thể nhái phong cách của người khác,… Đây là những lý lẽ và lập luận rất thích đáng, và phản đối việc sử dụng AI khi những vấn đề như thế còn chưa được giải quyết thỏa đáng âu cũng hợp lý thôi. Nhưng nếu phản đối sử dụng AI chỉ thuần túy vì ngoài kia đang có người muốn được trả tiền để làm cái việc của nó thì đây lại trở thành câu chuyện của những anh Luddite đòi bỏ máy dệt mất rồi.
Tiện nhắc đến Luddite, cách đây một thời gian, mình từng làm một bài phân tích cách truyện ngắn Seventy-two Letters của Ted Chiang đã tình cờ khắc họa rất chuẩn xác xung đột giữa AI và họa sĩ thông qua một câu chuyện về golem và tự động hóa. Anh em nào quan tâm có thể tham khảo ở đây nhé: https://scifivietnam.blogspot.com/2022/09/ai-luddism-va-truyen-ngan-seventy-two.html.
Ngoài ra, nếu quan tâm đến vụ “máy tính thịt” bị công nghệ thay thế, anh em rất nên xem thử bộ phim Hidden Figures. Đây là một clip trích ra từ trong phim, khắc họa cách công việc của những nhân viên tính toán bị máy tính đe dọa:
***
Bài gốc được đăng trong group Hội thích truyện Sci Fi trên Facebook. Cùng ghé chơi group để thảo luận về bài viết hoặc đọc thêm các bài tương tự, bạn nhé.
↓