Bài về Dune hồi chiều làm mình nhớ lại cách trong vũ trụ này, từng có thời tầng lớp cai trị của con người chế ra được những hệ thống AI tân tiến (gọi là Thinking Machine), xong áp dụng nó vào việc quản lý đế chế của mình. Vấn đề là cái tầng lớp đấy ỷ lại quá đà vào lũ AI kia, đến mức để chúng nó tiếp quản sạch sành sanh mọi thứ, tạo tiền đề cho nó hình thành ý thức và soán ngôi đô hộ loài người đến gần ngàn năm.
Tình cờ thì cách đây ít lâu, một nhóm thành viên thuộc CEPR (Centre for Economic Policy Research), một mạng lưới các nhà kinh tế chuyên nghiên cứu chính sách kinh tế để áp dụng tại Châu Âu, có cho xuất bản một nghiên cứu khá thú vị trên website của mình. Nó xoay quanh mối quan hệ giữa những tiến bộ trong công nghệ AI và các mục tiêu kiểm soát chính trị của giới cầm quyền, đồng thời đưa ra phỏng đoán về tác động của chúng đối với nền dân chủ và mô hình quản lý xã hội trong tương lai.
Nghiên cứu nêu ra quan điểm rằng công nghệ AI có tiềm năng củng cố một mô hình kiểm soát chuyên quyền hiện đại, đồng thời sẽ được chính một chính phủ sử dụng mô hình kiểm soát đấy giúp đạt được những bước phát triển nhanh chóng. Nói cách khác, AI có thể giúp chính phủ chuyên quyền củng cố quyền lực, và chính phủ chuyên quyền có thể sẽ từ đó đầu tư mạnh vào nghiên cứu AI, hoặc kích cho thị trường tư nhân đầu tư mạnh vào đó. Đây là một mối quan hệ đôi bên cùng có lợi đối với cả chính phủ và công nghệ AI, và nó có thể dẫn đến một mô hình mới mang tên “AI-tocracy” (AI chuyên quyền).
Để kiểm nghiệm giả thuyết này, nhóm nghiên cứu đã nhìn vào một đất nước cụ thể: Trung Quốc. Đây là một bối cảnh thực nghiệm hết sức phù hợp, bởi vì duy trì quyền kiểm soát chính trị là mục tiêu tối quan trọng của Đảng Cộng sản Trung Quốc cầm quyền. Sự chuyên quyền của nó có độ phủ kinh đến mức tất cả công dân, bất kể máu mặt đến đâu, đều có thể bị tước quyền công dân cái một. Thêm vào đó, Trung Quốc là một trong những nước dẫn đầu thế giới trong lĩnh vực AI, đặc biệt trong mảng AI nhận dạng khuôn mặt.
Đầu tiên, nhóm nghiên cứu tiến hành kiểm tra xem liệu các bộ phận thuộc chính phủ Trung Quốc (xét theo từng địa phương lẻ, không gộp tổng theo chính phủ trung ương) có phản ứng với tình trạng bất ổn chính trị bằng cách đẩy mạnh chi tiêu liên quan đến công nghệ AI (cụ thể là công cụ nhận dạng khuôn mặt) hay không. Họ đối chiếu dữ liệu về các đợt bất ổn chính trị địa phương ở Trung Quốc từ dự án Cơ sở Dữ liệu Toàn cầu về Sự kiện, Ngôn ngữ và Tông điệu (GDELT) với thông tin tài chính xoay quanh AI nhận dạng khuôn mặt của các cơ quan công an địa phương từ Bộ Tài chính Trung Quốc.
Thông qua phương pháp này, nhóm nghiên cứu nhận thấy rằng các địa phương gặp bất ổn chính trị sẽ tăng cường chi tiêu cho AI nhận dạng khuôn mặt. Đồng thời, những địa phương này còn mua thêm nhiều máy quay mới hoặc nâng cấp máy quay cũ lên loại có độ phân giải cao hơn, trong khi đây lại là thiết bị cung cấp dữ liệu đầu vào hết sức quan trọng cho công nghệ nhận dạng khuôn mặt.
Đáng chú ý là các khoản chi tiêu gia tăng ấy chỉ xuất hiện để phục vụ mục đích gìn giữ trật tự trị an, còn đâu không phục vụ mục đích công nào khác cả. Vậy tức là có một mối quan hệ rõ ràng giữa nhu cầu trị an và nhu cầu sử dụng AI, chứ không phải bất ổn chính trị tình cờ xuất hiện giữa lúc cả xã hội (bao gồm cả khối tư nhân lẫn khối nhà nước) đang có nhu cầu áp dụng công nghệ AI ngày một nhiều. Củng cố cho giả định ấy là việc hoạt động sắm sửa công nghệ AI các cơ quan công an tại Trung Quốc chỉ tăng vọt trong các quý liền sau khi diễn ra bất ổn chính trị, chứ trước đấy thì không thấy có động tĩnh gì.
Việc chính quyền địa phương mua công nghệ AI nhằm đảm bảo trị an cho thấy họ tin rằng công nghệ đó sẽ giúp kiềm chế bất ổn tương lai mọt cách hiệu quả. Tuy nhiên, tin là một chuyện, thực tế lại là chuyện khác. Thế là nhóm nghiên cứ tiếp tục kiểm tra xem liệu việc tăng cường mua sắm AI như thế có thực sự giúp tăng cường khả năng kiểm soát chính trị của giới cầm quyền hay không.
Vì nhận thấy rằng chi tiêu cho AI cũng như các công nghệ liên quan là một hành động mang tính nội sinh, nhóm nghiên cứu không nhìn vào bản thân mối quan hệ giữa việc mua sắm AI và các cuộc biểu tình địa phương xảy ra sau này. Thay vào đó, họ kiểm tra xem liệu đầu tư vào AI trị an trong quá khứ có giúp giảm thiểu tác động của các tác động ngoại sinh có xu hướng kích động bất ổn chính trị hay không. Cụ thể, tác động bọn họ nhìn vào là điều kiện thời tiết. Bởi vì trời đẹp thường khiến biểu tình dễ xảy ra hơn (vì bố ai ngu đi cầm biển đứng lơ ngơ giữa trời bão 🐧 ), thế nên nếu tự nhiên trời vẫn đẹp mà lượng biểu tình giảm đi hẳn, thì điều ấy cho thấy AI đã giúp cải thiện tình hình ít nhiều.
Quả đúng như kỳ vọng, nhóm nghiên cứu nhận thấy rằng tại các địa phương tăng cường áp dụng AI cho mục đích trị an, tác động của thời tiết tốt đối với tình trạng bất ổn tại địa phương đã suy yếu đáng kể. Họ cũng nhận thấy thêm rằng nếu bất ổn chính trị bùng nổ thật, nó cũng khó lan tỏa được rộng hơn.
Tuy nhiên, vẫn có khả năng điều ấy chỉ là một sự trùng hợp. Có thể việc mấy địa phương này trở nên ổn định hơn đơn thuần vì họ đã phát triển kinh tế hoặc quản trị tốt hơn. Để loại trừ khả năng đó, bọn họ kiểm tra thêm xem liệu chi tiêu cho AI để phục vụ các mục đích phi trị an có giúp giảm thiểu biểu tình hay không (chi tiêu cho AI bên ngoài mục đích trị an thường là một bằng chứng cho thấy địa phương có kinh tế phát triển, tiếp cận được với công nghệ tiên tiến, và được quản lý tốt). Nhưng một lần nữa, bọn họ không thấy nó có ảnh hưởng gì hết. Rõ ràng là chỉ khi chi tiền cho AI để giúp trị an, biểu tình và bất ổn mới giảm.
Nói cách khác, AI quả thực giúp củng cố khả năng kiểm soát chính trị của một thể chế chuyên quyền.
Giờ sang vế thứ hai trong mối quan hệ này: liệu chi tiêu cho AI nhằm phục vụ động cơ chính trị có kích thích đổi mới trong lĩnh vực phần mềm AI hay không.
Vì tất cả các sản phẩm phần mềm của các công ty Trung Quốc đều phải được đăng ký với Bộ Công nghiệp và Công nghệ Thông tin Trung Quốc, họ lấy dữ liệu từ đó để nghiên cứu tiến trình phát triển của chúng, xem những hợp đồng AI ký kết với các chính quyền địa phương từng trải qua bất ổn chính trị trên mức trung bình trong quý trước có tác động gì đến chúng không. Rốt cuộc, nhóm nghiên cứu nhận thấy rằng việc mỗi khi công ty nào trúng thầu các hợp đồng trị an, phần mềm của họ đều có những bước nhảy vọt lớn đáng kể. Điều này không chỉ xảy ra đối với các sản phẩm phần mềm phục vụ mục đích công của công ty trúng thầu, mà còn xảy ra cả với các sản phẩm phần mềm thương mại của công ty đó nữa. Và cũng như trước, nhóm nghiên cứu không tìm thấy bằng chứng nào cho thấy đây là một xu hướng sẵn có trước khi công ty ký kết các hợp đồng trị an. Điều này chứng tỏ rằng các hợp đồng có động cơ chính trị sẽ giúp đẩy mạnh sự phát triển của AI trên diện rộng, chứ không chỉ bó hẹp trong đúng cái mảng phục vụ mục tiêu chính trị đơn thuần.
Thông qua kết quả thu được từ Trung Quốc, nghiên cứu kết luận rằng chế độ chính trị chuyên quyền và sự đổi mới nhanh chóng trong lĩnh vực AI có một mối quan hệ cộng sinh với nhau. Thằng này lên thì thằng kia cũng sẽ lên theo. Họ chốt lại với một lời trấn an rằng chúng ta chớ nên lo lắng quá về một viễn cảnh dystopia dưới sự cai trị của một thể chế AI chuyên quyền. Thời đại Titan với sự trỗi dậy của Omnius hãy còn xa lắm, và trong tương lai gần, nó sẽ tiếp tục chỉ tồn tại trong mấy quyển truyện vắt sữa của Brian Herbert. Có điều nhóm nghiên cứu cũng công nhận nền móng AI giúp củng cố khả năng kiểm soát các chế độ chuyên quyền trên toàn cầu đã tồn tại sẵn rồi. Việc nó phát triển lên nữa sẽ chỉ là vấn đề thời gian thôi.
***
Bài gốc được đăng trong group Hội thích truyện Sci Fi trên Facebook. Cùng ghé chơi group để thảo luận về bài viết hoặc đọc thêm các bài tương tự, bạn nhé.
↓