Hồi chiều vừa làm xong một bài về AI thì nay đã thấy Youtube tống cái clip này lên feed. Trùng hợp thật đó nha 🐧.
Cụ thể thì clip này hoạt hình hóa một trích đoạn phỏng vấn do TED-Ed thực hiện với Stuart Russell, giáo sư khoa học máy tính tại Đại học California. Trong đó, Russell có điểm qua một số mặt mạnh yếu của công nghệ AI hiện tại, cũng như những suy đoán của ông về lũ này trong tương lai.
Đầu tiên, Russell chỉ ra rằng làm việc với bọn AI sẽ rất khác với con người. Nếu ta nhờ một ai đó làm hộ việc gì, người ta sẽ có thể dùng lẽ thường để xác định xem nên coi trọng cái việc này ở mức nào, và từ đấy sẽ có cách xử lý phù hợp. Bọn AI thì bất luận giao cho cái gì, chúng nó cũng sẽ coi đấy như sứ mệnh của đời mình luôn, và sẵn sàng thực hiện việc đã giao theo một kiểu rất cực đoan, trừ khi được nói thật rõ giới hạn. Giả dụ, nếu ta nhờ người khác qua quán Starbucks mang về một ít cà phê, người ta sẽ chỉ đơn thuần tạt qua cửa hàng và xếp hàng chờ mua, hoặc thấy đông quá thì sẽ bỏ sang cửa hàng vắng hơn hay gọi điện về hỏi lại. Một con AI thì có thể sẽ đạp cửa xông vào, nghiến nát mọi người xếp hàng, rứt nguyên cái máy cà phê đem về, bởi vì trong lệnh của ta không có câu nào bảo nó phải chờ hay nhường người hay gì cả. Nó chỉ biết lệnh của mình là “mang cà phê về từ Starbuck,” vậy thôi.
Cái vụ cà phê chỉ là một ví dụ lặt vặt. Nếu giao cho bọn AI các việc quan trọng thì còn nguy hiểm nữa. Nếu bảo nó khắc phục tình trạng axit hóa đại dương, có thể nó sẽ tạo ra một phản ứng xúc tác nào đấy giúp giảm độ ph của đại dương xuống một cách cực kỳ hiệu quả. Khốn nạn là cái phản ứng kia lại ngốn mất một phần tư lượng ôxi trong khí quyển, khiến chúng ta phải trải qua một cái chết chậm rãi và đau đớn. Nếu ta cẩn thận hơn trong việc đưa ra mục tiêu, và bảo nó đừng quên về vụ ôxi trong khí quyển, thì ừ, có thể con AI sẽ chọn một cách không đòi hỏi phải nướng hết ôxi, nhưng cái cách mới lại đầu độc tất cả cá mú, bởi vì phần đấy không có trong chỉ thị. Thế là rốt cuộc ta cứ phải phình tướng cái mệnh lệnh của mình ra đến vô cực, chỉ để đảm bảo con AI không làm trò gì ngu xuẩn.
Tiếp theo, Russell chiêm nghiệm về điều sẽ xảy ra khi AI đa mục đích được giới thiệu vào nền kinh tế. Đáng chú ý là vấn đề này đã được người xưa suy tính đến rồi, chứ không chỉ bây giờ mới có. Tỉ dụ, Aristotle từng bảo rằng nếu chúng ta có những chiếc máy dệt và miếng gảy hoàn toàn tự động, người lao động sẽ bị loại bỏ cái một. Trong thời Aristotle thì đây chỉ là một dạng thí nghiệm tư tưởng thôi, nhưng sang đến thập niên 1930 thì nó đã được hiện thực hóa bởi các bước tiến của khoa học kỹ thuật, cho phép máy móc thay thế con người làm rất nhiều việc, khiến chúng ta hình thành một thuật ngữ mới: thất nghiệp công nghệ. Nếu chỉ với công nghệ của gần một thế kỷ trước thôi mà ta đã có một lượng người thất nghiệp đủ lớn để có thuật ngữ riêng rồi, tưởng tượng mà xem mọi sự còn kinh khủng thế nào nữa nếu ta nhồi thêm AI vào.
Từ đấy, Russell chuyển qua nói về cái hiểm họa của chuyện trao quá nhiều quyền vận hành xã hội vào tay AI. Ở đây, Russell nhảy thẳng vào Sci Fi để nêu ví dụ. Ông anh đề cập đến The Machine Stops, một mẩu truyện ngắn đầy ám ảnh do E. M. Forster viết, lấy bối cảnh một tương lai nơi thiên hạ ai nấy đều lệ thuộc vào máy móc. Theo như cách diễn giải của Russell, câu chuyện khắc họa thực tế là nếu giao quyền quản lý nền văn minh cho máy móc, ta sẽ mất đi động lực để tự tìm hiểu cách nó vận hành, từ đấy không thể dạy cho thế hệ sau về nó nữa. Phiên bản hiện đại của câu chuyện đó là WALL-E, với tất thảy mọi công dân trong cái thế giới của nó đều bị máy móc làm cho trở nên lười nhác, yếu đuối, và ngơ ngơ như trẻ con. Tính đến nay, chúng ta chưa bao giờ phải đối phó với thứ gì như vậy cả. Chúng ta luôn phải truyền dạy cho thế hệ sau, tạo thành một chuỗi dạy và học liên tục trải qua hàng chục nghìn thế hệ. Con bây giờ, với cái kiểu AI đang ngày một phát triển mạnh, Russell nghi cái chuỗi đó sẽ có nguy cơ bị phá vỡ, và khi ấy điều gì xảy ra thì có Forster mới biết.
Russell chốt lại bằng việc bảo rằng rất khó để nói bao giờ ta mới có AI đa mục đích thực sự. Hầu hết các chuyên gia đều nói rằng vào cuối thế kỷ này, chúng ta rất có thể sẽ có AI đa mục đích. Cá nhân Russell thì nghĩ sẽ phải lâu hơn một tí, vì vấn đề chế tạo mấy con AI kiểu vậy lằng nhằng hơn chúng ta nghĩ nhiều. Nhưng ông cũng chẳng thể khẳng định được chắc chắn cái mốc thời gian AI đa mục đích sẽ ra đời. Như John McAfee từng nói đấy, chúng ta sẽ có AI vào đâu đó trong khoảng từ 5 đến 500 năm nữa. Và theo Russell nghĩ, con người sẽ cần thêm vài Einstein thì mới biến được điều đó thành hiện thực.
Tiện thể thì mình từng làm một bài cũng khá liên quan đến cái trích đoạn phỏng vấn này, đặc biệt là đoạn đầu. Bài đó là Artifical Stupidity, và anh em nào quan tâm có thể tham khảo ở đây nhé: https://scifivietnam.blogspot.com/2022/08/artificial-stupidity-hiem-hoa-en-tu-su.html.
***
Bài gốc được đăng trong group Hội thích truyện Sci Fi trên Facebook. Cùng ghé chơi group để thảo luận về bài viết hoặc đọc thêm các bài tương tự, bạn nhé.
↓