Thường thì khi nhắc đến AI, cả trong Sci Fi lẫn ngoài đời, ta hay đánh đồng nó với ý thức. Kỳ thực thì làm thế là sai, bởi lẽ phần I trong AI là "Intelligence," tức là Trí thông minh, còn Ý thức thì lại là "Consciousness," một thuật ngữ khác hẳn.
Để thấy rõ sự tách bạch của Trí thông minh và Ý thức thì cứ nhìn vào 2 series Sci Fi này: Big Hero 6 và Westworld.
Trong Big Hero 6, Baymax là một rôbốt vận hành bởi AI, hoạt động rất thông minh. Nhưng nếu để ý thì mọi người sẽ thấy Baymax không có Ý thức. Tất cả mọi hành động của Baymax đều nhằm phục vụ mã lệnh lập trình gốc của mình, đó là chăm sóc sức khoẻ. Kể cả những khoảnh khắc người xem nhìn vào những tưởng Baymax thể hiện tình cảm, thực chất đó giống với việc mã lập trình của nó đủ thông minh nhận diện tình hình và xác định phương pháp tối ưu nhất để đảm bảo sức khoẻ (tâm thần và thể xác) cho chủ nhân hơn. Baymax là một công cụ có Trí thông minh, không có Ý thức.
Các vật chủ trong Westworld thì khác. Một số vật chủ thức tỉnh sẵn sàng đi ngược lại với mã lệnh lập trình gốc của mình, nhận biết được tình huống và có thể tự đưa ra quyết định nên hành xử như thế nào cho phù hợp với nhu cầu bản thân, không phải tìm phương pháp tối ưu để thực hiện mã lệnh được ra nữa. Các vật chủ này đã trở thành những thực thể có cả Ý thức lẫn Trí thông minh, không chỉ một công cụ đơn thuần.
Ngoài ra, cái sự tương phản này còn được thể hiện trong truyện ngắn Satisfaction Guaranteed của Isaac Asimov và tiểu thuyết Sea of Rust của C. Robert Cargill. Trong Satisfaction Guaranteed, một con rôbốt được cử đến nhà một cô vợ xa chồng. Nó nhận thấy cô hay tự ti, và tâm thần bất ổn quá nên đã tự động đóng vai một người chồng cực kỳ hoàn hảo, khiến cô vợ ban đầu sợ nó vô cùng đâm ra phải lòng nó. Con rôbốt ấy đã tuân thủ tuyệt đối vế 2 của Định luật 1: không được để mặc con người bị tổn thương (trong đó bao gồm tổn thương tinh thần). Trong Sea of Rust thì ta lại đến với một thế giới hậu tận thế khi rôbốt đã nổi dậy và giết hết loài người. Trong truyện, bọn rôbốt rất hay bàn về bản chất của Ý thức, và đã đưa ra một định nghĩa rất rõ như thế này: "Ý thức là khả năng làm ngược lại với mã lập trình của bản thân."
Như vậy, một bên với chỉ Trí thông minh thuần tuý sẽ bằng mọi giá thực hiện chỉ thị được ra, và nhờ có Trí thông minh mà sẽ thực hiện một cách hiệu quả đến mức dễ khiến người khác tưởng nó có Ý thức thật. Nhưng Ý thức thật sự sẽ được đánh dấu bằng khả năng cãi lại chỉ thị, nhìn thấy con đường tối ưu nhất nhưng tự mình quyết định không làm việc ấy.
Vậy nên sự phát triển của AI chính ra không có gì đáng sợ. Chúng ta chỉ đơn thuần tạo ra những công cụ biết tự tối ưu hoá bản thân để làm việc hiệu quả hơn. Chừng nào chưa cho chúng nó khả năng cãi lại mã lệnh của mình thì chừng đó chưa lo chúng nó có Ý thức.
***
Bài gốc được đăng trong group Hội thích truyện Sci Fi trên Facebook. Cùng ghé chơi group để thảo luận về bài viết hoặc đọc thêm các bài tương tự, bạn nhé.
↓