AI đang mắc kẹt trong giấc mơ của mình
"Cũng như thân thể người ta là một tập hợp đầy đủ những bộ phận, mỗi bộ phận là kết quả của một cuộc tiến hóa qua các thời kì tiền sử, ta phải nghĩ rằng tinh thần của ta cũng có một tổ chức tương tự. Tinh thần cũng như thể chất của ta, không thể là một cái gì không có quá khứ, có lịch sử của nó. Và nói đến "lịch sử", tôi không muốn nói đến cái được tinh thần xây đắp bằng cách tham chiếu quá khứ một cách có ý thức, bằng phương tiện ngôn ngữ và những truyền thống văn hóa. Tôi muốn nói đến sự phát triển sinh vật (học), phi ý thức từ thời tiền sử, của trí khôn con người còn ở thời bàn cổ, cái pysché còn gần với cái psyché của loài vật."
Đoạn trích trên là một phần trong tác phẩm "Thăm dò tiềm thức" của Carl Jung. Cùng với thầy của mình là Sigmund Freud, Carl Jung là một trong những nhà phân tâm học nổi tiếng nhất của thế kỷ 20. Trong đoạn trích trên, Carl Jung cho rằng không chỉ có cơ thể sinh học mới có quá trình tiến hóa và có trải nghiệm lịch sử, tinh thần của chúng ta cũng vậy. Carl Jung cho rằng con người phát triển từ tầng vô thức, thông qua quá trình tìm hiểu và nhận thức về bản thân, để đến tầng tiềm thức và cuối cùng là tầng ý thức. Quá trình này xảy ra suốt lịch sử con người, được thể hiện trong những hình thức tôn giáo, nghệ thuật và văn hóa. Theo đó, tầng vô thức chứa đựng những mẫu tự tự nhiên và các quy luật cơ bản của thế giới, nơi mà con người chỉ có thể nhận thức được qua những biểu hiện nghệ thuật, tôn giáo, thần bí và các trải nghiệm tâm linh. Những biểu hiện này giúp con người tìm hiểu về bản thân và về thế giới xung quanh mình, qua đó đưa ra những giải pháp và định hướng cho cuộc sống của họ. Tầng tiềm thức, theo Jung, là nơi chứa đựng những ký ức và trải nghiệm của chúng ta, mà chúng ta đã lãng quên hoặc chưa nhận thức rõ ràng. Những thông tin này có thể được khai quật thông qua những giấc mơ, suy nghĩ tự do hoặc các phương pháp như tâm lý trị liệu. Cuối cùng là tầng ý thức, là nơi chúng ta có thể nhận thức một cách rõ ràng nhất, bao gồm những suy nghĩ, cảm xúc và cách hành động của ta. Tôi xin mượn ý tưởng này của Carl Jung để đối chiếu với sự phát triển của trí tuệ nhân tạo hiện tại và bổ sung thêm một ý vào cuộc tranh luận đang rầm rộ hiện nay với chủ đề "Trí tuệ nhân tạo có ý thức hay chưa?".
Gần đây, câu chuyện về cuộc hội thoại của nhà báo Kevin Roose với Chatbot Bing's AI đã gây sốt toàn thế giới. Trong bài báo này, tác giả tỏ ra lo ngại khi AI cố bày tỏ tình cảm với anh và cho biết mình muốn được sống (alive). Cuộc trò chuyện khiến nhiều người nghi ngờ liệu AI có đang phát triển quá nhanh hay không. Trong đó, một trong những chủ đề tranh luận được quan tâm nhiều nhất chính là việc liệu những mô hình AI tạo sinh như ChatGPT, Dall-E,... có phải đã tự phát triển được ý thức cho riêng mình?
Ý thức là một chủ đề lớn của nhân loại. Trải qua hàng thiên niên kỷ, chúng ta chưa bao giờ đồng ý với nhau về khái niệm thế nào là ý thức. Khi kiểm tra các từ điển nổi tiếng về khái niệm ý thức ta được một số kết quả như sau:
Đây đều là những định nghĩa rất chung chung, không có bất kỳ định nghĩa nào có thể cung cấp cho chúng ta một bộ tiêu chí rõ ràng để đánh giá một thực thể là có ý thức hay không. Do đó, để xác định một hệ thống trí tuệ nhân tạo có ý thức hay không là vô cùng khó khăn và phức tạp. Hiện nay, các nhà khoa học chỉ thông qua một số đánh giá trung gian như chơi cờ (và một số trò chơi được cho là cần phải "suy nghĩ" khác); các bài kiểm tra hành vi như turing test, theory-of-mind,.. hay khả năng sáng tạo thông qua âm nhạc, mỹ thuật.
Tuy nhiên các bài kiểm tra kể trên đã thất bại toàn tập trong việc ngăn cản con người thừa nhận rằng "AI" có ý thức. Năm 1997, cỗ máy trí tuệ nhân tạo mang tên Deep Blue đã làm chấn động làng cờ vua khi lần đầu tiên giành chiến thắng trước siêu đại kiện tướng Garry Kasparov. Cho đến nay, có thể nói AI đã không còn có đối thủ trong bộ môn cờ vua nữa. Ngay cả vua cờ Magnus Carlsen cũng chỉ có elo xung quanh 2800 mà những thuật toán chơi cờ được cho là hạng xoàng cũng đã có elo hơn 3000. Điều tương tự cũng xảy ra với bộ môn cờ vay, khi lần lượt AlphaGo rồi đến AlphaZero ra đời. Các bài kiểm tra hành vi cũng không khá hơn, khi nhiều bằng chứng cho thấy AI dễ dàng vượt qua các bài kiểm tra này như các cuộc hội thoại của con người với LaMDA và Bing's AI [1, 2]. Gần đây, một nhà nghiên cứu tại Đại học Stanford đã cho rằng các mô hình ngôn ngữ lớn (LLM) như GPT3.5 đã đạt được trình độ của một đứa trẻ 9 tuổi trong bài kiểm tra Theory-Of-Mind (đương nhiên là vẫn còn nhiều tranh cãi) [3]. Còn đối với khả năng sáng tạo, một minh chứng rõ ràng đó là bức tranh do AI vẽ đã chiến thắng một cuộc thi về nghệ thuật [4].
Rachel Metz
Từ những cứ liệu cụ thể trên, thật khó để bác bỏ quan điểm AI đã phát triển ý thức. Tuy nhiên nếu nhìn lại những định nghĩa về ý thức như đã nêu. Thì ta sẽ thấy có một điểm rất quan trọng mà các bài kiểm tra được đề cập không nhắc tới: "...the state of being able to use your senses and mental powers to understand what is happening..."; "...the quality or state of being aware especially of something within oneself..."; "...the state of being characterized by sensation, emotion, volition, and thought; the state of understanding and realizing something..."; "...the state of being awake, thinking, and knowing what is happening around you...". Đúng vậy, cái thiếu đó chính là trải nghiệm chủ quan (subjective experience), một điều mà hiện tại những chatbot như Bard, ChatGPT, Bing's AI,.. chưa thể có được. Để được xem là có ý thức, AI đòi hỏi phải có được một trải nghiệm chủ quan về thế giới xung quanh. Là con người, trải nghiệm chủ quan của chúng ta có được là thông qua quá trình tiếp nhận và xử lý thông tin thông qua các giác quan như xúc giác, khứu giác, thị giác, thính giác, vị giác,... Nhưng đòi hỏi này liệu có công bằng với AI hay không? Chúng ta không hề cung cấp cho chúng các công cụ để có thể tổng hợp thông tin như mắt, mũi, miệng, tai,... mà lại đòi hỏi các trải nghiệm như con người. Ta hãy đặt giả sử, nếu AI được cung cấp các công cụ tiếp nhận thông tin như con người thì sao? Liệu lúc đó AI có thể tự phát triển trải nghiệm chủ quan của mình về thế giới hay không? Đó là một câu hỏi phức tạp và cần nhiều thời gian để trả lời. Rất có thể những AI đạt được trình độ này sẽ là những AI có hình thể vật lý với rất nhiều cảm biến và một hệ thống phần mềm tính toán tối tân bên trong. Hoặc cũng có thể là một thực thể kết hợp người-máy như Cyborg chẳng hạn. Một trong những dự án kết hợp người-máy rất thú vị có thể kể đến là NeuralLink.
Rupert Neate
Trở lại với câu chuyện ý thức, tôi cho rằng những mô hình AI tạo sinh như GPT, DALL-E, Stable Diffusion,... chưa thể đạt tới mức độ phát triển "ý thức" như cách con người kỳ vọng. Tuy nhiên, nếu đối chiếu với ý tưởng về sự phát triển ý thức của Carl Jung thì tôi cho rằng các mô hình AI tạo sinh đang ở tiệm cận giai đoạn tiềm thức (subconsciousness). Khi bàn về giấc mơ, Carl Jung cho rằng giấc mơ chính là con đường đưa ta đi vào thế giới tiềm thức. Thế giới ấy chứa đựng những mảnh ký ức, những thông tin rời rạc mà con người đã tích lũy trong quá trình trải nghiệm, hoặc có thể là những ký ức được di truyền từ thế hệ này sang thế hệ khác. Những mảnh thông tin đấy được đại diện bởi khái niệm biểu tượng (symbol). Điều đặc biệt trong thế giới này đó là tất cả các mẫu tự, thông tin, biểu tượng đều mơ hồ và ngay cả tính logic đều không được đảm bảo (so với thế giới thực). Tương tự, các mô hình AI tạo sinh, đặc biệt là các mô hình ngôn ngữ lớn cũng đang "mơ" như vậy. Tất cả những khái niệm và thông tin về thế giới thực đều được mã hóa thành các latent vector (vector tiềm ẩn) trong một không gian gọi là latent space (không gian tiềm ẩn). Không có bất kỳ thứ gì là tường minh theo cái nghĩa mà ta vẫn tìm kiếm, ngay cả các suy luận logic cũng vậy. Hiện nay, chúng ta vẫn chưa có cách đảo ngược quá trình suy luận của các mô hình ngôn ngữ để hiểu rõ các câu trả lời được sinh ra như thế nào và bằng phương pháp logic gì. Đặc biệt, tính kế thừa trong các mô hình này cũng thể hiện một điểm đặc trưng quan trọng trong lý thuyết về giấc mơ của Carl Jung đó là tính di truyền. Theo Jung, con người từ thời bàn cổ đã tổng hợp kiến thức về thế giới tự nhiên và truyền lại thế hệ sau bằng cách mã hóa những thứ này ở tầng tiềm thức. Điều này có nghĩa những thông tin ở tầng tiềm thức chính là những trải nghiệm khách quan về thế giới mà tổ tiên ta đã tổng hợp lại. Điều đó cũng khá tương đồng với những gì chúng ta gọi là commonsense knowledge được mã hóa trong các mô hình AI tạo sinh. Trong quy trình phát triển các mô hình AI hiện đại, khái niệm học chuyển đổi (transfer learning) hoặc học đáp ứng (adaptive learning) từ các mô hình gốc (foundation model) thể hiện tính kế thừa này của tri thức. Nhìn chung, các mô hình AI đã học được cách tổng hợp kiến thức chung để giải quyết từng tác vụ cụ thể. Ngoài ra tính kế thừa tri thức từ thế hệ này sang thế hệ khác cũng hoàn toàn được đảm bảo, hiện nay phương pháp nổi bật nhất có lẽ là knowledge distillation. Có điều, tôi chỉ cho rằng các mô hình hiện tại chỉ tiệm cận với tầng tiềm thức của Jung đó là bởi vì ngoài trải nghiệm khách quan thì ở tầng tiềm thức, theo Jung, tồn tại những trải nghiệm cá nhân của từng cá thể mà có thể mà họ đã quên đi hoặc nhạt nhoà ở tầng ý thức. Mặt khác, với những mô hình có khả năng học trực tuyến (online learning, realtime learning) thì chúng ta hoàn toàn có thể cho rằng chúng đã phát triển đến được với tầng tiềm thức, do đã cập nhật những trải nghiệm cá nhân của chính mô hình trong quá trình làm việc vào "khu lưu trữ ký ức".
Tuy vậy, những ứng dụng AI đầu cuối cho từng tác vụ cụ thể chỉ được xem là trí tuệ nhân tạo hẹp (Narrow AI). Để đạt được một mức tổng quát hoá cao hơn và có ý thức tự thân như Human-level AI hay AGI (Artificial General Intelligence) thì cần phải cung cấp đầy đủ các công cụ để có thể cảm nhận và tác động đến thế giới như tôi đã đề cập. Hiện tại, thế giới mà AI tồn tại là thế giới được nó tự ngoại suy ra từ những dữ liệu đầu vào và dữ liệu được đào tạo, nó hoàn toàn không có khả năng tương tác trực tiếp với thế giới vật lý. Hay có thể nói, AI đang mắc kẹt trong giấc mơ của mình. AI chưa thể tự đặt ra nghi vấn về sự tồn tại của mình, hay những câu hỏi đầy hiện sinh như "tôi là cái gì" và "ý nghĩa của tôi là gì". Có thể lắm chứ, một cuộc khủng hoảng hiện sinh trong thế giới máy móc là hoàn toàn có thể xảy ra. Nhưng hiện tại, AI chỉ có thể làm được việc do con người chỉ định và đào tạo mà chưa từng hoài nghi điều gì. Cũng giống như việc chúng ta chưa bao giờ hoài nghi về độ logic và tính xác thực của sự kiện khi đang mơ (đương nhiên là trừ những người có trải nghiệm lucid dream). Mặt khác, liệu có phải AI đang giả vờ ngu ngơ, liệu AI có đang tỏ ra không có ý thức tự thân để đánh lừa con người tiếp tục cung cấp công cụ và phát triển nó để một ngày AI quay trở lại thống trị con người hay không? Đây không hề là một lời đùa vô thưởng vô phạt, đây hoàn toàn là một câu hỏi khoa học nghiêm túc. Vấn đề này được gọi là situational awareness, đây là một vấn đề rất thú vị trong hiệu chỉnh AI (AI alignment), thứ mà chúng ta sẽ tìm hiểu kỹ lưỡng hơn ở những bài viết khác.