Hình dung một người ngồi trong phòng kín, nhận vào các ký hiệu lạ, tra một cuốn sách quy tắc rất dày, rồi đưa ra các ký hiệu khác. Người ngoài thấy phòng trả lời trôi chảy. Người bên trong không hiểu một chữ nào. Đây là một trong những lập luận được bàn nhiều nhất về trí tuệ nhân tạo.
Lập luận nói gì
Kết luận được rút ra: thao tác ký hiệu theo quy tắc, dù đúng tới đâu, không tự tạo ra hiểu biết.
Người trong phòng làm đúng mọi quy tắc và cho ra câu trả lời hoàn hảo, nhưng không có chút hiểu biết nào về nội dung. Nếu vậy, một chương trình máy tính làm điều tương tự cũng không hiểu.
Phân biệt trung tâm là giữa cú pháp — thao tác đúng trên hình thức của ký hiệu — và ngữ nghĩa — nắm được ký hiệu chỉ về cái gì.
Lập luận cho rằng cú pháp không tự sinh ra ngữ nghĩa, dù thao tác cú pháp có phức tạp tới đâu.
Đây là một trong những phát biểu rõ ràng nhất của mối lo mà vấn đề neo ký hiệu cũng chạm tới, chỉ từ một góc khác.
Phản biện thứ nhất: nhìn cả hệ thống
Phản biện phổ biến nhất: đúng là người trong phòng không hiểu, nhưng câu hỏi đặt sai đối tượng.
Cần xét toàn bộ hệ thống gồm người, cuốn sách quy tắc, giấy tờ và quy trình. Hệ thống đó, xét như một tổng thể, có thể được nói là hiểu — giống như không tế bào thần kinh riêng lẻ nào trong não hiểu tiếng Việt, nhưng cả bộ não thì có.
Trả lời cho phản biện này thường là: hãy tưởng tượng người đó học thuộc lòng toàn bộ cuốn sách và làm mọi thứ trong đầu. Khi đó anh ta chính là cả hệ thống, và vẫn không hiểu.
Phản biện lại cho trả lời đó: một người học thuộc và chạy được toàn bộ quy trình đó có thể được coi là đang duy trì một hệ thống thứ hai bên trong mình, và câu hỏi về hiểu áp cho hệ thống thứ hai chứ không cho anh ta.
Cuộc trao đổi tiếp tục theo hướng này, và đó là một phần lý do tranh luận chưa kết thúc.
Phản biện thứ hai: thiếu neo, không thiếu nguyên tắc
Một hướng phản biện khác chấp nhận rằng phòng kín không hiểu, nhưng cho rằng lý do không phải vì nó là hệ thống ký hiệu, mà vì nó không có kết nối nào với thế giới.
Nếu đặt cùng hệ thống đó vào một robot có cảm biến và cơ cấu, để các ký hiệu được nối với vật thật qua tri giác và hành động, tình hình sẽ khác.
Hướng phản biện này gắn trực tiếp với luận điểm hiện thân: vấn đề nằm ở việc thiếu cơ thể, không phải ở bản chất của tính toán.
Trả lời cho hướng này thường là: thêm cảm biến chỉ thêm ký hiệu, không thêm ý nghĩa. Còn phản biện lại: cảm biến gắn với hành động và hậu quả, và đó là loại quan hệ khác về chất so với quan hệ giữa các ký hiệu.
Đây là nơi tranh luận triết học chạm gần nhất với công việc kỹ thuật hiện nay.
Vì sao tranh luận này quay lại
Mỗi khi xuất hiện một hệ thống ngôn ngữ mạnh hơn, lập luận này lại được nhắc, và cấu trúc cuộc tranh luận gần như không đổi.
Một bên chỉ ra rằng hệ thống chỉ đang khớp mẫu trên văn bản. Bên kia hỏi lại rằng nếu nó làm được mọi thứ ta yêu cầu thì khác biệt nằm ở đâu.
Điều đáng chú ý là cả hai bên đều có thể đúng theo nghĩa riêng: hệ thống có thể vừa không hiểu theo nghĩa mà một bên dùng, vừa hữu ích và đủ năng lực theo nghĩa bên kia dùng.
Vì vậy với công việc kỹ thuật, cách tiếp cận hữu ích là tách hai câu hỏi ra: câu hỏi về bản chất để cho các cuộc thảo luận triết học, và câu hỏi về năng lực thì trả lời bằng cách đo.
Điều lập luận này thật sự để lại
Bỏ qua phần kết luận gây tranh cãi, lập luận này để lại hai điều có giá trị lâu dài.
Nó buộc phải phân biệt hành vi với cơ chế. Một hệ thống cho ra hành vi đúng không tự động có cơ chế mà ta hình dung. Đây là cảnh báo hữu ích khi đánh giá bất kỳ hệ thống nào.
Nó đặt câu hỏi ký hiệu nối với thế giới bằng cách nào. Câu hỏi này về sau trở thành một bài toán kỹ thuật cụ thể, và các hệ thống hiện đại giải nó bằng huấn luyện đa phương thức và bằng học từ tương tác.
Nói cách khác, phần bền vững nhất của lập luận không phải kết luận mà là câu hỏi nó buộc mọi người phải trả lời — và câu hỏi đó đã dẫn tới các tiến bộ kỹ thuật thật.
Câu hỏi thường gặp
Lập luận phòng kín kết luận điều gì?
Rằng thao tác ký hiệu theo quy tắc, dù chính xác tới đâu, không tự tạo ra hiểu biết. Phân biệt trung tâm là giữa cú pháp và ngữ nghĩa: làm đúng trên hình thức của ký hiệu không đồng nghĩa với nắm được ký hiệu chỉ về cái gì.
Phản biện hệ thống nói gì?
Rằng câu hỏi đặt sai đối tượng: người trong phòng không hiểu nhưng toàn bộ hệ thống gồm người, sách quy tắc và quy trình thì có thể được nói là hiểu, giống như không tế bào thần kinh riêng lẻ nào hiểu ngôn ngữ nhưng cả bộ não thì có.
Luận điểm hiện thân liên quan tới lập luận này thế nào?
Một hướng phản biện cho rằng phòng kín thiếu hiểu biết không phải vì nó là hệ thống ký hiệu mà vì nó không có kết nối nào với thế giới. Đặt cùng hệ thống đó vào một cơ thể có cảm biến và hành động thì tình hình sẽ khác.
Lập luận này để lại điều gì có giá trị lâu dài?
Hai điều: nó buộc phải phân biệt hành vi đúng với cơ chế bên dưới, và nó đặt câu hỏi ký hiệu nối với thế giới bằng cách nào. Câu hỏi thứ hai về sau trở thành bài toán kỹ thuật cụ thể và đã dẫn tới các tiến bộ thật.
Đọc thêm trong Mô hình thế giới và So sánh với AI ngôn ngữ.
