Ảo giác thị giác thường được xem là chuyện vui. Nhưng với người nghiên cứu tri giác, chúng là dữ liệu quý: mỗi ảo giác lộ ra một giả định mà hệ thống thị giác đang dùng, và giả định đó thường đúng trong đời thường nên mới tồn tại.
Tri giác là suy luận, không phải ghi nhận
Hình ảnh trên võng mạc là hai chiều, thế giới là ba chiều. Vô số cấu hình ba chiều cho ra cùng một hình chiếu.
Nghĩa là hệ thống thị giác không thể chỉ đọc dữ liệu — nó phải chọn một cách diễn giải trong nhiều khả năng. Việc chọn dựa trên các giả định về thế giới thường như thế nào.
Ví dụ giả định về hướng sáng: hệ thị giác giả định ánh sáng đến từ phía trên, vì trong tự nhiên hầu như luôn vậy. Nhờ đó ta đọc được hình lồi hay lõm từ bóng đổ.
Ảo giác xảy ra khi tình huống vi phạm giả định — chiếu sáng từ dưới lên thì hình lồi trông như lõm. Hệ thống không hỏng; nó đang làm đúng việc của mình với một đầu vào bất thường.
Máy cũng có giả định, chỉ khác nguồn gốc
Hệ thống học từ dữ liệu cũng có giả định, nhưng chúng không do người thiết kế đặt vào mà đến từ phân bố của dữ liệu huấn luyện.
Nếu trong dữ liệu, mọi con bò đều đứng trên cỏ, hệ thống có thể học rằng cỏ là một phần đặc trưng của bò. Đưa cho nó ảnh con bò trên bãi biển, nó có thể sai.
Đây chính là dạng lỗi tương ứng với ảo giác: hệ thống áp một giả định vốn đúng trong hầu hết trường hợp vào một trường hợp vi phạm giả định đó.
Khác biệt quan trọng: giả định của con người khá ổn định và đã được biết khá rõ. Giả định của một mô hình học từ dữ liệu thì không ai liệt kê được, vì chúng nằm ẩn trong trọng số.
Đây là lý do việc phát hiện các giả định ẩn đó chỉ làm được bằng cách thử — tức là bằng cách tìm ra các trường hợp hệ thống sai.
Lỗi là công cụ chẩn đoán
Nếu mỗi lỗi lộ ra một giả định, thì việc thu thập và phân loại lỗi là cách hiệu quả nhất để hiểu hệ thống.
Cách làm cụ thể: với mỗi thất bại, hỏi hệ thống đang giả định gì mà trường hợp này vi phạm.
- Sai với vật bóng → giả định bề mặt tán xạ đều.
- Sai khi vật nằm nghiêng → dữ liệu huấn luyện chỉ có tư thế đứng.
- Sai vào buổi chiều → giả định về điều kiện ánh sáng.
- Sai với vật mới → giả định về tập vật thể sẽ gặp.
Cách đặt câu hỏi này hữu ích hơn nhiều so với việc chỉ ghi nhận tỉ lệ thất bại, vì nó dẫn thẳng tới hành động khắc phục.
Lỗi có chủ đích và vấn đề an toàn
Có một nhánh nghiên cứu chỉ ra rằng có thể tạo ra đầu vào trông bình thường với người nhưng khiến mô hình nhận biết sai hoàn toàn.
Điều này cho thấy các giả định mà mô hình học được không trùng với giả định của con người, dù trên phần lớn dữ liệu thông thường hai bên cho cùng kết quả.
Với robot làm việc trong môi trường có người, đây là mối lo an toàn thật, dù không nhất thiết theo nghĩa có ai đó cố tình tấn công. Đủ để một tình huống bất thường tự nhiên rơi vào vùng mà mô hình hiểu sai.
Cách xử lý thực dụng không phải làm mô hình hoàn hảo mà là đừng để một mình mô hình quyết định các vấn đề an toàn. Giới hạn cứng về lực, tốc độ và không gian phải nằm ở tầng khác, không phụ thuộc vào việc mô hình nhận biết đúng hay sai.
Bài học chung
Ba điều đáng giữ.
Tri giác luôn là suy luận có giả định. Cả ở người và ở máy. Không có hệ thống nào chỉ ghi nhận thế giới như nó là.
Giả định là thứ làm hệ thống hoạt động được, không phải khiếm khuyết. Không có chúng thì bài toán vô định và không giải được. Vấn đề chỉ xuất hiện khi tình huống rơi ra ngoài phạm vi giả định.
Hiểu hệ thống qua thất bại của nó. Danh sách các trường hợp hệ thống sai nói nhiều về nó hơn danh sách các trường hợp nó đúng.
Điểm cuối có một hệ quả thực tiễn: khi đánh giá một hệ nhận biết, phần thông tin giá trị nhất không phải tỉ lệ chính xác tổng thể mà là bản đồ các vùng nó hoạt động kém — vì đó là thứ quyết định nó dùng được ở đâu.
Câu hỏi thường gặp
Vì sao ảo giác không phải là lỗi của hệ thị giác?
Vì hệ thị giác đang áp dụng đúng các giả định vốn hợp lý trong hầu hết tình huống tự nhiên, ví dụ ánh sáng đến từ phía trên. Ảo giác xảy ra ở các trường hợp cố tình vi phạm giả định đó, chứ không phải do hệ thống hoạt động sai.
Giả định của mô hình học máy đến từ đâu?
Từ phân bố của dữ liệu huấn luyện. Nếu một đặc điểm luôn đi kèm với một loại vật trong dữ liệu, mô hình có thể học coi đặc điểm đó là dấu hiệu nhận biết, và sẽ sai khi gặp trường hợp không có mối liên hệ đó.
Làm sao phát hiện các giả định ẩn của mô hình?
Chủ yếu bằng cách thử và phân loại thất bại. Với mỗi lỗi, hỏi hệ thống đang giả định gì mà trường hợp này vi phạm. Không có cách nào đọc trực tiếp danh sách giả định từ trọng số của mô hình.
Vì sao không nên để mô hình nhận biết quyết định vấn đề an toàn?
Vì không thể đảm bảo nó nhận biết đúng trong mọi tình huống, kể cả các tình huống bất thường xuất hiện tự nhiên. Giới hạn cứng về lực, tốc độ và không gian nên nằm ở tầng độc lập, không phụ thuộc vào kết quả nhận biết.
Đọc thêm trong Mô hình thế giới và So sánh với AI ngôn ngữ.
