Động cơ có sáu cực — Huyền thoại mười dòng mã

Điều tra trong sáu phần về lý do tại sao chatbot tài liệu mà họ bán cho bạn liên tục bịa đặt — và về hướng đi khác mà ai đó đã bắt đầu đi vào đầu năm 2026.

Điều tra trong sáu phần về lý do tại sao chatbot tài liệu mà họ bán cho bạn liên tục bịa đặt — và về hướng đi khác mà ai đó đã bắt đầu đi vào đầu năm 2026.

Giới thiệu — Động cơ có tám cực (nhưng thực ra là sáu)

Milan, tháng 3 năm 2026. Một nhà quản lý mở chatbot nội bộ của công ty, loại được lắp đặt "trong hai tuần" từ phòng IT với sự nhiệt tình lớn và sự nghi ngờ ít ỏi. Một câu hỏi rất đơn giản: "Động cơ CMP40M có bao nhiêu cực?". Chatbot trả lời với sự tự tin mà các mô hình ngôn ngữ lớn biết cách thể hiện: "Động cơ CMP40M có tám cực."

Sai rồi. Nó có sáu cực. Câu trả lời đúng không nằm trong danh mục gồm 422 trang mà ai đó, vài tháng trước, đã đổ vào cơ sở dữ liệu vector với niềm tin tuyệt đối, tin rằng từ đó trở đi hệ thống "sẽ biết tất cả". Dữ liệu đó hoàn toàn không có trong danh mục. Nó nằm trong một tệp PDF đính kèm trong một email của các kỹ thuật viên SEW, được lưu trữ trong một thư mục mà không ai buồn lập chỉ mục.

Cảnh này, với những biến thể về ngành và phương ngữ, lặp lại ở hàng trăm văn phòng trên khắp nước Ý. Lời hứa thật đơn giản và hấp dẫn: hãy cung cấp tất cả các tài liệu của công ty cho trợ lý AI của bạn, và nó có thể trả lời bất kỳ câu hỏi nào về chúng. Thực tế phức tạp hơn nhiều: chatbot đọc nhưng không hiểu, tìm kiếm nhưng không tìm thấy và khi không tìm thấy — thay vì nói ra — nó bịa đặt. Nó bịa đặt một cách trôi chảy, với ngữ pháp hoàn hảo, với các con số hợp lý. Điều đó còn tệ hơn là không trả lời.

Từ cuối năm 2024 đến đầu năm 2026, chúng tôi đã dành nhiều tháng để mổ xẻ những thất bại này. Không phải để khơi mào tranh cãi, mà để hiểu một điều: tại sao một ý tưởng đơn giản như vậy — "cung cấp tài liệu và sau đó hỏi nó" — lại trở nên khó khăn khi nó rời khỏi sân khấu demo và bước vào phòng máy chủ thực tế.

Cuộc điều tra gồm sáu chương này kể về những gì chúng tôi đã tìm thấy: các lỗi thầm lặng xóa toàn bộ danh mục, các bộ xếp hạng lại trên đám mây với điểm số sai, những ảo giác không phải do mô hình mà do dữ liệu bị ô nhiễm cách đây nhiều năm, hóa đơn đầu ra khiến mọi truy vấn đắt hơn giá trị của nó và các khung "phổ biến" hứa hẹn mọi thứ chỉ với mười dòng mã miễn là bạn không yêu cầu quá nhiều từ chúng. Và trong chương cuối cùng, một hướng đi khác mà một số người, trong im lặng, đã bắt đầu theo đuổi vào đầu năm 2026 — một kiến trúc trong đó chiến lược tìm kiếm ngừng là mã và trở thành một tài liệu mà bất kỳ ai trong công ty cũng có thể đọc và sửa đổi.

Mỗi chương đều độc lập. Nếu bạn muốn bắt đầu với câu chuyện về 342 bảng biến mất, hoặc câu chuyện về bộ xếp hạng lại nói dối, bạn hoàn toàn tự do. Nhưng câu chuyện tổng thể có một bài học đạo đức chỉ xuất hiện vào cuối cùng: RAG doanh nghiệp — viết tắt kỹ thuật chỉ Retrieval-Augmented Generation, tức là "tạo ra câu trả lời dựa trên các tài liệu bạn truy xuất trước" — vẫn chưa phải là một sản phẩm hoàn chỉnh. Nó là một biên giới. Và như tất cả các biên giới, cho đến nay, nó chủ yếu được kể bởi những người bán hàng. Đã đến lúc lắng nghe cả những người đã sống trong đó.

Chương 1 — Thần thoại về mười dòng mã

Bản trình bày này y hệt nhau trong mọi hội nghị về AI kể từ năm 2023: "Trợ lý tài liệu doanh nghiệp của bạn chỉ với 10 dòng mã." Bên dưới tiêu đề là một khối Python với màu pastel hiển thị một thư viện nguồn mở — thường là một trong những thư viện nổi tiếng của Mỹ, tên gợi nhớ đến chuỗi cây hoặc lạc đà Tây Tạng — tải PDF, chia nhỏ chúng, dán chúng vào một cơ sở dữ liệu vector và truy vấn chúng bằng một mô hình ngôn ngữ. Trong năm phút, bạn có một chatbot. Trong năm phút, có tiếng vỗ tay. Trong năm phút, một công ty vừa và nhỏ của Ý bị thuyết phục rằng vấn đề đã được giải quyết và bộ phận IT của họ có thể làm được trong hai tuần.

Vấn đề — điều mà bản trình bày không nói — là bản demo được xây dựng với ba tệp PDF được định dạng tốt, một câu hỏi được thiết kế để phù hợp với nội dung, một sân khấu không có độ trễ thực tế và một người thuyết trình đã thử nghiệm mọi thứ 27 lần trước khi lên sân khấu. Trong thực tế, tài liệu doanh nghiệp là một thảm họa địa chất: bản quét của bản quét, bảng chồng lên văn bản, chú thích cuối trang chèn vào đoạn văn, mã số chữ và số như "RH1M" bị bộ chia cắt làm đôi vì nghĩ rằng đó là từ, hình ảnh chứa 70% thông tin hữu ích nhưng không ai thực sự trích xuất và bố cục sáng tạo đến mức cần một nhà khảo cổ học hơn là một trình phân tích cú pháp.

RAG — đây là ý tưởng đằng sau nó — là một ý tưởng tuyệt vời. Hãy lấy câu hỏi của người dùng, tìm kiếm trong kho lưu trữ của bạn các tài liệu liên quan nhất, chuyển chúng đến mô hình ngôn ngữ và nhận một câu trả lời dựa trên những tài liệu đó. Về mặt lý thuyết, nó giải quyết một cách thanh lịch vấn đề ảo giác: mô hình không còn phải "biết" câu trả lời nữa, mà chỉ cần "đọc" nó trong các đoạn bạn đã cung cấp. Trong thực tế, mỗi mắt xích trong chuỗi — phân mảnh, nhúng, truy xuất, xếp hạng lại, tạo cuối cùng — đều có những cách để bị hỏng, và sự hỏng hóc hiếm khi biểu hiện như một lỗi hiển thị. Nó biểu hiện như một câu trả lời hơi sai. Sau đó là một câu trả lời hoàn toàn sai. Sau đó là một người quản lý tự hỏi tại sao họ lại trả tiền cho một hệ thống biết ít hơn cả thực tập sinh.

Các framework mã nguồn mở đã phổ biến hóa RAG được tạo ra để chứng minh, chứ không phải để sản xuất. Chúng là những chuỗi trừu tượng thanh lịch, trong đó mỗi lớp ẩn chứa một giả định không được nói ra: rằng các tệp PDF của bạn có OCR tốt, ảnh của bạn đã được mô tả, bảng của bạn tuân theo một quy ước, mô hình nhúng thực sự nói ngôn ngữ của bạn (spoiler: nhiều mô hình chỉ nói tốt tiếng Anh), kho lưu trữ của bạn đã được làm sạch các bản sao trùng lặp. Khi một trong những giả định này thất bại — và ít nhất một giả định luôn thất bại, gần như luôn là ba giả định — hệ thống không ngừng hoạt động. Tệ hơn: nó ngừng hoạt động tốt, nhưng vẫn đưa ra câu trả lời. Câu trả lời trôi chảy, tự tin và thường không liên quan đến sự thật.

Có một câu thường được những người xây dựng các hệ thống này lan truyền, và bạn sẽ không bao giờ thấy nó trong các hướng dẫn: "RAG dễ thực hiện, nhưng khó thực hiện tốt." Có một khoảng cách lớn giữa bản demo đầu tiên và dịch vụ trong sản xuất mà không thể lấp đầy bằng cách thêm GPU hoặc thay đổi mô hình. Nó được lấp đầy bằng cách hiểu một điều khó chịu: khi bạn xây dựng một RAG doanh nghiệp, bạn không phải đang viết mã. Bạn đang thiết kế một công cụ tìm kiếm nhỏ, bền bỉ, được tùy chỉnh cho các tài liệu của bạn, với tất cả các lựa chọn biên tập mà điều này mang lại — cái gì là nhiễu, cái gì là tín hiệu, cái gì cần được lập chỉ mục hai lần, cái gì cần phải loại bỏ. Chỉ là trong các hướng dẫn mười dòng, những lựa chọn này đã được thực hiện thay cho bạn, một lần, bởi một người chưa bao giờ nhìn thấy các tài liệu của bạn. Và chúng hầu như luôn sai cho trường hợp của bạn.