VITALIFY.ASIA logo

Vì sao AI chạy tốt trên giao diện chat lại không chạy được trong sản phẩm

AI tạo sinh có thể chạy tốt trên giao diện chat nhưng cho kết quả khác khi tích hợp qua API. Qua ví dụ trích xuất bảng thông số từ PDF, bài viết giải thích 3 rào cản thường gặp: chuẩn hóa đầu ra, giới hạn phạm vi đọc và độ trễ khi xử lý ở quy mô thực tế, cùng cách xử lý phù hợp.

Nihei TomotakaNihei Tomotaka
Vì sao AI chạy tốt trên giao diện chat lại không chạy được trong sản phẩm
Nội dung bài viết

Đưa tài liệu nghiệp vụ cho ChatGPT đọc, kết quả tốt hơn mong đợi. Vậy là nhờ tích hợp vào hệ thống của công ty, nhưng sản phẩm làm ra lại không hoạt động như ý. Khi tư vấn về sản phẩm tích hợp AI tạo sinh, chúng tôi gặp tình huống này rất thường xuyên.

Khi tìm nguyên nhân, cần so sánh không chỉ mô hình AI mà cả phần xử lý xung quanh nó. Dù dùng cùng một mô hình, giao diện chat và sản phẩm vẫn khác nhau về cách xử lý đầu vào và các chức năng được dùng. Bài viết này giải thích sự khác biệt đó và ba rào cản dễ gặp khi tích hợp.

Khác biệt giữa giao diện chat và API

Trong bài viết này, giao diện chat là màn hình dùng ChatGPT, Gemini hay Claude trên trình duyệt hoặc ứng dụng. Khi tích hợp vào hệ thống của công ty, ta dùng AI qua API (cửa ngõ để chương trình gọi tới).

Giao diện chat là một dịch vụ gói sẵn mô hình cùng các chức năng đọc tệp, tìm kiếm, lịch sử hội thoại và hiển thị kết quả. Khi tích hợp qua API, ta chọn những chức năng nghiệp vụ cần dùng rồi nối với phần xử lý của ứng dụng. API cũng có chức năng như tìm kiếm hay quản lý trạng thái hội thoại, nhưng dùng gì và truyền gì là do bên phát triển quyết định (OpenAI API: sử dụng công cụ, quản lý trạng thái hội thoại).

Giao diện chat gói sẵn các chức năng quanh mô hình. Với API, bên phát triển chọn và kết nối chức năng cần dùng

Nói cách khác, một phần lý do giao diện chat chạy tốt có thể nằm ở cơ chế phía sau chứ không phải ở AI. Tích hợp bắt đầu từ việc liệt kê những chức năng mà ta đã dùng một cách tự nhiên trên giao diện chat.

Tình huống: biến bảng thông số trong PDF thành dữ liệu

Lấy ví dụ một công ty thương mại linh kiện điện tử. Mỗi nhà sản xuất linh kiện phát hành một tệp PDF gọi là datasheet cho từng linh kiện. Công ty thương mại này có nhân viên chép từng bảng điện áp, dòng điện trong đó sang Excel bằng tay. Việc thử nghiệm là xem có thể dùng AI để tự động hóa hay không.

Mỗi nhà sản xuất trình bày bảng một kiểu. Hãng này ghi "Điện áp nguồn" là "2.7V〜5.5V", hãng khác ghi "Điện áp hoạt động" là "3.3V ±10%". Có nơi dùng mA, nơi dùng µA, và cách xếp mục theo cột dọc hay hàng ngang cũng khác nhau. Mục tiêu là một bảng duy nhất, trong đó dữ liệu của mọi hãng đều có cùng hạng mục và đơn vị.

Các bảng khác nhau của từng hãng được đưa về một bảng duy nhất có cùng hạng mục và đơn vị

Khi thử trên giao diện chat, các số liệu trong bảng được trích xuất chính xác. Nhưng khi tích hợp vào sản phẩm, chúng tôi gặp ba rào cản.

Rào cản 1: Tên gọi không thống nhất

Cùng một hạng mục nhưng tên khác nhau, như "Điện áp nguồn", "Điện áp hoạt động" hay "Supply Voltage". Nếu AI trả về đúng tên ghi trong bảng, hệ thống sẽ coi mỗi tên là một cột riêng. Các giá trị cùng ý nghĩa bị tách thành ba cột, không thể so sánh hay tìm kiếm.

Cách xử lý là quyết định trước hạng mục và đơn vị cần trả về. Chuẩn bị sẵn các ô như "điện áp nguồn tối thiểu (V)", rồi yêu cầu AI điền giá trị trong bảng vào đó. Tên giống nhau vẫn có thể khác về điều kiện hay ý nghĩa, nên cần kiểm tra cả ghi chú để phân biệt.

Trên giao diện chat, câu trả lời hơi lộn xộn vẫn đọc hiểu được vì có người đọc. Trong sản phẩm, câu trả lời được đưa thẳng vào hệ thống, nên nếu định dạng không đồng nhất thì không dùng được.

Rào cản 2: Đưa nguyên cả trang thì AI đọc cả phần thừa

Một trang datasheet ngoài bảng cần đọc còn có biểu đồ, ghi chú và các bảng khác. Trên giao diện chat, đưa nguyên cả trang vẫn đọc đúng bảng cần thiết, nhưng khi truyền theo cách tương tự qua API thì AI lại lấy nhầm số liệu của bảng gần đó.

Chúng tôi không biết sự khác biệt này đến từ khâu xử lý nào của giao diện chat. Có thể do mô hình, cách đọc tệp, chỉ dẫn hoặc thiết lập. Vì vậy, thay vì suy đoán bên trong rồi cố tái hiện, chúng tôi thử thu hẹp phạm vi cần đọc trước.

Đưa nguyên cả trang so với chỉ đưa vùng cần đọc

Có nhiều cách chỉ phạm vi cho AI: nhờ người chọn vùng, đánh dấu bảng, hoặc cắt riêng bảng rồi đưa vào. Cách nào phù hợp tùy vào tài liệu và nghiệp vụ, nên cần vừa thử vừa quyết định.

Rào cản 3: Thời gian chờ chỉ lộ ra ở khối lượng thật

Khi thử nghiệm, chúng tôi chạy từng trang một nên không nhận ra tổng thời gian xử lý. Trong thực tế có hàng nghìn hạng mục, và mỗi datasheet dài vài chục trang. Xử lý chỉ mất vài giây với một trang sẽ mất vài phút khi lên đến hàng trăm trang. Nếu màn hình cứ hiện "Đang xử lý" suốt thời gian đó, người dùng sẽ nghĩ là bị hỏng và muốn tải lại trang.

Chúng tôi không thể làm cho bản thân quá trình xử lý nhanh hơn, nên đã thay đổi cách hiển thị. Thay vì bắt chờ đến khi xong hết, mỗi khi có một dòng là hiện ngay lên màn hình. Cách nhận và hiển thị kết quả từng chút một được gọi là streaming (phản hồi streaming của OpenAI API). Khi xử lý nhiều trang, cũng có thể để ứng dụng gửi kết quả lên màn hình mỗi khi xong một trang hoặc một dòng. Dù API có streaming, việc hiển thị kết quả và tiến độ cho người dùng thế nào vẫn do phía ứng dụng thiết kế.

Màn hình bắt chờ đến khi xong hết so với màn hình hiện từng dòng khi xong

Dù thời gian không đổi, nếu kết quả tăng dần thì người dùng có thể vừa chờ vừa theo dõi tiến độ.

Áp dụng cho các nghiệp vụ khác

Cách nghĩ này áp dụng được cho nghiệp vụ hội đủ ba đặc điểm: khối lượng lớn, định dạng không đồng nhất và cần đưa vào hệ thống.

NgànhVí dụ
LogisticsĐưa bảng giá cước, mỗi hãng vận tải ghi một kiểu, vào hệ thống báo giá
Tài chính・nghiên cứuTổng hợp số liệu báo cáo kết quả kinh doanh của từng công ty thành bảng so sánh
Giao thôngBiến lịch tàu của từng ga thành dữ liệu cho dịch vụ tra cứu lộ trình

Cần kiểm tra gì khi đã chạy tốt trên giao diện chat

Danh sách kiểm tra
・Đã quyết định định dạng cần nhận về (hạng mục và đơn vị) chưa?
・Đã thu hẹp phạm vi đưa cho AI chưa?
・Đã quyết định thời gian chờ ở khối lượng thật và cách hiển thị chưa?
・Đã quyết định cách kiểm tra giá trị nhận về và cách xử lý khi không đọc được chưa?

Thành công trên giao diện chat chỉ là điểm xuất phát của việc kiểm chứng. Kiểm tra sớm điều gì xảy ra khi chạy tài liệu đúng định dạng thật với khối lượng thật sẽ giúp giảm việc làm lại về sau.

Nếu bạn đang cân nhắc sản phẩm tích hợp AI tạo sinh, hãy liên hệ với chúng tôi. Nếu có tài liệu đã dùng khi kiểm chứng cùng kết quả mong đợi và kết quả thực tế, chúng tôi sẽ sắp xếp các điểm cần kiểm tra một cách cụ thể.


Bài viết này tổng hợp lại nội dung webinar "Vì sao AI chạy được trên trình duyệt lại không chạy được trong sản phẩm" tổ chức ngày 28/10/2026. Tình huống là giả định dựa trên kinh nghiệm phát triển của chúng tôi, còn các rào cản và cách xử lý đều từ các dự án thực tế. Thông số kỹ thuật của từng dịch vụ liên tục được cập nhật.

Đừng để ý tưởng chỉ nằm trên giấy. Với tốc độ và sự linh hoạt đã được chứng minh qua 1.000+ dự án, chúng tôi sẽ giúp doanh nghiệp của bạn bứt phá.

Quay lại Blog
I'm Duper, ask me anything!