Bài kiểm tra của bạn đã vượt qua vào thứ Hai với cùng đầu vào, cùng mã và temperature=0. Đến thứ Ba, nó thất bại dù bạn không thay đổi gì: mô hình vẫn trả lời đúng ý, nhưng diễn đạt khác đi một chút. Nếu bạn đang dùng assert response == "...", bạn sẽ phải gỡ lỗi bộ kiểm thử thay vì sản phẩm.
Dùng thử Apidog ngay hôm nay
Đây là cái giá khi kiểm thử bất kỳ luồng nào gọi mô hình ngôn ngữ. Đầu ra có thể dịch chuyển dù bạn đặt temperature=0, vì vậy không nên kỳ vọng phản hồi giống hệt từng byte qua nhiều lần chạy. Bài viết này tập trung vào cách thay thế các khẳng định chuỗi chính xác bằng các kiểm tra hợp đồng bền vững hơn. Đây là phần tìm hiểu sâu về chế độ lỗi thứ ba trong hướng dẫn về lý do tác nhân AI thất bại trong môi trường production.
Tại sao temperature=0 không có nghĩa là xác định
temperature kiểm soát cách mô hình lấy mẫu token tiếp theo. Khi bằng 0, mô hình ưu tiên token có xác suất cao nhất. Điều này giúp giảm biến thiên, nhưng không đảm bảo tái tạo hoàn toàn đầu ra.
