Làm thế nào để giảm chi phí mà không làm giảm chất lượng? Trả về JSON {"tactics": [danh sách hơn 2 kỹ thuật], "why": "ngắn gọn"}.
AI gọi chi phí cho mỗi mã thông báo—trên một luồng, đây là mục chi phí chính của sản phẩm. Kế hoạch ngây thơ “chúng tôi điều khiển mọi thứ thông qua mô hình mạnh mẽ nhất” đã bị hủy hoại. Đòn bẩy tiết kiệm: hướng các nhiệm vụ đơn giản sang mô hình rẻ/nhanh và dành phần đầu cho các mô hình phức tạp (định tuyến); lưu trữ các phản hồi và lời nhắc trùng lặp; giới hạn max_tokens để mô hình không bị lan rộng; cắt ngữ cảnh bổ sung trong lời nhắc (mỗi mã thông báo bổ sung là tiền cho mỗi yêu cầu); yêu cầu nhóm (lô) nếu có thể. Quy tắc: 80% yêu cầu thường đơn giản - gửi chúng qua hạm là lãng phí. Tính toán chi phí cho mỗi 1000 yêu cầu trước khi ra mắt.