¿Cómo puedo saber cuántos tokens tengo?

Contando tus tokens

Puedes determinar la cantidad de tokens de varias formas: ejecuta la función count_tokens con la entrada de la solicitud. Esto te permitirá ver el total de tokens que hay únicamente en la entrada. Te recomiendo que realices esta llamada antes de enviar la entrada al modelo, así podrás verificar el tamaño de tus solicitudes.