generated from template/astro-template
704 B
704 B
| share | title | date |
|---|---|---|
| private | AI Token 记录 | 2025-05-25 01:30:00 |
当使用 AI 的时候，如果需要做什么任务的话，其实感觉 token 的消耗数是非常的大的。如果想要消耗的不那么大，就必须要精致化的功能模块，代码就必须要细致。
比如指令和任务匹配，比如文本需要抽取。
为什么我会觉得消耗大呢，假如用户有一个 agent 任务，首先要分析用户的意图，要把所有要调用的函数都列出来给到ai，当ai返回结果的时候，还要把结果返回给用户，用户调用对应的函数，生成的结果又给到ai，ai再返回给用户。在n多次的循环中，就有很多的消耗。