| 日本語 | トークン課金/推論コスト |
|---|---|
| English | Token Cost |
| 中文 | Token成本 |
トークン課金/推論コストとは
トークン課金は、生成AIのAPIなどで、入力と出力のトークン数に応じて料金が発生する仕組みです。社内展開で利用者や処理件数が増えると費用が急に膨らむことがあり、推論コストとして運用費の大きな部分を占めます。モデルの使い分けや、渡す文書量の削減、小規模モデルの活用などで抑える工夫が必要です。
Definition (English)
A pricing model in which generative AI usage is billed by the number of input and output tokens. Costs can rise sharply as usage scales, so model selection, trimming context and using smaller models are common controls.
释义(中文)
生成式AI按输入和输出词元数计费的机制。随着使用规模扩大费用可能迅速增加,常通过选择合适模型、精简输入内容、使用小模型等方式控制。
関連する用語
この用語を引用・埋め込む
この釈義は CC BY 4.0(表示 4.0 国際)で提供しています。出典(このページへのリンク)を明記すれば、商用を含めて自由に複製・改変・再配布できます。
出典表記の例
株式会社サオス MFG-AI「製造業AI用語集:トークン課金/推論コスト」https://mfg-ai.com/terms/token-cost(CC BY 4.0)
HTMLで埋め込む
<blockquote cite="https://mfg-ai.com/terms/token-cost"> <p>トークン課金は、生成AIのAPIなどで、入力と出力のトークン数に応じて料金が発生する仕組みです。</p> <footer>出典:<a href="https://mfg-ai.com/terms/token-cost">株式会社サオス MFG-AI「製造業AI用語集:トークン課金/推論コスト」</a>(<a href="https://creativecommons.org/licenses/by/4.0/deed.ja">CC BY 4.0</a>)</footer> </blockquote>