了解 Genesys Agent Copilot AI 模型和 LLM 输入

创世系统特工副驾驶结合使用 Genesys 原生和AWS Bedrock模型，取决于特征、用例和方言。

笔记：LLM 代币与 Genesys Cloud AI Experience 代币不同。有关 Genesys Cloud AI Experience 令牌和定价的更多信息，请参阅Genesys Cloud AI Experience 代币计量和定价。

Genesys Agent Copilot AI 模型和 LLM 输入

Genesys Agent Copilot 结合使用 Genesys 原生和AWS Bedrock模型，取决于特征、用例和方言。


语言 区域 语言
标签		 Knowledge
surfacing		 Knowledge
浮现答案
highlight		 Intent-based
NBA 		 总结 高级摘要 总结代码预测
英语 澳大利亚  en-AU Genesys Native

AWS Bedrock

 Genesys Native

代币输入
< 6000:Genesys Native

代币输入
> 6000:AWS Bedrock

代币输入
< 6000:Genesys Native

代币输入
> 6000:AWS Bedrock

代币输入
< 6000:Genesys Native

代币输入
> 6000:AWS Bedrock
大不列颠  en-GB Genesys Native AWS Bedrock Genesys Native

代币输入
< 6000:Genesys Native

代币输入
> 6000:AWS Bedrock

代币输入
< 6000:Genesys Native

代币输入
> 6000:AWS Bedrock

代币输入
< 6000:Genesys Native

代币输入
> 6000:AWS Bedrock
美国 en-US Genesys Native AWS Bedrock Genesys Native

代币输入
< 6000:Genesys Native

代币输入
> 6000:AWS Bedrock

代币输入
< 6000:Genesys Native

代币输入
> 6000:AWS Bedrock

代币输入
< 6000:Genesys Native

代币输入
> 6000:AWS Bedrock
荷兰语 荷兰  nl-NL

Genesys Native

 AWS Bedrock* Genesys Native AWS Bedrock AWS Bedrock* AWS Bedrock
法语 加拿大  fr-ca Genesys Native AWS Bedrock* Genesys Native AWS Bedrock AWS Bedrock* AWS Bedrock*
法国 fr-fR Genesys Native AWS Bedrock* Genesys Native AWS Bedrock AWS Bedrock* AWS Bedrock*
德语 德国  德德 Genesys Native AWS Bedrock* Genesys Native AWS Bedrock AWS Bedrock* AWS Bedrock*
意大利语 意大利 It-it Genesys Native AWS Bedrock* Genesys Native AWS Bedrock AWS Bedrock* AWS Bedrock*
日语 日本 jp-JP Genesys Native AWS Bedrock* Genesys Native AWS Bedrock AWS Bedrock* AWS Bedrock*
葡萄牙语 巴西 Pt-Br Genesys Native AWS Bedrock* Genesys Native AWS Bedrock AWS Bedrock* AWS Bedrock*
葡萄牙 Pt-pt Genesys Native AWS Bedrock* Genesys Native AWS Bedrock AWS Bedrock* AWS Bedrock*
西班牙语 美国 es-US Genesys Native AWS Bedrock* Genesys Native AWS Bedrock AWS Bedrock* AWS Bedrock*
西班牙 ES-ES Genesys Native AWS Bedrock* Genesys Native AWS Bedrock AWS Bedrock* AWS Bedrock*

* 路线图

代币概览

标记表示文本片段，例如单词、空格或标点符号的部分。API 处理输入并将输入分解为标记，这些标记并不总是与整个单词对齐。一些关键的近似值包括：

  • 一个标记大约等于四个英文字符
  • 一个标记大约等于一个单词的 ¾
  • 100 个 token 大约等于 75 个单词

 或者： 

  • 1-2 个句子约等于 30 个 token
  • 一个段落大约等于 100 个标记
  • 1,500 个单词约等于 2048 个 token

例如，流行的说法如“Carpe diem”可能有 10 个代币。 一家公司的愿景声明可能包含约 500 个代币。 一首经典诗歌，例如《未选择的路》可能包含大约 1,700 个标记。

语言差异

标记化因语言而异。例如，“Bonjour tout le monde”在法语中意为“大家好”，尽管只有 19 个字符，但却包含 5 个标记。非英语文本可能需要更多令牌，这会影响 API 成本。

代币如何产生

该 API 根据上下文将单词转换为标记，对其进行处理，然后将标记转换回可读的文本。同一个单词可能会分裂成不同的标记，具体取决于它的位置。例如，如果单词“blue”以尾随空格出现或者以大写字母开头，则它可能具有不同的标记。

例子：

  • 带有尾随空格的“蓝色”的标记可能是“4321”。
  • “蓝色”（大写，带有空格）的令牌可能是“4521”。
  • “蓝色”（首字母大写）的标记可能是“5000”。

普通代币价值较低。标点符号，例如逗号，由于使用频繁，往往具有一致的标记 ID。单词可能根据其在句子中的情况或位置而具有不同的标记 ID。