Skip to content

vector-search-auto-embedding-amazon-titan.md

Latest commit

 

History

History
135 lines (105 loc) · 4.53 KB

vector-search-auto-embedding-amazon-titan.md

File metadata and controls

135 lines (105 loc) · 4.53 KB
title Amazon Titan Embeddings
summary 了解如何在 TiDB Cloud 中使用 Amazon Titan 嵌入模型。
aliases
/zh/tidbcloud/vector-search-auto-embedding-amazon-titan/

Amazon Titan Embeddings

本文档介绍如何在 TiDB Cloud 中结合 Auto Embedding 使用 Amazon Titan 嵌入模型，通过文本查询实现语义搜索。

注意：

Auto Embedding 仅适用于托管在 AWS 上的 TiDB Cloud Starter 集群。

可用模型

TiDB Cloud 原生提供以下 Amazon Titan 嵌入模型。无需 API 密钥。

Amazon Titan Text Embedding V2 模型

  • 名称：tidbcloud_free/amazon/titan-embed-text-v2
  • 维度：1024（默认）、512、256
  • 距离度量：Cosine、L2
  • 支持语言：英语（预览版支持 100+ 种语言）
  • 典型用例：RAG、文档搜索、重排序、分类
  • 最大输入文本 token 数：8,192
  • 最大输入文本字符数：50,000
  • 价格：免费
  • 由 TiDB Cloud 托管：✅
  • 支持 Bring Your Own Key（BYOK，由用户自行提供 API 密钥）：❌

关于该模型的更多信息，请参见 Amazon Bedrock 文档。

SQL 使用示例

以下示例展示了如何结合 Auto Embedding 使用 Amazon Titan 嵌入模型。

CREATE TABLE sample (
  `id`        INT,
  `content`   TEXT,
  `embedding` VECTOR(1024) GENERATED ALWAYS AS (EMBED_TEXT(
                "tidbcloud_free/amazon/titan-embed-text-v2",
                `content`
              )) STORED
);


INSERT INTO sample
    (`id`, `content`)
VALUES
    (1, "Java: Object-oriented language for cross-platform development."),
    (2, "Java coffee: Bold Indonesian beans with low acidity."),
    (3, "Java island: Densely populated, home to Jakarta."),
    (4, "Java's syntax is used in Android apps."),
    (5, "Dark roast Java beans enhance espresso blends.");


SELECT `id`, `content` FROM sample
ORDER BY
  VEC_EMBED_COSINE_DISTANCE(
    embedding,
    "How to start learning Java programming?"
  )
LIMIT 2;

结果：

+------+----------------------------------------------------------------+
| id   | content                                                        |
+------+----------------------------------------------------------------+
|    1 | Java: Object-oriented language for cross-platform development. |
|    4 | Java's syntax is used in Android apps.                         |
+------+----------------------------------------------------------------+

选项

你可以通过 EMBED_TEXT() 函数的 additional_json_options 参数指定以下选项：

  • normalize（可选）：是否对输出 embedding 进行归一化。默认为 true。
  • dimensions（可选）：输出 embedding 的维度数。支持的取值：1024（默认）、512、256。

示例：使用其他维度

CREATE TABLE sample (
  `id`        INT,
  `content`   TEXT,
  `embedding` VECTOR(512) GENERATED ALWAYS AS (EMBED_TEXT(
                "tidbcloud_free/amazon/titan-embed-text-v2",
                `content`,
                '{"dimensions": 512}'
              )) STORED
);


INSERT INTO sample
    (`id`, `content`)
VALUES
    (1, "Java: Object-oriented language for cross-platform development."),
    (2, "Java coffee: Bold Indonesian beans with low acidity."),
    (3, "Java island: Densely populated, home to Jakarta."),
    (4, "Java's syntax is used in Android apps."),
    (5, "Dark roast Java beans enhance espresso blends.");


SELECT `id`, `content` FROM sample
ORDER BY
  VEC_EMBED_COSINE_DISTANCE(
    embedding,
    "How to start learning Java programming?"
  )
LIMIT 2;

结果：

+------+----------------------------------------------------------------+
| id   | content                                                        |
+------+----------------------------------------------------------------+
|    1 | Java: Object-oriented language for cross-platform development. |
|    4 | Java's syntax is used in Android apps.                         |
+------+----------------------------------------------------------------+

另请参阅