Эмбеддинги

Векторы текстов для поиска, RAG и рекомендаций — моделями OpenAI и Google через формат OpenAI.

POST/v1/embeddings

Эмбеддинг — вектор чисел, который передаёт смысл текста: похожие по смыслу тексты дают близкие векторы. На них строят семантический поиск, RAG, рекомендации и кластеризацию.

Запрос#

import os
from openai import OpenAI

client = OpenAI(base_url="https://api.flua.ink/v1", api_key=os.environ["FLUA_API_KEY"])

result = client.embeddings.create(model="text-embedding-3-small", input="Стрижи проводят в полёте почти всю жизнь")
print(len(result.data[0].embedding))

Параметр	Тип	Описание
`model`*	string	Модель эмбеддингов.
`input`*	string \| string[]	Текст или массив текстов — до 2048 штук за запрос.
`dimensions`	integer	Укоротить вектор (text-embedding-3-*): меньше места в базе, чуть ниже точность.
`encoding_format`	string	float (по умолчанию) или base64.

Ответ#

200 OK

{
  "object": "list",
  "model": "text-embedding-3-small",
  "data": [
    { "object": "embedding", "index": 0, "embedding": [0.0123, -0.0456, …] }
  ],
  "usage": { "prompt_tokens": 9, "total_tokens": 9 }
}

Модели#

Text Embedding 3 Large — text-embedding-3-large
Text Embedding 3 Small — text-embedding-3-small
Text Embedding Ada 002 — text-embedding-ada-002
Gemini Embedding 2 Preview — gemini-embedding-2-preview

Эмбеддинги оплачиваются только за входящие токены. Векторы разных моделей несовместимы: если сменили модель — пересчитайте всю базу, поэтому запасная модель к эмбеддингам не применяется.