SQLite как векторная база: два расширения

Что в ролике
Если для RAG нужен поиск по смыслу, отдельную векторную базу ставить не обязательно: SQLite расширяется до неё двумя способами, и автор показал оба в коде. Первое расширение sqlite-vec делает ставку на простоту и лёгкость, второе sqlite-vector — на производительность и настройки, примерно как pgvector у Postgres. Проекты он поднял через uv, взяв модель эмбеддингов text-embedding-3-small с размерностью 1536: у sqlite-vec это виртуальная таблица vec0 с колонкой float[1536], вспомогательной колонкой для текста и обычной колонкой-метаданными, у sqlite-vector — таблица с BLOB и обязательной инициализацией vector_init, где задаются тип, размерность и метрика расстояния. Вставка векторов тоже различается: в первом случае serialize_float32, во втором json.dumps плюс vector_as_float32, а поиск идёт соответственно через match с указанием K ближайших и через vector_full_scan с join по rowid. Колонка с плюсом становится вспомогательной и в фильтр WHERE не годится — попытка даёт ошибку про illegal WHERE constraint on auxiliary column, поэтому категории объявляют обычными колонками. На тестовых фразах про Python, SQLite, апельсины, яблоки и Linux запрос «I like bananas» вернул апельсины и яблоки с посчитанной дистанцией, то есть поиск по смыслу работает на обычном файле SQLite. Скорость оказалась близкой: на 50 000 случайных векторов 84 против 79 миллисекунд на запрос, на 150 000 — 241 против 231, и разрыв вышел меньше ожидаемого. Зато по памяти и диску картины разные: 50 000 векторов без сжатия занимают 50 МБ против 19,8 МБ с turbo4, а база sqlite-vec с одними сжатыми векторами весит 2,2 МБ, тогда как sqlite-vector использует квантование не для экономии места, а для скорости, и держит оригиналы рядом.
Практика
- Что получишь
- Сможете выбрать расширение под свою задачу и собрать минимальный рабочий пример: создать таблицу с векторами, вставить эмбеддинги, отфильтровать записи по метаданным и получить самые похожие.
- Первый шаг
- Поставить sqlite-vec и повторить пример в базе в памяти на своих пяти фразах, прежде чем переносить схему в настоящий проект.
- Цифры
- —1536 — размерность эмбеддингов text-embedding-3-small, её же указывают в схеме таблицы
- —84 против 79 миллисекунд на запрос при 50 000 векторов и 241 против 231 при 150 000
- —50 МБ против 19,8 МБ — столько занимают 50 000 векторов в полном виде и после квантования turbo4
- —2,2 МБ — размер базы sqlite-vec, если хранить только сжатые векторы; у sqlite-vector после сжатия база становится больше, потому что оригиналы остаются на месте
- Честно
- Пакет второй библиотеки называется не так, как само расширение: pip install sqlite-ai-vector, и автор сам наткнулся на это уже по ходу записи. Бенчмарки — четыре собственных скрипта на случайных векторах, разница в скорости вышла меньше ожидаемой, и автор объясняет это занятым GPU, а не свойствами расширений. Часть шагов видна только на экране: точные команды uv, тексты SQL-запросов и панели терминала; для эмбеддингов нужен свой ключ OpenAI в файле .env или случайные массивы numpy вместо него.
Если слова незнакомы — 6 терминов
- RAGсхема, где модель сначала находит похожие куски ваших данных, а потом отвечает по ним
- эмбеддингнабор чисел, которым модель описывает смысл текста
- виртуальная таблицатаблица, которой управляет расширение, а не сама SQLite
- BLOBдвоичное поле в базе, куда вектор кладут как есть
- метрика расстоянияспособ измерить близость векторов: косинус, евклидово или манхэттенское расстояние
- квантованиесжатие вектора до более грубых чисел, чтобы поиск шёл быстрее
Связки из этого ролика
6 шт.- SQLite + sqlite-vec — виртуальная таблица vec0 и KNN-поиск с distance и top-k
- SQLite + sqlite-vector — векторы как BLOB, vector_init и vector_full_scan с join по rowid
- OpenAI text-embedding-3-small + SQLite (1536 измерений) — генерация и хранение эмбеддингов для RAG
- metadata-колонка + WHERE-фильтр — поиск только внутри нужной категории
- sqlite-vec + turbo4-квантизация — сокращение памяти при поиске (19.8 МБ против 50 МБ)
- uv + Python — создание проектов и запуск скриптов бенчмарков
Компоненты
14 шт.Формат: пошаговый урок · для практикующих · уверенность разметки 0.86 · источник