ExaSnapshot: поиск по прошлому веба для бэктеста

Что в ролике
Если вы строите финансовые или прогнозные модели и хотите проверять их на веб-данных задним числом, ExaSnapshot от Exa предлагает искать по более чем 400 млрд снапшотов веба с привязкой к дате. Автор, инженер Exa Ryan Ahern, объясняет, что агенты делают много подробных запросов, поэтому провайдер поиска должен быть точным, дешёвым и быстрым. Как пример экономии он приводит динамические хайлайты, которые сокращают объём передаваемого текста на 95% по сравнению с полными страницами. Ключевая идея версии — выполнить поиск так, будто вы находитесь в прошлом, и получить только те результаты, что существовали на выбранную дату или раньше. Он разбирает кейс с выручкой OpenAI: в начале октября писали о 70 млрд долларов годового дохода, позже скорректировали до 50 млрд из-за учёта выручки от облачных провайдеров. С версионированным поиском можно проверить, какие данные были доступны до публичной коррекции и могла ли модель уловить расхождение заранее. Для бэктестинга моделей Snapshot позволяет собирать неструктурированные данные о ценах, сентименте или условиях сайтов на нужный момент времени и добавлять агентные фичи вроде поиска негативных публикаций. На воркшопе около 100 человек пробовали предсказывать поглощения компаний: признак «цена акций ниже 60% от 5-летнего максимума» работал, а признак «компания называется Dominion» оказался переобучением, которое можно отловить на историческом вебе с помощью eval-наборов.
Практика
- Что получишь
- Поймёте, как проверять модели и веб-сигналы задним числом, чтобы не ждать месяцы в проде, и как отделить реальные признаки от переобучения.
- Первый шаг
- Открыть документацию Exa API и запустить простой запрос к ExaSnapshot, указав URL и дату в прошлом, например страницу тарифов вашего поставщика.
- Цифры
- —400 млрд+ — столько снапшотов веба доступно в ExaSnapshot
- —95% — на столько сокращается объём текста при динамических хайлайтах по сравнению с полными страницами
- —70 млрд → 50 млрд долларов — пример годовой выручки OpenAI до и после учёта выручки от облачных провайдеров
- —60% — на столько цена акций должна быть ниже 5-летнего максимума в одном из признаков воркшопа
- Честно
- Выступление ведёт инженер Exa, поэтому это промо собственных продуктов, а не независимый тест конкурентов. Для повторения примеров нужен доступ к API Exa, условия которого в ролике не названы, а конкретные запросы и код не показаны — их придётся изучать в документации или на слайдах.
Если слова незнакомы — 5 терминов
- снапшотсохранённая копия веб-страницы на определённый момент времени
- бэктестингпроверка модели или стратегии на исторических данных, как если бы она работала в прошлом
- токенединица текста, за обработку которой модели платят при инференсе
- переобучениезапоминание случайных особенностей обучающих данных вместо общих закономерностей
- eval-наборнабор примеров для оценки качества модели или агента
Компоненты
10 шт.Формат: разбор · для практикующих · уверенность разметки 0.85 · источник