Без рынков compute новые AI-стартапы умрут

Что в ролике
Если вы запускаете AI-стартап, то рано или поздно упрётесь не в доступность GPU, а в кредит: все продавцы сейчас распроданы, а новый кластер требует депозит, который вырос с $10 млн три года назад до $1 млрд сегодня. Эван сам столкнулся с этим: его стартап Junlark привлёк $500 тыс., купил кластер и был вынужден стать первым GPU-брокером, чтобы не обанкротиться. Эван Конрад из San Francisco Compute объясняет, что облака не могут финансировать кластеры без долгосрочных контрактов, потому что AI-компании чувствительны к цене и имеют плохой кредитный рейтинг. Его компания строит физически расчётный форвардный рынок compute, где оператор владеет и рынком, и самим железом, как сетка для вычислений. Вместо оценки кредитного риска клиента нужно оценивать стоимость самого GPU-кластера. При этом очень соблазнительно просто стать облачным провайдером и подписывать миллиардные сделки, но тогда рынка не будет. Другой сценарий — инференс-компании перекладывают риск на клиентов, требуя пятилетние контракты и предоплату на $100 млн, что убивает стартапы. Конрад настаивает: если не решить проблему compute-рынков, через 3–5 лет новых AI-стартапов просто не будет.
Практика
- Что получишь
- Понимание, почему AI-стартапы упираются в депозиты и кредит, а не в доступность GPU, и как рынок compute-контрактов мог бы решить эту проблему.
- Первый шаг
- Посчитайте, сколько вам нужно GPU-часов и какой депозит потребует облако, чтобы понять, насколько вы завязаны на кредитный риск.
- Цифры
- —$10 млн — депозит за GPU-кластер, который требовался три года назад для запуска AI-лаборатории
- —$1 млрд — сегодняшний размер депозита, который, по словам Конрада, нужен для старта нового AI-проекта
- —$100 млн — сумма предоплаты или пятилетнего контракта, которую инференс-компании требуют от стартапов в сценарии без compute-рынка
- Честно
- Доклад Эвана Конрада продвигает его компанию San Francisco Compute, которая зарабатывает на этом рынке, поэтому его прогнозы и рекомендации не нейтральны. Цифры о депозитах ($10 млн, $1 млрд) и сроках (3–5 лет) — его оценки, а не независимые данные. В записи нет практических инструкций или таблиц с тарифами; часть аргументов опирается на предыдущий доклад, который в этом видео не показан.
Если слова незнакомы — 3 терминов
- compute marketрынок, где вычислительные мощности (GPU-часы) продаются как стандартный товар, а не как услуга конкретного облака
- физически расчётный форвардный рынокбиржа, на которой контракт на мощности исполняется реальной поставкой железа, а не денежной выплатой
- инференсвыполнение обученной модели для получения ответов, в отличие от обучения
Компоненты
1 шт.Формат: мнение · для бизнеса · уверенность разметки 0.92 · источник