А почему у провайдера DeepSeek рассматривается только одно число в табличке? :)
Для разработки использую официальный DeepSeek Harness: контекст стараюсь не раздувать, но даже после 100 тыс. токенов кэш доходит до 98–99%. За сентябрь на последней модели в таком сценарии у меня наелось 69 241 952 токенов общей стоимостью 5.90 юаня, что по свежему курсу даёт средний ценник в 0.013$/1M.
Ещё немного о том, почему покупать инференс через прокладки плохо:
1) любой такой роутер добавляет свою комиссию, поэтому дешевле всегда будет заплатить провайдеру напрямую. Исключение составляют всякие подписки вроде Opencode Go, которые заключают партнерские соглашения с провайдерами и могут действительно предоставлять более дешевый инференс (но вряд ли вечно);
2) пользуясь таким сервисом, вы не можете быть уверены в качестве услуги, которую оплачиваете: можно наткнуться на модель с агрессивной квантизацией, которая, наверное, будет довольно дешёвой, но качество результата ухудшится;
3) в случае с DeepSeek официальный провайдер предоставляет абсурдно низкую цену за кэшированные токены — роутеры же с кэшем дружат примерно никак и предоставляют просто среднюю взвешенную цену за входящие токены
А почему у провайдера DeepSeek рассматривается только одно число в табличке? :)
Для разработки использую официальный DeepSeek Harness: контекст стараюсь не раздувать, но даже после 100 тыс. токенов кэш доходит до 98–99%. За сентябрь на последней модели в таком сценарии у меня наелось 69 241 952 токенов общей стоимостью 5.90 юаня, что по свежему курсу даёт средний ценник в 0.013$/1M.
Ещё немного о том, почему покупать инференс через прокладки плохо:
1) любой такой роутер добавляет свою комиссию, поэтому дешевле всегда будет заплатить провайдеру напрямую. Исключение составляют всякие подписки вроде Opencode Go, которые заключают партнерские соглашения с провайдерами и могут действительно предоставлять более дешевый инференс (но вряд ли вечно);
2) пользуясь таким сервисом, вы не можете быть уверены в качестве услуги, которую оплачиваете: можно наткнуться на модель с агрессивной квантизацией, которая, наверное, будет довольно дешёвой, но качество результата ухудшится;
3) в случае с DeepSeek официальный провайдер предоставляет абсурдно низкую цену за кэшированные токены — роутеры же с кэшем дружат примерно никак и предоставляют просто среднюю взвешенную цену за входящие токены
Я когда сравнивал цены совсем забыл про cache hit. На официальном сайте DeepSeek указаны цены и для кеша, а у OpenRouter и RouterAI нет. Только сегодня утром, когда проснулся, подумал про кеш еще =)
Как я понял, официальный DeepSeek хоть и дорогой на первый взгляд, но из-за хорошего cache hit будет дешевле, чем роутеры?
Я когда сравнивал цены совсем забыл про cache hit. На официальном сайте DeepSeek указаны цены и для кеша, а у OpenRouter и RouterAI нет. Только сегодня утром, когда проснулся, подумал про кеш еще =)
Как я понял, официальный DeepSeek хоть и дорогой на первый взгляд, но из-за хорошего cache hit будет дешевле, чем роутеры?
По моему опыту — да :)
По моему опыту — да :)
ИИ Агенты
Обсуждаем вопросы касающиеся ИИ агентов, делимся новостями и личным опытом. ИИ Агенты - это LLM большие языковые модели (LLM), способные "использовать инструменты" или "выполнять функции" в автономном или полуавтономном режиме (также известном как режим с участием человека — human-in-the-loop).
Создано
Публичное
8
посетителей в неделю
5
опубликованных материалов в неделю
ПРАВИЛА ИИ Агенты
Стоимость DeepSeek на OpenRouter VS RouterAI vs DeepSeek
Сравнил только DeepSeek Flash (latest)
Сравнил только DeepSeek Flash (latest)