Профиль

Дан Кахян

u/447476262

А почему у провайдера DeepSeek рассматривается только одно число в табличке? :)

Для разработки использую официальный DeepSeek Harness: контекст стараюсь не раздувать, но даже после 100 тыс. токенов кэш доходит до 98–99%. За сентябрь на последней модели в таком сценарии у меня наелось 69 241 952 токенов общей стоимостью 5.90 юаня, что по свежему курсу даёт средний ценник в 0.013$/1M.

Ещё немного о том, почему покупать инференс через прокладки плохо:

1) любой такой роутер добавляет свою комиссию, поэтому дешевле всегда будет заплатить провайдеру напрямую. Исключение составляют всякие подписки вроде Opencode Go, которые заключают партнерские соглашения с провайдерами и могут действительно предоставлять более дешевый инференс (но вряд ли вечно);

2) пользуясь таким сервисом, вы не можете быть уверены в качестве услуги, которую оплачиваете: можно наткнуться на модель с агрессивной квантизацией, которая, наверное, будет довольно дешёвой, но качество результата ухудшится;

3) в случае с DeepSeek официальный провайдер предоставляет абсурдно низкую цену за кэшированные токены — роутеры же с кэшем дружат примерно никак и предоставляют просто среднюю взвешенную цену за входящие токены

Дан Кахян

1

Карма

2

Постов и комментариев