Ishtirokchilarni saqlab qolish

Claude-modellari NordRouter avtomatik ravishda uzoq kontekstlarni kechoqlaydi.Agar siz takrorlanadigan so'rovlarni (sistem-prompt, muloqot tarixi, katta hujjat) bilan o'chirib qo'ysangiz, takrorlanadigan qismni kechoq o'qish narxi bo'yicha, bo'yicha 90% chegirma odatdagi kirish narxi bo'yicha narxlashtiriladi.

Bu qanday ishlaydi

Birinchi so'rovda uzoq kontekst bor kontekst ** saqlanadi ** kecha.
Keyingi so'rovlar o'sha boshlangan o'xshash qism **shartlashtirilgan narxga saqlanadigan saqlanadigan joydan o'qiladi.
Javobda buni usage.prompt_tokens_details orqali ko'rish mumkin.

Bu qancha pulga tushadi?

Pul saqlovchisi Anthropic da ishlaydiganidek, model kirish narxidan ikki stavka bo'yicha ishlaydi:

Operatsiya	Ko'paytiruvchi	Yozilganda
Kash yozuv (cache-write)	×1.25	Birinchi marta kontekst saqlanishiga duch kelganida
O'qish (cache-read)	×0.1 (−90%)	har bir takrorlashda bir xil kontekstda

Har bir modelning aniq narxi o'ziga xosdir ko'ringModellar katalogining. Claude Fable 5 misoli (kirish $1.548/1M): yozuv ≈ $1.94/1M, o'qish ≈ $0.155/1M.

Ishlab chiqarish muddati

Faqatgina etarlicha uzoq kontekstlar (bir necha ming tokendan) saqlanadi. Qisqa so'rovlar odatdagi narxga ko'ra amalga oshiriladi ularga pul saqlanmaydi.

Qanday qilib foydalanish mumkin

1. Avtomatik ravishda hech narsa qilishingiz shart emas.

Aksariyat narsalarga moslash uchun hech narsa yo'q. Agar vositasiz bitta prefiksni (sistem shrift, tarix, katta hujjat) jo'natsa, NordRouter uni o'zi kecha qiladi. ~~~ Bu allaqachon Claude Code, OpenCode, Cline va har qanday tarixli chatbotlarda ishlaydi: har bir qadamda agent butun kontekstni jo'natadi. ~ ~ Birinchi qadam kechaga yoziladi, keyingi har bir qadam uni 90% chegirma bilan o'qiydi.

2. Qopxona ishlaganini tekshirish.

Javobda usage blokini ko'ring agar kirishning bir qismi saqlanishga o'tgan bo'lsa, u erda cached_tokens bo'ladi:

json

"usage": {
  "prompt_tokens": 21364,
  "prompt_tokens_details": {
    "cached_tokens": 21361     // ← прочитано из кэша по ×0.1
  },
  "completion_tokens": 40
}

cached_tokens > 0 degani, ushbu kirish qismini o'qish narxidan, to'liq emas, balki o'qish narxidan hisoblab chiqarilgan.

3. O'z qo'lingizdan boshqarish `cache_control` orqali.

Agar siz o'zingiz o'zingiz tasdig'ini belgilashni istasangiz (endpoint /v1/messages), blokning oxirida cache_control belgisini qo'ying va uni qayta ishlating, masalan, systemdagi katta ko'rsatkichda.

curlPython (Anthropic SDK)

bash

curl https://nordrouter.com/v1/messages \
  -H "x-api-key: sk-nr-ВАШ-КЛЮЧ" \
  -H "anthropic-version: 2023-06-01" \
  -H "content-type: application/json" \
  -d '{
    "model": "anthropic/claude-fable-5",
    "max_tokens": 512,
    "system": [
      {
        "type": "text",
        "text": "Ты ассистент по нашей документации. Вот справочник: <...много текста...>",
        "cache_control": { "type": "ephemeral" }
      }
    ],
    "messages": [{ "role": "user", "content": "Первый вопрос по справочнику?" }]
  }'

python

from anthropic import Anthropic

client = Anthropic(base_url="https://nordrouter.com", api_key="sk-nr-ВАШ-КЛЮЧ")

resp = client.messages.create(
    model="anthropic/claude-fable-5",
    max_tokens=512,
    system=[{
        "type": "text",
        "text": "Ты ассистент по нашей документации. Вот справочник: <...>",
        "cache_control": {"type": "ephemeral"},   # кэшируем справочник
    }],
    messages=[{"role": "user", "content": "Первый вопрос по справочнику?"}],
)
print(resp.usage)  # cache_creation_input_tokens на 1-м запросе, cache_read на след.

Birinchi so'rov *diraktorni *kechga yozib qo'yadi, keyingi so'rovlar ham xuddi shunday. system **** uni x 0.1 ga o'qib berishadi. cache_control Avto-qopxona har doim ustuvorlik bilan bunday so'rovlarga aralashmaydi.

Tumbler shaxsiy kabinetda.

LK→ Setting → Navga qo'yish (Claude):

Mashq qilingan (devoldan) barcha Claude so'rovlari uchun avtomatik saqlov, o'z belgilari bo'lmagan holda.
**Qayta ishlatilmaydigan saqlov uchun pul to'lamaslik uchun har bir so'rovingiz to'liq noyob bo'lsa, **Qayta o'chirib tashlash kerak.
Agar siz o'zingiz cache_controlni o'tkazsangiz ham, Tumblerning joylashuvi muhim emas, sizning belgilaringiz hali ham ustuvor bo'ladi.

Xavflanishning bir misoli

40 sahifadagi (~30 000 token) ko'rsatkich, unga 10 ta Claude Fable 5 savollari qo'shilib:

	Kasxasiz	S kasxasiz
Nima ro'yxatdan o'tkaziladi	10 × 30k kirish	1 yozuv + 9 o'qish
Kirish qiymati	~$0.46 (≈41)	~$0.10 (≈9)

Qimmatlik tejaydi 78% va bir xil kontekstga qo'yilgan savollar qancha ko'p bo'lsa, ta'sir shunchalik kuchli bo'ladi. ~~~ Shu sababli agent kodlash (kuntexdan o'nlab marta foydalanilgan) ancha arzonroq.

Ishtirokchilarni saqlab qolish ​

Bu qanday ishlaydi ​

Bu qancha pulga tushadi? ​

Qanday qilib foydalanish mumkin ​

1. Avtomatik ravishda hech narsa qilishingiz shart emas. ​

2. Qopxona ishlaganini tekshirish. ​

3. O'z qo'lingizdan boshqarish cache_control orqali. ​

Tumbler shaxsiy kabinetda. ​

Xavflanishning bir misoli ​