Spotřeba
Objasněte spotřebované zdroje a výdaje účtu pomocí správných jednotek, období a záznamů o provedených operacích.
Spotřeba propojuje výdaje s prací, která za nimi stojí. Historie účtu ukazuje, co organizace za dané období spotřebovala. Záznamy o modelech a tokenech objasňují generování. Jednotlivá spuštění ukazují, které operace se dokončily, opakovaly nebo zachovaly dřívější výstup. Tyto záznamy spolu souvisejí, jejich souhrnné hodnoty však nejsou zaměnitelné.
Nejprve si ujasněte účetní otázku #
Vyberte organizaci a období, za které chcete údaje porovnat a ověřit, a projděte historii výdajů. Práci, která za těmito výdaji stojí, objasní časové řady nákladů na modely a počtů tokenů. U konkrétních spuštění se podívejte na záznamy o spuštění nebo náklady. Při porovnávání souhrnných hodnot používejte stejné filtry, časové rozmezí a časové pásmo.
Více cílových jazyků, nový výstup, opakované pokusy nebo změny v opětovném využití mohou zvýšit počet tokenů modelu. Samotný nárůst ale nevysvětluje celou změnu fakturované částky. Než rozdíl připíšete jednomu modelu, přiřaďte zaznamenanou práci k odpovídajícím kategoriím poplatků.
Zaznamenané náklady a počty výstupních tokenů mohou posloužit k odhadu srovnatelné budoucí práce. Nenahrazují však ceník poskytovatele, fakturu ani zaručenou sazbu. Fakturace se věnuje zůstatkům, nákupům, platbám a stavu plánu.
Rozlišujte jednotky #
| Veličina | Co popisuje |
|---|---|
| Vstupní a výstupní tokeny | Práci modelu podle definic uváděných poskytovatelem. |
| Tokeny pro čtení z cache a zápis do cache | Aktivitu cache u poskytovatele, která se může překrývat s celkovým vstupem. |
| Kredity a měna | Účtování podle aktuální obchodní smlouvy. |
| Požadavky, slova nebo řádky repozitáře | Různá měřítka objemu práce, z nichž každé zahrnuje jiný soubor položek. |
Nepřičítejte počty tokenů cache k celkovému vstupu, jako by šlo o zcela oddělené hodnoty, ani neoznačujte celý vstup za výhradně nový. Ukládání promptů do cache vysvětluje, jak tyto překrývající se veličiny interpretovat.
Náklady poskytovatele, poplatky za lokalizaci, profesionální kontrola, nezávislá měření a plán platformy jsou samostatné složky. Deterministická kontrola nemusí spotřebovat žádné tokeny modelu, a přesto se může započítávat do měřené spotřeby v rámci měření. Opětovné využití překladu může ušetřit generování, neznamená to však, že všechny související operace budou zdarma.
Při porovnávání nákladů dbejte na srovnatelný obsah, jazykové pokrytí, rozsah kontroly a požadavky na přijetí. Započítejte také úsilí potřebné ke kontrole a zpracování výstupu. Samotné rozdíly v počtech tokenů neprezentujte jako pevně danou celkovou úsporu.
Vybírejte přehledy podle otázky, na kterou odpovídají #
Přehledy objemu práce popisují vygenerovaný objem a jeho rozložení mezi jazyky a zdroje. Záznamy o změnách v repozitáři závisejí na příslušné integraci a nepokrývají všechny systémy pro správu obsahu.
Přehledy kvality musí vedle výsledku uvádět i kritérium a základ výpočtu. Záznam, na který se kritérium nevztahuje, pro ně neposkytuje žádnou odpověď. Neurčitý výsledek znamená, že hodnocení bylo dokončeno, ale neurčilo, zda kvalita zůstala zachována, nebo se změnila. Záznam bez dokončeného hodnocení je zase jiný případ. Vedle míry úspěšnosti a dokončení uvádějte i podíl záznamů s jednoznačným výsledkem.
U termínů a pravidel rozlišujte kandidáty či vzorky od skutečného použití a dodržování. Výsledky hodnocení vysvětlují příslušné počty.
Než práci zopakujete, prověřte, proč se zablokovala nebo dokončila jen částečně #
Než pokus zopakujete nebo nakoupíte kredity, přečtěte si konkrétní chybovou zprávu. Chyby validace, autentizace a autorizace, chybějící zdroje, limity kreditů a limity kvót mají různé příčiny. V příslušném API jim obvykle odpovídají kódy 400, 401, 403, 404, 402 a 429 v uvedeném pořadí. Způsob nápravy však určuje chyba deklarovaná pro danou operaci a její zpráva. Neaktivní lokalizační engine, povinné ID, chybějící konfigurace modelu a limit poskytovatele, na němž služba závisí, také vyžadují odlišný postup.
To, zda je opakování bezpečné, závisí na operaci a její idempotenci. Obecná chyba serveru nedokazuje, že první požadavek nic neprovedl. Opakování s postupně prodlužovanými prodlevami a stanovenými limity použijte až po ověření, že operaci lze opakovat a jaká předchozí práce byla přijata.
U překladových úloh se při vytvoření uloží úloha v čekajícím stavu. Práce začne po úspěšném požadavku na spuštění; ani odpověď na tento požadavek však nepotvrzuje dokončení překladu. Zkontrolujte výsledky pro cílové jazyky, upozornění a zachovaný text. Než částečně dokončenou práci nahradíte, porovnejte a ověřte, co se provedlo a co bylo účtováno.