Demokracizácia AI

Čínske modely ako DeepSeek-Coder alebo Yi-34B ukazujú, že nemusíte byť americký gigant s miliardovým rozpočtom, aby ste vytrénovali špičkový model. Vo februári sme svedkami toho, ako open-source komunita dobieha proprietárne modely.

Výkon za zlomok ceny

Prečo platiť za GPT-4 API, keď môžete mať 90% jeho výkonu za desatinu ceny (alebo zadarmo lokálne)? DeepSeek ponúka neuveriteľný pomer cena/výkon, najmä v oblasti kódovania.

Lokálne nasadenie

Bezpečnosť dát je pre mnohé firmy prioritou. Nemôžu posielať svoj proprietárny kód do cloudu OpenAI. Modely ako DeepSeek sa dajú spustiť na vlastných serveroch (on-premise).

V Trammex experimentujeme s nasadením týchto modelov pre našich klientov, ktorí chcú interného "AI asistenta" vytrénovaného na ich dokumentácii, ale bez rizika úniku dát.