Как языковая модель видит текст
Модель не читает ни буквы, ни слова — она работает с токенами. Разбираемся, откуда они берутся и почему русский текст обычно обходится дороже английского.
Все статьи
Как языковая модель видит текст
Модель не читает ни буквы, ни слова — она работает с токенами. Разбираемся, откуда они берутся и почему русский текст обычно обходится дороже английского.
Гибридный поиск для RAG: почему одних эмбеддингов мало
Векторный поиск хорошо понимает смысл и плохо — точные совпадения. Разбираем, как совместить его с классическим BM25 и зачем после этого нужен реранкер.
Квантование: сколько бит на самом деле нужно модели
Почему модель на 7 миллиардов параметров занимает 14 гигабайт, как ужать её вчетверо и чем за это приходится платить.