«Max Extra» для GLM-5.3 Prime: я вручную перебрал токены и нашёл вставку, которая даёт +7.3% точности при −47% мышления

Моя цель - предложение широкого ассортимента товаров и услуг на постоянно высоком качестве обслуживания по самым выгодным ценам.

У всех, кто гоняет GLM-5.3 Prime в проде на ризонинге Max, есть это ощущение: вроде думает, а вроде и недодумывает. Задача у меня стояла зверская — изобрести уровень усилия «Max Extra» чисто промптингом: минимальная вставка в системный промпт, приближенная к обучающим данным, без овер-тхинкинга. И буквально вручную подобрать каждый токен.

Зачем? Я заметил что на Max ризонинге нейронка на «Привет» думает по минуте, а для миграции всего проекта на другой стэк - максимум секунд 15 (*личное ощущение).

Я построил свой бенчмарк: 342 грязных промпта как у живых юзеров (опечатки, «пжпж», «хз», «ну короче»), поровну EN и RU, LLM-грейдер, парные sign-тесты и ~50 тысяч запросов к провайдеру за вечер.

Спойлер: гипотеза «нейронке не хватает глубины мышления» умерла в первой же фазе. А вот что я нашёл вместо неё — интереснее.

Источник: https://habr.com/ru/articles/1096770/


Интересные статьи

Интересные статьи

Проверка бэкапов раз в квартал, галочка в чек-листе аудита, папка с DR-планом, который последний раз открывали при его написании. Знакомо? Проблема в том, что авария не спрашивает, когда вы в последни...
Гравитация традиционно считается одной из основных сил, определяющих динамику тел во Вселенной. Но что если её влияние можно уравновесить без использования тяговых двигателей и энергозатрат? Однако ги...
В данной статье мы рассмотрим систему аутентификации пользователей и внешних систем в личном кабинете через сервер аутентификации Blitz Identity Provider. Согласно требованиям проекта, который мы...
Одна из самых важных (на мой взгляд) функций в Битрикс24 это бизнес-процессы. Теоретически они позволяют вам полностью избавиться от бумажных служебок и перенести их в эл...
Согласно многочисленным исследованиям поведения пользователей на сайте, порядка 25% посетителей покидают ресурс, если страница грузится более 4 секунд.