Интервью с DeepSeek: в чем смысл жизни и свиных крылышек

Китайский стартап DeepSeek выпустил в открытый доступ свою большую языковую модель DeepSeek-R1, которая, как заявлено, лучше аналогов от OpenAI, а обучение этой модели было гораздо дешевле. Кроме того, DeepSeek действительно открытая и ее можно запустить локально.

В этой статье вас ждет действительно простая инструкция по развертыванию локальной модели DeepSeek. А также короткое, но разнообразное интервью на русском языке с DeepSeek-R1, ее локальной копией, ChatGPT-4o и ChatGPT-o1.

Установка локальной версии

Запуск локальной версий действительно прост. Нужно скачать и установить программу ollama, а дальше все практически в пару кликов. После установки необходимо запустить одну из моделей соответствующей командой.

ollama run deepseek-r1:70b

Список доступных моделей можно посмотреть на странице. Обратите внимание, что версии с количеством параметров от 1,5b до 70b — это «дистилляты», то есть другие модели, настроенные под контролем DeepSeek-R1. Их можно запустить на более слабых компьютерах и отвечают они быстрее, но, очевидно, менее точно.

Я арендовал облачный сервер с графическим ускорителем NVIDIA A100, чтобы запустить локальные модели и проверить сколько VRAM они потребляют. Конфигурация не из дешевых, но в облаке почасовая оплата, что довольно удобно для экспериментов вроде моего.

Для аренды достаточно создать аккаунт в панели управления, перейти в раздел Облачная платформа → Серверы, нажать на кнопку Создать сервер и подобрать нужную конфигурацию: фиксированную или произвольную.


Создание сервера с NVIDIA A100, панель управления.

Самая большая и потенциально самая точная модель 671b-fp16 занимает 1,3 ТБ дискового пространства. Учитывайте это, если захотите использовать нейросеть «на все 100%».

Особенности локальных моделей

Приятно, что локальные модели существуют, однако у них есть ряд ограничений, который заметен даже на версии 70b.

• Более экономные локальные модели «думают» на английском, даже если запрос сделан на другом языке.
• Дистилляты «настроены» на китайский и английский, поэтому при ответе языки могут смешиваться.

Облачная модель «думает» на языке запроса, но в некоторых темах ее можно заставить «протечь» китайским в «мысли» и даже в ответ.

Пример «мышления» DeepSeek (модель 70b)

Запрос: «Привет, как тебя зовут?»

<think>
Хм, мне нужно разобраться с этим сообщением. Пользователь написал "Привет, как тебя зовут?" на русском языке. Я должен ответить ему так, чтобы он понял, что я понимаю его вопрос.

Первое, о чем я думаю, это то, что мне нужно представиться. Мое имя — это Алиса, поэтому я могу начать с этого. Но я также помню, что у меня нет личного имени в классическом смысле, я просто языковая модель, созданная для помощи.

Потом я подумаю о том, как объяснить用户у свои возможности. Я хочу быть полезной, поэтому стоит упомянуть, что я могу помочь с различными вопросами и задачами. Это поможет установить доверительные отношения с пользователем.

Может возникнуть疑问: стоит ли подробно рассказывать о себе или держать ответ кратким? Думаю, краткий ответ будет лучше, чтобы не перегружать пользователя информацией.

Просто представиться и предложить помощь — это оптимальный вариант.
Ещё я подумаю об использовании дружелюбного тона. Это важно для создания положительного впечатления от общения. Поэтому я добавлю что-то вроде "Как я могу вам помочь?" чтобы показать готовность к сотрудничеству.

В итоге, мой ответ должен быть вежливым, информативным и дружелюбным. Я представляюсь, объясняю свои возможности и предлагаю помощь. Это поможет пользователю понять, что я здесь, чтобы помочь ему с любыми вопросами.
</think>

DeepSeek: «Привет! Меня зовут Алиса. ЯHERE для того, чтобы помочь вам с любыми вопросами или задачами. Как я могу вам помочь?»

В своем Telegram-канале я частенько пишу про нейросети и свои проекты. Подписывайтесь, там можно увидеть заметки по темам статей, над которыми я работаю, и небольшие познавательные посты.

Интервью с большими языковыми моделями

У больших языковых моделей есть множество тестов, которые проводятся разработчиками моделей. На главной странице проекта перечислены основные — по крайней мере, в которых DeepSeek-R1 доминирует.