es-dark
Фрибет 3000р каждому от Winline
Получить 3000р
Рекламодатель: www.winline.ru 2Vtzqwig4gU
Войти
Фрибет новым игрокам от Винлайн
Фрибет новым игрокам от Винлайн
Фрибет новым игрокам от Винлайн
Фрибет новым игрокам от Винлайн
Фрибет новым игрокам от Винлайн
Фрибет новым игрокам от Винлайн
Фрибет новым игрокам от Винлайн
Фрибет новым игрокам от Винлайн
Фрибет новым игрокам от Винлайн
Фрибет новым игрокам от Винлайн
Фрибет новым игрокам от Винлайн
Фрибет новым игрокам от Винлайн
Фрибет новым игрокам от Винлайн
Фрибет новым игрокам от Винлайн
Фрибет новым игрокам от Винлайн
Фрибет новым игрокам от Винлайн
Фрибет новым игрокам от Винлайн
Фрибет новым игрокам от Винлайн
Фрибет новым игрокам от Винлайн
Фрибет новым игрокам от Винлайн
Реклама 18+
Обновлено: 22:26, 02.02.25
|
Сообщество

NVIDIA: GeForce RTX 50 идеально подойдет для ИИ, в том числе DeepSeek-R1

NVIDIA заявляет: RTX 50 ускоряет AI-расчеты без облаков
NVIDIA: GeForce RTX 50 идеально подойдет для ИИ, в том числе DeepSeek-R1

NVIDIA утверждает, что видеокарты GeForce RTX 50 ускоряют работу моделей рассуждения, таких как DeepSeek-R1. По мнению компании, эти модели способны решать сложные задачи, включая анализ данных, математику и программирование, а использование RTX-ускорения повышает их производительность на локальных ПК.

Модели рассуждения представляют собой новый класс языковых моделей, которые тратят больше времени на анализ задач. NVIDIA заявляет, что такой подход позволяет получать более точные результаты, а тестовое масштабирование помогает динамически распределять вычислительные ресурсы.

DeepSeek-R1 создан на основе 671-миллиардной модели Mixture-of-Experts (MoE), использующей несколько экспертных моделей. NVIDIA утверждает, что для повышения скорости работы разработчики применили методику дистилляции, благодаря чему появились более компактные версии модели — от 1,5 до 70 миллиардов параметров.

Пропускная способность семейства моделей Deepseek-R1 для всех графических процессоров ПК.
Пропускная способность семейства моделей Deepseek-R1 для всех графических процессоров ПК.
Источник: NVIDIA

Компания заявляет, что видеокарты GeForce RTX 50, построенные на архитектуре NVIDIA Blackwell и оснащенные тензорными ядрами пятого поколения, позволяют моделям работать быстрее, чем на других потребительских GPU. RTX-ускорение снижает задержки и дает возможность запускать AI-модели локально без подключения к облачным сервисам.

NVIDIA отмечает поддержку RTX-ускорения в таких инструментах, как Llama.cpp, Ollama, LM Studio, AnythingLLM, Jan.AI, GPT4All и OpenWebUI. Также пользователи могут обучать модели на своих данных с помощью Unsloth. Компания заявляет, что сочетание DeepSeek-R1 и GeForce RTX 50 позволит обрабатывать данные быстрее и эффективнее.

Комментарии
Отправить
Реклама 18+