NVIDIA Project Digits: AI-суперкомпьютер для вашего дома
На выставке CES 2025 NVIDIA представила персональный AI-суперкомпьютер Project Digits. Это устройство может стать переломным моментом в развитии локальных AI-вычислений.
Технические характеристики
- Чип GB10 Grace Blackwell (совместная разработка с MediaTek)
- 1 петафлоп AI-вычислительной мощности с точностью FP4
- 20 энергоэффективных CPU-ядер на архитектуре ARM
- 128 ГБ оперативной памяти
- До 4 ТБ NVMe-накопитель
- Возможность объединения двух систем через ConnectX
Возможности и ограничения
Project Digits способен запускать модели до 200 млрд параметров, при объединении двух устройств — до 405 млрд. Это позволяет работать с:
- Llama 2 (70B)
- Mixtral (46B)
- Другими открытыми моделями среднего размера
Однако система не потянет крупнейшие модели вроде:
- GPT-4 (1.8 трлн параметров)
- Claude-3 (около 1 трлн параметров)
- Deepseek-V3 (600+ млрд параметров)
Практическое применение
Project Digits идеально подходит для:
- Разработчиков AI-приложений
- Исследователей
- Компаний, требующих конфиденциальности данных
- Образовательных учреждений
Основные сценарии использования:
- Локальная разработка AI-моделей
- Тестирование перед масштабированием в облако
- Обработка конфиденциальных данных
- Обучение и эксперименты
Экосистема NVIDIA
Project Digits интегрируется в экосистему NVIDIA, позволяя легко масштабировать проекты:
- Разработка на локальном устройстве
- Бесшовный переход в облако DGX
- Единая архитектура и программная платформа
Цена и доступность
- Старт продаж: май 2025
- Стоимость: $3000
- Продажи через официальных партнеров NVIDIA
Выводы
Project Digits — важный шаг к демократизации AI-разработки. Несмотря на ограничения по сравнению с облачными суперкомпьютерами, устройство предлагает впечатляющие возможности для локальной работы с AI.