Графический процессор NVIDIA H100 обеспечивает исключительную производительность, масштабируемость и безопасность для любых рабочих нагрузок. H100 использует революционные инновации на основе архитектуры NVIDIA Hopper для создания передового в отрасли разговорного ИИ, ускоряя обработку больших языковых моделей (LLM) в 30 раз. H100 также включает в себя выделенный движок Transformer Engine для решения языковых моделей с триллионом параметров. H100 оснащен тензорными ядрами четвертого поколения и процессором Transformer Engine с точностью FP8, обеспечивающим до 4 раз более быстрое обучение по сравнению с предыдущим поколением для моделей GPT-3 (175B). Сочетание NVLink четвертого поколения, обеспечивающего скорость соединения между графическими процессорами до 900 гигабайт в секунду (ГБ/с), сетевой технологии NDR Quantum-2 InfiniBand, ускоряющей обмен данными между всеми графическими процессорами на разных узлах, PCIe Gen5 и программного обеспечения NVIDIA Magnum IO обеспечивает эффективную масштабируемость от небольших корпоративных систем до масштабных унифицированных кластеров графических процессоров. Внедрение графических процессоров H100 в масштабах центров обработки данных обеспечивает выдающуюся производительность и делает доступными для всех исследователей следующее поколение высокопроизводительных вычислений (HPC) масштабного уровня и искусственного интеллекта с триллионами параметров.