英伟达打破实时对话AI的训练和推理用时记录


10: 27: 48投资者

1565749450033016413.jpg

网易科技新闻8月14日消息,据国外媒体报道,Nvidia曾经开发并运行GPU增强型平台,用于理解和响应请求的会话AI,已达到一些重要的里程碑并打破了一些记录。

这对于基于他们的技术开发的任何人来说都很重要。包括大大小小的公司,因为Nvidia有很多开源代码来实现这些进步。这些代码是用PyTorch编写的,易于运行。

Nvidia今天宣布的最大成果包括:BERT培训打破记录并进入1小时标记。 BERT是世界上最先进的人工智能语言模型之一,被广泛认为是自然语言处理(NLP)基准的高级模型。 记录。

NVIDIA的这些突破不仅仅是吹嘘资本这些进步可以为任何使用NLP会话人工智能和GPU硬件的人带来实实在在的好处。 Nvidia打破了其中一个SuperPOD系统的培训时间记录,该系统由92个运行1472个V100 GPU的Nvidia DGX-2H系统组成;推理过程是在运行Nvidia TensorRT的Nvidia T4 GPU上完成的。 Nvidia TensorRT的性能优于高度优化的CPU数量级。但是,该公司将发布BERT培训代码和TensorRT优化的BERT样本,供大家使用GitHub。

除了这些里程碑,NVIDIA的研究部门还建立并培训了有史以来最大的“变形金刚”语言模型。这也是BERT的技术基础。自定义模型包含多达83亿个参数,是当前最大核心BERT模型BERT-Large的24倍。 NVIDIA将该模型命名为“威震天”,该模型还提供了用于训练此模型的PyTorch代码,因此其他人可以训练类似的大型“变形金刚”语言模型。 (乐邦)

1565749450033016413.jpg

网易科技新闻8月14日消息,据国外媒体报道,Nvidia曾经开发并运行GPU增强型平台,用于理解和响应请求的会话AI,已达到一些重要的里程碑并打破了一些记录。

这对于基于他们的技术开发的任何人来说都很重要。包括大大小小的公司,因为Nvidia有很多开源代码来实现这些进步。这些代码是用PyTorch编写的,易于运行。

Nvidia今天宣布的最大成果包括:BERT培训打破记录并进入1小时标记。 BERT是世界上最先进的人工智能语言模型之一,被广泛认为是自然语言处理(NLP)基准的高级模型。 记录。

NVIDIA的这些突破不仅仅是吹嘘资本这些进步可以为任何使用NLP会话人工智能和GPU硬件的人带来实实在在的好处。 Nvidia打破了其中一个SuperPOD系统的培训时间记录,该系统由92个运行1472个V100 GPU的Nvidia DGX-2H系统组成;推理过程是在运行Nvidia TensorRT的Nvidia T4 GPU上完成的。 Nvidia TensorRT的性能优于高度优化的CPU数量级。但是,该公司将发布BERT培训代码和TensorRT优化的BERT样本,供大家使用GitHub。

除了这些里程碑,NVIDIA的研究部门还建立并培训了有史以来最大的“变形金刚”语言模型。这也是BERT的技术基础。自定义模型包含多达83亿个参数,是当前最大核心BERT模型BERT-Large的24倍。 NVIDIA将该模型命名为“威震天”,该模型还提供了用于训练此模型的PyTorch代码,因此其他人可以训练类似的大型“变形金刚”语言模型。 (乐邦)