Instâncias AWS EC2 Trn1 agora disponíveis

A Amazon Web Services (AWS) anunciou a disponibilidade geral das instâncias AWS EC2 Trn1. Alimentadas por chips Trainium projetados pela AWS, as instâncias Trn1 são projetadas especificamente para o treinamento de alto desempenho de modelos de aprendizado de máquina (na nuvem) com a Amazon indicando uma redução de 50% na economia de “custo de treinamento” quando comparada a uma GPU semelhante instâncias baseadas em

As instâncias AWS EC2 Trn1 fornecem o tempo mais rápido para treinar modelos populares de machine learning na AWS. Isso permite que seus clientes diminuam o tempo de treinamento, iterem rapidamente em modelos para aumentar a precisão e melhorem a produtividade geral para cargas de trabalho como processamento de linguagem natural, reconhecimento de fala e imagem, pesquisa semântica, mecanismos de recomendação, detecção de fraude e previsão.

As instâncias Trn1 também são muito flexíveis no que diz respeito aos preços, pois não há compromissos mínimos ou taxas iniciais. Os clientes também precisam pagar apenas pela quantidade de computação que usam.

Tamanhos e especificações de instâncias AWS EC2 Trn1

Anteriormente, mesmo que as organizações aproveitassem as instâncias aceleradas mais rápidas disponíveis, o treinamento de modelos de aprendizado de máquina mais complexos ainda era excessivamente caro e demorado. Com as novas instâncias AWS EC2 Trn1, a Amazon indica que elas apresentam o melhor desempenho de preço e o treinamento de modelo de aprendizado de máquina mais rápido na AWS.

Outros recursos notáveis ​​incluem o seguinte:

• Aqueles que desejam começar sem alterar significativamente o código podem usar o AWS Neuron, o kit de desenvolvimento de software (SDK) para instâncias Trn1. Ele também é integrado a estruturas populares para aprendizado de máquina, como PyTorch e TensorFlow.
• As instâncias Trn1 apresentam até 16 aceleradores AWS Trainium projetados especificamente para a implantação de modelos de aprendizado profundo.
• Para melhorar a eficiência, o Trn1 é a primeira instância do Amazon EC2 a oferecer até 800 Gbps em largura de banda de rede por meio do 2^ndInterface de rede AWS Elastic Fabric Adapter (EFA) de última geração.
• Para acelerar o treinamento, as instâncias Trn1 também usam o NeuronLink, uma interconexão intra-instância de alta velocidade.

UltraClusters do Amazon EC2

Os clientes podem implantar instâncias Trn1 em Amazon EC2 UltraClusters (compostos por dezenas de milhares de aceleradores Trainium) para treinar rapidamente os modelos de aprendizado profundo mais complexos, mesmo aqueles com trilhões de parâmetros. Com o EC2 UltraClusters, as organizações podem dimensionar o treinamento de modelos de aprendizado de máquina com até 30,000 aceleradores Trainium interconectados com a rede EFA em escala de petabits. A Amazon indica que essas organizações terão, portanto, acesso sob demanda ao desempenho de classe de supercomputação, o que pode reduzir significativamente o tempo de treinamento que geralmente leva meses para apenas alguns dias.

Cada instância do AWS EC2 Trn1 oferece suporte a até 8 TB de armazenamento SSD NVMe local rápido, enquanto o AWS Trainium oferece suporte a uma ampla variedade de tipos de dados (FP32, TF32, BF16, FP16 e FP8 configurável). Ele também oferece suporte ao arredondamento estocástico, um método baseado em probabilidade, para permitir alto desempenho e maior precisão. Além disso, o AWS Trainium oferece suporte a formas dinâmicas de tensores e operadores personalizados, o que promove uma infraestrutura flexível projetada para se adaptar com base nas necessidades de treinamento do cliente.

Sistema AWS Nitro

As instâncias Trn1 são criadas no AWS Nitro System, uma coleção de inovações de hardware e software projetadas pela AWS que simplificam a entrega de multilocação isolada, rede privada e armazenamento local rápido. Para fornecer o desempenho necessário, o Nitro System transfere a virtualização da CPU, armazenamento e funções de rede para hardware e software dedicados.

Disponibilidade de instâncias AWS EC2 Trn1

As instâncias AWS Trn1 agora podem ser adquiridas como instâncias sob demanda (com Savings Plans), instâncias reservadas ou instâncias spot. Atualmente, eles estão disponíveis no leste dos EUA (North Virginia) e no oeste dos EUA (Oregon), com disponibilidade expandida em outras regiões da AWS em breve.

Eles também estarão disponíveis por meio dos seguintes outros serviços da AWS:

• Amazon Sage Maker
• Serviço Amazon Elastic Kubernetes (Amazon EKS)
• Amazon Elastic Container Service (Amazon ECS)
• Lote da AWS

Instâncias AWS Trn1