Mídia mais inteligente, em qualquer lugar: Axle AI leva inteligência ao limite

A demanda por conteúdo de vídeo rápido e de alta qualidade nunca foi tão grande. No cenário midiático atual, espera-se que pequenas equipes de notícias, criadores de conteúdo independentes e equipes de produção de eventos capturem, editem e publiquem imagens de nível profissional em tempo real, muitas vezes sem o suporte de uma equipe de pós-produção ou infraestrutura centralizada.

É por isso que a busca por IA no local, fornecida por sistemas de produção baseados em edge, está se tornando essencial, à medida que a quantidade de filmagens aumenta exponencialmente e a necessidade de reutilização aumenta. Ao permitir que as equipes trabalhem diretamente com as filmagens no ponto de captura, os fluxos de trabalho de edge eliminam gargalos e permitem que os criadores gastem menos tempo procurando e gerenciando filmagens e mais tempo produzindo o melhor conteúdo possível.

Eixo IA, uma plataforma de gerenciamento e automação de ativos de mídia com tecnologia de IA, foi projetada especificamente para esse fluxo de trabalho descentralizado e acelerado. Quando combinada com hardware líder do setor, como o servidor HPE ProLiant DL145 Gen11, uma GPU NVIDIA L4 e SSDs Solidigm PCIe Gen5, o resultado é um ambiente de produção potente e portátil. Ela oferece recursos profissionais de mídia assistidos por IA até mesmo para as equipes mais enxutas.

Visão geral da arquitetura do sistema

O servidor de borda HPE ProLiant DL145 Gen11 é um forte candidato para implantações de IA Axle em ambientes de campo e eventos onde espaço, energia e refrigeração são limitados. Com seu design 2U de profundidade curta, medindo apenas 16 cm (5 polegadas), este servidor foi desenvolvido especificamente para portabilidade e instalação em espaços apertados, como racks móveis e flight cases. Ao contrário dos equipamentos corporativos tradicionais, ele suporta uma faixa de temperatura operacional estendida de -55°C a XNUMX°C, tornando-o adequado para ambientes menos controlados. Apesar de seu tamanho compacto, ele oferece recursos de nível empresarial, como opções de alimentação redundante e unidade de inicialização, tornando-o ideal para equipes que precisam de uma infraestrutura robusta e com capacidade de borda sem a sobrecarga de um hardware de tamanho normal.

Em relação à CPU, o DL145 suporta processadores AMD EPYC 8004 (Siena), com suporte para oito a 64 núcleos. Nosso sistema de teste está equipado com o EPYC 8434P, que oferece 48 núcleos e 96 threads. Com um TDP de 200 W, ele atinge um forte equilíbrio entre eficiência e poder computacional, tornando-o ideal para cargas de trabalho intensivas. O processador suporta 96 pistas PCIe 5.0 e oferece seis canais de memória DDR5, permitindo velocidades de até 4800 MT/s com excelente largura de banda de memória. Embora os requisitos mínimos para Eixo IA exigem pelo menos 16 núcleos de CPU e 32 GB de RAM, nossa configuração excede confortavelmente esses requisitos com 48 núcleos e 256 GB de memória DDR5.

O desempenho do armazenamento é crítico em qualquer pipeline de mídia, e o DL145 suporta até seis unidades NVMe EDSFF E3.S para atender a essas demandas. Em nossa configuração, usamos seis SSDs Solidigm D7-PS1010 E3.S, cada um com capacidade de 7.68 TB. Essas unidades PCIe 5.0 x4 oferecem velocidades de leitura de até 14,500 MB/s e de gravação de 10,000 MB/s, resultando em quase 46 TB de armazenamento de alta velocidade. Projetados para fluxos de trabalho de IA e mídia, esses SSDs oferecem impressionante eficiência energética e podem fornecer até 50% mais throughput em fases específicas do pipeline em comparação com unidades NVMe convencionais. Para equipes que exigem capacidade adicional, essa configuração pode escalar até 15.36 TB por unidade, proporcionando um total combinado de 92 TB de armazenamento rápido e denso em um formato compacto.

O DL145 suporta até três GPUs de slot único e, em nossa configuração, implementamos um único NVIDIA L4, um acelerador de baixo consumo de energia baseado na arquitetura Ada Lovelace. Projetado para processamento de vídeo, inferência de IA, computação visual e cargas de trabalho de virtualização, o L4 oferece desempenho robusto com consumo de apenas 72 watts. Ele possui 24 GB de VRAM GDDR6 e se conecta por meio de uma interface PCIe 4.0 x16 para alimentação e dados. Eixo IA recomenda um mínimo de 16 GB de VRAM, e o L4 excede confortavelmente isso com 8 GB adicionais, garantindo espaço para tarefas de mídia de alta resolução e operações orientadas por IA.

Para a camada de aplicação, implantamos o Axle AI MAM e o Axle AI Tags usando o Proxmox Virtual Environment (8.3.5). O sistema está configurado com duas máquinas virtuais dedicadas: uma executando o Axle AI MAM e a outra executando o Axle AI Tags. Essa estrutura proporciona uma separação clara entre o gerenciamento de mídia e o processamento de metadados com tecnologia de IA, ao mesmo tempo em que permite uma comunicação fluida entre os componentes.

Em execução em conjunto com o MAM, o Axle AI Tags oferece recursos de IA locais, incluindo busca vetorial semântica, reconhecimento de objetos e logotipos e detecção facial treinável. Ele é implantado em um contêiner Docker e utiliza a GPU NVIDIA L4 por meio de passagem PCIe para inferência eficiente em tempo real. A interface de treinamento e administração baseada em navegador permite ajustes flexíveis, e seu design modular suporta configurações de hardware Intel/NVIDIA ou AMD/NVIDIA. Embora totalmente integrado ao MAM em nossa configuração, o Axle AI Tags também oferece compatibilidade com API REST para uso com outras plataformas.

Os drives Solidigm PS1010 são montados na máquina virtual MAM da Axle AI, garantindo acesso de alta velocidade e baixa latência às imagens. Ao virtualizar toda a pilha e atribuir recursos de computação dedicados a cada componente, essa configuração proporciona maior tempo de atividade, melhor gerenciamento de recursos e suporte multiusuário muito além do que uma única estação de trabalho poderia oferecer. Isso a torna ideal para um ambiente de produção colaborativo e de alto volume.

Juntos, esses componentes formam uma solução de hardware totalmente integrada que permite fluxos de trabalho de mídia rápidos, locais e com tecnologia de IA. É uma plataforma eficiente e pronta para uso em campo para equipes remotas que exigem desempenho confiável em locais com espaço e energia limitados, mas onde o processamento de IA continua essencial.

Desempenho HPE ProLiant DL145 Gen11

Antes de começarmos o benchmarking, a tabela abaixo descreve a configuração do sistema do HPE ProLiant DL145 Gen11. Enquanto os testes com o Axle AI foram realizados em uma instalação virtualizada executando o Proxmox, o sistema foi transferido para o Ubuntu Server 22.04.5 para medir o desempenho do armazenamento em nossos testes de GDSIO e FIO.

HPE ProLiant DL145 geração 11	Visão geral do hardware
CPU	AMD EPYC 8434P único
RAM	256 GB ECC DDR5
Armazenamento	6 SSDs Solidigm D7-PS1010 E3s de 7.68 TB
Armazenamento de Inicialização	Porta NS204 2x preenchida (480 GB Samsung PM9A3 M.2)
GPU	NVIDIA L4 único
Sistema Operacional	Ubuntu Server 22.04.5

Desempenho sintético de pico

O teste FIO é uma ferramenta de benchmarking flexível e poderosa usada para medir o desempenho de dispositivos de armazenamento, incluindo SSDs e HDDs. Ele avalia métricas como largura de banda, IOPS (Operações de Entrada/Saída por Segundo) e latência em diversas cargas de trabalho, como operações de leitura/gravação sequenciais e aleatórias. Este teste foi projetado para capturar o desempenho máximo e sobrecarregar o sistema de armazenamento em múltiplas cargas de trabalho, tornando-o particularmente útil para comparar diferentes dispositivos ou configurações. Neste caso, foi executado um teste de superfície completa, exercitando toda a capacidade dos discos para fornecer uma visão abrangente de suas características de desempenho sustentado.

No teste de leitura sequencial usando blocos de 128K, o sistema entregou uma largura de banda de 56.4 GB/s e sustentou 430,000 IOPS com uma latência média de 1.78 milissegundos. O desempenho de gravação sequencial no mesmo tamanho de bloco atingiu 45.4 GB/s, produzindo 346,000 IOPS e uma latência média de 2.22 milissegundos. Para operações de leitura aleatória usando blocos de 4K, o sistema atingiu 46.6 GB/s com 11.4 milhões de IOPS e uma latência média baixa de 0.269 milissegundos, destacando o potencial de alto throughput do array de armazenamento NVMe sob padrões de acesso intensivo. As operações de gravação aleatória em 4K mediram 29.1 GB/s, atingindo 7.1 milhões de IOPS com uma latência média de 0.432 milissegundos, confirmando a sólida capacidade de gravação sustentada mesmo sob acesso fragmentado.

Resumo do benchmark FIO HPE DL145 Gen 11	Largura de banda – GB/s	IOPS	Latência média
Leitura sequencial (128K)	56.4 GB / s	430k	1.78 ms
Gravação sequencial (128K)	45.4 GB / s	346k	2.22 ms
Leitura aleatória (4 KB)	46.6 GB / s	11.4M	0.269 ms
Gravação aleatória (4K)	29.1 GB / s	7.1M	0.432 ms

Armazenamento direto da GPU

Um dos testes que conduzimos neste testbench foi o teste Magnum IO GPU Direct Storage (GDS). GDS é um recurso desenvolvido pela NVIDIA que permite que GPUs ignorem a CPU ao acessar dados armazenados em unidades NVMe ou outros dispositivos de armazenamento de alta velocidade. Em vez de rotear dados pela CPU e pela memória do sistema, o GDS permite a comunicação direta entre a GPU e o dispositivo de armazenamento, reduzindo significativamente a latência e melhorando a taxa de transferência de dados.

Como funciona o armazenamento direto da GPU

Tradicionalmente, quando uma GPU processa dados armazenados em uma unidade NVMe, os dados devem primeiro viajar pela CPU e pela memória do sistema antes de chegar à GPU. Esse processo introduz gargalos, pois a CPU se torna um intermediário, adicionando latência e consumindo recursos valiosos do sistema. O GPU Direct Storage elimina essa ineficiência ao permitir que a GPU acesse dados diretamente do dispositivo de armazenamento por meio do barramento PCIe. Esse caminho direto reduz a sobrecarga associada à movimentação de dados, permitindo transferências de dados mais rápidas e eficientes.

Cargas de trabalho de IA, especialmente aquelas que envolvem aprendizado profundo, são altamente intensivas em dados. Treinar grandes redes neurais requer o processamento de terabytes de dados, e qualquer atraso na transferência de dados pode levar a GPUs subutilizadas e tempos de treinamento mais longos. O GPU Direct Storage aborda esse desafio garantindo que os dados sejam entregues à GPU o mais rápido possível, minimizando o tempo ocioso e maximizando a eficiência computacional.

Além disso, o GDS é particularmente benéfico para cargas de trabalho que envolvem streaming de grandes conjuntos de dados, como processamento de vídeo, processamento de linguagem natural ou inferência em tempo real. Ao reduzir a dependência da CPU, o GDS acelera a movimentação de dados e libera recursos da CPU para outras tarefas, aprimorando ainda mais o desempenho geral do sistema.

Leitura sequencial de GDSIO

No teste de leitura sequencial GDSIO do disco rígido Solidigm PS1010 de 7.68 TB, o desempenho aumentou significativamente com o tamanho do bloco e a profundidade de E/S. No menor tamanho de bloco de 16 K, a taxa de transferência começou em apenas 0.2 GiB/s a uma profundidade de fila de 1 e aumentou gradualmente para 1.3 GiB/s a uma profundidade de 128, mostrando escalabilidade limitada nessa granularidade. Movendo-se para blocos de 128 K, o desempenho melhorou mais drasticamente, começando em 1.1 GiB/s e subindo para 6.5 ​​GiB/s na profundidade mais alta. Os melhores resultados foram obtidos com um tamanho de bloco de 1 M, onde a taxa de transferência atingiu inicialmente 2.4 GiB/s e atingiu o pico de 8.5 GiB/s a uma profundidade de fila de 128, indicando que o perfil de desempenho ideal do disco rígido é alcançado com leituras sequenciais grandes e filas mais profundas.

Gravação sequencial GDSIO

O desempenho de gravação sequencial no Solidigm PS1010 apresenta escalabilidade sólida em tamanhos de bloco maiores, mas apresenta alguma regressão em profundidades de fila maiores em cargas de trabalho de médio porte. No menor tamanho de bloco de 16K, as velocidades de gravação começaram em 0.5 GiB/s e atingiram um pico modesto de 0.9 GiB/s nas profundidades de fila de 8 a 64, antes de cair ligeiramente para 0.8 GiB/s na profundidade de 128. Com blocos de 128K, o desempenho começou em 2.2 GiB/s, melhorou para um máximo de 4.3 GiB/s na profundidade de 32 e, em seguida, caiu para apenas 1.9 GiB/s na fila mais profunda, indicando potencial saturação ou limitação de gravação. O melhor desempenho sustentado foi alcançado com tamanhos de bloco de 1M, onde a taxa de transferência aumentou claramente de 4.1 GiB/s na profundidade 1 para 5.6 GiB/s nas profundidades 32 e 64, permanecendo estável até 128.

Resumo do GDSIO

Esta tabela fornece uma análise clara das métricas de desempenho do GDSIO para latência e IOPS coletadas no SSD Solidigm D7-PS1010, medidas em tamanhos de bloco de 16K, 128K e 1M, com uma profundidade de E/S de 128. Em uma profundidade de fila de 128, a latência e os IOPS aumentam previsivelmente com o tamanho do bloco. A leitura do bloco de 16K teve uma média de 1.549ms com 82.3K IOPS, enquanto a latência de gravação foi de 2.429ms com 52.6K IOPS. Com blocos de 128K, a latência de leitura aumentou para 2.414ms (52.9K IOPS) e a latência de gravação para 8.050ms (15.9K IOPS). Em 1M, a latência de leitura atingiu 14.643 ms com 8.7 K IOPS, e a latência de gravação subiu para 23.030 ms com 5.6 K IOPS.

Gráfico GDSIO (médias de tamanho de bloco de 16K, 128K, 1M)	HPE DL145 Gen 11 (6 SSDs Solidigm D7-PS1010 E3s de 7.68 TB)
(Tamanho do bloco de 16K, profundidade de 128 IO) Leitura média	1.3 GiB/s (1.549 ms) IOPS: 82.3 K
(Tamanho do bloco de 16K, profundidade de 128 IO) Gravação média	0.8 GiB/s (2.429 ms) IOPS: 52.6 K
(Tamanho do bloco de 128K, profundidade de 128 IO) Leitura média	6.5 GiB/s (2.414 ms) IOPS: 52.9 K
(Tamanho do bloco de 128K, profundidade de 128 IO) Gravação média	1.9 GiB/s (8.050 ms) IOPS: 15.9 K
(Tamanho do bloco de 1M, profundidade de 128 IO) Leitura média	8.5 GiB/s (14.643 ms) IOPS: 8.7 K
(Tamanho do bloco de 1M, profundidade de 128 IO) Gravação média	5.4 GiB/s (23.030 ms) IOPS: 5.6 K

Produção de mídia na ponta

O que é Axle AI?

A Axle AI é uma plataforma de gerenciamento de ativos de mídia (MAM) com tecnologia de IA local que simplifica os fluxos de trabalho de vídeo para equipes de mídia de pequeno e médio porte. Ela automatiza tarefas essenciais, como ingestão, marcação e busca de mídia, sem o custo ou a complexidade dos sistemas MAM tradicionais. Projetada para velocidade e facilidade de uso, a Axle AI permite que as equipes gerenciem e entreguem conteúdo com mais eficiência, estejam elas no escritório ou trabalhando remotamente.

A plataforma suporta todo o pipeline de produção. Ela ingere filmagens automaticamente, cria proxies, aplica metadados baseados em IA usando recursos como reconhecimento de objetos, detecção de rostos e busca semântica, e integra-se a ferramentas de edição padrão do setor, incluindo Adobe Premiere Pro e DaVinci Resolve. Isso permite que as equipes localizem, editem e publiquem conteúdo rapidamente, sem gargalos ou atrasos.

Casos de uso do mundo real

A Axle AI conta com a confiança de diversas equipes de mídia, incluindo emissoras, documentaristas, departamentos de vídeo corporativo, agências de marketing e produtores de eventos ao vivo. Essas equipes geralmente trabalham em vários locais e precisam de acesso confiável às suas bibliotecas de mídia sem a necessidade de uma infraestrutura pesada.

Com o Axle AI, os usuários podem colaborar remotamente por meio de uma interface baseada em navegador que fornece acesso instantâneo à mídia proxy. Os editores podem começar a editar as filmagens imediatamente em seus sistemas de edição não linear (NLEs) preferidos, enquanto produtores e partes interessadas revisam, marcam ou aprovam clipes em tempo real (sem necessidade de transferências de arquivos grandes ou habilidades técnicas especializadas).

Seja sua equipe composta por cinco ou cinquenta pessoas, o Axle AI possibilita fluxos de trabalho mais rápidos e eficientes. Sua interface simples, rápida implantação e compatibilidade com sistemas de armazenamento existentes o tornam uma solução inteligente para produção de mídia distribuída e de alto volume.

A forte demanda por mídias sociais instantâneas aumentou drasticamente o ritmo da produção de mídia. É uma mentalidade muito comum: "se você não for o primeiro, será o último", especialmente no que se refere a eventos ao vivo e à criação de conteúdo para eles. As empresas de mídia precisavam de uma maneira eficiente de organizar e revisar rapidamente grandes quantidades de imagens. Ferramentas como a Axle AI, com sua capacidade de redução para pequenas operações, permitem que esse fluxo de trabalho seja prático em campo. Quando combinado com o fluxo de trabalho adequado, como câmeras que podem gravar proxies e imagens brutas simultaneamente, as oportunidades de eficiência aumentam.

Salvar mídia proxy de alta e baixa resolução na captura e processar arquivos proxy menores imediatamente no Axle AI Tags torna todas as filmagens pesquisáveis ​​quase instantaneamente. Os editores podem começar a trabalhar imediatamente com a integração do Axle AI com a maioria dos principais NLEs, como Adobe Premiere Pro, DaVinci Resolve e Avid Media Composer. Isso também alivia bastante a carga da equipe de produção, permitindo que ela se concentre em outras tarefas ou evite o esgotamento.

Tradicionalmente, o registro tem sido um dos aspectos mais trabalhosos e frequentemente ignorados de um fluxo de trabalho de captura de mídia. O Axle AI registra mídia automaticamente com descrições de cena geradas por IA, em vez de apenas os campos de metadados tradicionais, permitindo que um editor leia o conteúdo de um clipe antes de se dar ao trabalho de analisá-lo. Ele também fornece ferramentas de busca semântica, permitindo que editores e produtores encontrem rapidamente material relevante usando conceitos e temas, em vez de depender de tags específicas.

A escalabilidade também é fundamental, pois nem todos os trabalhos exigem produção de mídia rápida e presencial. O Axle AI pode ser configurado em um sistema estacionário mais potente, com acesso ao backlog de filmagens de uma empresa de mídia por meio de um compartilhamento de rede. Isso permite que editores e produtores encontrem mídias relevantes mais rapidamente ou até mesmo descubram mídias que talvez não tivessem considerado antes e que foram "perdidas" nos arquivos. Criadores de conteúdo e emissoras podem se beneficiar significativamente desse tipo de índice de backlog, gerando mais valor a partir de mídias que, de outra forma, ficariam ociosas em um servidor. Embora certamente não seja infalível, pode dar às empresas de mídia uma vantagem em alguns dos aspectos mais demorados do processo de criação de mídia.

O HPE ProLiant DL145 Gen11 serve como base de hardware para esta implantação de IA de ponta, oferecendo um equilíbrio impressionante entre densidade computacional, taxa de transferência de armazenamento e aceleração de GPU em um espaço compacto. Equipado com um processador AMD EPYC 48P de 8434 núcleos da série 8004, com eficiência energética, este sistema é otimizado para cargas de trabalho multithread, mantendo um envelope de baixo consumo de energia. A configuração inclui 256 GB de RAM e uma única GPU NVIDIA L4, um acelerador altamente eficiente, adequado para inferência de IA na ponta. O armazenamento é provisionado com seis SSDs Solidigm D7-PS1010 E3.S, cada um com capacidade de 7.68 TB, fornecendo amplo armazenamento flash de alto desempenho para ativos de mídia e cargas de trabalho com uso intensivo de metadados. Com suporte para até três GPUs single-wide e um total de seis unidades E3.S, o DL145 Gen11 está bem posicionado para escalar com casos de uso exigentes de vídeo e IA. Esta configuração enfatiza a importância de montar cuidadosamente componentes de hardware modernos, incluindo CPU, GPU e SSDs, para permitir desempenho excepcional para fluxos de trabalho de IA focados em ponta, como aqueles alimentados pela Axle AI.

Conclusão

O Axle AI está transformando a maneira como o conteúdo de vídeo é produzido, especialmente para equipes que trabalham em tempo real com recursos limitados. Ao combinar o gerenciamento inteligente de ativos de mídia com poderosas ferramentas de inferência, o Axle AI permite um nível de automação e capacidade de resposta que os sistemas MAM tradicionais não conseguem igualar. Quando combinado com o servidor de borda HPE ProLiant DL145 Gen11, GPU NVIDIA L4 e SSDs Solidigm Gen5, o equipamento que construímos fornece um ambiente compacto e de alto desempenho otimizado para fluxos de trabalho de mídia modernos. Seja usado em campo ou como parte de um pipeline de edição híbrido, esta configuração fornece uma maneira escalável e eficiente de ingerir, marcar, pesquisar e entregar conteúdo de vídeo mais rápido do que nunca, sem comprometer a qualidade ou o controle. Para equipes encarregadas de se manter à frente em um cenário de conteúdo acelerado, a combinação de infraestrutura de borda e fluxos de trabalho assistidos por IA oferece uma vantagem competitiva significativa.