Samsung Electronics Co., Ltd. anunció hoy que ha desarrollado lo que denomina la primera memoria de alto ancho de banda (HBM) de la industria integrada con potencia de procesamiento de inteligencia artificial (IA), la Samsung HBM-PIM. La parte PIM significa procesamiento en memoria, que es una arquitectura para incorporar capacidades de IA dentro de la memoria de alto rendimiento. La compañía afirma que esto resultará en el doble del rendimiento del sistema con una reducción del 70% en el consumo de energía. El HBM-PIM tiene como objetivo acelerar el procesamiento a gran escala en centros de datos, sistemas informáticos de alto rendimiento (HPC) y aplicaciones móviles habilitadas para IA.
La mayoría de los sistemas informáticos se basan en la arquitectura de von Neumann: una unidad de procesamiento, una unidad de control, memoria, almacenamiento externo y mecanismos de entrada y salida. La arquitectura de von Neumann ha funcionado bastante bien durante los últimos 75 años más o menos. Sin embargo, no es sin culpa. De hecho, existe un fenómeno conocido como cuello de botella de von Neuman en el que el rendimiento entre la CPU y la memoria es limitado. Ahora, se está viendo más volumen que nunca en los datos y la necesidad de moverlos rápidamente. Samsung está buscando eludir este cuello de botella.
Samsung HBM-PIM busca eliminar el cuello de botella colocando la potencia de procesamiento donde se almacenan los datos a través de un motor de IA optimizado para DRAM dentro de cada banco de memoria. Estas subunidades de almacenamiento permiten el procesamiento paralelo y minimizan el movimiento de datos. Samsung afirma que puede alcanzar el rendimiento del sistema doble anterior con un 70 % menos de consumo de energía al aplicar HBM-PIM a su solución HBM2 Aquabolt existente. No se necesitan cambios de hardware o software, por lo que el Samsung HBM-PIM se puede colocar en los sistemas existentes. El HBM-PIM tiene como objetivo aliviar el cuello de botella en las cargas de trabajo impulsadas por IA, como HPC, capacitación e inferencia.
Disponibilidad
El Samsung HBM-PIM ahora está siendo probado dentro de los aceleradores de IA por los principales socios de soluciones de IA, y se espera que todas las validaciones se completen en la primera mitad de este año.
Amazon