Construir sistemas de IA a escala exige inferencia de baja latencia, búsqueda vectorial rápida, buen rendimiento por dólar en GPU e infraestructura que crezca sin multiplicar la complejidad operativa.
El último trabajo de NVIDIA con Amazon Web Services (AWS) aborda cada uno de esos puntos. Entre Amazon OpenSearch y Amazon EC2, la infraestructura de IA de NVIDIA abre caminos más prácticos para desplegar IA en producción.
Las instancias EC2 G7, potenciadas por GPUs NVIDIA RTX PRO 4500 Blackwell Server Edition, expanden la capa de cómputo para IA, gráficos, video y analítica de datos, mientras que la librería NVIDIA cuVS acelera la capa de recuperación al convertir la indexación vectorial por GPU en la opción por defecto de OpenSearch Serverless. Y con AWS alcanzando el estatus NVIDIA Exemplar Cloud sobre la plataforma NVIDIA GB300, los clientes ganan confianza de que están recibiendo el rendimiento óptimo para sus cargas de entrenamiento.
¿Qué traen las nuevas EC2 G7 con RTX PRO 4500 Blackwell?
Las instancias Amazon EC2 G7 llevan las GPUs NVIDIA RTX PRO 4500 Blackwell Server Edition a AWS para inferencia de IA, gráficos, computación espacial y analítica acelerada por GPU. Se trata de un nuevo tipo de instancia diseñado para cargas de producción que necesitan rendimiento sin la sobrecarga operativa de administrar una plataforma GPU propia.
Comparadas con G6, las G7 entregan hasta 4.6x de rendimiento en inferencia de IA, hasta 2.1x de rendimiento gráfico, y analítica acelerada por GPU significativamente más rápida en Amazon EMR mediante la librería NVIDIA cuDF para cargas Apache Spark.
Con soporte para hasta 8 GPUs, 256 GB de memoria GPU total, 700 Gbps de red habilitada por EFA y hasta 7.6 TB de almacenamiento NVMe local, en configuraciones de una, dos, cuatro y ocho GPUs (más bare metal, próximamente), las G7 permiten a los clientes dimensionar la infraestructura sin sobreaprovisionar.
La versatilidad de la plataforma significa que los equipos de IA obtienen inferencia de menor latencia. Los equipos de medios y entretenimiento acceden a flujos de video de alta resolución y renderizado. Los equipos de simulación, CAD, infraestructura de escritorio virtual, gaming y computación espacial reciben el mismo tipo de instancia para aplicaciones gráficas intensivas. Y los equipos de datos pueden aplicar las mejoras de memoria GPU, almacenamiento local y red a pipelines de analítica y bases de datos vectoriales.
Las G7 quedan accesibles desde las AWS Deep Learning AMIs, Amazon Deep Learning Containers, Amazon EMR, Amazon EKS, Amazon ECS y AMIs gráficas, y próximamente desde Amazon SageMaker AI.
¿Por qué cuVS pasa a ser el default en OpenSearch?
La próxima generación de Amazon OpenSearch Serverless potencia IA agéntica y cargas dinámicas sin requerir administración de infraestructura. Usa indexación vectorial acelerada por GPU, impulsada por NVIDIA cuVS, como opción de cómputo por defecto para todas las colecciones vectoriales.
Para los equipos que construyen retrieval-augmented generation (RAG), búsqueda semántica, sistemas de recomendación y aplicaciones agénticas, ese cambio importa: convierte la búsqueda vectorial sobre GPU desde un proyecto especializado de optimización a una capacidad estándar de AWS.
El impacto en el cliente es directo: indexación vectorial hasta 10x más rápida a un cuarto del costo comparada con builds solo en CPU, lo que vuelve prácticas las bases de datos vectoriales de escala mil millones en menos de una hora.
Con NVIDIA cuVS como default en OpenSearch Serverless, los clientes de AWS reciben un camino mucho más rápido desde datos crudos a infraestructura productiva de recuperación para IA, con escalado serverless que reduce la carga operativa cuando las cargas están ociosas.
AWS gana estatus Exemplar Cloud para entrenamiento en GB300
AWS alcanzó el estatus NVIDIA Exemplar Cloud sobre NVIDIA GB300 para cargas de entrenamiento. Significa que AWS cumple los umbrales de rendimiento estrictos que NVIDIA usa para benchmarkar cargas de IA contra su arquitectura de referencia.
El logro es resultado de un profundo trabajo de coingeniería entre los equipos de AWS y NVIDIA. A través de la iniciativa NVIDIA Exemplar Clouds, los desarrolladores y líderes de IA pueden confiar en que están usando infraestructura cloud consistente y de alto rendimiento para entrenamiento a gran escala, lo que ayuda a evaluar proveedores con mayor seguridad, mejorar el costo total de propiedad y mover proyectos de IA desde la planificación a la producción más eficientemente.
En conjunto, estos avances refuerzan cada capa del stack de infraestructura de IA en AWS. El hilo conductor es el mismo: infraestructura productiva de IA que rinde a escala, sin sumar carga operativa a los equipos que la operan.
Más información en este blog de AWS.
