Manos

La línea Jetson de NVIDIA de computadoras de placa única está haciendo algo diferente en un vasto mar de SBC de Linux relativamente similares. Diseñados para aplicaciones informáticas de vanguardia, como un robot que necesita realizar visión por computadora de alta velocidad mientras está en el campo, brindan un rendimiento excepcional en una placa de tamaño y peso comparables a otros SBC en el mercado. La única diferencia, como era de esperar, es que tienden a costar mucho más: el actual kit de desarrollo Jetson AGX Orin de gama alta cuesta $ 1999 USD.

Afortunadamente para los piratas informáticos y los fabricantes como nosotros, NVIDIA se dio cuenta de que necesitaban una puerta de entrada asequible a su ecosistema, por lo que presentaron el Jetson Nano de $ 99 en 2019. El producto resultó tan popular que solo un año después la compañía lo actualizó con una placa portadora optimizada que cayó. el costo del kit se redujo a unos increíbles $59. Buscando ampliar aún más ese éxito, NVIDIA anunció hoy una nueva entrada de lujo en la familia Nano que se encuentra en algún punto intermedio.

Si bien el precio de $499 del Jetson Orin Nano Developer Kit puede ser un poco elevado para los aficionados, no hay duda de que obtienes mucho por tu dinero. Capaz de realizar 40 billones de operaciones por segundo (TOPS), NVIDIA estima que el Orin Nano es 80 veces más potente que el Nano anterior. Es un nivel de rendimiento que, ciertamente, no todos los lectores de La-Tecnologia necesitan en su mesa de trabajo. Pero el atractivo de una supercomputadora del tamaño de la palma de la mano es muy real, y cualquiera que esté interesado en experimentar con el aprendizaje automático haría bien en comparar (literal y figurativamente) el Orin Nano con una computadora de escritorio con una tarjeta gráfica NVIDIA comparable.

Recibimos uno de los primeros kits de desarrollador Jetson Orin Nano antes de su presentación oficial durante NVIDIA GTC (Conferencia de tecnología GPU), y pasé los últimos días conociendo de cerca el hardware y el software. Después de aceptar el hecho de que esta pequeña placa es considerablemente más poderosa que la computadora en la que estoy escribiendo esto actualmente, me entusiasma ver lo que la comunidad puede lograr con el increíble rendimiento que ofrece este sistema del tamaño de una pinta.

A primera vista, el Jetson Orin Nano Developer Kit se parece notablemente al Nano anterior. Parece claro que NVIDIA sabía que tenían un diseño ganador y sabiamente decidió sacar provecho de eso en lugar de intentar empezar de nuevo desde cero. Es un excelente ejemplo de cómo tomar una buena idea y mejorarla: simplemente agregaron más de todo, tanto por dentro como por fuera.

La parte frontal del Orin Nano Dev Kit cuenta con un conector cilíndrico de CC para alimentación (19 V a 2,4 A), cuatro puertos USB 3.2 tipo A, vídeo DisplayPort, gigabit Ethernet y un puerto USB-C que, según explica la documentación, es para depuración. fines únicamente. El lado izquierdo presenta dos conectores de cámara CSI y, en el derecho, el mismo conector de expansión de 40 pines que se ve en las placas Nano anteriores.

De todos estos cambios, el cambio a DisplayPort me pareció algo molesto. Si bien DP no es un conector poco común hoy en día, no hay forma de competir con la ubicuidad de HDMI. El regreso del conector DC también es algo interesante, ya que su eliminación y reemplazo con un conector USB-C fue uno de los cambios que NVIDIA realizó entre el Jetson Nano original y la versión de costo optimizado de $59. Como los requisitos de energía del Orin Nano están dentro de la capacidad de USB-C Power Delivery, solo puedo asumir que algunos comentarios de los usuarios deben haber provocado el cambio al conector más tradicional.

Al darle la vuelta al tablero, podemos ver algunas adiciones más. A diferencia de sus predecesores, el Orin Nano Dev Kit obtiene capacidad inalámbrica en forma de una tarjeta WiFi/Bluetooth AzureWave AW-CB375NF conectada a la ranura M.2 2230 de la placa, completa con antenas de PCB duales. Hay una segunda ranura M.2 Key M para expansión de almacenamiento y una ranura Key E que, según la documentación, incluye PCIe, USB 2.0, UART, I2S e I2C.

Los enchufes y los puertos son buenos, pero, por supuesto, con algo como esto, la verdadera pregunta es qué tan poderoso es. Mientras que el Jetson Nano anterior trajo una GPU Maxwell de 128 núcleos a la fiesta, el nuevo Orin Nano incluye la arquitectura Ampere de NVIDIA con 1.024 núcleos CUDA y 32 núcleos Tensor. Esto se suma a la CPU ARM Cortex-A78AE de 6 núcleos y 8 GB de RAM LPDDR5 que es responsable de ejecutar el sistema operativo.

Las comparaciones de las dos placas proporcionadas por NVIDIA son ridículamente unilaterales, dejando claro que estos dos dispositivos se encuentran en categorías muy diferentes. En consecuencia, la empresa ni siquiera se molesta en comparar el Orin Nano con otros SBC del mercado. Probablemente por una buena razón: como el Jetson Nano anterior (clasificado en 472 GFLOP) ya podría superar con creces la potencia computacional bruta del Pi 4 (estimado en 13,5 GFLOPS), ni siquiera sería un problema en estos gráficos.

Pero, ¿qué significan todos estos números en el mundo real? Como prueba simple, volví a ejecutar la misma demostración de detección de objetos en vivo utilizada como punto de referencia durante mi práctica con el Nano 2020. Si bien la placa anterior podía manejar unos respetables 25 cuadros por segundo (FPS), maximizó notablemente la RAM disponible en el proceso. En comparación, el Orin Nano gritó en la misma demostración a 180 FPS mientras consumía menos de la mitad de la memoria disponible del sistema.

En pocas palabras, si está realizando algún tipo de proyecto de aprendizaje automático o inteligencia artificial, el cambio al Orin Nano representa un salto generacional con respecto al hardware anterior.

Si bien sería difícil encontrar muchas fallas en el hardware de Orin Nano, me encontré con algunos puntos débiles con el lado del software. Nada que me disuada de recomendar el producto, pero sí cosas que me gustaría ver mejoradas en el futuro si es posible.

En última instancia, mi mayor queja proviene de la decisión de NVIDIA de basar su versión personalizada de Linux en Ubuntu. A riesgo de iniciar una Guerra Santa en los comentarios, Ubuntu me parece un sistema operativo mucho más pesado de lo que uno quisiera en un SBC diseñado para un rendimiento máximo. De hecho, la documentación del Nano anterior recomendaba eliminar la GUI de Ubuntu para intentar liberar RAM. El nuevo Orin no tiene ese problema en particular, pero todavía no me gustó ver que el sistema operativo consumiera un espacio precioso en la tarjeta SD con paquetes instantáneos.

Como dije en mi práctica con la Nano 2020, sería bueno si NVIDIA ofreciera un sistema operativo más optimizado para estas placas, específicamente uno que se adaptara mejor al funcionamiento sin cabeza. Tal como está, la configuración del software está realmente orientada a que el usuario tenga un monitor, mouse y teclado conectados al Orin Nano, lo cual obviamente no es la forma en que se operará en el campo.

Dicho esto, aprecio tener todas las bibliotecas, herramientas y demostraciones necesarias para usar los núcleos CUDA de la placa preinstaladas y listas para funcionar. Oficialmente, esta suite se conoce como JetPack SDK y proporciona todo lo que necesita para comenzar a escribir sus propias aplicaciones de IA aceleradas. La mejor parte es que el SDK está diseñado de tal manera que el código escrito en una placa Jetson debería ejecutarse en todas las demás, solo que a diferentes velocidades dependiendo del hardware. Por lo tanto, podría comenzar su proyecto en el Orin Nano Dev Kit, pero luego implementarlo en una de las placas de gama alta cuando llegara el momento de la producción.

Como dije al comienzo de esta práctica, no todos necesitarán este tipo de poder. Para utilizar una vez más la demostración de detección de objetos como ejemplo, es casi seguro que su proyecto de bricolaje no necesita ejecutarse a más de 150 fotogramas por segundo. Incluso con la limitación de RAM, una de las placas Jetson Nano más antiguas sería más que adecuada para identificar ardillas en su patio trasero.

Una mirada a los puntos de referencia oficiales proporcionados por NVIDIA incluso lo muestra. Dependiendo del modelo, el Jetson Nano anterior aún puede lograr más de 30 FPS. Si te interesa jugar con uno de ellos, podrías ahorrar algo de dinero si optas por el hardware más antiguo.

Pero si se toma más en serio el software de inteligencia artificial y desea una plataforma conveniente de investigación y experimentación que sea lo suficientemente sólida para modelos más complejos, el Jetson Orin Nano Developer Kit es muy atractivo. Si bien una PC para juegos más antigua podría potencialmente procesar más datos sin procesar, no hay nada mejor que ella en términos de tamaño y eficiencia energética, por no hablar de obtener acceso al entorno de desarrollo oficial de NVIDIA, incluso si es un poco más pesado de lo que me gustaría.