Apple y NVIDIA

[macpotok]

A modo de catarsis y para ver si hay algún otro que haya sufrido el mismo tema, comentar que seguramente en unos días conozcamos al sucesor de macOS Mojave 10.14, sistema que desde que salió tuvo un drawback muy importante: El fin del soporte de tarjetas NVIDIA con drivers oficiales y por ende de CUDA, la API de computación mediante GPU líder por lejos en el mercado.

El thread en el foro de NVIDIA ya llega a las 85 páginas, con decenas de profesionales (y algún que otro gamer) que invirtieron miles de dólares en tarjetas NVIDIA de alta gama para realizar distintas tareas, y luego de esperar todo este tiempo han tenido que perder su inversión migrando a Windows o comprando ATI que vuelvo a decir, en este tema está lejos de ser líder.

En mi caso estoy incursionando hace un tiempo en el tema deep learning e inteligencia artificial, donde es absolutamente mandatorio contar con una buena GPU para realizar los procesamientos de datos. Tuve que instalar un High Sierra sólo para esto y cruzo los dedos de qué pasará más adelante cuando cese el soporte al 10.13.x.

Sumar además que en Mojave se "deprecó" el soporte de OpenCL en favor de Metal, esta última una API (muy buena pero) exclusiva de macOS y que por tanto los grandes jugadores del mundo de la A.I. no pretenden soportar por simple economía de recursos.

El mayor problema que veo es que si se mantiene esta política por parte de Apple de cerrarle el paso a las GPUs de NVIDIA, todo el mercado de profesionales (en franco crecimiento) que se dedican a este tema del deep learning van a tener que descartar la plataforma Mac y optar por otras. Espero encontrarme con una sorpresa en la WWDC y vuelva el ansiado soporte de GPUs NVIDIA.

Thread de referencia: https://devtalk.nvidia.com/default/topi ... -10-14-/85

[macpotok]

Justo hoy salió este artículo con el cual estoy 100% de acuerdo:

https://www.theverge.com/2019/5/31/1864 ... ew-updates

[carro]

A mi me paso en una MacBook Pro, que si actualizas a mojave, la falta del cuda ese no deja andar bien el premier... y no encuentro solucion...

[macpotok]

Si la aplicación depende de CUDA no hay solución, no hay CUDA para Mojave y dado que en este momento están anunciando el siguiente OS (Catalina) estimo que nunca habrá soporte para CUDA en Mojave. Veremos si lo hacen para Catalina, temo que no porque anuncian la Mac Pro (una bestia de máquina realmente, hay que decirlo), pero con tarjetas ATI Radeon .

[NNP]

Hoy mientras vi el keynote pensé en este hilo, con la monstruosidad que presentaron, creo que cortaron todos los puentes con NVidia.

[macpotok]

Por si las moscas, en el último release de CUDA para High Sierra NVIDIA finalmente aclara que será el último para macOS y que la plataforma macOS deja de estar soportada. En resumen: no más driver oficial NVIDIA ni CUDA para macOS, y quienes utilizamos software que lo requiere seguiremos obligados a mantener Linux en nuestras macs como me ocurre a mí (la Mac Pro permanece 24x7 en Ubuntu 18.04 en los últimos meses).

https://www.provideocoalition.com/offic ... for-macos/

Quizás en la medida que la plataforma de cómputo de AMD Radeon se soporte más esto dejará de ser un problema. Por ejemplo TensorFlow ya sacó un beta soportando ROCm de Radeon en setiembre (sólo Linux por el momento también).

[krahd]

Lo que yo terminé haciendo es tener una Mac para todo menos para cosas de machine learning, y compré una PC de escritorio con 4 2080TI la que uso remotamente

[macpotok]

Lo que yo terminé haciendo es tener una Mac para todo menos para cosas de machine learning, y compré una PC de escritorio con 4 2080TI la que uso remotamente

Pah, maquinón. Sí, yo tengo un PC también con un i9 y una 2080Ti para la faena, pero igual mientras entreno en ese me queda práctico prototipar en la Mac Pro, donde tengo una modesta GTX680 de 4 Gigas. Muchas veces preparo todo en la Mac Pro, lo pruebo y luego lo copio al PC a ejecutar.

[macpotok]

Bueno, retomando este viejo thread parece que tenemos interesantes perspectivas para le mundo de machine learning con la nueva gama Apple Silicon.

Hace poco Apple lanzó un fork de Tensorflow optimizado para usar ML Compute, el framework de ML integrado a Big Sur. Los resultados de la optimización son excelentes, despegados en los chips Apple Silicon pero incluso con aceleración interesante en los Intel.

Ahora una persona hizo un benchmark sencillo de este Tensorflow de un Mac Mini con su M1, sin GPU discreta, y le entrenó Fashion MNIST más rápido que una NVIDIA 2080Ti!

https://medium.com/analytics-vidhya/m1- ... 3db2b02d74

No quiere decir que sea aplicable a cualquier entrenamiento o modelo, de hecho aún está soportado un subconjunto de operaciones aceleradas con ML Compute. Y falta que se sume Pytorch y otras librerías. Pero parecería que el futuro es prometedor. Quizás tengamos chips capaces de prototipar modelos de ML sin despeinarse en nuestros portables y usando macOS en breve.

[iBob]

Muy bueno! Yo no probé nada de Machine Learning todavía, pero en cualquier momento le meto mano... La verdad que tener hardware dedicado a eso, como lo es el Apple Neural Engine (similar a los TPU de Google), tiene que acelerar significativamente el proceso de training, y de ejecución... Es muy prometedor sin dudas... Para mi ya está probado; esto sería como la innovación que fue el iPhone, pero de los de los SoC!

[iBob]

No sé si es el lugar adecuado, pero hablando de performance...
Un Benchmark de GeekBench 5...

Mío (MBAir M1 8 Core, 8GB RAM, Apple Silicon Nativo):
https://browser.geekbench.com/v5/cpu/5316888

Mío (MBAir M1, Intel sobre Rosetta 2):
https://browser.geekbench.com/v5/cpu/5316925

De alguien con una MBPro 16" (Late 2019, Intel Core i7-9750H 6 Cores, 12 hilos, 16GB RAM)
https://browser.geekbench.com/v5/cpu/5309636

Incluso emulando Intel, la diferencia es notable...



ED: Me faltó OpenCL (Compute)...

Mío MBAir M1 (MBAir M1 8 Core, 8GB RAM, GPU Apple 8 compute units):
https://browser.geekbench.com/v5/compute/2052014

De alguien con una MBPro 16" (Late 2019, Intel Core i7-9750H 6 Cores, 12 hilos, 16GB RAM, GPU dedicada AMD Radeon Pro 5300M 20 compute units)
https://browser.geekbench.com/v5/compute/2052324

En este último caso hay diferencia a favor de la MBPro 16", aunque creo que es mínima si tomamos en cuenta que, según GeekBench, la GPU AMD tiene 20 compute units, mientras la GPU de Apple tiene solo 8 compute units....

Y algo no menos importante; este test lo hice con batería, y en una laptop que ni siquiera tiene un fan, y estuvo todo el tiempo fría mientras lo hizo, y los tests de Geekbench en las Intel hace que le vuele el Fan, y aún así lleguen a generar cierto heat... Muy loco todo...

[Count Zero]

bieeeennnnn...

[macpotok]

Muy buenos los benchmarks!