PC para procesado intenso

[cobito]

Buenas. Como ya comenté durante el verano, la maquinaria que hay tras Hardlimit necesita una renovación. El primer equipo va a ir destinado al procesado pesado que incluye:

• FFMPEG
• Whisper (en realidad es IA, pero bueno)
• IA
• Nuevas tareas pesadas que vayan surgiendo

La idea principal es liberar de carga al servidor principal, ya que se notan tiempos de respuesta largos cuando está cargado y cuando todas las funcionalidades están activadas, se generan colas de procesamiento excesivamente largas (en el sentido de que aparecen más trabajos de los que son posibles procesar y la cola crece indefinidamente). Pero también es importante la eficiencia en el procesado, con lo que cambiando a un equipo actual, espero reducir considerablemente el consumo de energía por unidad procesada.

En estos momentos tenemos esto:

• CPU: i5-3570k a frecuencia de stock
• Memoria: 4x8GB DDR3 a 1600MTs (F3-1600C9-8GXM) = 32GB

Es un ordenador potente, pero se ha quedado viejo. Desde el punto de vista de la CPU, FFMPEG y Whisper son muy demandantes. Además, resulta muy fácil paralelizar trabajos, por lo que muchos núcleos se puede aprovechar. Desde el punto de vista de la memoria, la IA es extremadamente exigente en cuanto a capacidad.

FFMPEG y Whisper no tienen unos requisitos mínimos (claro que los tienen, pero no son problemáticos). El cambio se hace para mejorar tiempos de procesado y mejorar eficiencia energética. Pero la IA sí tiene unos requisitos mínimos de memoria (aunque con unas fronteras bastante difusas).

La idea inicial de la IA es poder traducir los subtítulos de la intancia de Peertube para poder abrir el registro a videos en otros idiomas. También me gustaría poder hacer resúmenes del contenido de los videos en base a los subtítulos y en última instancia, semiautomatizar la moderación de los videos. Esto es lo que se hará inicialmente, pero en el futuro cercano, se expandirá a otros ámbitos. Como dije en verano, en ningún caso se usará para guarrear el foro y convertirnos en un participante más del Internet muerto. Todo lo que se haga, será para mejorar la experiencia del usuario y añadir nuevas funcionalidades.

Y hablando de la experiencia de usuario, quiero que todo esto se haga con la máxima calidad posible. No quiero que salgan traducciones difíciles de entender, de seguir y poco creíbles. Por eso busco los modelos más grandes. Por ejemplo, para Whisper estamos usando el modelo "large" v3, el más grande y reciente. Consume mucho, pero los substítulos tienen una calidad espectacular (al menos desde mi punto de vista). Quiero lo mismo para lo que venga.

La idea inicial era usar un modelo de propósito general como DeepSeek, que pueda hacerse cargo de todo. Para el modelo completo (671 mil millones de parámetros) de Deepseek R1, se estima que hace falta en torno a 1TB de RAM. Un sistema de estas características implicaría a una plataforma multiprocesador Xeon o Threadripper con un precio que estaría rozando las 5 cifras, por lo que se sale totalmente del presupuesto.

La segunda opción es usar modelos especializados. Por ejemplo, para traducción está NLLB, cuyo modelo de mayor tamaño se estima que requiere en torno a 150GB de RAM. Y en esta liga sí podemos jugar.

Los requisitos del equipo que busco son estos:

• Tiene que ser muy silencioso.
• Tiene que requerir muy poco mantenimiento teniendo en cuenta que estará encendido 24/7.
• El factor de forma máximo debe ser microATX.
• Tiene que ser muy fiable.
• Tiene que ser una plataforma AMD (después de más de 15 años ininterrumpidos con Intel).

A mi se me ha ocurrido la siguiente configuración:

CPU: Ryzen 9 9900X (420€)
Placa base: Gigabyte B850m D3hp Matx (142€)
RAM: 4x64GB DDR5 6000MT/s Corsair (720€)
Caja: Por determinar, microATX (50€)
Fuente: Gigabyte GP-UD1000GM PG5 (119€)
Disipador: Noctua NH-D15 G2 HBC (150€)
TOTAL: unos 1600€ (este sería más o menos el presupuesto)

De aquí, lo más desproporcionado seguramente sea la fuente. Es de 1000W y este equipo a plena potencia no va a llegar ni a cuarto de eso. Pero de todos los PCs que he tenido en los últimos 20 años, lo que más se me ha acabado rompiendo ha sido la fuente. La idea de sobredimensionarla es darle fiabilidad a la configuración. Pero decidme si esto tiene sentido o no.

También es posible que falte algún hardware auxiliar, como ventiladores para la caja. Tampoco estoy seguro de que el disipador sea la mejor opción para conseguir un PC silencioso. ¿Quizás merezca la pena refrigeración líquida? Pero esto, ¿suma o resta fiabilidad?

¿Qué opináis de este hardware?

Gracias de antemano.

[Sylver]

Muy buenas @cobito

Ante todo, darte sinceras gracias por todo el esfuerzo y dedicación que pones tanto en este nuestro foro como en sus extensiones y en la experiencia del usuario. No está ni estará nunca pagado.

Siguiendo con la configuración, me parece bastante razonable en general, y coincido contigo. El punto discutible podría ser la fuente, aunque no creo que el exceso de potencia sea malo. Quizá se podría debatir la calidad de la marca y el modelo.
No es tampoco mala fuente, pero otras me han demostrado más fiabilidad a largo plazo y en condiciones adversas. También las PSU Tier List las clasifican de manera distinta.
Yo pondría por ejemplo una Corsair RMe 1000W (o de 850W, que también sobra), ya que no es escandalosamente más cara y va a cumplir siempre incluso en las peores condiciones. Son realmente duras esas fuentes.

Y respecto a la refrigeración, con un Noctua grande como el que has puesto nunca te equivocas.
Son en general bastante silenciosos, aunque tampoco sé a qué nivel de temperaturas extremas puede ponerse un 9900X a plena carga como servidor, si será como para revolucionar hasta el extremo los ventiladores.
En cualquier caso, una líquida es más aparatosa, con más mantenimiento y también implica ventiladores, es algo de lo que normalmente no te libras.
Yo buscando precio y poco o nulo mantenimiento, tiraría siempre por Noctua. Mi NH-D14 no me impide dormir al lado

¡Saludos!

[Fassou]

Como te comenta el Gran @Sylver te sobra fuente, y personalmente tampoco iría por nada de Gigabyte.

Con una buena de 650W te sobra, pero si quieres tener cubierto que le acabes pinchando una gráfica potente, busca en 850W al menos Platinum que lo vas a tener 24/7. Te sube de precio respecto a una Gigabyte que suelen estar sospechosamente baratas, pero al precio que está la luz, lo amortizas rápidamente.

Tres ejemplos IMHO mejores que la que pones :

Cooler Master MWE Gold 850 V3 ATX 3.1 PCIe 5.1 850W Modular 80 Plus Gold
P/N: MPE-8501-AFAAG-3EEU 118€ ( la vieja confiable actualizada )

FSP 850W 80+ Gold VITA GM850 Modular ATX 3.1 Compacta
P/N: PPA8504202 128€ ( la fea y vieja confiable )

Be quiet Power Zone 2 850W 80 PLUS Platinum Modular
P/N: BP007EU 155€ ( silenciosa y Platinum )

La placa, iría mejor a por una ASRock que te sale igual de precio ( ASRock B850 Micro ATX AM5 B850M Pro-A PCIe 5.0 DDR5 256GB USB 3.2 RAID P/N: 90-MXBR8-A0UAYZ 147€ y con WiFi por 159€ P/N: 90-MXBR9-A0UAYZ ), aunque si vas a poner ventana igual te tira más una como esta : MSI B850M GAMING PLUS WIFI6E AM5 micro ATX DDR5 PCIe 5.0 RGB P/N: 911-7E81-001 154€

Salu2!

[pos_yo]

@Fassou dijo en PC para procesado intenso:

La placa, iría mejor a por una ASRock que te sale igual de precio

Aunque han sacado las nuevas BIOS que, según ellos, arreglan los problemas con los Ryzen de la serie 9000, yo evitaría ASRock (marca a la que siempre he defendido porque tengo una AM3+ y aguantar a un FX overclockeado no es poca cosa).

No obstante, coincido en casi todo lo antes dicho, la fuente me parece sobredimesionada y miraría calidad de construcción y, sobre todo, curva de eficiencia. Se estima que el ideal de una fuente es que trabaje aproximadamente a la mitad de su capacidad máxima por lo que una fuente del doble de la potencia de uso habitual sería lo más lógico. Aunque una de más capacidad podría darte la posibilidad de ampliar en un futuro, quizás no a corto plazo, pero sí que tendrías la posibilidad de instalar una GPU para hacer esas funciones de IA que en el futuro podrían ser interesantes.

No obstante, nunca se podrá estar lo suficientemente agradecido por el esfuerzo titánico de seguir y ampliar la comunidad de Hardlimit que haces.

Un abrazo.