PC para procesado intenso

[cobito]

Buenas. Como ya comenté durante el verano, la maquinaria que hay tras Hardlimit necesita una renovación. El primer equipo va a ir destinado al procesado pesado que incluye:

• FFMPEG
• Whisper (en realidad es IA, pero bueno)
• IA
• Nuevas tareas pesadas que vayan surgiendo

La idea principal es liberar de carga al servidor principal, ya que se notan tiempos de respuesta largos cuando está cargado y cuando todas las funcionalidades están activadas, se generan colas de procesamiento excesivamente largas (en el sentido de que aparecen más trabajos de los que son posibles procesar y la cola crece indefinidamente). Pero también es importante la eficiencia en el procesado, con lo que cambiando a un equipo actual, espero reducir considerablemente el consumo de energía por unidad procesada.

En estos momentos tenemos esto:

• CPU: i5-3570k a frecuencia de stock
• Memoria: 4x8GB DDR3 a 1600MTs (F3-1600C9-8GXM) = 32GB

Es un ordenador potente, pero se ha quedado viejo. Desde el punto de vista de la CPU, FFMPEG y Whisper son muy demandantes. Además, resulta muy fácil paralelizar trabajos, por lo que muchos núcleos se puede aprovechar. Desde el punto de vista de la memoria, la IA es extremadamente exigente en cuanto a capacidad.

FFMPEG y Whisper no tienen unos requisitos mínimos (claro que los tienen, pero no son problemáticos). El cambio se hace para mejorar tiempos de procesado y mejorar eficiencia energética. Pero la IA sí tiene unos requisitos mínimos de memoria (aunque con unas fronteras bastante difusas).

La idea inicial de la IA es poder traducir los subtítulos de la intancia de Peertube para poder abrir el registro a videos en otros idiomas. También me gustaría poder hacer resúmenes del contenido de los videos en base a los subtítulos y en última instancia, semiautomatizar la moderación de los videos. Esto es lo que se hará inicialmente, pero en el futuro cercano, se expandirá a otros ámbitos. Como dije en verano, en ningún caso se usará para guarrear el foro y convertirnos en un participante más del Internet muerto. Todo lo que se haga, será para mejorar la experiencia del usuario y añadir nuevas funcionalidades.

Y hablando de la experiencia de usuario, quiero que todo esto se haga con la máxima calidad posible. No quiero que salgan traducciones difíciles de entender, de seguir y poco creíbles. Por eso busco los modelos más grandes. Por ejemplo, para Whisper estamos usando el modelo "large" v3, el más grande y reciente. Consume mucho, pero los substítulos tienen una calidad espectacular (al menos desde mi punto de vista). Quiero lo mismo para lo que venga.

La idea inicial era usar un modelo de propósito general como DeepSeek, que pueda hacerse cargo de todo. Para el modelo completo (671 mil millones de parámetros) de Deepseek R1, se estima que hace falta en torno a 1TB de RAM (sí, tera). Un sistema de estas características implicaría a una plataforma multiprocesador Xeon o Threadripper con un precio que estaría rozando las 5 cifras, por lo que se sale totalmente del presupuesto.

La segunda opción es usar modelos especializados. Por ejemplo, para traducción está NLLB, cuyo modelo de mayor tamaño se estima que requiere en torno a 150GB de RAM. Y en esta liga sí podemos jugar.

Los requisitos del equipo que busco son estos:

• Tiene que ser muy silencioso.
• Tiene que requerir muy poco mantenimiento teniendo en cuenta que estará encendido 24/7.
• El factor de forma máximo debe ser microATX.
• Tiene que ser muy fiable.
• Tiene que ser una plataforma AMD (después de más de 15 años ininterrumpidos con Intel).

A mi se me ha ocurrido la siguiente configuración:

CPU: Ryzen 9 9900X (420€)
Placa base: Gigabyte B850m D3hp Matx (142€)
RAM: 4x64GB DDR5 6000MT/s Corsair (720€)
Caja: Por determinar, microATX (50€)
Fuente: Gigabyte GP-UD1000GM PG5 (119€)
Disipador: Noctua NH-D15 G2 HBC (150€)
TOTAL: unos 1600€ (este sería más o menos el presupuesto)

De aquí, lo más desproporcionado seguramente sea la fuente. Es de 1000W y este equipo a plena potencia no va a llegar ni a cuarto de eso. Pero de todos los PCs que he tenido en los últimos 20 años, lo que más se me ha acabado rompiendo ha sido la fuente. La idea de sobredimensionarla es darle fiabilidad a la configuración. Pero decidme si esto tiene sentido o no.

También es posible que falte algún hardware auxiliar, como ventiladores para la caja. Tampoco estoy seguro de que el disipador sea la mejor opción para conseguir un PC silencioso. ¿Quizás merezca la pena refrigeración líquida? Pero esto, ¿suma o resta fiabilidad?

¿Qué opináis de este hardware?

Gracias de antemano.