Hola @darko !
Pues si funciona en el portátil con Linux pero no con la RX580, me suena bastante a tema de controlador/driver... O de resolución.
Por lo que comentas, aparentemente se ve bien cuando la gráfica usa el modo básico para mostrar BIOS y menú de arranque. Pero al llegar al sistema donde entra en juego el controlador "al completo", se queda en negro.
Esto también pasaba con la resolución, con monitores que no soportaban alguna resolución específica y al ponérsela en la configuración no mostraban señal (por eso el sistema siempre ponía una cuenta atrás para revertir automáticamente los cambios, por si no veías nada).
Si mi teoría es cierta, apostaría a que si eliges arrancar en modo seguro (a prueba de fallos), llegaría a mostrarse el escritorio.
Y si pruebas a cambiar la resolución a 1440x900 que se supone que es la nativa de esa pantalla, es posible que funcione directamente también.
Prueba y nos cuentas.
¡Saludos!