Buenas.
Yo tuve un problema un tanto parecido al tuyo, también con una 8600 GT, con la diferencia de que esa 8600 GT es de 256 MB DDR3 con los últimos drivers y con el Windows 7, cuando estaba jugando al Doom 3 en ese PC, si bien parecía que quería volverse al escritorio y luego volvía la imagen de dicho juego. Ese problema lo solucioné instalando unos drivers más antiguos pero que fueran compatibles con Windows 7.
Prueba desinstalar los drivers e instalar otra versión más antigua. Muchas veces los últimos drivers no siempre son los mejores.
Saludos.