Sí se puede, fácilmente, y otros componentes que el XP instala por defecto.
Abre este fichero con el block de notas:

WINDOWS\inf\sysoc.inf

y elimina la palabra hide (tanto las que están en minúsculas como las que están en mayúsculas).
Luego vete al Panel de Control, Eliminar Progranmas, y allí selecciona los componentes de Windows. Ahora te aparecerán muchos que antes estaban ocultos, entre ellos el Outlook Express. Desinstalas los que quieras

Un saludo.
Iñigo.