por partes,

primero sin el módem:
en los dos ordenadores, Conexión de área local con Cliente para redes Microsoft;Compartir impresoras y archivos para redes Microsoft;Programador de paquetes QoS;Protocolo Internet(TCP/IP) (Obtener IP automática,Obtener DNS automática,IP privada automática). Teniendo todo configurado por defecto. Esto, sin poner el módem, te tendría que permitir compartir archivos sin incidencias. Parece que así funcionaba,no?

segundo, con el módem:
al equipo que tiene el módem, en la conexión con la que sales a internet activas en Opciones Avanzadas/Conexión compartida a Internet por lo menos Permitir a usuarios… esto creo que te cambia ya tu ip para que actúe de servidor. Si no te la cambia te vas a conexión de área local y le pones la ip 192.168.0.1.
en el segundo pc prueba a dejar todo en automático.

Un saludo