Montar un cluster de varios pc's avandonaos


  • 0

    Despues de estar navegando por foros toda la tarde e encontro algo muy interesante q se podria hacer como proyecto de Hadlimit, q consiste en montar con pc's viejos un cluster para compartir lo q es la cpu, memoria , y algun recurso mas y aumentar el rendimiento. Aqui pongo un enlace de un foro en el q se habla de ello

    FORO

    Espero q interese, yo tengo 2 pc para empezar a trabajar no son gran cosa un p133 y un p3 600, espero sacar tiempo hacer algo

    Otra cosa q me gustaria proponer es hacerlo con windows q es el SO q tiene el 80% de los usuarios y luego con Linux , haciendo sus respectivos manuales.

    Espero q guste y q cada una aporte algo

    Saludos



  • 1

    Anda k se han visto clusters con Windows, no? :D :D :D

    Yo no se como podria ser aplicable el tema, pero no creo k sea muy recomendable para una casa domestica, pq ya me diras, si tienes el Seti o UD si, pero si no, lasaplicaciones no estan hechas para clusters, o sea, que es mas el orgullo de tener uno que el beneficio que uno pueda adquirir.

    No se si estoy metiendo la pata…

    Salu2!



  • 2

    A mi me gustaria montarlo para poder dar utilidad a esos dos pc's q el p100@133 por ejemplo ya tiene q tener una capa de polvo del copon y q no se usa y asi entre los dos por ejemplo el ripeo de peliculas de dvd a divx se podria hacer en ellos y comprobar si existe tal subida de rendimiento. Solo es una propuesta q he hecho para ver si alguien mas se anima .

    He leido q casi todo el mundo lo tiene montado con linux, yo de linux no se gran cosa pero si me lo explican lo pruebo. No tengo nada q perder y tal vez mucho q aprender.

    Saludos



  • 3

    En windows es imposible, por el momento, pero no por el SO en si, sino pq los de Redmond no les da la gana.

    En linux tienes los Beowulf (no te lo recomiendo), y MOSIX (altamente recomendado). Yo tengo uno de ellos a medio hacer, pero te aviso de una cosa: aunque sean pc's viejos, chupan electricidad como lo que más, te subirá la factura de luz, fijo. Pero estaria bien para experimentar, aprenderas muchisimo y les darás un uso que ahora no tienen.

    Has provado también en montarte diferentes servers para varias aplicaciones distintas?



  • 4

    Pues ya voy a mirar el Moxis , sabes de algun manual el cristiano para el moxis ese es mas nada para ir empezando q no se por donde empezar?

    Y otra cosa q sistema operativo recomiendas para los dos pc's tanto el p133 como el 600?

    Tu como lo estas haciendo, almenos quiero seber como empezar q lo tenia muy negro cuando empeze el post.

    Saludos



  • 5

    ves a google y pon "mosix" pero en idioma español, encontrarás varias guías en castellano.



  • 6

    Ya he encontrao un manual de como instalarlo y demas.

    Ahora tengo un problema en un p100 q linux puedo meter? yo de eso se poco. En el p II 600 metere el Knoppix q me lo acaban de pasar y es una gozada.

    A ver si me ayudais con la primera pregunta. please

    Otra cosa mirando por internet encontrado un programa para windows el parallel virtual machine q supuestamente tiene la misma funcion, lo estoy probando en mi pc pero tengo problemas para compilarlo una vez instalado , necesito el visual c++ 6.0 o algo asi para hacerlo, me he bajado uno pero no me sirve, veremos si avanzo. Si lo hago rular en windows seria la repanocha, xDDD

    Enga nos vemos



  • 7

    y con windows por que no? el 2000 tiene una distribucion vadada en clustering que creo que soporta hasta 64 servidores, no s my bien como funciona ni cual es exactamente, pero que vamos existe



  • 8

    Yo tengo tirados 2 pentium1 166 (uno es MMX i el otro no), i me temo k podria conseguir mas. aunke a mi no me insteresa tanto el tema como para perder meses intentandolo, prefiero k alguien lo haga i luego yo me empiezo a mover, pq con la uni uno no puede hacer nada practicamente, ya tube bastante con montar el Server yo solito, jeje.

    PD: si k me interesa, pero no puedo estar dedicando monton de horas ya k me es imposible por ahora.

    Salu2!



  • 9

    Perdon, no me acabe de explicar:

    En Windows no se pueden hacer cluster que se repartan una misma tarea de forma efectiva, el problema está en el propio SO, pero si se pueden hacer cluster que realicen tareas diferentes o bien para almacenamiento de datos. Aunque existen programas de terceras partes que intentan hacerlo (todos ellos provienen de Unix) pero nada serio por el momento. El problema sobretodo radica cuando queremos hacer un cluster "diskless".

    ¿Porque queremos hacer un cluster diskless? Pues porque probablemente tengamos varios pc's tirados por nuestra casa, pero tener que comprar un disco duro para cada uno (en el supuesto que no lo tengamos) es caro solo por intentar aprovechar ese pc. En OpenMosix (que corre bajo sistemas Linux) es posible hacer no solo un cluster que se reparta un trabajo (como puede ser la codificación de un Divx) entre varios pc's al mismo tiempo, sino que ademas lo podemos hacer sin discos duros en los pc's clientes, solo necesitaremos un disco duro en el pc que hace de servidor.

    Esto es posible gracias a que OpenMosix divide una tarea en varios hilos.

    Por poner un ejemplo:

    • Queremos codificar una pelicula de una hora de duración en Divx, pues con OpenMosix dividirá esta tarea en muchas partes, supongamos que la dividimos en 100.000 partes y tenemos 3 pc's, uno un Pentium 133, el otro un PIII-500 y el ultimo un Athlon XP 2600+. Evidentemente existe mucha diferencia de velocidad entre estos pc's, pero por eso seha dividido el video en muchas partes, y no solo 3. Openmosix distribuira 1 parte a cada pc, y hasta que este pc no le devuelva el resultado no le assignará una nueva parte. Al final, el resultado sera que por ejemplo el Pentium 133 habrá procesado 100 partes, el PIII-500 2000 partes y el Athlon al ser más rápido todo el resto. De esta forma podemos añadir muchos pc's de características diferentes (y arquitecturas) y aprovechar lo que nos puede dar cada uno sin que por ello todo el sistema pierda velocidad, sino al contrario.

    No obstante se recomienda el uso mínimo de un Pentium 100. Y como norma una red de 100 Mb. Las de 10 MB son demasiado lentas para pasarse entre los pc's toda esta información, y lo que ganemos en computación distribuida, lo perdemos al enviar/recibir estos procesos (partes).

    Hay un mundo enorme acerca de la computación distribuida, el problema es que está en Linux, y yo de Linux más bien nulo, por colmo no tengo tiempo para aprender. Pero ya llegará ya…

    Yo estoy haciendo uno de estos proyectos, pero la fase quedo parada en la instalcion de OpenMosix (que es totalmente gratuito) y en acer arrancar los pc's sin disco duro, que para eso hemos de crear pequeñas particiones virtuales en el disco duro del server (en el caso de nodos diskless).

    Si teneis alguna otra duda aqui estoy para que me consulteis, pero tampoco lo se todo sobre esto.

    Saludos!



  • 10

    Es un proyecto interesante. Ya lo había pensado alguna k otra vez ya k tngo 4 486DX2 x aki (desmontados, k mi habitacón es pekeñita) y dsd k lei sobre los cluster d PCs en una revista (¿mundo cientifico?) siempre m ha picado la curiosidad. El problema es el mismo k tiene Marlcaj: la falta d tiempo. Entre arreglar todo lo k rompo dl ordnador (k no es poco), lo k rompen mis hermanos (aún más), los miniproyectos (tipo baybus y FA en aceite), la facultad y el trabajo no tngo tiempo para nada

    Para el 30 d Junio (el último examen d la facultad) m pondre manos a la obra cn linux y probablemente empiece tambien cn ste proyecto. Ya nos irás contando



  • 11

    sergiv lo has explicado a la perfección :)



  • 12

    Si señor sergiv menuda explicación, yo estaba intentando usar uno de esos programas para windows q no rinden tanto como en unix por la razon q dices, pero no lo hago rular ni por asomo.

    Me quiero poner a montar el mosix y me gustaria q el server en este caso sea el p3 600 y el cliente el p100 sin HD ya q el q tiene posiblemente se lo lleve mi padre para el pentium 2 de la oficina, necesitaria una disquetera q esta jodida pero weno se compra q no cuenta mucho o voy a algun garbigune. La diaquetera supongo q la necesitara para arrancar, pero el disquete de arranque como se genera, lo genera el propio programa en linux? no creo porque se instala en el nucleo de linux no? weno ya me diras algo

    Otra pregunta el Knoppix q es una variacion del debian me lo aconsejas como S.O? solo lo pregunto.

    Saludos y gracias.

    P.D A ver si alguien se anima y sacamos un manual para los mas vaguetes :risitas: q yo tampoco tengo mucho tiempo por el curro pero aprender siempre tiene un precio :D



  • 13

    Gracias a todos por los cumplidos, la verdad es la primera vez.

    Bueno, el server siempre tiene que ser el PC más potente, ya que es el que se encargará de distribuir los paketes entre los demas clientes (cuantos más clientes, más rápido el server). Llegando al punto en que si tienes muchos nodos diskless el server ha de ser dedicado.
    Habeis de pensar en que todos los nodos utilizaran el disco duro del server para guardar/leer datos, por lo que este disco duro ha de ser un poco rápido (siempre y cuando tengamos bastantes clientes, y también dependerá de la veliocidad de los clietnes al procesar los datos, + velocidad + accesos para pedir nuevas unidades). Pero para procesar datos utilizara la memoria de su propia placa.
    Otra parte muy importante son la preservacion de los datos, el disco duro en clientes de más de 5 pc's es muy intensivo (en el caso diskless), por lo que necesitareis hacer copias de seguridad, o bien un disco duro SCSI que son mas fiables para estas tareas, aunque todo falla, eh?).

    Para arrancar los nodos el propio Mosix permite crear disketes de arranque segun la tarjeta de red que tengamos (que es vital para comunicar con el PC cliente) y mediante DHCP assignar un ip al cliente. (se tiene que activar tal servicio). Pero eso ya lo pone en los how-to's.
    Pero también se puede grabar esa información en eproms (en un tienda de electronica te lo haran por pocos eur.) y meter la eprom a la tarjeta de red, asi te ahorras poner una disketera y cables. Yo tengo todos los pc's metidos en un rack casero, sin caja. Solo con placa, mem, cpu, disipa, t. red. Algunos pc's antiguos tb necesitaran vga para botar.

    Cuando se trata de nodos con disco duro local, entonces las cosas varian un poco. Pero no mucho, basicamente es mas facil, pero tambien aprenderas menos. Combinar los dos metodos si quereis, empezando por el modo con clientes con disco duro (sera menos frustrante en un principio, ya que instalarlo todo cuesta unas horas, y mas aun si es diskless).

    Sobre SO… Prueba SUSE. He oido muy buenas cosas sobre el. También los hay con Redhat, pero no he oido tan buenas cosas. Y Debian funciona muy bien tb. Creo qu Suse es la mejor relacion dificultad/calidad.

    Tambien hay una distro que lleva mosix integrado, pero no me acuerdo de su nombre, esta basada en redhat 7.x. Ya buscare.

    Si teneis mas dudas y vivis cerca de barcelona, podemos quedar un dia que os lo enseño, pero dista aun de estar terminado eh?

    Saludos.

    Una cosa que se me olvidaba, programas como PVM (parallel virtual machine, esta disponible para unix y windows) o beowulf, necesitan de programas compilados especificamente para ellos, la adaptacion no es dificil (consiste en añadir unas cuantas lineas de código y verificar ciertas compatibilidades con los hilos de ejecucion), pero no daran el 100% como si estuvieran programados especificamente. Olvidaros de ellos a menos que no tengais algo muy especifico y repetitivo que hacer (busqueda del número pi, seti, etc. Nada de divx). el PVM funciona bajo windows, pero lento y a cuelgues (segun version, pq cuando yo lo lei estaban justo empezando con este SO). Mucho mejor OpenMosix, gratuito y con mayor soporte (bueno, beowulf tb tiene mucho soporte). El rendimiento de OpenMosix segun comparativas en webs es simplemente espectacular, pq siendo un poco menor a aplicaciones especificamente creadas para Beowulf, es mucho más dinámico, pudiendo hacer un cálculo maemático ahora, y comprimir un divx después. Cosa que Beowulf agradece la dedicacion a ciertas tareas (por complegidad de uso). cuando con mosix es como si ejecutaramos una tarea normal y corriente, solo hay que hacer click en ella y el daemon de mosix se encargara de todo lo demas.



  • 14

    El boot que se genera en el disco o eprom contiene un mini-nucleo adaptado a ese cliente y datos necesarios para iniciar el cliente y conectarlo a la particion que le corresponde en el server, desde esa particion se iniciara el SO y mosix que se cargará en memoria del cliente. Por eso ocupa tan poco el disket de arranque.



  • 15

    eres un mosntruo
    el caso es que tengo un 233mmx por cassa un dual 133 (con scsi) y un p75
    par ir empezando creo que es un buen inicio
    solo me falta montar la red

    sergiv, como tenga tiempo te van a caer una de dudas…



  • 16

    Esto sparece q se esta animando,a ver si formamos un grupillo y entre todos lo sacamos, yo para el fin de seman me pongo con ello, para el lunes hare algun comentario.

    saludos y animo a las futuras personas q se pasen por aqui :D



  • 17

    Sergiv yo me apunto a la kedada si la haces. Esto se pone muy interesante.

    Salu2!



  • 18

    Tampoco hace falta que sea una quedada… solamente que seamos unos pocos con dudas y propuestas, yo tambien tengo dudas (y muchas) sobre OpenMosix. El problemon que tengo es que no tengo nada de tiempo, por cuestiones de trabajo siempre estoy de arriba a abajo (Madrid, Bilbao, Girona, Hannover, Córdoba... ) y no puedo seguir con ellos, ademas, cuando estoy por aki siempre estoy liado en otras cosas.

    Algunos consejillos:

    • No os desanimeis, si hay algo que no sale, dejarlo unos dias trankilo y después ya volvereis con más ganas aún, sino os kemareis.

    • Preguntar, preguntar y preguntar, y tb ayudar a los demas. Podriamos dejar esta rama como la de la computación distribuida y poner aki nuestros avances/dudas/sugerencias).

    • Comenzar con cosas fáciles y asequibles. Yo empezaria con un server y un nodo y los dos con disco duro. Apartir de alli... Sino, si tenemos errores al haber hecho todo esto en varios pc's (los nodos) tendremos que repetir cosas hasta la saciedad para arreglar todos lo nodos, y eso jode un monton.

    En el futuro, y para probar nuestros nodos, podriamos crear un equipo (por ej. del seti) para utilizar nuestros nodos a tope y ver que tal va la computación distribuida. El equipo de Openmosix (pag. oficial)lleva más de 80.000 unidades (si un monton) con clusters de varios usuarios... kien sabe, a lo mejor os sorprende de lo que un buen cluster con pc's no demasiado actuales puede hacer por vuestras vidas ;-).

    Un poco de info:

    http://new.linuxnow.com/docs/content/Parallel-Processing-HOWTO-html/Parallel-Processing-HOWTO-3.html

    Sobre todo interesante por los diferentes tipos de conexiones.

    http://www.lcic.org/distros.html

    Hay distros especiales para Mosix k son más rápidas y fáciles de instalar, hay una k me gusta mucho, pero no la encuentro, probar tb con estas, pero yo no las he probado. Ya me lo mirare a ver si la encuentro.

    Oye, ya posteareis vuestros avances en el tema.

    Saludos y buenas noches.



  • 19

    Publicado originalmente por shilmar
    **eres un mosntruo
    el caso es que tengo un 233mmx por cassa un dual 133 (con scsi) y un p75
    par ir empezando creo que es un buen inicio
    solo me falta montar la red

    sergiv, como tenga tiempo te van a caer una de dudas…**

    jeje, a mi me da que = :o, Shilmar, si te pones dame un toque a ver que podemos hacer :rolleyes:

    Salu2
    Packo





Has perdido la conexión. Reconectando a Hardlimit.