Creo que deberías leerte la guía de overclocking AMD64 de krampak (http://www.hardlimit.com/forum/showthread.php?t=13014 )
No soy ningún experto en OC pero si mal no tengo entendido lo que debes hacer es ir buscando los topes de cada componente. Primero puedes mirar hasta donde te aguanta la memoria, esto es bajando el multiplicador del procesador y subiendo el FSB (HTT) hasta que deje de ser estable. En ese punto habrás descubierto donde llega tu ram. Después puedes buscar el límites de tu placa y finalmente el del procesador. En fin, en la guía está bastante bien explicado todo.
Saludos y suerte!