Hola, primero de todo, toma las medidas del espacio del que dispones.
Luego, has de elegir que sistema de corriente quieres, si de tres carriles o de dos:
Existen el sistema tradicional de tres carriles de corriente alterna, y el sistema de corriente continua. La unica diferencia es que los trenes pueden estar hechos para funcionar por un sistema u otro, y no son compatibles entre si, por eso has de pensar bien cual te conviene mas, ya que es posible que si tienes maquinas sean de un sistema u otro, si llevan un patin metalico son de tres carriles, si no son de dos.
Luego, te recomiendo tambien que cambies todas las vias que tienes por unas nuevas, especialmente desvios etc, ya que los antiguos solian usar radios muy cerrados y para algunos trenes no podrian ir bien (TER, Electrotren, maquinas de vapor grandes...). Si vas a usar dos carriles te recomiendo la via PECO, si vas a usar tres carriles la Marklin.
Luego has de elegir si vas a usar el sistema analogico o el sistema digital.
Cada sistema tiene sus ventajas y sus inconvenientes:
El sistema analogico consta de un transformador con su regulador de velocidad para cada tren. Por una via, o por un tramo de via solo puede circular un tren al mismo tiempo. La via se ha de separar, usando eclisas aislantes, para crear cantones o secciones, por los cuales pueda circular cada tren. La ventaja es su precio, ya que los transformadores analogicos son mas baratos, y tambien los accesorios.
El sistema digital consta de un mando, y una central que se conecta a las vias y a la luz. En este sistema se pueden controlar todos los trenes que se quiera por una via, igual que tambien se pueden instalar modulos en los desvios, semaforos, etc, y controlarlos desde el mando, o de forma automatica. Tambien se pueden instalar sistemas para conectar la maqueta al ordenador, controlar un tren con el mando y que el resto funcionen de manera autonoma. Una ventaja de este sistema tambien es el realismo, ya que se pueden configurar acceleraciones, las luces pueden estar encendidas con la maquina parada, cosa que en el sistema analogico no es posible, ademas se pueden instalar modulos de sonido, modulos generadores de humo para las maquinas de vapor, etc...
El mayor inconveniente: el precio, los precios de los accesorios digitales son mayores que los analogicos, ademas de que en cada locomotora se ha de conectar un accesorio para que funcione en digital.
Luego, acerca de los semaforos, en internet podras encontrar muchos tutoriales donde se expliquen circuitos eletricos para los sistemas tanto analogicos como digitales, ademas de que en cualquier tienda especializada podran asistirte con sistemas ya creados, donde no hay mas que conectar los semaforos y las vias. Eso ya es eleccion tuya.
Espero que te haya aclarado algo, un saludo.

EDIT: acerca de las vias, lo que podeis hacer es hacer un esquema en un papel a mano alzada, y luego ir a la tienda de vuestra ciudad o pueblo de modelismo ferroviario y consultar la gama de vias de las diferentes marcas que tengan disponibles, para poder acomodaros a unos tipos u otros.
Yo personalmente uso via flexible de la casa PECO, esta se vende en tramos de aproximadamente un metro y se ha de cortar y pegar al tablero, es bastante mas tedioso que las vias normales, pero suponen un ahorro bastante grande.
3801 + 3816.