Una forma sencilla de limitar que los usuarios sólo puedan ingresar números en determinados TextBox es la siguiente:

public Form1()
{
    InitializeComponent();

    textBox1.KeyPress += new KeyPressEventHandler(textBox1_KeyPress);
}
void textBox1_KeyPress(object sender, KeyPressEventArgs e)
{
    // Permitir sólo las teclas de control o números
    if (!(char.IsControl(e.KeyChar) || char.IsDigit(e.KeyChar)))
    {
        e.Handled = true;
    }
}

Puse a disposición el proyecto de prueba por si alguién está interesado.

Actualización: La porción de código mostrada todavía permite la entrada de otros caracteres (vía copiar & pegar), queda como tarea para el interesado completar la implementación de este ejemplo.