1. El control CheckBox de Windows Forms
indica si una condición determinada está
activada o desactivada. Se utiliza
habitualmente para presentar al usuario
una selección de tipo Sí/No o
Verdadero/Falso. Puede utilizar grupos de
casillas para mostrar múltiples opciones
entre las cuales el usuario puede elegir una
o más

2.  El objeto que hace eso por defecto son los optionbutton, si
pones de esos, no tienes que hacer nada de código.
Ahora, si insistes con los CheckBox, entonces tienes que
poner código en cada uno para que al hacer click en
ellos, limpie saque el tilde a los otros. para el ckeck 2 seria:
Prívate Sub Check2_Click()
If Check2.Value Then
Check1.Value= False
Check3.Value= False
End If

3.  El control CheckBox se utiliza generalmente para listar
opciones y que el usuario pueda elegir entre ellas, y
dependiendo del valor (si está chequeado o no), se
realiza una u otra acción.

5. 
Private Sub CheckBox1_CheckedChanged(ByVal sender As
System.Object, ByVal e As System.EventArgs) Handles
CheckBox1.CheckedChanged
If CheckBox1.Checked Then

TextBox1.Font = New Font(TextBox1.Font, TextBox1.Font.Style Or
FontStyle.Bold)
Else
TextBox1.Font = New Font(TextBox1.Font, TextBox1.Font.Style And
Not FontStyle.Bold)
End If
End Sub
Private Sub CheckBox2_CheckedChanged(ByVal sender As
System.Object, ByVal e As System.EventArgs) Handles
CheckBox2.CheckedChanged
If CheckBox2.Checked Then
TextBox1.Font = New Font(TextBox1.Font, TextBox1.Font.Style Or
FontStyle.Italic)
Else
TextBox1.Font = New Font(TextBox1.Font, TextBox1.Font.Style And
Not FontStyle.Italic)
End If
End Sub

6. 
Private Sub CheckBox3_CheckedChanged(ByVal sender As
System.Object, ByVal e As System.EventArgs) Handles
CheckBox3.CheckedChanged
If CheckBox3.Checked Then
TextBox1.Font = New
Font(TextBox1.Font, TextBox1.Font.Style Or
FontStyle.Underline)
Else
TextBox1.Font = New
Font(TextBox1.Font, TextBox1.Font.Style And Not
FontStyle.Underline)
End If
End Sub