Masz tutaj gotowca:

http://www.iredmail.org/

Wszystko zrobi za Ciebie, Tobie zostanie dodanie SSL.

Co do DNS to proponuję binda (spora dokumentacja online), łatwo się konfiguruje i szybko da się go opanować. Nie mniej jednak napotkasz kilka problemów a mianowicie:

Rejestrujesz domenę, na której musisz wpisać DNSy nie będące w domenie, którą posiadasz (większość firm umożliwia wpisanie tylko ...