Możesz przecież zrobić tak, aby to php wykonywał ten skrypt w bash
Zainteresuj się funkcją exec w php.

domena.com ,to nie hostname.

Moim zdaniem jest rozbieżność między kluczem publicznym umieszczonym w dns, a prywatym na serwerze pocztowym tej domeny. Stąd problem z deszyfracją nagłówka, przez twój serwer.

A taki klasyk:
amivsd+spamassasin?

Fireawall nie blokuje połączeń ?
Tcpdump na omv i zobacz czy pakiety dochodzą.
Może dostawca coś poblokował na routerze.

Boot z livecd i parted lub gparted

Zobacz czy user na którym uruchamiasz putty ma uprawnienia do portu, z tego co kojarze musisz należeć do grupy dialout. Z shella nie wykonujesz polecenia przypadkiem jako root? Polecam też wpisanie sobie takie sprzętu do udev, żeby zawsze był pod tym samym aliasem. Co do ustawień samego portu, to ja...

Konfig: /etc/openvpn/server.conf Konfig: /etc/openvpn/server2.conf

Generalnie jest tak, że CN musi być takie samo jak url na który się łączysz. Można podać inny CN np: "Serwer Pocztowy", ale wtedy url umieszczasz w SAN certyfikatu. Pokaż ten certyfikat. W wolnej chwili zerknę, czy na pewno wszystko się zgadza. Bo błąd, który podajesz ma związek właśnie z niezgodnoś...

Co masz w CN certyfikatu i na jaki adres się łączysz ?