Тут завёл сайт на одном хостинге (платном с cpanel).

На хостинге, через cpanel, завёл почтовый ящик.
Этот ящик не отправляет письма, пишет (когда отправляю с web-интерфейса, не с локального почтового клиента):

Ошибка  Ошибка отправки письма: Failed to connect to localhost:25 [SMTP: Failed to connect socket: Время ожидания соединения истекло (code: -1, response: )]

Причём принимаются письма нормально, спам приходит 

Писал им в тех. поддержку, не могут решить уже неделю.

Никто не знает что бы это могло быть?
Может мне нужно самому в настройках сайта или cpanel чего-нибудь поменять?

Пинайте дальше вашу ТП, криво они настроили почту

Ошибка техподдержки. Они неправильно либо почтовый клиент,  либо сиПанель установили.