Кто-нибудь писал скрипты работы с сервером ftps, где вход осуществлялся при помощи сертификата (.pem)?

работать с pem не получилось в принципе. Это формат putty и он не поддерживается openssl и, соответственно, всеми либами для php. Из puttygen'a можно сохранить сертификат в другом формате -- попробуйте использовать его

К сожалению изменить настройки сервера у меня не получится (настроен на прием сертификата в формате pem). Полагаете лучше оставить эту задумку в таком случае?

Сервер работает с public key. А с private key работают клиенты. По сути private key один и тот же, и pem -- лишь формат его хранения. Поэтому  от конфигурации сервера ничего не зависит