Актуальные примеры работы с OpenSSL API содержатся в Рутокен SDK
Примеры создания сертификата -\sdk\openssl\rtengine\samples\CreateCSR
Примеры расшифровки - \sdk\openssl\rtengine\samples\DecryptCMS
Примеры зашифровки - \sdk\openssl\rtengine\samples\EncryptCMS