Я вас не понял. System.Byte[] тут не при чем. Думал что это вызов функции .Net
Может поможет. Вот
здесь пишут, если я правильно понял (не силен в украинском), что функция EUGetFileSignerInfo принимает 5 параметров. Вы 5 параметр PDWORD pdwCertifiacateLength потеряли. Не?