Да однопоточный он, как ... я не знаю что...

.
Запускать не как службу, а как экземпляр в каждом потоке IIS-подключения - это действительно никакой памяти не хватит, лучше уж и в самом деле кластер, да только это решение не за ту цену, за которую хотелось бы.
С уважением, itfs.