Начиная с версии 7 InstallShield способен производить MSI файлы. Приложения могут быть в виде отдельных MSI файлов или поставляться с установщиком setup.exe. Последние в свою очередь бывают двух типов: "InstallScript MSI" и "Basic MSI". InstallScript MSI использует традиционные ключи InstallShield. Basic MSI - отдельная история.
Чтобы автоматически установить приложение, использующее Basic MSI, вам нужно указать ключи /s /v"...". Многоточие нужно заменить на ключи, которые вы хотите передать непосредственно Windows Installer (msiexec). Иными словами, если вы хотите установить приложение абсолютно незаметно и избежать перезагрузки, то используйте такую команду
setup.exe /s /v"/qn REBOOT=ReallySuppress"