Har upplevt samma problem med windows/apache att den gärna vill krascha om man inte är extremt noga med versionerna på php och apache så det är ingen pålitlig kombination att använda.

Jag fortsätter med Apache2 trots allt bra jag hört om Nginx än så länge eftersom jag inte orkat lära mig hur man konverterar .htaccess rewrite rules.
Tar säkert bara en dag att lära sig dock ;) ( tog några sekunder att googla... )

Ett alternativ om man absolut vill köra Apache2 är att byta ut PHP-modulen. Man kan köra PHP-FPM som backend även i Apache vilket är avsevärt mycket bättre än prefork och mod_php. Dock lite jobbigare att konfigurera.

Om du kan sätta upp det i IIS men inte är säker på Apache och linux kanske IIS ändå är ett bättre val. Vet man inte vad man gör kan det sluta illa i båda miljöerna.

PHP på windows är OK, om man inte behöver prestanda och inte har något emot att fixa edge cases som inte alls fungerar. Annars är det enorma skillnader på inte fåtal skillnader, t ex file_exists() och filemtime() är funktioner där man kan få för sig att språket är trasigt om man behöver göra många calls i Windows-miljö.

Vidare är det, som redan nämnts, ingen höjdare att köra Apache om du behöver prestanda. Nginx (som jag tycker bäst om) och Lighttpd (som i slutändan är nästan lika bra och jag jobbar med dagligen) är bättre alternativ - helst med php-fpm, men FastCGI är OK det också. Man sparar dock inga 100 ms förräns man maxar apache med det valet, om man inte gjort något väldigt fel.

Sen ska sägas att uppdateringar av PHP (om du kör <5.5) och bättre konfiguration av webbservern och dess extensions också gör rejäl nytta. För dynamiska requests på normalstarka burkar gör det än mer än byte av webbserver.

En annan stor nackdel du får i windows-miljö är att det inte alls finns något bra alternativ för en cachande proxy framför din webbserver.

Vet inte om man bör nämna här, men bara för att det är Windows betyder inte att man måste köra IIS för att serva PHP. Jag menar, vi har ju WAMP och XAMP. Jag kör WAMP både på min dev dator, staging och 2 st produktionsmaskiner (som i övrigt sysslar med Windows-appar/SQL osv). Fungerar riktigt bra. Kör då Apache 2.22 och PHP 5.4 för lite nyare MVC-ramverk (Laravel, som kräver minst 5.3.7).

En Linuxbaserad maskin vore såklart oavsett snabbare, men det duger en bra bit iaf innan det blir problem. Och det går att "harden" PHP hyffsat väl även i WAMP såklart.

Problemet med cpu-skillnaden blir inte bättre med wamp. Xamp har jag inte provat.

Om du kan drifta Windows bäst så kör på Windows först. Parallellt kan du ju sätta upp en Debian Linux med NginX i en VirtualBox. När du känner dig mogen så byter du din VPS till Linux istället.