Hur är det med bios inställningar kanske är nåt som måste ställas om så det passar ditt OS, processor/övrig hårdvara osv. Har du ditt Nvidia kvar så sätt dit det och testa, dvs om det är ett pcie kort förstås. Generellt sett så borde ju i princip allt rulla på ganska mycket bättre med så ny hårdvara och i7 cpun.
Jag kan nog inte hjälpa till så mycket dessvärre, länge sedan jag meckade win. Är däremot lite av en fena på osx på PC nu för tiden

. Filmer och sånt går som tåget på min pcmac, till och med senaste äkta köpt 64 bit os går skitbra.
Jag kör två väldigt billiga 7300gs 512 mb pcie videkort i min och dom funkar fint som snus så det kanske är bättre med NVidia än ATI ändå iom att dom faktiskt oxå funkar felfritt i osx men vet ej.
Hoppas det löser sig