По сути VPS – это промежуточная ступень между виртуальным хостингом и собственным выделенным сервером, позволяющая по цене, приближенной к виртуальному хостингу, получить расширенный функционал, такой как полный доступ, возможность установки любых дополнительных скриптов и служб, собственный почтовый и веб-сервер и многое другое.
При этом пользователь остается полностью изолированным от остальных. Каждая виртуальная машина имеет гарантированный минимум ресурсов (оперативная память, дисковое пространство, процессорное время), что в результате приводит к гораздо большей стабильности, чем при использовании виртуального хостинга.
Также пользователь не может быть заблокирован за превышение допустимой нагрузки на сервер, скажем, при внезапном скачке количества посетителей на его сайте или при создании резервных копий данных, как это часто случается при использовании обычного хостинга.

Мне бы тоже было интересно узнать об этом.