Удалить все ппа, которые тебе дали php5
deb http://ppa.launchpad.net/ondrej/php5/ubuntu YOUR_UBUNTU_VERSION_HERE main
далее, удалить php5 и всё что с ним связано.
далее, подключить репозиторий, путем редактирования файла /etc/apt/sources.list
В самом начале файла пишешь фразу
deb http://ftp.us.debian.org/debian squeeze main contrib non-free# Debian Squeeze (testing)
В консоле, пишешь следующее
sudo apt-key adv --keyserver keyserver.ubuntu.com --recv-keys AED4B06F473041FA
sudo apt-get update
sudo apt-get install php5
После удаления удаляешь строку из файла(ОБЯЗАТЕЛЬНО), которую ты добавлял, если хочешь, удаляй ключ который добавил.
потом опять sudo apt-get update
и забудь об обновлении php5, c помощью sudo apt-get upgrade