Тоже столкнулся с подобной проблемой.
Изначально ставил на virtualbox 4.1.4-74291 ubuntu 14.4 (32) (на ПК установлена Win 8.1 - 64);
Ничего из выше сказанного не помогало;
Помогло: переустановил virtualbox (поменял на версию 5.0.20-106931), поставил на нее ubuntu-14.04.4-desktop-i386 (32)
После чего дополнения для гостевой ОС установились успешно.
Причем: сразу после
успешной установки дополнений для гостевой ОС сделал снимок системы (что и
всем рекомендую). После чего обновил ubuntu. После установки обновлений такое благо, как нормальное (настраиваемое) разрешение окна перестало существовать. Попытка установить дополнения для гостевой ОС стало вызывать (снова) вышеупомянутую ошибку. Пришлось восстанавливать систему со снимка