Вместо Top Computers съездил за памятью в Nix. Там ребята сказали, что:
1. Нужно брать частоту 1333 (родную, не выше)
2. Обязательно две планки, а не одну.
Смешно, что в момент моего нахождения в сервис-центре Никс мне позвонили из службы поддержки HP (я оставлял там заявку) и на мой вопрос о дополнительных характеристиках памяти (частота, количество плат, максимальный размер) консультант не смог дать ответа ("у меня такой информации нет").
Итого, купил две плашки по 4 гига, частотой 1333. При них новая операционка встала нормально.
Не скажу, что комп стал работать быстрее - на видеоредакторе Openshot опять были зависания и выкидывало из программы.
Думаю, дело в процессоре и в изношенном жестком диске (6 лет).