1. Пишете результат во временный файл.
2. Подсчитываете количество строк.
3. Если >5, то удаляете либо первые 5, либо последние 5 (в зависимости от того, что хотите).
и т.д.
Удаление можно проделать либо sedом, либо перезаписью циклом for c соответствующими параметрами.