C++ не лучший способ решать подобную задачу, особенно при поверхностном знании оного. Если строки в файлах либо абсолютно идентичны, либо разные, то тут лучше в командной строке
sort file1.txt -o file1.sorted.txt
sort file2.txt -o file2.sorted.txt
diff file1.sorted.txt file2.sorted.txt
Я обычго вывод diff'а передаю ещё программе kompare которая сразу в двух панелях покажет локальные различия между файлами, но это уже дело вкуса.