Лично у меня похожая проблема. Проявляется также при активном использовании SATA винта (когда rtorrent или EiskaltDC++ хэшируют файлы). Заметил, что вся используемая память выдавливается из оперативы в свап и освободившееся место используется под кэш. Естественно при этом система полностью зависает (если играла музыка, то она вначале начинает хрипеть, потом замолкает; видео останавливается; банально курсор мыши залипает на месте и не чего нельзя делать (марио нот респондинг) ). Если открыть "системный монитор", то можно увидеть, что используемая паямять упала до 400 метров (как будто система только стартанула), а вот своп значительно увеличился.
На старом ядре вроде бы лучше дело обстояло. Сейчас 2.6.35-27-generic, попробую откатить, посмотреть