Форум русскоязычного сообщества Ubuntu


Увидели сообщение с непонятной ссылкой, спам, непристойность или оскорбление?
Воспользуйтесь ссылкой «Сообщить модератору» рядом с сообщением!

Автор Тема: Дефицит памяти и /SWAP диск  (Прочитано 1142 раз)

0 Пользователей и 1 Гость просматривают эту тему.

Оффлайн gDalsky

  • Автор темы
  • Новичок
  • *
  • Сообщений: 10
    • Просмотр профиля
Дефицит памяти и /SWAP диск
« : 14 Ноября 2012, 08:43:38 »
Привет, сообщество.

Пытаюсь использовать Ubuntu 12.04.1 LTS для решения довольно специфических и ресурсоёмких задач. Надо обсчитать огромные массивы данных (200 - 500 Gb) с использованием крепко мудреного алгоритма. Софт, который обучен это делать - в наличии, но, общение с его разработчиками чрезвычайно затруднено. Я говорю с ними на разных языках в буквальном и переносном смысле. Не суть... Поскольку еще существует надежда, что задачу удастся решить на десктопе, прошу пока не отсылать меня на расчетные кластеры и в прочие "облака".

Суть в том, что для таких расчетов может потребоваться внушительный объем памяти. Сколько - никто не может предсказать заранее, но на всякий случай предлагается примерная пессимистическая оценка - 1 Gb данных = 1 Gb памяти, но есть и оптимистические прогнозы. Я собрал систему на Intel i7 с 64 Gb памяти, но всё равно сомневаюсь, что этого хватит - проблема может уткнуться не в процессор, а в дефицит памяти.

В связи с этим, хочу спросить:
1. Является ли /SWAP диск Linux естественным аналогом (продолжением) оперативной памяти? Иными словами, если я смонтирую SWAP на террабайтном диске, будет ли суммарный объем памяти, используемой приложением, равен 1 Tb + 64 Gb?
2. В целом, Linux использует SWAP на уровне ядра и этот процесс независим от С++ библиотек и скриптов Perl, используемых разработчиками прикладного софта или ситуация много сложнее?
3. Какие из стандартных папок Ubuntu нужно монтировать на SSD дисках (/TMP, /SWAP... что еще?) для увеличения эффективности общения программы с диском? "Ужасающая проблема преждевременного износа SSD" тут не актуальна, ситуация обратная - нехай сдохнет потом, лишь бы пережил время расчетов.

Спасибо заранее за ваши мудрые мысли.

Оффлайн ArcFi

  • Старожил
  • *
  • Сообщений: 15189
    • Просмотр профиля
    • aetera.net
Re: Дефицит памяти и /SWAP диск
« Ответ #1 : 14 Ноября 2012, 09:13:18 »
1. Является ли /SWAP диск Linux естественным аналогом (продолжением) оперативной памяти?
Продолжение виртуальной памяти.
http://ru.wikipedia.org/wiki/%D0%92%D0%B8%D1%80%D1%82%D1%83%D0%B0%D0%BB%D1%8C%D0%BD%D0%B0%D1%8F_%D0%BF%D0%B0%D0%BC%D1%8F%D1%82%D1%8C

Иными словами, если я смонтирую SWAP на террабайтном диске, будет ли суммарный объем памяти, используемой приложением, равен 1 Tb + 64 Gb?
Суммарный объём, доступный приложению на x86-64.

2. В целом, Linux использует SWAP на уровне ядра и этот процесс независим от С++ библиотек и скриптов Perl, используемых разработчиками прикладного софта или ситуация много сложнее?
http://shura.luberetsky.ru/2011/03/31/pro-memcpy-memmove-i-open-source/

3. Какие из стандартных папок Ubuntu нужно монтировать на SSD дисках (/TMP, /SWAP... что еще?) для увеличения эффективности общения программы с диском? "Ужасающая проблема преждевременного износа SSD" тут не актуальна, ситуация обратная - нехай сдохнет потом, лишь бы пережил время расчетов.
Чем больше, тем лучше. Хоть весь корень с хомяком.

Оффлайн БТР

  • Заслуженный пользователь
  • СуперМодератор
  • Старожил
  • *
  • Сообщений: 6312
    • Просмотр профиля
Re: Дефицит памяти и /SWAP диск
« Ответ #2 : 14 Ноября 2012, 10:53:05 »
Надо обсчитать огромные массивы данных (200 - 500 Gb) с использованием крепко мудреного алгоритма. Софт, который обучен это делать - в наличии

что за софт, если это не коммерческая тайна? Какого рода данные?

Оффлайн gDalsky

  • Автор темы
  • Новичок
  • *
  • Сообщений: 10
    • Просмотр профиля
Re: Дефицит памяти и /SWAP диск
« Ответ #3 : 14 Ноября 2012, 11:21:33 »
что за софт, если это не коммерческая тайна? Какого рода данные?

Не секрет. Задача - сборка транскриптомов de novo. Софт для этих целей есть разный и, в смысле памяти, очень жоркий, например, эта приблуда - Trinity.

Пользователь решил продолжить мысль 14 Ноября 2012, 11:50:43:
Продолжение виртуальной памяти.

Суммарный объём, доступный приложению на x86-64.

http://shura.luberetsky.ru/2011/03/31/pro-memcpy-memmove-i-open-source/

Чем больше, тем лучше. Хоть весь корень с хомяком.

Спасибо, достойный arcfi.
Как я понял, посмотрев ссылки, теоретически оперативка и SWAP-объем есть единое виртуальное-целое и в этом случае объем такой памяти ограничен лишь объемом примонтированного диска. Но, практически, всё определяется степенью криворукости кодера. Печальный вывод, напрягающий и недухоподъемный. )))
« Последнее редактирование: 14 Ноября 2012, 11:50:43 от gDalsky »

Оффлайн БТР

  • Заслуженный пользователь
  • СуперМодератор
  • Старожил
  • *
  • Сообщений: 6312
    • Просмотр профиля
Re: Дефицит памяти и /SWAP диск
« Ответ #4 : 22 Ноября 2012, 23:13:34 »
кстати, может пригодится - http://nebc.nerc.ac.uk/tools/bio-linux/package-list

 

Страница сгенерирована за 0.112 секунд. Запросов: 21.