Для Windows мог бы посоветовать MyChat (бесплатен только до 20 пользователей), если нужна голосовая связь.
Из кросс-платформенного отвечу собственным решением: XMPP (Jabber) сервер.
Сам использую для этих целей сервер OpenFire (бесплатный), это, кстати говоря, самый любимый ответ Гугла на твой вопрос
Тут и обмен файлами, и групповые конференции, и ЛС, собственно.