По-любому не рандом. Воллейбол - максимально коммандная игра, в которой в соло тащить сложно. Составлять свои комнды также не стоит. Игры получатся не зрелищными, везде чаще игры будут слишком лёгкими.
Идеально сделать не получится, потому что тут не понятен скилл игроков в воллейблл. Но лучше всего сделать так:
Поделить всех желающих игроков на 5 групп. 1 группа - лучшие игроки, 2 - хорошие, ..., 5 - плохие. В каждой команде будет по 1 игроку из всех групп. Сначала указать группы. И люди могут сами составить команды или написать людей, с кем они хотят играть