При установке OpenSolaris не спрашивает, сколько места на диске выделить под своп. У меня он выделил 512 МБ, и часто случалась ситуация нехватки виртуальной памяти. Вот способ установить объем дискового пространства, выделенного под своп:
#zfs set volsize=2G rpool/swap
Изменения вступают в силу после перезагрузки.