Utilize o código abaixo para obter uma collection dos produtos de uma categoria ordenados pela quantidade de vendas do maior para o menor.

$categoryId = 1; //Altere esta variável para qualquer ID de categoria :)

//Vamos ler a categoria
$category = Mage::getModel('catalog/category')->load($categoryId);

$products = Mage::getResourceModel('reports/product_collection')
		->addOrderedQty()
		->addAttributeToSelect('*')
		->setOrder('ordered_qty', 'desc')
		->addCategoryFilter($category);

Até a próxima!

Tiago Sampaio