Где найти такой?
поделитесь опытом пожалуйста!

Его нужно будет дополнить модулями...
Задача заключается в создании в нем визуального редактора (для создания научных статей или обсуждений), в котором бы присутствовал редактор формул, примерно, как в MathType.

более подробно опиши требования. Если тебе надо тчобы редактировать статьи или их добавлять мог кто угодно, то советую MediaWIKI. тока с визуальным редактором придется помучатся))) И админить его посложнеее чем ПХП Нук) Но зато он отвечает всем выше перечисленным требованиям) Правда сомниваюсь что тама есть редактор формул, но его просто сделать)0

http://www.packtpub.com/article/list_of_nominees  

вот тут огромный список бесплатных CMS