без циклов:

2^(mn-1)+(2^(n-1)-1)*(2^(m-1)-1)*2^((m-1)*(n-1))

на Паскале (для небольших N,M):

Код

Result := 1 shl (N * M - 1) +    (1 shl (N - 1) - 1) * (1 shl (M - 1) - 1) * (1 shl ((N - 1) * (M - 1)));

Да мне НЕ решение важно!!!!!!!!!!!!!!!
Мне надо знать как это придумать!!!!!!
Извиняюсь, если раньше этого не говорил.

Более простая и понятная форма:

2^(mn) - 2^(m(n-1)) - 2^(n(m-1)) +2^((m-1)*(n-1))

Количество всех (в т.ч. недопустимых) размещений в NxM прямоугольнике минус (те, в которых первая строка пуста + те, в которых первый столбец пуст -то, что учитывается дважды)

Цитата(Fixin @ 18.3.2005, 21:35)

А это?

Это построение маски сдвига вправо.