в общем всё достаточно просто 

есть файл
состоящий из блоков определённой длинны

колличество блоков может быть различным(зависит от размера архива который поделён на блоки)
размер последнего блока так же может быть любым но обязательно (чётным или нечётным точно не помню но нужно бля правильности работы программы проверки)

в каждом блоке есть контрольная сумма рассчитывается(проверяется) она по формуле CHECKSUMb = 65535 - SUMMb(32бит целое) +1

у файла тоже есть контрольная сумма рассчитывается(проверяется) она по формуле CHECKSUMf = 65535 - SUMMf(32бит целое) +1

проблема в том что контрольная сумма файла включает в себя контрольную сумму блока и контрольная сумма последнего блока включает в себя сумму файла
выглядит это так
CHECKSUMb = 65535 - (SUMMb(32бит целое) + CHECKSUMf )+1
CHECKSUMf = 65535 - (SUMMf(32бит целое) + CHECKSUMb )+1

народ подкажите как посчитать эту формулу 
реально уже мозг в раскоряку   

Походу систему уравнений надо решить?

CHECKSUMb=x
CHECKSUMf=y

x = 65535 - SUMMb(32бит целое) - y +1
y = 65535 - SUMMf(32бит целое) - x +1

x+y =  65535 - SUMMb(32бит целое) +1
x+y =  65535 - SUMMf(32бит целое) +1

в твоих условиях, если SUMMb(32бит целое)!=SUMMf(32бит целое), нерешаемое уравнение получается...

в том то и смысл что математики так и говорят

но факт остаётся фактом что когда проверяеш по формуле проверки каждую контрольку а надостающее число берёш из файла то всё сходится

а коли прошивки всётаки существуют в огромном множестве должен быть вариант для вычисления данных контрольных сумм

для примера ftp.dlink.ru wireless dwl-2100ap к примеру, там файлов гора с расширением .tfp

подскажите, что обозначает SUMM(b/f) (какую точно функцию)?

SUMM(b/f) 
f - file блок данных всего файла в который включено несколько блоков b (всего в файле "заголовок файла + блок f один + контрольная сумма f")
b - block один из блоков данных в файле f (количество блоков зависит от объёма начального файла "заголовок блока(включая контрольную сумму блока b) + блок b" последний же блок "заголовок блока(включая контрольную сумму блока b) + блок b(включает контрольную сумму блока f)")

SUMM - сумма байтов блока данных с логикой вычислений 32бит целое.

а контрольная сумма всего файла точно входит в последний блок? 

в том то вся и проблема
я уже всяко проверял

Может последний блок модифицируется? Добавляется байт для подгонки.

нет

во многих прошивках проверено не однократно

что такое "логика вычисления 32 бит целое"?

это когда 65536+1=0 (или 1 не помню точно) тоесть цифра увеличивается до предела 32битного целого числа после чего идёт обнуление

Контрольная сумма блока и файла строится так, чтобы сумма всех слов в блоке/файле была равна 0 ? Тогда какая разница сколько блоков и какая контрольная сумма файла? Посчитай контрольную сумму блоков и предварительно поставь случайную контрольную сумму файла   

может не 65536, а 2^32-1?
как то неопределенно, может 0, а может и 1...