компилятор здесь не причем
нужно использовать mmap() с ненулевым первым параметром
если mmap() возвращает ошибку, значит данный участок линейного адресного пространства использовать нельзя
такой вопрос, создавать новый процесс можно? или все надо делать в контексте текущего?

Я так и делаю: первый параметр mmap - желаемый адрес проецирования бинарника, который я извликаю из самого бинарника. Он железно жашит в бинарнике как 0x33310000, но память в отладчике сразу помечается как out of bounds
В таком же "движке" под винду просто используется желаемый адрес проецирования самого "движка" под адресом 0x33300000, и соответственно бинарник может проецироваться в память рядом с "движком" по адресу 0x33310000. В моем "движке" под линукс нужно просто задать базовый адрес проецирования в виде 0x33300000 и по логике все должно заработать, но только как его задать.... Компилятор тут конечно не причем, таие вещи задаются линковщику, но как... не могу в инете ничег накопать  



создавать процесс можно, но это получится крайне не красивое решение так как в бинарнике хранятся множество функций, которые нужно вызывать в разных участках "движка", и каждый раз для этого создавать процесс ну никак не будет красиво выглядеть..

так вы пишите загрузчик для *.exe файлов? посмотрите сорцы Wine. думаю обычным копированием шелла вы не обойдетесь - между принципиальная разница - разница между сегментацией в Linux и Windows просто огромна. все будет гораздо сложнее если в шелле будет вызываться какой-либо метод, придется очень многое исправлять.... но если вы дадите мне таблицу соответствия ассемблерных команд их hex значению (извините за безграмотность) - к примеру, ret - 0xc3 и т.д., то я возможно чем то смогу вам помочь. и пожалуйста, выложите проблемный кусок кода здесь... я все-таки не телепат...  

Я очень благодарен Вам за желание помочь.

Загрузчик я не пишу, он уже написан другим человеком, с которым компания потеряла связь. Все что мне нужно сделать - это воспользоваться им из "движка" чтобы подгрузить бинарники и вызвать функции этих бинарников так же в "движке" (понимаю, что уже тошнит от слова "движок", но стараюсь изясняться яснее  ).

И так:

функция для выделения памяти под бинарник ПОКА выглядет так:



в самом загрузчике память под бинарник выделяется так:



я продефайнил все майкросовские типы, например DWORD, руководитель проекта так попросил.

Функции загрузчика по распатрашению PE заголовков думаю выкладывать нет смысла, они роли не сыграют, к тому же в дебагире 20 раз проверенно - работает четко. OptionalHeader.ImageBase как Вы понимаете - базовый адрес проецирования бинарника, который был вытащен загрузчиком из PE заголовка самого бинарника, и постоянно раввен 0x33310000.

Но вот и тут-то пока все падает с SIGBUS так как только в выделеную память с помошью mmap происходит запись с помошью memcpy - все валицо  



с удовольствием дам, только не могу понять о чем Вы  , обясните что делать - выложу.



Вообще проблем вроде не должно быть в данной задаче, так как бинарники написаны кросплатформенно и любая ф-ия типа strcpy переписана в самом бинарнике чтобы не ссылаться ни на одну библиотеку винды.

В дальнейшем мне нужно с помошью функции загрузчика GetProcAddr вытащить какую-нибудь функцию из загруженого бинаоника и вызвать ее, как например тут:



и когда я использовал malloc, то бинарник грузился нормально и на строке кода SetNameInfo(&m_bases.ni); я сравнивал ассемблерский код, нахдящийся по адресу SetNameInfo в отладчике под линуксом и под виндой в аналогичном "движке" - код абсалютно одинаков, кроме смещений, которые заменяет сам загрузчик. Загрузчик работает правильно. Просто при использовании malloc все падало с Sigmentation fault так как malloc не дает права на запуск в памяти, да и использовать malloc нельзя так как загрузчик четко указывает желаемые адреса проецирования, а в malloc такой возможности нет.

Если чего не понятно - с прашивайте, с удовольствием обясню, и еще раз спасибо.

зачем?
фишка в том, что можно создать фиктивный исполняемый файл, который будет отображаться через sys_execve как раз чуть ниже 0x33310000 (адрес указывается)
код, отображенный ниже 0x33310000, будет отображать любой образ по адресам >= 0x33310000

А зачем выделять память через mmap? Мэпируйте сразу ваш файл (PE) на нужные адреса.

Нашел наконец как задать желаемый адрес проецирования, только не могу понять почему ругается:



Кто-нибудь знает как успокоить линковщик? Немогу вообще понять зачем ему rpath если LD_RUN_PATH переменная используется....

Добавлено через 5 минут и 52 секунды


Так оно по любому так и получается: alloc_pagealign выделяет память под PE, а потом туда через memcpy заливается сам бинарник. Просто "на нужные адреса" не получается получить память из за того, что мой "движок" не спроецирован на нужные мне адреса, вот и спрашиваю у народа:

....не могу понять, почему вот такой код валится с сигналом SIGBUS:



Почему я не могу писать в Address?

jeka23,

mmap() точно не возвращает значение MAP_FAILED?
errno равна нулю после mmap()?

ход решения такой
1. формируем специальный исполняемый файл, который будет отображать PE по нужному адресу (0x33310000) через mmap()
сам исполняемый файл будет создан таким образом, что ядро будет отображать его по адресу X < 0x33310000 так, что значение 0x33310000 - X будет равно его размеру
2. пишем загрузчик
загрузчик порождает новый процесс, в контексте нового процесса выполняем
execve(), перадавая в качестве параметра путь к отображаемому PE

если хочешь, могу вечером сделать такой файл, это несложно

MAKCim, очень благодарен, mmap сработал, просто q был нулевого размера, поэтому и валилось. Пока продвигаюсь дальше, вскоре отпишусь и разясню ситуацию, думаю можно будет обойтись без другого процесса..

Уважаемые программеры, в последний раз благодарю вас всех за уделенное мне время  
Загрузчик заработал, нужно было просто правильно воспользоваться mmap и не важно какие адреса используются, смешно и стыдно  

Помечаю пост как "решенный", удачи Вам и еще раз спасибо.



P.S.: Будущее за linux-ом и Россией, так как и то и другое было основано на идее.