void myfunction(float v[3][3], float out[3])

так вот как это сделать в Delphi??

Передача параметров в дельфи:

Type Ta=array of something;
Var a:Ta;

Procedure Proc(a:Ta); - внутри процедуры создаётся копия массива, внутри процедуры работа осуществляется только с копией данных

Procedure Proc(var a:Ta); - внутри процедуры код работает именно с переменной а и её содержимым

Procedure Proc(const a:Ta); - внутри процедуры запрещено изменять данные переменной а

Procedure Proc(out a:Ta); - при входе в процедуру массив рассматривается как пустой, но после выполнения процедуры можно получить значения

Если Вы привыкли работать с C++, то может быть Вам будет более привычно работать, если Вы передадите указатель на массив?

Передача массива по указателю:

void MyFun(int *array/*Указатель на массив*/,int array_size/*Размер массива*/)
{
for (int i:=0;i<array_size;i++)
array[i]=i;
}