вставка лишней строки  long a1,a2,a3,a4,a5,a6,a7,a8; 
увеличивает скорость работы в 2-3 раза,
как это понять ?

Скорее всего влияет так называемый false sharing. 

Без этой строки с1 и c2 попадают в один и тот же cache line в кэше процессора. Если допустить, что потоки работают на двух физических ядрах, то им придется постоянно заниматься загрузкой/выгрузкой одного и того же cache line в/из кэша, ведь оба потока выполняют интенсивную запись туда.

Если же добавить long a1,a2,a3,a4,a5,a6,a7,a8 между с1 и с2, то с1 и с2 больше не влезут в границы одного cache line'а. Его размер зависит от железа, но в любом случае весьма небольшой. При таком раскладе  оба ядра спокойно будут писать каждый в свой cache line без постоянной необходимости инвалидировать cache line из-за конкурентной записи.

Я честно говоря об этом тоже подумал, и это обьясняет почему скорость в два раза выше ,
но 

Я переписал этот код на С++ таково эффекта нет , хотя процессору должно быть  без разницы,
т,е, логика с двумя кешами от языка не зависит,  есть мысли ?? 

Сильное допущение) Я бы сказал, что от языка и рантайма зависит не меньше, чем от железа:

1. В разных языках по-разному работает аллокатор, выделяющий память. То есть с1 и с2 могут прото не положить рядом
2. В разных языках компилятор и рантайм применяют разные оптимизации. Например можно предвычислить значения переменных на этапе компиляции, сделать inline, etc
3. Стоит также убедиться, что во обоих случаях действительно задействованы оба ядра. В силу особенностей рантайма программа может быть фактически запущена на одном ядре, лишь эмулируя многопоточность быстрыми переключениями
4. Java, в силу особенностей реализации GC, подвержена false sharing гораздо сильнее и чаще, чем этого можно было бы ожидать 

п 2 , как мне самому запустить оптимизацию аналог gcc -O(1/2/3) желательно через эклипс ,
или наоборот отключить ? (-O0) 

п,3 как это проверить одно ядро задействовано или нет ?? и как на это можно повлиять ?

а где об этом можно почитать?

Я не настолько хорошо знаю C++, чтобы указать конкретную оптимизацию, которая исправит картинку в этом случае.



Помониторить загрузку ядер во время выполнения бенчмарка, благо утилит для этого хватает.



тут

Например какие пользовал ?? 

раз
два
три
...