Проблемы такие:
1) Есть ссылка, имеющего свой хреф, при клике на котором и, в зависимости от href, загружается некоторый код на ajax. Вопрос: После клика страница успешно загружается на ajax и сразу после этого браузер переходит по ссылке. Как отменить это действие?
2) Как при сабмите формы обработать все данные (в этом нет проблем) и отменить сабмит?
3) Есть ли хеадер, с помощью которого можно указать кодировку отправляемого далее текста?

Странно, что вы про Аякс прочитали, а ответов на свои вопросы не нашли. Загляните хоть в код скриптов этого форума, тут это есть ;)
1. и 2. Нужно, чтобы функция, поставленная на onclick или onsubmit возвратила false, тогда действие дальнейшее будет игнорироваться:

или лучше
 и тогда ajax_update должна возращать в случае успешной загрузки false, в случае неудачи - true.
3. От клиента к серверу? Нет, передаётся всё в utf-8 и если кодировка нужна другая, то перекодируется на сервере.