Если сканю свой 3306 порт, то в логах ничего не пишется, еслю сканю любой другой порт не зарубленый в пользовательской цепочке (tcp_packets, udp_packets) в логах всё вижу как надо
Подскажите в чем может быть проблема? надо чтобы в логах были видны все попытки атак на мой хост
$IPTABLES -A INPUT -p tcp -j bad_tcp_packets
...
$IPTABLES -A INPUT -p TCP -j tcp_packets
$IPTABLES -A INPUT -p UDP -j udp_packets
$IPTABLES -A INPUT -p ICMP -j icmp_packets
...
$IPTABLES -A INPUT -j LOG --log-prefix "INPUT packet died: "

$IPTABLES -A bad_tcp_packets -p tcp --tcp-flags SYN,ACK SYN,ACK -m state --state NEW -j REJECT --reject-with tcp-reset
$IPTABLES -A bad_tcp_packets -p tcp ! --syn -m state --state NEW -j DROP
$IPTABLES -A bad_tcp_packets -p tcp ! --syn -m state --state NEW -j LOG --log-prefix "New bad_tcp_packets !syn: "

$IPTABLES -A tcp_packets -p TCP -s 0/0 --dport 3306 -j DROP

$IPTABLES -A udp_packets -p UDP -s 0/0 --dport 3306 -j DROP

Как именно сканируете? Видов скана великое множество.
Если сильно увлекаетесь логированием, не забудьте настроить адекватную нагрузке ротацию логов. Т.к. простой посылкой множества ненужных пакетов на сервер вам могут переполнить раздел с логами, а если это не отдельный раздел, то и весь корневой раздел.

понял что пакеты не попадали в лог т.к. умирали не доходя до таргета на лог

НО, непонятно почему эти пакеты не попадают в лог, NEW,INVALID SYN,ACK пакеты точно были и блокировались
$IPTABLES -A bad_tcp_packets -p tcp --tcp-flags SYN,ACK SYN,ACK -m state --state NEW -j LOG --log-prefix "NEW bad_tcp_packets SYN-ACK: "
$IPTABLES -A bad_tcp_packets -p tcp --tcp-flags SYN,ACK SYN,ACK -m state --state NEW -j REJECT --reject-with tcp-reset
$IPTABLES -A bad_tcp_packets -p tcp ! --syn -m state --state NEW -j LOG --log-prefix "NEW bad_tcp_packets not syn: "
$IPTABLES -A bad_tcp_packets -p tcp ! --syn -m state --state NEW -j DROP

как сканю?
с помощью онлайн сервисов, например:
pcflank.com
grc.com/x/PortProbe=22

подскажите какиенить еще онлайн сканеры, желательно с возможностью выбора различных флагов при сканировании

Включаете сниффер, смотрите, что приходит, сравниваете с тем, что логируется и блокируется.

снифер включить нет возможности, т.к. тетсю IPT на локальной стационарной тачке
хотя можно врубить снифер на своём сервере удаленном, или на стационаре и сканить тада удаленный сервер
нужен снифер с возможностью выбора флагов TCP при скане, порекомендуйте мощный снифер

не пойму почему на lo iface идут пакеты, при этом адрес отправителя и получателя(inetip) это мой внешний инет адрес
IN=lo OUT= MAC=00:00:00:00:00:00:00:00:00:00:00:00:01:00 SRC=inetip DST=inetip LEN=60 TOS=0x00 PREC=0x00 TTL=64 ID=26606 DF PROTO=TCP SPT=42197 DPT=80 WINDOW=32792 RES=0x00 SYN URGP=0
помоему это аномальная активность..., или я ошибаюсь?

Сниффер - wireshark/tshark. Насчёт аномальности активности - всё зависит от того, что вы делаете в данный момент и как настроена марщрутизация, фаерволл и т.д.