Iptables ist eine Software und gehört zur Firewall im Linux-Kernel. Mittels IPTables lassen sich einfache aber auch komplexe Firewalls erstellen. Das Thema ist nicht einfach, aber umfangreich - deshalb hier zu ein Link:
http://de.wikibooks.org/wiki/Linux-Praxisbuch:_Linux-Firewall_mit_IP-Tables


Als Firewall-Produkte (auf Basis IPTables) für Linux-Server gibt es z.B.:

Das wäre die Möglichkeit einer Firewall auf einem Server. Besser ist es aber eine Firewall dem Server vorzuschalten, damit ein Angreifer schon vor dem Eintritt auf dem Server geblockt wird.
linux netfilter iptables