Χτισμένο στη δεξιά μεριά του λιμανιού,ακριβώς δίπλα από την είσοδο, το κάστρο των Ιπποτών του τάγματος του Αγίου Ιωάννη, αποτελεί το επιβλητικότερο μνημείο της Ενετοκρατίας.
Διατηρείται σε πολύ καλή κατάσταση και αποτελεί κλασικό δείγμα επιβλητικής αμυντικής της εποχής του. Ονομάζεται και κάστρο της νεραντζιάς, εξαιτίας των πολλών νερατζιών που υπήρχαν στον περίβολο του.