Η ίδρυση της πόλεως χάνεται στα μυθικά χρόνια, όταν την ίδρυσαν οι Κορύβαντες (Στην ελληνική μυθολογία οι Κορύβαντες ήταν κατά μία παράδοση οι «πρώτοι άνθρωποι» πάνω στη Γη, ενώ κατά μία άλλη ήταν υπερφυσικές οντότητες που γεννήθηκαν πριν γεννηθούν οι ολύμπιοι θεοί), οι οποίοι ήρθαν στην Ιεράπυτνα από τη Ρόδο (εξ ου και η ονομασία Κάμιρος, η οποία ήταν αρχαία ροδίτικη πόλη).
Η πόλη βρίσκεται στη θέση της αρχαίας πόλεως Ιεράπυτνας στη νοτιοανατολική Κρήτη. Παλαιότερες ονομασίες της Ιεράπυτνας ήταν Κύρβα (από τον πρώτο της οικιστή που είχε το ίδιο όνομα), Κάμιρος, Πύτνα (λόφος) και ήταν μια από τις σπουδαιότερες πόλεις της Κρήτης, ιδιαίτερα κατά τη Ρωμαϊκή περίοδο. Η θέση της αρχαίας Ιεράπυτνας, η οποία καταστράφηκε (πιθανότατα από το σεισμό του 796) ήταν σε απόσταση ενός χιλιομέτρου από τη σημερινή πόλη, στη θέση Βιγλιά.
Η πόλη είχε κύριο αντίπαλο την πόλη Πραισό (στα ανατολικά), την οποία και κατέστρεψε το 155πΧ. Έτσι, η Ιεράπυτνα απέκτησε τη μεγαλύτερη επικράτεια στην Κρήτη, που το 150 π.Χ. είχε έκταση από τον Τσούτσουρα ως και την περιοχή του Ξερόκαμπου. Ο κυριότερος της αντίπαλος στη συνέχεια ήταν η Ίτανος, δίπλα στο σημερινό Βάι. Στη Ρωμαιοκρατία η Ιεράπυτνα ακμάζει και γίνεται μια από τις πιο κοσμοπολίτικες πόλεις της Ρωμαϊκής αυτοκρατορίας. Παράλληλα το λιμάνι της γίνεται ιδιαίτερα σημαντικό λόγω της εύκολης πρόσβασης προς την Αίγυπτο. Η Ιεράπετρα διατήρησε τη σημασία της κατά τη διάρκεια της Πρώτης Βυζαντινής Περιόδου, αλλά αργότερα καταστράφηκε από τους Άραβες. Κατά τη διάρκεια της Ενετοκρατίας, οι Ενετοί έδωσαν μεγάλη σημασία στην πόλη και στην οχύρωση της, κατασκευάζοντας το κάστρο της Ιεράπετρας.
Μετρώντας την ύπαρξη από τα αρχαία Ρωμαϊκά χρόνια, την Βυζαντινή περίοδο, την Ενετοκρατία και την Τουρκοκρατία, μετά τη Μικρασιατική καταστροφή του 1922 και την ανταλλαγή πληθυσμών που επακολούθησε, εγκαταστάθηκαν στην Ιεράπετρα πολλές οικογένειες Μικρασιατών που έδωσαν πολιτιστική και οικονομική άνθηση στην περιοχή.