Οι Ροδίτες ανέγειραν τον Κολοσσό για να τιμήσουν τον προστάτη τους τον Ήλιο, θεό του φωτός, μετά από την ανεπιτυχή προσπάθεια του Δημητρίου του Πολιορκητή να καταλάβει την πόλη τους το 305/4 π.Χ. Το κόστος του καλύφθηκε με την πώληση των πολιορκητικών μηχανών που ο Δημήτριος είχε αφήσει πίσω φεύγοντας από το νησί, οι πώληση των οποίων συγκέντρωσε το ποσό των 300 ταλάντων, το σημερινό αντίστοιχο περίπου 3 δισεκατομμυρίων δραχμών.
Το άγαλμα είχε ανατεθεί στο γλύπτη Χάρη από τη Λίνδο και χρειάστηκε περίπου 12 χρόνια για να ολοκληρωθεί. Σύμφωνα με τις αρχαίες πηγές, τα άκρα του αγάλματος είχαν κατασκευαστεί σε κομμάτια. Η κατασκευή του ξεκίνησε από μια μαρμάρινη βάση, στο οποίο σταθεροποιήθηκαν τα πόδια και οι αστράγαλοι. Τα εναπομείναντα μέρη του σώματος προστέθηκαν σταδιακά, με αυτά που βρίσκονταν ήδη στη θέση τους να έχουν μαζεμένο χώμα πάνω τους, ώστε η δουλειά να μπορεί να συνεχιστεί στο επίπεδο του εδάφους. Από ότι φαίνεται, ένας λόφος από χώμα πρέπει να είχε συσσωρευτεί γύρω από το άγαλμα, ο οποίος μέχρι τη στιγμή που το άγαλμα ολοκληρώθηκε πρέπει να είχε ύψος περίπου 30 μέτρων. Το κεφάλι του Ήλιου ήταν πιθανότατα στεφανωμένο με ακτίνες φωτός, όπως είναι το κεραμικό κεφάλι του Ήλιου, που βρίσκεται στο Μουσείο της Ρόδου. Στο δεξί του χέρι ο θεός κρατούσε μια δάδα, που χρησιμοποιούταν σαν ορόσημο για τους ναυτικούς. Οι περισσότερες από τις πληροφορίες που έχουμε για τη στάση του αγάλματος προκύπτουν από συγγραφείς και αναπαραστάσεις που χρονολογούνται από τη Βυζαντινή περίοδο και είναι βέβαια προσαρμοσμένες στις Βυζαντινές ιδέες και αισθητική.
Αρκετές υποθέσεις έχουν γίνει σχετικά με το που στεκόταν το άγαλμα. Σύμφωνα με μια άποψη, ήταν τοποθετημένο στην είσοδο του λιμανιού, ώστε τα πλοία να περνούν κάτω από τα πόδια του. Σύμφωνα με άλλους στεκόταν στην περίβολο του Ναού του Ήλιου το οποίο ταυτίζεται με την τοποθεσία στην οποία σήμερα βρίσκεται το Παλάτι του Μεγάλου Μαγίστρου.
Υπάρχουν επίσης αρκετές θεωρίες σχετικά με το μέγεθος του Κολοσσού. Ταξιδιώτες που είχαν επισκεφθεί τη Ρόδο μας πληροφορούν ότι είχε ύψος 31-32 μέτρων. Σύμφωνα με τις περιγραφές τους υπήρχε χώρος για 12 άτομα στο στήθος του, το κεφάλι του είχε το μήκος ενός ανθρώπου, η μύτη του είχε μήκος 30 εκατοστά και τα νύχια των δακτύλων του 15 εκατοστά. Ο Ρωμαίος συγγραφέας Πλίνιος, που είδε το άγαλμα στη Ρόδο το 77 π.Χ., μας πληροφορεί ότι κάποιος μπορούσε να τυλίξει το χέρι του γύρω από τον αντίχειρά του. Η εντύπωση που είχε προκαλέσει το άγαλμα στον αρχαία κόσμο αντικατοπτρίζεται σε έναν από τους διάλογους του Λουκιανού. Μας λέει ότι ο Μένιππος, στο δρόμο του προς τον ουρανό, μπορούσε να ξεχωρίσει τη γη μόνο και μόνο επειδή ο Κολοσσός της Ρόδου και ο Φάρος της Αλεξάνδρειας ήταν ορατά από τα σύννεφα.
Ο Κολοσσός στεκόταν στην αρχική του θέση για συνολικά 56 χρόνια, μέχρι που το 227/6 π.Χ. κατεδαφίστηκε από έναν σεισμό. Παρόλο που οι Ρόδιοι στην πραγματικότητα συγκέντρωσαν τα απαραίτητα χρήματα για να τον αποκαταστήσουν, στο τέλος δεν τον ξαναέβαλαν στη θέση του, δίνοντας βάση σε έναν μάντη που τους προειδοποίησε ότι κάτι τέτοιο θα προκαλούσε πολλές καταστροφές για τον κόσμο του νησιού. Επομένως παρέμεινε για περίπου 800 χρόνια ακριβώς στο σημείο που είχε πέσει και αποτελούσε αξιοθέατο για τους επισκέπτες της Ρόδου.
Το γεγονός ότι το άγαλμα παρέμεινε πεσμένο αλλά ανέγγιχτο για τόσους πολλούς αιώνες, παρόλο που ο χαλκός από τον οποίο ήταν φτιαγμένο ήταν πολύτιμος, καταδεικνύει την περηφάνια των Ροδίων για το δημιούργημα του νησιού τους. Το 653 μ.Χ., οι Μοαβίτες Άραβες, που είχαν κατακτήσει το νησί, πούλησαν τα κομμάτια του σε έναν Εβραίο έμπορο, ο οποίος λέγεται ότι χρειάστηκε 900 καμήλες για να το μεταφέρει.