Η πρώτη σοβαρή προσπάθεια για τη δημιουργία και λειτουργία βιβλιοθήκης, όπως την εννοούμε σήμερα, έγινε από τον Φιλεκπαιδευτικό Σύλλογο Ρεθύμνης, που ιδρύθηκε το 1887 και διέγραψε μια υπερτριακονταετή τροχιά με σημαντική κοινωφελή δράση, στους τομείς της εκπαίδευσης και του πολιτισμού γενικότερα.

Η Βιβλιοθήκη του Φ.Σ.Ρ. αριθμούσε περίπου 3000 τόμους, στους οποίους περιλαμβανόταν μέρος της βιβλιοθήκης του Επισκόπου Ιωαννικίου, που προαναφέρθηκε, καθώς και περίπου 700 τόμοι που δώρισε στην «Κοινότητα της  Πόλεως Ρεθύμνης» ο Ρεθυμνιώτης ευπατρίδης Εμμανουήλ Βυβιλάκης.  Μετά τη διάλυση του Φ.Σ.Ρ., στο τέλος της δεκαετίας του 1910, τα βιβλία περιήλθαν στην κυριότητα της Βιβλιοθήκης του Δήμου Ρεθύμνης, η οποία στην πράξη ουδέποτε λειτούργησε, αφού τα βιβλία παρέμειναν αποθηκευμένα μέχρι το 1946, οπότε ιδρύθηκε η Πνευματική Εστία Ρεθύμνης.

Το σωματείο αυτό συστάθηκε για την προαγωγή του πολιτισμού και  τη δημιουργία βιβλιοθήκης στο Ρέθυμνο. Ιδρυτές και μέλη του πρώτου Δ.Σ. ήταν οι: Πολύβιος Τσάκωνας, δικηγόρος (Πρόεδρος), Κώστας Αντωνάκης,  δικηγόρος, Ιωάννης Δαλέντζας,  λογοτέχνης, Δημήτριος Δαφέρμος,  καθηγητής, Ευάγγελος Δρανδάκης,  δικηγόρος, Νικ. Β. Δρανδάκης,  καθηγητής, Βασίλειος Καλαϊτζάκης,  εκδότης εφημερίδας, Κώστας Καλοκύρης,  καθηγητής, Γεώργιος Τσουδερός,  γιατρός και Εμμανουήλ Φραγκιαδάκης,  γιατρός.

Τα βιβλία της Δημοτικής Βιβλιοθήκης, δηλαδή του Φιλεκπαιδευτικού Συλλόγου, όσα διασώζονταν μετά από την πολυετή αποθήκευση, αποτέλεσαν τον πυρήνα της βιβλιοθήκης της Πνευματικής Εστίας. Η βιβλιοθήκη στεγάστηκε σ’ ένα δωμάτιο του ερειπωμένου κτηρίου του παλαιού Παρθεναγωγείου, που επισκευάστηκε για το σκοπό αυτό, δηλαδή στο ίδιο κτήριο όπου στεγαζόταν η Βιβλιοθήκη του Ρεθύμνου μέχρι το 2016. Παράλληλα έγιναν εκκλήσεις από τον τοπικό Τύπο για προσφορά βιβλίων και στάλθηκαν δεκάδες επιστολές σε ιδιώτες και οργανισμούς. Η ανταπόκριση του κοινού υπήρξε συγκινητική και είχε σαν αποτέλεσμα να αρχίσει η λειτουργία της βιβλιοθήκης με έναν ικανοποιητικό αριθμό βιβλίων.

Επειδή η Πνευματική Εστία δεν είχε τις απαιτούμενες οικονομικές δυνατότητες να συντηρήσει τη βιβλιοθήκη, άρχισαν προσπάθειες για να αναλάβει το κράτος το βάρος των δαπανών λειτουργίας. Οι προσπάθειες αυτές καρποφόρησαν το 1953, οπότε έγινε Δημόσια και πέρασε στην ευθύνη του Υπουργείου Παιδείας.

Από το 1953 μέχρι το 1966 η Δημόσια Βιβλιοθήκη του Ρεθύμνου λειτούργησε κάτω από πολύ δύσκολες συνθήκες, με έναν μόνο υπάλληλο, τον Μάρκο Γιουμπάκη, που κυριολεκτικά αφιέρωσε τη ζωή του στην πρόοδο και την ανάπτυξή της, επί τριάντα συνεχή χρόνια μέχρι τον πρόωρο θάνατό του το 1976.

Το 1972 ορίστηκε ως Κεντρική και εξοπλίστηκε με δύο βιβλιοαυτοκίνητα (κινητές βιβλιοθήκες), τα οποία από τότε μέχρι και σήμερα φέρνουν το βιβλίο ακόμη και στα πιο απόμακρα και απομονωμένα χωριά της Κρήτης.

Στα 70 και πλέον χρόνια της λειτουργίας της,  η Δημόσια Βιβλιοθήκη του Ρεθύμνου γνώρισε μεγάλη ανάπτυξη. Σήμερα οι συλλογές της ξεπερνούν τις 200.000 τόμους βιβλίων, στις οποίες πρέπει να προστεθούν περί τους 10.000 τόμους περιοδικών, καθώς και ένα πλούσιο αρχείο τοπικών και αθηναϊκών εφημερίδων. Εξυπηρετεί κάθε χρόνο πάνω από 30.000 χρήστες, ενώ το δανειστικό της τμήμα, που αριθμεί 13.000 ενεργά μέλη, πραγματοποιεί πάνω από 32.000 δανεισμούς το χρόνο.

Από το 2017 στεγάζεται στο  ιδιόκτητο σύγχρονο κτήριο της 2580 τ.μ. στην οδό Σταυριανού Μπίρη 6.