L'osservatorio Ximeniano fu fondato a Firenze nel 1774 circa da Leonardo Ximenes, presso la casa conventuale S.Giovannino dei frati scolopi. Egli era uno scienziato illuminista appassionato ricercatore, ma anche sperimentatore capace. Ex gesuita, fu ospite degli scolopi presso i quali aveva un appartamento privato e la sua specola dotata di strumenti astronomici e fisici. L'osservatorio, inizialmente attrezzato solo per osservazioni astronomiche, in seguito fu attrezzato di strumenti per osservazioni meteorologiche, che successivamente divennero, con le osservazioni sismiche, l'attività prevalente dell'osservatorio.
Sotto la direzione di Gaetano del Ricco (1786-1814) la specola si arricchì di altri nuovi strumenti meteorologici e numerosi testi si aggiunsero alla sua biblioteca. Le rilevazioni meteorologiche iniziarono ufficialmente nel 1813.
Giovanni Inghirami (direttore dal 1814-1848) lasciò una profonda impronta nella storia della Toscana, realizzando con il fratello la prima rappresentazione cartografica in scala 1:200000 del Granducato di Toscana, e donando prestigio all'osservatorio con le sue pubblicazioni di eminente astronomo.
Il successivo direttore, Giovanni Antonelli (1848-1872) continuò i lavori iniziati da Inghirani, coltivando gli stessi interessi e ampliando i suoi studi.

All'epoca in cui fu direttore Filippo Cecchi (1872-1887) i numerosi terremoti che interessarono la Toscana costituirono uno stimolo (così come per Timoteo Bertelli e Camillo Melzi d'Eril all'Osservatorio "alla Querce" di Firenze) allo studio dei fenomeni sismici. A Cecchi si deve costruzione del sismografo a carte affumicate fisse (1877), il sismografo a registrazione continua, il microsismografo a registrazione continua, il sismografo analizzatore ad un pendolo, il sismografo analizzatore a doppio pendolo (1886) infine i sette pendoli sismoscopici Cecchi-Cavalleri. Quasi tutti questi strumenti, funzionanti almeno fino al 1940, sono conservati presso il "Gabinetto sismologico Filippo Cecchi" inaugurato nel 1889 all'osservatorio Ximeniano.

Giovanni Giovannozzi, storico della scienza, teologo e filosofo, diresse l'osservatorio dal 1887 al 1905 e si interessò di meteorologia e sismologia.

Il direttore più celebre fu Guido Alfani, insigne sismologo e ideatore di numerosi strumenti non solo sismici. La sua attività di studioso sui fenomeni naturali e la sua instancabile ricerca sulle cause dei terremoti, gli valsero molti riconoscimenti pubblici. Alfani installò nei sotterranei dell'osservatorio una stazione geodinamica che gli permise di effettuare studi sismici di notevole valore scientifico. Nel 1925, infatti, il direttore dello Ximeniano fece costruire una terna di sismografi elettromegnetici Galitzin a registrazione fotografica che rimasero in funzione fino al 1975.

Successore di Alfani fu Cesare Coppedé (1941-1964) che fu membro della Società Sismologica italiana e curò l'edizione di annuari sismici; pubblicò inoltre articoli su giornali e riviste specializzate.

Ultimo direttore, prima dell'attuale Dino Bravieri, fu Mario Enzo Mazzantini (1964-1973) che, dopo la disastrosa alluvione dell'Arno del 1966 e la conseguente perdita della stazione sismologica installata da Alfani, si prodigò per la riparazione e la ricostruzione di molti strumenti scientifici danneggiati.

Nell'ambito del progetto TROMOS sono stati restaurati due strumenti di proprietà dell'Osservatorio progettati da Bertelli e costruiti dalle Officine Galileo negli anni '70 del XIX secolo. Si tratta di un Tromometro normale (1877 ca.) e di un Ortosismometro normale (1877 ca.), in seguito esposti alla Prima mostra di strumenti sismici storici, tenuta a Sant'Agnello (Napoli) il 19-24 novembre 1990.

L'osservatorio Ximeniano è una delle sedi storiche in campo sismologico e meteorologico di maggiore importanza in Italia, per la sua tradizione storica e per la vastità e importanza della documentazione che si trova nei suoi archivi e biblioteca. Conserva registrazioni sismiche dagli inizi del '900 (in rari casi anche precedenti) ad oggi, essendo l'osservatorio tuttora funzionante con strumentazione moderna.

L'Istituto Nazionale di Geofisica installò nel dopoguerra, presso lo Ximeniano, una coppia di sismografi Wiechert (200 kg per le componenti orizzontali e 80 kg. componente verticale) a breve periodo con registrazione meccanica. Questi strumenti, del tutto simili a quelli di cui furono dotati anche gli altri osservatori della rete sismica nazionale, rimasero in funzione fino al 1971. Successivamente strumentazione dell'Osservatorio (dalo 2004 Fondazione Osservatorio Ximeniano - onlus) e dagli anni 2000 dell'INGV contribuiscono alla Rete Sismica Nazionale dell'INGV.