L'ufficio dei fossi trova la sua origine nella deliberazione con la quale la repubblica fiorentina, nell'aprile del 1475, attribuiva ai consoli del mare di Pisa l'autorità di provvedere al risanamento idrografico della città di Pisa e del suo contado. Ai consoli del mare (vedi anche Consoli del mare governatori di Pisa e Consoli del mare di Pisa ) spettava cioè di elaborare statuti nei quali si provvedesse " ... il modo et la forma di mantenere [...] fossi vie ponti fognie et fiumi ". Gli statuti, redatti nel luglio del 1475, istituirono " l'opera de la reparatione del chontado e della città di Pisa ". L'opera era retta da due provveditori, cittadini fiorentini, ai quali dovevano affiancarsi quattro cittadini Pisani con il titolo di operai. Provveditori e operai non sottostavano alla rapida rotazione caratteristica delle magistrature del tempo, ma duravano in carica fino a revoca. Gli statuti prevedevano inoltre e regolavano la nomina degli ufficiali subalterni (notaio, camarlingo, cavallari), precisavano i confini sottoposti alla giurisdizione dell'opera, proponevano un programma di interventi urgenti, individuavano il reperimento delle fonti di finanziamento e le competenze giurisdizionali del nuovo ufficio.
Riformata nel 1491 e dotata di " assegnamenti " sugli introiti della dogana di Pisa, l' o pera fu soppressa nel periodo 1494-1509 durante la ricostituzione di un governo Pisano autonomo. Dopo il ritorno di Pisa sotto il governo fiorentino, gli statuti del 1475 tornarono in vigore e l'opera, ripristinata, agì con continuità.
Nel 1547 la " Provvisione facta sopra la reparatione et opera dei fossi nella città e contado di Pisa " istituiva il magistrato e officio de fossi. Tale magistrato non veniva creato ex novo, ma era, riformato, la prosecuzione dell'organismo precedente. Era composto dal provveditore del mare pro tempore, da un commissario di nomina granducale e da quattro officiali Pisani estratti a sorte tra i cittadini giudicati idonei dai consigli della città. Accanto a l magistrato vi erano poi un provveditore, un camarlingo, un cancelliere.
Il provveditore, di nomina granducale, doveva avere compiti di soprintendenza tecnica, ma divenne rapidamente il personaggio più autorevole dell'ufficio e mantenne in modo continuativo i rapporti col granduca.
Nel sec. XVI seguirono altre riforme tese a regolare l'organizzazione tecnica e amministrativa del corpo burocratico che si andava formando, mentre all'interno del magistrato dei fossi al provveditore del mare si sostituivano i consoli del mare ripristinati in sua vece nel 1551. Restò sempre e comunque invariata la formula della rappresentanza nell'ufficio dei fossi di magistrati fiorentini e cittadini Pisani.
Nel 1601 Ferdinando I creò il magistrato di fabbriche e coltivazioni con lo scopo di provvedere al risanamento edilizio e al ripopolamento delle campagne Pisane. Il magistrato di fabbriche e coltivazioni si adunava nella stessa sede del magistrato dei fossi ed era composto da quattro cittadini, uno dei quali era il provveditore pro tempore del magistrato dei fossi.
A partire dal 1603 il magistrato dei fossi assunse un'altra importantissima funzione: esso, cui fu unito il commissario pro tempore di Pisa, divenne il magistrato dei surrogati dei nove conservatori del contado e del dominio di Firenze per il territorio di Pisa e del suo contado.
Il magistrato dei surrogati esercitò cioè per Pisa e contado le funzioni di controllo contabile sulle comunità prima esercitate dai ragionieri dei nove, ebbe facoltà di autorizzare le spese delle comunità " surrogando " anche in questo settore il magistrato fiorentino, fu competente a dirimere le controversie tra comunità e comunità e fra comunità e privati.
L'ufficio dei fossi si presentava quindi a partire dagli inizi del '600 come un complesso di tre diversi magistrati, composti in gran parte dalle stesse persone, ma formalmente diversi: magistrato dei fossi, magistrato di fabbriche e coltivazioni, magistrato dei surrogati. Questa sua struttura rimase cosi inalterata fino alla seconda metà del sec. XVIII, quando subì radicali trasformazioni in conseguenza delle riforme leopoldine. Con il " regolamento generale " del 19 giu. 1775  [Bandi Toscana, cod. VII, n. LIII]  il magistrato dei fossi, quello di fabbriche e coltivazioni e i surrogati dei nove vennero soppressi e le loro competenze passarono, per la parte economico-amministrativa, al provveditore dell'ufficio dei fossi e comunità, mentre la giurisdizione criminale, civile e mista, loro attribuita, fu conferita, col titolo di auditore, ad un ufficiale dell'ufficio dei fossi e comunità fino al 1782