Nel 1730 ritornò a Pesaro: da qui non ripartirà mai più, cementando il rapporto con la città sposando Teresa Belluzzi nel 1732. Fu uno scrittore prolifico: nel 1735 pubblicò il primo dei suoi numerosi opuscoli, una Spiegazione di alcuni monumenti degli antichi Pelasgi, tradotta dal francese; ma già dal 1734 aveva iniziato a far stampare il suo lavoro sulle epigrafi Pesaresi, che uscì a Roma nel 1737 col titolo Marmora Pisaurensia notis illustrata, ampliamente apprezzata da Ludovico Antonio Muratori e da Maffei; un’opera a cui l’Olivieri si dedicò tutta la vita, arricchendolo scrupolosamente con i nuovi ritrovamenti che via via faceva, e in cui annunciò la scoperta del lucus pisareunsis, i cui reperti sono conservati nel Museo Oliveriano. 

A differenza della sua cerchia di amici letterati e filologici,  accomunati dalla passione per la civiltà etrusca incentrò le sue ricerche su Pesaro, senza scriverne mai una vera e propria “storia”  preferendo la formula del contributo. Egli voleva “mettere in luce tutto ciò che una storia avrebbe potuto portare e quel molto ancor più che non sarebbe stato in essa ben collocato”: trattò la storia sacra e profana della città,  scrisse uno studio sulla fondazione di Pesaro ed una indagine sulle sue vicende nell’alto Medioevo  sotto il dominio dei Malatesta e degli Sforza e un trattato sulle monete.