Palazzo del Duca e Fontana delle Anatre di Senigallia sono due importanti testimonianze dei Della Rovere, ancora oggi ben conservati.
Fronteggiante la Rocca ricorda nel nome Giudobaldo II della Rovere, che durante i primi anni del 1500, grazie al progetto di Gerolamo Genga, lo fece diventare una importante dimora di rappresentanza per i suoi celebri e tanti ospiti, oltre che per la corte.
Un bellissimo soffitto a cassettoni attribuito a Taddeo Zuccari abellisce la grande Sala del Trono. Poi, successivamente, il palazzo venne ampliato da Francesco Maria II della Rovere, figlio proprio di Guidobaldo, che era l’ultimo rappresentante della dinastia, alterando cosi la simmetria della facciata originale.
La Piazza, il cui nome è riferito a Giovanni della Rovere, era adibita a luogo di esercitazioni militari e di parate; proprio per questo motivo la cosiddetta Fontana delle Anatra, chiamate anche Fontana dei Leoni, è leggermente decentrata rispetto alla planimetria. Questa venne costruita nel 1599 per volere di Francesco Maria II Della Rovere, per celebrare il prosciugamento di insalubri paludi che, secondi molti, creavano danni e disagi alla pubblica salute dei cittadini di Senigallia e delle zone limitrofe.