A Capalbio c'è un piccolo oratorio per la maggior parte del tempo chiuso al pubblico: l'Oratorio della Provvidenza. La costruzione originaria consisteva in una cappellina sorta per il culto di un'immagine perduta della Madonna. Alla fine del Settecento fu costruito un nuovo oratorio, lasciando la cappella ad un livello più basso.
Questo edificio racchiude all'interno un ciclo di affreschi di valore inestimabile, forse attribuiti a Pinturicchio o ad un suo promettente allievo. Come si nota dai particolari nelle fotografie, il paesaggio rappresentato come sfondo comprende anche una rappresentazione cinquecentesca delle campagne intorno a Capalbio e del castello stesso.