Pracę w służbie dyplomatycznej Stolicy Apostolskiej ksiądz Silvestrini rozpoczął w 1953 r. Początkowo zajmował się tematyką azjatycką - Wietnamem, Chinami, Indonezją. Następnie odegrał jedną z głównych ról w dialogu z blokiem komunistycznym, który został nazwany Ostpolitik. W 1971 r. ksiądz Silvestrini towarzyszył przyszłemu sekretarzowi stanu Agostino Casarolemu, wówczas arcybiskupowi, w czasie podróży do Moskwy, gdzie Watykan prowadził rozmowy dotyczące traktatu o nierozprzestrzenianiu broni nuklearnej. Rok później, jako watykański delegat, brał udział w przygotowaniach aktu końcowego Konferencji Bezpieczeństwa i Współpracy w Europie w Helsinkach i w Genewie. W 1973 r. został podsekretarzem w Radzie Spraw Publicznych Kościoła. Następnie w latach 1979-1984, a więc już za pontyfikatu św. Jana Pawła II stał na czele delegacji Watykanu na rozmowy z rządem Włoch w sprawie rewizji konkordatu. Jako reprezentant Stolicy Apostolskiej prowadził w latach 80. rozmowy z rządami wielu krajów, w tym także dwukrotnie- PRL. W 1988 r. polski papież mianował go kardynałem. Od 1991 do 2000 r. kardynał Silvestrini był prefektem Kongregacji ds. Kościołów Wschodnich.