Александр Яковлевич Шаровский родился 10 февраля 1948 года в Баку. В 1973 году окончил Азербайджанский государственный институт иностранных языков. Театральную карьеру начал в 1967 году в Азербайджанском государственном театре юного зрителя, а затем перешел в Азербайджанский государственный академический русский драматический театр имени Самеда Вургуна. С 1991 года работал режиссером-постановщиком, а с 1993 года был главным режиссером театра.
Шаровский сыграл более 50 ролей на театральной сцене и поставил десятки спектаклей. В кино он снимался значительно реже. Среди подтвержденных работ — короткометражный фильм «Salandar» 1994 года режиссера Рафи Питтса и российский сериал «Граф Крестовский» 2004 года режиссера Рамиза Фаталиева, где Шаровский сыграл отца Аси.
В 1998 году ему было присвоено звание Народного артиста Азербайджана. Он также был награжден орденами «Шохрат» и «Шараф», медалью Пушкина и рядом театральных премий.