Родился 29 октября 1951 года в селе Медведка Тюменцевского района Алтайского края. С отличием окончил Свердловский юридический институт в 1972 году. После окончания института работал в прокуратуре города Бийска Алтайского края следователем, старшим следователем. С 1974 года - помощник прокурора Бийска, в 1977-1982 годах - заместитель прокурора Приобского района Бийска. В 1982-1983 годах - заместитель прокурора города Барнаула Алтайского края. С 1983 года - начальник отдела прокуратуры Алтайского края. С 1986 года - старший прокурор управления Прокуратуры СССР. В 1989-1990 годах - помощник Генерального прокурора СССР по особым поручениям, затем заместитель начальника управления Прокуратуры СССР. С февраля 1992 года - начальник отдела управления Генеральной прокуратуры РФ. В 1993 году назначен заместителем начальника управления Генпрокуратуры РФ, в 1994 - начальником отдела, в 1996 году - начальником Управления по обеспечению участия прокуроров в арбитражном процессе Генпрокуратуры РФ. С 28 апреля 2000 года - статс-секретарь - первый заместитель министра юстиции РФ. С апреля 2001 года - первый заместитель министра юстиции РФ. В апреле 2004 года назначен Начальником Управления Президента РФ по вопросам государственной службы.
18 августа 2005 года Президент РФ внес кандидатуру Александра Карлина для наделения его полномочиями главы администрации Алтайского края. Чуть позже - 25 августа - Алтайским краевым Советом народных депутатов он наделен полномочиями главы администрации Алтайского края. Кандидат юридических наук, профессор. Действительный член РАЕН. Заслуженный юрист РФ. Почетный работник органов прокуратуры. Почетный работник органов юстиции. Действительный государственный советник 1-го класса. Женат, имеет двух сыновей.