Родился 30 октября 1904 года в Петербурге. С 1920 года жил в Смоленской области. Окончил среднюю школу в 1922 году. В Пограничных войсках ОГПУ СССР с октября 1924 года. Служил в 1-м Смоленском полку ОГПУ и в 13-м Заславском пограничном отряде, красноармеец. В 1927 году окончил 2-ю Белорусскую пограничную школу ОГПУ, в 1935 году – Высшую пограничную школу НКВД, в 1939 году – Военную академию имени М.В. Фрунзе.
В боях Великой Отечественной войны — с 25 июня 1941 года. Сначала командовал погранотрядом, с июля 1941 года — начальник охраны войскового тыла 23-й армии Ленинградского фронта, с сентября1941 года — командир 43-й стрелковой дивизии этой армии, а с октября 1941 года — командир 86-й стрелковой дивизии 55-й армии Ленинградского фронта. Участвовал в боях под Ленинградом в районе Невской Дубровки. С апреля 1942 года — заместитель командующего 23-й армией, а с мая 1942 года — первый заместитель командующего 42-й армией Ленинградского фронта. Был ранен. Генерал-майор (3.05.1942). С ноября 1942 года по ноябрь 1943 года — командовал сформированной из пограничников-дальневосточников 102-й Дальневосточной стрелковой дивизией в 70-й и 48-й армиях Центрального фронта, участвовал в боях на Курской дуге, в Орловской, Черниговско-Припятской 99 и Гомельско-Речицкой наступательных операциях.
С декабря 1943 года — командир 29-го стрелкового корпуса 48-й армии1-го Белорусского фронта.
Соединения корпуса принимали участие в Бобруйской операции 1944 года в составе ударной группировки фронта. С сентября 1944 года — командир 4-го гвардейского стрелкового корпуса 8-й гвардейской армии 1-го Белорусского фронта, участвовал в обороне магнушевского плацдарма на Висле. В ноябре 1944 года — заместитель командующего 47-й армией 1-го Белорусского фронта.
С декабря 1944 года А.М. Андреев командовал 125-м стрелковым корпусом (47 армия, 1-й Белорусский фронт), который участвовал в Варшавско-Познанской, Восточно-Померанской и Берлинской операциях.
15 января 1945 года соединения генерала А.М. Андреева прорвали укреплённые позиции врага, успешно форсировали Вислу севернее Варшавы, вместе с пехотой, переправив по тонкому льду артиллерию, создали угрозу окружения для фашистской группировки.
17 января 1945 года столица Польши была освобождена. В течение 10 дней части и соединения корпуса освободили сотни населённых пунктов, нанесли противнику большой урон в живой силе и технике.
За успешное руководство воинскими соединениями и проявленные при этом личное мужество и героизм генерал-майору Андрееву Андрею Матвеевичу 6 апреля 1945 года присвоено звание Героя Советского Союза с вручением ордена Ленина и медали «Золотая Звезда» (№ 5712).
В Берлинской операции 125-й стрелковый корпус замкнул кольцо окружения вокруг фашистской столицы с запада и неожиданным ударом овладел в течение нескольких часов городом Потсдамом. Генерал-лейтенант (20.04.1945). В 1945 году он продолжал командовать 125-м стрелковым корпусом, с января 1946 года командовал 4-м гвардейским стрелковым корпусом в Группе советских оккупационных войск в Германии, с августа 1946 года командовал 7-м гвардейским стрелковым корпусом в Ленинградском военном округе, с апреля 1947 года — 19-м стрелковым корпусом в Закавказском военном округе.
В 1949 году окончил Высшие академические курсы при Высшей военной академии имени К.Е. Ворошилова (будущей Военной академии Генерального штаба). С апреля 1949 года — помощник командующего, а с января 1951 года — командующий 3-й ударной армией в Группе советских войск в Германии. С января 1954 года командовал 28-й армией в Белорусском военном округе.
С июня 1957 по июнь 1960 года генерал-полковник А.М. Андреев командовал войсками Воронежского военного округа. С июня 1960 года — представитель Главнокомандующего Объединённых вооружённых сил государств-участников Варшавского договора в Албанской народной армии, с января 1962 года — в Чехословацкой народной армии. С августа 1963 по июнь 1973 года — начальник Военного института Министерства обороны СССР. С ноября 1973 года генерал-полковник А.М. Андреев — в отставке.
Жил в городе-герое Москве. Скончался 17 ноября 1983 года. Похоронен в Москве на Кунцевском кладбище.