Основан в 1944 году в классе камерного ансамбля МГК имени П. И. Чайковского, руководимом М. Н. Тэрианом. Впервые выступил публично 10 октября 1946 года как Квартет Московской филармонии. В 1955 году квартету присвоено имя А. П. Бородина, чьи квартеты заложили основу русской традиции в этом музыкальном жанре.
Наиболее значительной страницей в истории Квартета Бородина остаётся его теснейшее сотрудничество с Дмитрием Шостаковичем: хотя премьерное исполнение квартетов Шостаковича обычно осуществлял Квартет имени Бетховена (за исключением последнего, Пятнадцатого Квартета, который впервые исполнил Ленинградский Квартет имени Танеева). Бородинцы неизменно консультировались с композитором в процессе работы над его музыкой. После смерти композитора Квартет имени Бородина неоднократно выступал в Москве и в гастрольных поездках с циклом всех квартетов Шостаковича. Заслуживает внимания также работа Квартета Бородина над музыкой других крупных русских композиторов середины XX века — Н. Я. Мясковского, В. Я. Шебалина, М. С. Вайнберга, А. Г. Шнитке. Квартет Бородина записал также все квартеты Бетховена и исполнял их в цикле концертов.
Участники Квартета имени Бородина участвовали в записях и концертах с приглашёнными дополнительными музыкантами, исполняя ансамбли для различных составов. Особенно обширен круг исполнявшихся ими фортепианных квинтетов, где партнёрами Квартета Бородина выступали выдающиеся русские и зарубежные пианисты. Наиболее долгое и плодотворное партнёрство связывало Квартет имени Бородина со С. Т. Рихтером.
