Библиотека была открыта при церкви Иоанна Златоуста в Коровницкой слободе города Ярославля. Основатель — купец первой гильдии, потомственный почётный гражданин города Ярославля Николай Константинович Андронов. Одна из дочерей основателя библиотеки купца Андронова – Нина Николаевна — вышла замуж за Владимира Леонардовича Книппера, родного брата жены А. П. Чехова. Возможно неслучайно в 1918 году библиотеке присвоено имя русского писателя А. П. Чехова.

В настоящее время библиотека является региональным центром по сохранению информации о жизни и творчестве А. П. Чехова, его связи с Ярославским краем и популяризации Чеховского наследия, а также исследованию истории рода Андроновых.

Библиотека – участница научно-практических конференций, Чеховских книжных фестивалей в Таганроге, Международных Чеховских чтений в Мелихове, входит в Международное сообщество Чеховских музеев и библиотек, поддерживает контакты с учёными и исследователями творчества А. П. Чехова. Библиотека стала инициатором и организатором проведения в Ярославле научно-практических конференций, приуроченные к юбилейным датам со дня своего основания: «Чехов и краеведение» (2003), «А. П. Чехов в культурном пространстве XXI столетия» (2013).

Здесь открыта Чеховская гостиная, работает Чеховский кинозал, Дни памяти писателя, бенефисы, вечера и праздники по-чеховски, выставки детских рисунков и фестивали художественных работ, посвященных творчеству писателя. С 2014 года проводятся Чеховские дни в Ярославле. В память о своём покровителе около библиотеки в 2007 году разбит Чеховский вишневый сад.

В фонде имеются редкие, в т. ч. прижизненные издания; издания с автографами исследователей чеховского наследия; обширная картотека «А. П. Чехов»; фильмография по произведениям писателя; коллекция чеховских персонажей.

В 2003 году подвижническая работа творческого коллектива была удостоена Гранта Губернатора Ярославской области на создание культурно-дугового центра, посвящённого основателю библиотеки ярославскому купцу Н. К. Андронову и его потомкам Книппер-Чеховым. В библиотеке хранятся подлинные вещи Андроновых, в том числе – кресло, принадлежавшее племяннику О. Л. Книппер-Чеховой, внуку Н. К. Андронова
В. В. Книпперу.

В 2014 году заведующая библиотекой В. Г. Викторова была удостоена премии мэрии города Ярославля в области развития библиотечного дела за реализацию проекта «Библиотека и Чеховское наследие».