Под давлением генералитета и общественного мнения, командующий русскими войсками Барклай-де-Толли решился на активные наступательные действия против кавалерийских корпусов наполеоновского маршала И. Мюрата. Однако из перехваченного личного письма одного из русских офицеров, Наполеону удалось узнать о готовившемся наступлении и заранее подготовить план ответных действий — объединение разрозненных корпусов, переправу всех сил через Днепр и захват Смоленска с юга. Главной целью Наполеона по-прежнему оставалось создание условий для генерального сражения, так как все предыдущие манёвры приводили лишь к отодвиганию русской армии на восток, что стратегически ухудшало положение французских войск.

Наполеоновские войска, выполняя замысел императора, устремились к Смоленску. По дороге к городу Красному, который занимал отряд генерала Д. П. Неверовского, двигались кавалерия Мюрата, гвардия, корпуса маршалов Л.-Н. Даву и М. Нея. Генерал Неверовский, узнав о приближении противника, выстроил свою дивизию на дороге перед Красным с намерением отстоять город. Однако, учтя сообщения разведки о значительных силах французов, Неверовский решил отводить войска. 15-тысячная кавалерия Мюрата прошла через город и 2 (14) августа атаковала 6-тысячный отряд Неверовского. Русская пехота, отбив первые атаки, построилась в каре и начала медленное движение к Смоленску. Упорное сопротивление отряда Неверовского в районе Красного задержало французские войска на сутки. Русская пехотная дивизия, наполовину состоявшая из новобранцев, отступая, смогла удерживать атаки превосходящих сил неприятеля в течение долгого времени и сохранить свою боеспособность. Её действия позволили русскому командованию организовать оборону Смоленска силами 7-го пехотного корпуса под командованием генерал-лейтенанта Н. Н. Раевского до подхода к городу вражеских войск.

Раевский решил обороняться в самом городе, опираясь на крепостные стены и городские здания. Утром 4 (16) августа к Смоленску подошли войска Мюрата, Нея и Даву, однако попытки взять Смоленск с ходу были отбиты русскими войсками. Наполеон, стянув к городу до 140 тыс. человек и 350 орудий, решил здесь дать русской армии генеральное сражение. Французская артиллерия начала обстрел крепости. Корпус Раевского сумел продержаться до вечера 4 (16) августа, когда к Смоленску подтянулись основные силы 1-й и 2-й армий. Они расположились севернее города.

Командующий 2-й армией Багратион считал необходимым дать здесь генеральное сражение, но Барклай-де-Толли настоял на продолжении отступления. Он решил дать в Смоленске арьергардный бой, а основные силы отвести за Днепр. Ослабленный корпус Раевского сменили корпус Д. С. Дохтурова, дивизии Неверовского и П. П. Коновницына, которые должны были прикрывать отход 1-й и 2-й армий на Московскую дорогу.

5 (17) августа в 8 часов утра корпус Дохтурова атаковал и выбил французов из Мстиславльского и Рославльского предместий города. По приказу Барклая-де-Толли на правом берегу Днепра выше и ниже Смоленска были развернуты две сильные группы артиллерии под общим командованием генерал-майора А. И. Кутайсова, которые фланговым огнем поражали атакующие крепость вражеские войска. В 14 часов Наполеон бросил свои основные войска на штурм Смоленска. После двухчасового боя они заняли Мстиславльское, Рославльское и Никольское предместья. Барклай-де-Толли направил на помощь Дохтурову 4-ю пехотную дивизию под командованием принца Евгения Вюртембергского. Овладев предместьями, французы установили около 150 орудий для разрушения городских стен.

Вечером неприятельским войскам удалось на короткое время овладеть Малаховскими воротами и Красненским предместьем, однако русские отряды решительной контратакой заставили их отступить. В результате интенсивного артиллерийского обстрела в городе начались пожары. К 22 часам бои утихли во всех пунктах. Войска Дохтурова численностью около 30 тыс. человек, отразив натиск врага, удержали за собой Смоленск. Однако в связи с большими разрушениями и сильными пожарами в ночь на 6 (18) августа русские были вынуждены оставить город. Корпус Дохтурова, уничтожив мост, отошёл на правый берег Днепра.

В результате Смоленского сражения был сорван замысел Наполеона — навязать русской армии генеральное сражение в невыгодных для неё условиях. Стратегическое положение французской армии за время похода от Вильно до Смоленска значительно ухудшилось. После Смоленского сражения Наполеон приказал своим войскам выступать на Москву, надеясь на генеральное сражение, которое подобно Аустерлицу приведёт его к победе в войне. Однако впереди было Бородино и гибель наполеоновской армии после отступления из Москвы.