Начало городу Петрозаводску положил оружейный завод, заложенный рядом с устьем реки Лососинки в один год с северной столицей, Петербургом. Закладка казённого завода, названного изначально Шуйским, произошла 29 августа 1703 года, место нового производства было выбрано в 1702 году специальной экспедицией, которая была отправлена «для прииску руд» в Карелию. Территорию Петровского завода обнесли земляным валом, на котором расположили пушки. Так завод был превращён в крепость, которая могла постоять за себя в случае нападения шведов. В декабре 1703 года завод выпустил пробную продукцию, с начала 1704 года четыре доменные печи заработали на полную мощность, и вскоре оружейный завод стал крупнейшим предприятием России. На заводе не раз лично бывал царь Пётр I. Для него здесь построили двухэтажный деревянный дворец, пруд, походную церковь. Вокруг двора разбили сад, рядом была сооружена церковь Петра и Павла, увенчанная высоким шпилем.

С началом строительства вокруг завода возникло поселение. Жители слободы состояли из тульских и уральских мастеровых, которых командировали на завод для организации производства оружия, и из крестьян, присылаемых сюда из разных регионов России. Ежедневно на заводе работало до 800 человек. Спрос на рабочую силу всё время возрастал, население слободы увеличивалось с каждым годом. К 1717 году здесь проживало уже 3 тысячи человек.

В 1721 году Северная война завершилась полной победой антишведской коалиции. Границы России расширились вглубь Финляндии за счёт присоединения части территории, потребность в пушках и снарядах уменьшилась. Много мастеров с Петровского завода убыло в Екатеринбург, а сам завод перешёл на производство жести, гвоздей, фонтанных труб, якорей и проволоки для строящегося Петербурга и Балтийского флота. В 1734 году основное производство было закрыто. На несколько десятилетий жизнь в слободе затихла.

Начавшаяся война с Турцией вновь потребовала увеличения производства оружия, поэтому правительство вновь вспомнило о Петровском заводе. В сентябре 1772 года был подписан указ императрицы о строительстве нового пушечнолитейного завода, в мае следующего года состоялась закладка его фундамента, а в июне 1774 года, на Петров день, уже опробована первая пушка. Екатерина II приказала назвать завод Александровским (во время строительства его называли Новопетровским), и долгое время он был единственным крупным предприятием города. Очень скоро новый завод стал лучшим в России по технической оснащённости, уровню технологии и качеству продукции. Свидетельством этому служит то, что именно на Александровском заводе в 1788 году была построена первая в России железная дорога. После войны было налажено художественное литьё. В 1798 году Александровскому заводу было дано исключительное право изготовления мер объёма (гири, весы, безмены), на которых ставили «секретный штампель» во избежание подделок.

После постройки завода слобода стала городом. Екатерина II подписала об этом указ 21 марта 1777 года.

В 1781 году Петрозаводск стал центром Олонецкой провинции, а в 1784—1922 годах — Олонецкой губернии. В 1784—1785 годах губернатором края был русский поэт Гавриил Романович Державин.

Петрозаводск рос вместе с Александровским заводом, и уже к середине XIX века на левом высоком берегу Лососинки встали новые дома для чиновников и инженеров горного ведомства. Центром городской торговли стал каменный гостиный двор на Круглой площади, где также выстроили дома состоятельных горожан, дворян и купцов. Рабочие завода жили на Заводской площади в казармах, а мастеровым «хорошего поведения» разрешалось строить собственные избы в заводском квартале, названном Голиковка.

Пассажирское пароходное сообщение между Петрозаводском и Петербургом открылось в 1860 году, а в 1870-е годы была налажена телеграфная связь со столицей и уездными центрами. В начале XX века в городе появилась телефонная станция на 50 номеров. Железная дорога из Петрограда на Мурманск прошла через город в 1915 году (первый регулярный пассажирский поезд на станцию Петрозаводск прибыл в январе 1916 года).

В 1940 году основан Карело-Финский государственный университет (ныне Петрозаводский государственный университет).

В 1940—1956 годах Петрозаводск являлся столицей Карело-Финской ССР.

2 октября 1941 г. город был оккупирован финляндской Карельской армией и переименован в Äänislinna (в качестве русской транскрипции использовался вариант «Яанислинна», что означает «Крепость на Онего».

В Петрозаводске были созданы и действовали органы военного управления на оккупированных Финляндией территориях Восточной Карелии. 14 октября 1941 года в Петрозаводске был образован первый финский концентрационный лагерь времён Второй мировой войны, заключению в который подлежали русские мужчины 1891—1924 гг. рождения. Всего в городе было создано 7 концлагерей. В феврале 1943 года многие названия улиц были переименованы на финский манер.

В 1944 г. с усилением давления Красной Армии на Свири войска финской Олонецкой группы (Aunuksen ryhmä) практически без боёв отошли за советско-финскую границу, установленную Тартуским договором 1920 года. Красная Армия вступила в город 28 июня 1944 года.

В 1956—1991 годах Петрозаводск — столица Карельской АССР в составе РСФСР.

С 1991 года Петрозаводск — столица Республики Карелия в составе Российской Федерации.