В 1902 году он вёл агитацию в рабочих кружках Сормова. Успеху его агитаторских выступлений содействовал его громкий голос, стальной бас. Важную роль играло редкое уменье руководить собраниями, а также то огромное одушевление, с которым он звал сормовских рабочих на борьбу с самодержавием. Яков организует в Сормове подпольные кружки, проводит массовки, митинги, руководит стачками; он организует также подпольные типографии, всячески заботится об их оборудовании, о распространении прокламаций, листовок. Одновременно Свердлов ведет пропаганду среди учащихся.
5 мая этого года он был арестован за участие в демонстрации и отпущен через две недели. Нижегородский комитет РСДРП поручил Свердлову организацию подпольной типографии. 14 апреля 1903 года он был опять арестован и выпущен в августе того же года за недостаточностью улик. После раскола на II съезде РСДРП в 1903 году Свердлов примкнул к большевикам и стал участником большевистской группы в Нижнем Новгороде. В Нижнем Новгороде с 11 февраля 1904 года над Свердловым устанавливается гласный надзор полиции по месту жительства родителей. Тогда он переходит на нелегальное положение и уезжает в Кострому. Там уже как профессиональный революционер создаёт подпольную типографию, ведёт агитацию, распространяет литературу. В 1905 году Свердлов ведёт революционную работу в Ярославле, Казани, Екатеринбурге. В сентябре 1905 года был направлен на Урал в качестве представителя ЦК РСДРП(б). В 1905 году организовывал революционные выступления масс в Екатеринбурге. В октябре 1905 года создал и возглавил Екатеринбургский Совет рабочих депутатов. Там же Свердлов познакомился со своей будущей женой К. Т. Новгородцевой.
С 1906 года Свердлов в Перми, где находился крупнейший на Урале Мотовилихинский пушечный завод. В Перми его выдал провокатор и Свердлов был арестован. Вначале он сидел в пермской тюрьме. Вскоре, за участие в голодовке, его переводят в мрачные Николаевские роты Верхотурского уезда. Тюремный режим был здесь варварский. Заключенных морили голодом, подвергали жестоким истязаниям — избивали до полусмерти, до умопомешательства. В ограде тюрьмы то и дело воздвигались виселицы, и «смертники» тут же находили свой конец. Вдобавок провокация, насаждаемая охранкой, еще более ухудшала положение сидящих. Жестокие истязания заключенных вызвали две голодовки, в общем не приведшие почти ни к каким положительным результатам. Обе голодовки превосходно выдержал Яков Михайлович, который подбадривал других, ослабевших от истощения сил. Голодовки, однако, подорвали здоровье и отразились на состоянии его легких. Впрочем, сам Свердлов считал, что бок у него поврежден ещё со времени пребывания в нижегородской тюрьме, когда он был избит тюремными надзирателями.
Осенью 1907 года суд приговорил Я. М. Свердлова к двум годам заключения в крепости, которое он отбывал в екатеринбургской тюрьме. С июня 1906 г. по сентябрь 1909 г. Свердлов сидел в тюрьмах Урала – Пермской тюрьме, Николаевских ротах в Нижней Туре, Екатеринбургском тюремном замке. Были арестованы его соратники и жена.
В сентябре 1909 года Свердлов выходит из заключения и партийное руководство направляет его в Москву. 19 декабря 1909 года вновь арест, уже в Москве, по наводке провокатора. 31 марта 1910 года Яков Михайлович был выслан в Нарымский край на три года, откуда бежал, не пробыв в ссылке и четырёх месяцев.
После побега из Нарымской ссылки Свердлов приезжает в Петербург. В это время он вступил в активную переписку с Лениным и был кооптирован в Русское бюро ЦК РСДРП. В ноябре 1910 года Яков Михайлович снова был арестован. А 5 мая 1911 года он был приговорён к ссылке в Нарымский край Томской губернии на четыре года. Находясь в ссылке, он вновь будет арестован и осуждён «честным и правовым царским судом» по обвинению в участии в первомайской демонстрации, организованной нарымскими ссыльными, хотя сам-то он находился тогда в 100 километрах от места демонстрации. Продержав Свердлова три месяца под арестом, его отправляют в самое гиблое место — Максимкин Яр, куда политических ссыльных обычно не посылали и одно имя которого приводило уголовных ссыльных в трепет. На тысячи километров от него тянулась дикая, непроходимая сибирская тайга, отделявшая место ссылки от всего живого. Жило в этой дыре немного остяков, несколько самоедов, да одна-две русских семьи; пароход приходил раз в год, почта—два или три раза в год. Полное отсутствие книг. Жуткое одиночество. Кровь застывала в жилах от морозов. Это была, казалось, живая могила среди вечных льдов в царстве полярного сияния. Нелегко было доставать и средства к существованию. Но Свердлов наравне с местными жителями добывает себе пропитание охотой и рыбной ловлей. В одну из таких поездок под ним проломился лёд и он провалился в реку Кеть. Вытащили его из-под льда и насквозь мокрого повезли домой, за 15 километров при 20-градусном морозе. Представлял он собой обледенелую фигуру, полуживое существо.
Пять раз пытался Свердлов бежать из Максимкина Яра в течение 6-месячного пребывания в нём, но все попытки к побегу оставались безуспешными. Наконец его совсем больного, лишенного подходящей зимней одежды, привезли обратно в Нарым. На решение начальства, кроме болезни политически ссыльного, повлияли просьбы двух стражников, приставленных для охраны к Свердлову. Приехав в город со своим поднадзорным, они падают на колени перед исправником и молят последнего перевести их из Максимкиного Яра. Исправник удовлетворяет прошение стражников, а попутно оставляет и Свердлова в городе.
Переведенный в Нарым, Яков Михайлович делает новую попытку побега. На лодке он планирует проплыть по реке Обь до места стоянки парохода. Во время движения ветер опрокинул лодку и ему с товарищем пришлось 4-5 километров плыть, держась за края лодки, пока подоспевшие рыбаки не спасли их. Как только просохла одежда, Свердлов продолжил движение. Однако на пароходе его вновь арестовывают. И вновь, нарымская ссылка.
С начала 1912 года по инициативе Свердлова в нарымской ссылке была создана глубоко законспирированная организация, специально занимавшаяся устройством побегов ссыльных большевиков. В 1912 году в Нарыме Яков Михайлович познакомился с И. В. Сталиным, который бежал из ссылки в августе. Свердлову тоже удалось бежать из Нарыма в декабре. В том же году Свердлов был заочно кооптирован в ЦК РСДРП.
В феврале 1913 года он был вместе со Сталиным выдан агентом охранки Малиновским, арестован в Петербурге и в мае 1913 года сослан в Туруханск. Ссылку на севере Енисейской губернии (п. Курейка) они некоторое время отбывали в одном доме.
После возвращения из ссылки в марте 1917 года, Свердлов был направлен ЦК в Екатеринбург организовать работу Уральской областной партийной конференции. По заданию партии он готовил пролетарское восстание на Урале — на случай, если не получится в Петрограде.
На 7-й (Апрельской) конференции РСДРП(б) (24 апреля 1917 г.) Свердлов впервые лично встретился с Лениным, и начал выполнять его поручения. Под влиянием Ленина Свердлов был избран членом ЦК и возглавил организованный тогда Секретариат ЦК РСДРП(б) (главный исполнительный орган ЦК). Многие выдвинутые им на видные посты работники, которых он лично знал, в дальнейшем стали партийными руководителями. Свердлов лично курировал партийную работу в фабричных и заводских комитетах, для её усиления посылал на места опытных руководителей и инструкторов. Во время массовых выступлений 3-4 июля 1917 г. Яков Михайлович был главным оратором от ЦК большевиков и получил от политических противников прозвище «чёрный дьявол большевиков» (по цвету его кожаной тужурки, с которой он не расставался, потом это стало большевистской модой). Когда большевики были объявлены контрреволюционерами и немецкими шпионами, Свердлов организовал переход Ленина на подпольное положение. В дальнейшем он осуществлял связь ЦК с Лениным, всячески препятствовал его попыткам вернуться к легальной деятельности и снабжал общей информацией о ходе дел в Петрограде. Позже Свердлов организовал перемещение Ленина ещё дальше — в Финляндию, откуда тот писал в Заграничное бюро ЦК: «сиё письмо я пишу лично от себя, ибо ни спросить ЦК, ни даже снестись с ним не имею возможности…»
Пока Ленин писал в шалаше под Разливом свой фундаментальный труд «Государство и революция», определивший принципы устройства пролетарского государства, Свердлов развил бурную деятельность по реализации его идей. Подготовив и проведя 6-й съезд РСДРП, он укрепил свои позиции как члена ЦК РСДРП и руководителя Секретариата (Оргбюро) ЦК РСДРП. Находясь в центре событий, он вносил организованность и целенаправленность в движение масс.
На историческом заседании ЦК 10 октября 1917 года, принявшем решение о вооружённом захвате власти, Свердлов являлся председателем и был назначен членом Военно-Революционного Центра, созданного для руководства восстанием. В этом качестве он занялся подбором членов Петроградского Военно-Революционного комитета, прежние члены которого в основном были посланы руководить восстанием в провинциях. Для укрепления ВРК в него были направлены И. Флеровский, Ф. Голощёкин, П. Быков, В. Галкин и другие известные ему большевики. Кроме того, он подобрал и послал в части Петроградского гарнизона 51 комиссара ВРК. Во многом благодаря деятельности Я.М. Свердлова, восстание в Петрограде оказалось успешным.
После победоносной Октябрьской революции, 8 ноября 1917 г. по предложению Ленина Свердлов был избран председателем ВЦИК Советов рабочих и солдатских депутатов, сменив на этом посту Льва Каменева. Действуя в этом качестве, Свердлов формировал органы советской власти «в центре и на местах». Именно Яков Михайлович, от имени ВЦИК открыл первое заседание Учредительного собрания 5 января 1918 года, огласив «Декларацию прав трудящегося и эксплуатируемого народа», в соответствии с которой Россия объявлялась республикой Советов рабочих, солдатских и крестьянских депутатов. 13 января Свердлов добился объединения Советов крестьянских депутатов с Советами рабочих и солдатских депутатов, став председателем ВЦИК Советов РСКД. Во время наступления немцев и австрийцев, в феврале и марте 1918 года являлся членом Бюро Комитета революционной обороны Петрограда.
В 1918 г. под его руководством разрабатывалась первая Конституция страны. Подготовленный под его руководством Основной закон декларировал диктатуру пролетариата в целях строительства будущего социализма.
Обычно Свердлов отдыхал 4-5 часов в сутки, но даже в это время ему не всегда удавалось уберечься от посетителей. Председательствуя во ВЦИКе, он фактически являлся секретарём партии. До самой своей смерти он не имел личного секретаря и обычно уходил домой с портфелем документов, чтобы к утру разобрать и решить множество вопросов.
5 июня 1918 г. по инициативе Я. М. Свердлова открывается школа агитаторов и инструкторов ВЦИК, которая должна была готовить для страны кадры ответственных партийных и советских работников. Он активно принимает участие в организации этой школы, составляет программу, намечает списки лекторов. Позже эта школа была преобразована в Коммунистический университет имени Я. М. Свердлова.
Свердлову приписывается инициатива в расстреле бывшего императора Н. А. Романова и его семьи в Екатеринбурге в июле 1918 года. Но доказательств этого не представлено. Всё сводится к догадкам, предположениям и ссылкам на несуществующие "документы". Например, внук повара и профессиональный монархист П. Мультатули не постеснялся в очернении Свердлова использовать газетную «утку». Вот что он пишет: «В двадцатые годы в газете „Царский вестник“, издававшейся в Белграде, была помещена статья „Кто убил Царскую Семью?“. „Когда большевики и местный Совдеп при приближении белых вынуждены были спешно покинуть Екатеринбург, — говорилось в статье, — то впопыхах они оставили на телеграфе телеграфные ленты зашифрованных переговоров по прямому проводу между Свердловым (Москва) и Янкелем Юровским (Екатеринбург).
Ленты эти вместе с другими следственными материалами попали в руки следователя по особо важным делам Н.А. Соколова. Расшифровать эти ленты Н.А. Соколову удалось лишь в 1922 году в Париже при помощи специалиста по разборке шифров. Среди этих телеграфных лент оказались ленты исключительной важности, касающиеся именно убийства Царской Семьи. Содержание их было следующее: Свердлов вызывает к аппарату Юровского, сообщает ему, что на его донесение в Америку об опасности захвата Царской Семьи белогвардейцами, или немцами, последовал приказ, подписанный Шиффом, о ‹необходимости ликвидировать всю Семью›. Приказ этот был передан в Москву через Американскую миссию, находившуюся тогда в Вологде, равно как и через нее передавались в Америку и донесения Свердлова. Свердлов подчеркивал в своем разговоре по прямому проводу, что никому другому, кроме Свердлова, обо всем этом неизвестно и что он в таком же порядке передает приказание ‹свыше› ему, Юровскому, для исполнения. Юровский, по-видимому, не решался сразу привести в исполнение этот приказ. На следующий день он вызывает к аппарату Свердлова и высказывает мнение о необходимости убийства лишь Главы Семьи, последнюю же он предлагал эвакуировать.
Свердлов снова категорически подтверждает приказание убить всю Семью, выполнение этого приказа ставит под личную ответственность Юровского. Последний на следующий день выполняет приказ, донеся Свердлову по прямому проводу об убийстве всей Семьи. После этого Свердлов сообщил об этом ЦИКу, поставив последний перед свершившимся фактом.
Все эти данные, не вошедшие в книгу Соколова об убийстве Царской Семьи, были лично сообщены Соколовым в октябре 1924 года, то есть за месяц до внезапной своей смерти, его другу, знавшему его еще как гимназиста пензенской гимназии. Этот личный друг Соколова видел и оригинальные ленты, и их расшифрованный текст“». (Журнал «Русский Дом». № 7. 2012. С. 25).
Лживость этой газетной «утки» очевидна. Соколов якобы расшифровал материалы «исключительной важности» в 1922 году, но за два года так их и не опубликовал, хотя часть материалов следствия печатал в 1924 году. И даже за те же два года никому о них не рассказал, кроме анонимного «друга», не имеющего фамилии, имени и отчества. К тому же в схеме «заказчик — организатор — исполнитель» исполнителю никогда не сообщается имя заказчика. Для того, чтобы исполнитель не знал заказчика, и существует промежуточное звено. Поэтому лже-Свердлову в якобы переписке с лже-Юровским абсолютно не было нужды ссылаться на якобы переписку с американским банкиром-евреем Шиффом. Но Мультатули вещает эту заведомую галиматью, подавая ее как несомненный факт.
Столь же бездоказательны потуги Мультатули, Шамбарова и компании приписать Свердлову покушение на Ленина. После покушения на Ленина 30 августа 1918 года Свердлов подписал обращение ВЦИК 2 сентября «О превращении советской республики в единый военный лагерь», дополненное 5 сентября изданным СНК «Постановлением о красном терроре», объявившем массовый красный террор против всех врагов Революции.
Пока Ленин лечился, Свердлов категорически отказался провести избрание временного исполняющего обязанностей председателя СНК и сам лично выполнял его функции, работая в кабинете Ленина и подписывая за него документы, проводил заседания СНК.
Любопытно, что старший брат Свердлова — Зиновий, в период Гражданской войны был французским военным представителем в Сибири, где принял самое активное участие в перевороте, приведшем к установлению диктатуры Колчака. Небезызвестный историк Р. Медведев утверждал, что в начале 1919 года Зиновий отправил телеграмму своему брату, где грозился повесить Якова вместе с Лениным.
Свердлову также приписывают авторство директивы Оргбюро ЦК РКП(б) от 24 января 1919 г. «Ко всем ответственным товарищам, работающим в казачьих районах», предписывавшей осуществление жёстких карательных мер по отношению к контрреволюционной верхушке казачества, выступавшей против народной власти. Однако его подпись под ней отсутствует.
Помимо этого Свердлов вёл большую интернациональную работу по руководству международным революционным коммунистическим движением: готовил 1-й конгресс Коммунистического Интернационала, участвовал в организации съездов компартий Латвии, Литвы, Белоруссии и Украины.
В свою последнюю поездку в Харьков Свердлов ездил именно на 3-й съезд КП(б)У. По официальной версии, он заболел испанкой, возвращаясь в Москву из Харькова (выехал из Харькова 6 марта 1919 года). На предложение спутников, ехавших с ним в вагоне, отдохнуть он упорно отказывался. Дорогой ему приходилось заниматься делами, его просили о встрече местные работники и делегации рабочих и крестьян. Несмотря на свое недомогание, он никому не отказывал в приёме и вёл беседу, даже на площадке вагона, одетый в свою легкую осеннюю одежду. 7 марта в Орле железнодорожники, узнав, что едет Свердлов, собрались на митинг возле вокзала в количестве 2-3 тысяч человек и просили его выступить. Яков Михайлович отказывался было от выступления, но его просили сделать сообщение о состоявшемся только что 1-м конгрессе III Интернационала. Речь Якова Михайловича была короткая, она длилась всего 8-10 минут, но отличалась бодростью и оптимизмом. Он говорил о трудностях пролетарской революции, об успехах достигнутых коммунистическим движением, о новом штабе мирового пролетариата — III Интернационале.
Усталый он вернулся в вагон. Вероятнее всего, окончательно занемог он на этом митинге, где выступал в холодную погоду в своем неизменном осеннем пальто и кожаной куртке. В Москву Свердлов приехал 8 марта уже совершенно больным, хотя продолжал активно работать весь день: днем — в Совнаркоме, поздно ночью — в Президиуме ВЦИКа.
Вышеупомянутый Мультатули и его аналоги и по этому эпизоду выступают со своими измышлениями. Мол, Свердлов не простудился на митинге, а был избит рабочими. Во-первых, нападение на председателя ВЦИК не могло не вызвать столкновения с охраной. Во-вторых, от избиений не температура повышается, а появляются кровоизлияния и переломы. Никаких сведений ни о столкновениях в Орле 7 марта, ни о травмах у Свердлова нет и никогда не было.
Ночью температура поднялась до 40 градусов. О том, что он «тяжело болен», было сообщено 9 марта. В своем предсмертном бреду он говорил о съезде партии и о работе. Он просит, например, Аванесова, секретаря ВЦИКа, достать из-под дивана какую-то резолюцию, которую необходимо, мол, предложить на съезде. Когда же вспыхивали проблески сознания, он принимал товарищей «по делам», слабеющей рукой хватался за трубку телефона, писал записки, справлялся, беспокоился, работал.
За полчаса до смерти Свердлова навестил Ленин. Он пришел проститься с умирающим, хотя окружающие отговаривали его от этого посещения ввиду заразности «испанки». Яков Михайлович узнал его. Как пишет один из первых биографов Свердлова М. Гайсинский "сквозь мучительную боль и проблески жизни слабая улыбка заиграла на его губах; он хотел было приподняться и что-то сказать Ленину, но тот нежно остановил его, сказав: «Не надо, Яков, лежи спокойно», — и умирающий послушно затих. Постояв несколько минут и пожав руку Якова Михайловича, Ильич вышел из комнаты. После ухода Ильича больной начал стонать и через четверть часа скончался". Он умер в возрасте 34 лет от "испанки" и воспаления легких, которые у него были повреждены еще с первых дней тюремного заключения.
18 марта 1919 года Яков Михайлович Свердлов был похоронен у Кремлёвской стены. В этот день В. И. Ленин в своей речи сказал:
«Если нам удалось в течение более чем года вынести непомерные тяжести, которые падали на узкий круг беззаветных революционеров, если руководящие группы могли так твердо, так быстро, так единодушно решать труднейшие вопросы, то это только потому, что выдающееся место среди них занимал такой исключительный, талантливый организатор, как Яков Михайлович. Только ему удалось соединить в себе удивительное знание личного состава руководящих деятелей пролетарского движения, только ему удалось за долгие годы борьбы, — о которой я могу сказать здесь лишь слишком кратко, — выработать в себе замечательное чутье практика, замечательный талант организатора, тот безусловно непререкаемый авторитет, благодаря которому крупнейшими отраслями работы Всероссийского Центрального Исполнительного Комитета, которые под силу были лишь группе людей, — целиком и исключительно единолично ведал Яков Михайлович. Только ему удалось завоевать такое положение, что достаточно было в громадном числе крупнейших и важнейших организационных практических вопросов, достаточно было одного его слова, чтобы непререкаемым образом, без всяких совещаний, без всяких формальных голосований, вопрос был решен раз навсегда, и у всех была полная уверенность в том, что вопрос решен на основании такого практического знания и такого организаторского чутья, что не только сотни и тысячи передовых рабочих, но и массы сочтут это решение за окончательное».