Как выше сказано, вскоре по прибытии в Якутск А. В. Колчак узнал о начале войны с Японией. Считая, что долг военного человека обязывает его принять активное участие в войне, он по телеграфу обратился в Академию Наук с просьбой вернуть его в Морское Ведомство и также обратился в Морское Министерство за разрешением следовать в Порт-Артур. Первоначально Академия Наук не хотела отпустить Колчака, но после его личного обращения к президенту Академии Великому Князю Константину Константиновичу разрешение было получено и Александр Васильевич, сдан дела по экспедиции, коллекции и ценности Оленьину для доставки в Петербург, отправился в Иркутск, куда прибыли его отец и его невеста Софья Федоровна Омирова. Обвенчавшись в марте 1904 года в Иркутске, А. В. Колчак отправился в Порт-Артур, а его молодая жена в С.-Петербург. Прибыв в Порт-Артур, лейтенант Колчак просил Командующего флотом вице-адмирала С. 0. Макарова назначить его на активную должность на миноносец, но адмирал Мака ров сказал, что после столь трудной экспедиции Колчаку необходимо несколько отдохнуть и пожить в человеческой обстановке на большом судне, и назначил его на крейсер «Аскольд». После гибели адмирала Макарова он был переведен сперва на минный заградитель «Амур», а затем назначен командиром миноносца «Сердитый». Его организм, подорванный трудами и лишениями двух полярных экспедиций, не выдержал нового напряжения, он заболел воспалением легких в тяжелой форме и слег в госпиталь. Оправившись от болезни, в июле Колчак вернулся на миноносец, но к осени опять начали сказываться последствия пребывания на крайнем севере у него появились признаки суставного ревматизма. Продолжая командовать миноносцем, уже через силы, А. В. Колчаку удалось поставить минную банку на подходах к Порт-Артуру, на которой взорвался японский крейсер «Такасаго». Болезнь тем временем сильно развивалась, и в связи с перенесением центра тяжести обороны Порт-Артура на береговой фронт А. В. Колчак был переведен на сухопутный фронт командовать батареей морских орудий. Во время пребывания на этой должности он был легко ранен. Ко времени сдачи крепости Колчак едва мог ходить и после сдачи ее лег в госпиталь. В госпитале в Порт-Артуре он пробыл до апреля 1905 года, когда был перевезен в Японию в город Нагасаки. Здесь партия раненых и больных русских офицеров получила предложение Японского Правительства пользоваться лечебными заведениями и водолечебницами Японии или же, если они хотят, то вернуться в Россию без всяких обязательств. Все они предпочли вернуться, и А. В. Колчак отправился через Канаду в С.-Петербург. В С.-Петербурге он занимался, как выше сказано, приведением в порядок и систематизацией своих трудов по двум полярным экспедициям.
Во время командования миноносцем в Порт-Артуре он получил высокую военную награду — Георгиевское Оружие. После заключения Портсмутского мира с Японией и потери нашего флота на дальнем Востоке, к счастью для нашей родины, дух офицерского состава не был сломлен. Чувство горькой обиды и желание работать для возрождения флота ярко пробудилось в личном составе. В раз личных портах образовались кружки морских офицеров, поставивших себе задачей разрабатывать военно-морские вопросы в связи с реформами морского дела и воссозданием флота. Это движение встретило покровительство высшего морского начальства, и уставы кружков были утверждены. Морские офицеры были воспитаны в традициях преданности и верности Престолу и Отечеству, и они отнюдь не занимались вопросами внутренней политики, а разрабатывали исключительно вопросы стратегии, тактики, организации и техники. Особенно оживлена была деятельность С.-Петербургского Военно-Морского кружка, помощником председателя которого был капитан 2 ранга Колчак. Собрания кружка были полны интереса, здесь выковывалась и кристаллизировалась военная мысль среди офицеров флота. Весной 1906 года был учрежден Морской Генеральный Штаб учреждение, на которое была возложена разработка планов войны на море, мероприятий по подготовке флота к войне и по его организации. Морской Генеральный Штаб состоял из нескольких отделов, и начальником организационно-тактического отдела был назначен А. В. Колчак. В штабе он являлся одним из самых деятельных работников. Не было вопросов оперативного, тактического или организационного характера, в разработке которых его мысль не приняла бы самого близкого участия.
В связи с учреждением Государственной Думы и рассмотрением программы создания вооруженных сил в русском обществе возбудился сильный интерес к морскому делу. Встали вопросы, нужен ли России флот, если нужен, то какой, можем ли мы справиться со сложной техникой современного морского дела и т. п. Морской Министр генерал-адъютант И. М. Диков решил пойти навстречу запросам общества и разрешил офицерам, служившим в Морском Генеральном Штабе, выступать с докладами в различных общественных собраниях и в собеседованиях членов Государственной думы. Образовалась группа из четырех-пяти офицеров, распределивших между собой различные основные вопросы, во главе этой группы стоял А. В. Колчак. Речи его были замечательны. Своей убежденностью, логичностью, искренностью, ясностью изложения он производил глубокое впечатление на слушателей, и скептическое отношение общества и думы к флоту сменилось полным сочувствием. Это произошло главным образом под влиянием речей Колчака.
Это было горячее время, которое он сам назвал «периодом борьбы за возрождение флота». Результат, конечно, сказался не сразу, так как для фактического начала по стройки флота надо было провести внутренние реформы Морского Ведомства и реорганизовать заводы.
Работая по возрождению флота, А. В. Колчак продолжал интересоваться полярными исследованиями. Начальник главного Гидрографического Управления генерал-лейтенант Вилькицкий предложил Колчаку организовать экспедицию для исследования Северного Морского Пути из Тихого Океана через Берингов пролив, вдоль северных берегов Сибири, к Мурманскому берегу. Колчак разработал этот проект и подал его Вилькицкому. На основании опыта прежних полярных экспедиций он пришел к мысли о необходимости построить для этой цели стальные суда ледокольного типа, но не такие, которые кололи бы лед, как ледокол «Ермак», а которые по своим обводам и крепости корпуса выдерживали бы давление полярных льдов.
Два таких судна «Таймыр» и «Вайгач» были заложены и быстро построены в Петербурге, и когда проект экспедиции был утвержден, то командирами их были назначены капитаны 2-го ранга Колчак и Матисен (спутник Колчака по экспедиции на яхте («Заря»). Это было в 1908 г. Осенью 1909-го года экспедиция ушла через Суэцкий канал на дальний Восток, чтобы летом 1910 года начать дальнейший переход через Берингов пролив «Вайгач» и «Таймыр» прибыли во Владивосток несколько поздно, поэтому было решено остаток 1910 г. посвятить съемкам и астрономическим наблюдениям до мыса Дежнева, затем перезимовать во Владивостоке и продолжать главную экспедицию весной 1911 года. В это время морским министром был назначен адмирал И. К. Григорович, который энергично взялся за дело воссоздания флота и решил провести в жизнь проекты Морского Генерального Штаба. Новый министр решил, что участие Колчака в его работе необходимо, и приказал ему оставить экспедицию и вернуться в Петербург.
Колчак прибыл в Петербург зимой 1910 г. и назначенный начальником Балтийского Оперативного Отдела Штаба, с полной энергией приступил к работе в Морском Генеральном Штабе.
Во время пребывания на этой должности он детально разработал план войны на Балтийском море, основы которого были установлены еще в 1906 году, малую и большую программы судостроения и оборудования портов и приморских крепостей, основы мобилизации флота и т. д. Колчак работал совместно со Штабом Командующего Морскими Силами Балтийского моря адмирала Н. О. Эссена. Морской Министр провел все эти планы в жизнь, получив согласие Государственных думы и Совета на ассигнование необходимых средств. Этот период деятельности Морского Министерства следует считать наиболее продуктивным в смысле проведения в жизнь намеченных ранее мероприятий.
В 1912 г. адмирал Эссен сказал Колчаку, что он хотел бы, чтобы он перешел на командные должности в составе Балтийского флота. К этому времени все основные вопросы подготовки к войне уже были разрешены, оставалось только руководить проведением их в жизнь. Уход Колчака из Морского Генерального Штаба был возможен, и он был назначен командиром эскадренного миноносца «Уссуриец». Через год адмирал Эссен назначил Колчака флаг-капитаном оперативной части Штаба Командующего Балтийским флотом и в то же время командиром эскадренного миноносца «Пограничник», являвшегося посыльным судном адмирала Эссена, на котором адмирал часто поднимал флаг, когда ходил на осмотр различных частей флота. Главная деятельность Колчака заключалась в продолжении подготовки флота к войне и в тактическом его обучении.