Gandalf ainda não enxergava a traição de Saruman, mas sentiu-se perturbado por ser impedido de levar os seus planos adiante. Muitos pensamentos sombrios vagavam por sua mente e ele tentava descobrir quais seriam as próximas ações de Sauron. Lembrando-se do Reino sob a Montanha e da invasão de Smaug, ele imaginou que o dragão poderia ser usado pelas sombras com um efeito terrível. Algo precisava ser feito!

Durante uma de suas muitas andanças pela Terra-Média, enquanto ainda carregava esse fardo, Gandalf foi abordado por Thorin Escudo de Carvalho, próximo a Bri. O anão revelou que pretendia retomar a Montanha Solitária e, como o mago, também desejava ver o fim de Smaug, se ofereceu para ajudá-lo. Por uma coincidência estranha, Gandalf ficou sabendo notícias de Bilbo que, segundo as pessoas do condado, nunca se casara e, depois que perdeu os pais, saía de casa todos os dias e vivia conversando com desconhecidos, até mesmo anões. Essa foi a deixa que fez com que o mago tivesse a idéia de incluí-lo nessa aventura.

Convencer Bilbo a participar dessa aventura e Thorin de que Bilbo seria necessário, não foi tarefa fácil, mas Gandalf sentia que um hobbit devia estar envolvido. O que salvou toda a situação foi a chave e o mapa de Erebor, que Gandalf entregou a Thorin conforme recomendação de Thráin. Durante a primeira parte da viagem da companhia de Thorin, Gandalf obtém a Glamdring, espada que pertenceu ao rei élfico Turgon de Gondolin.

Antes de adentrarem Mirkwood, Gandalf deixa a companhia de Thorin para participar de uma reunião de emergência do Conselho Branco.O poder de Sauron estava retornando mesmo sem seu anel. Até mesmo Saruman começou a se preocupar e com o intento de atrasar a busca de Sauron pelo Um Anel, concordou com o plano concebido por Gandalf de atacar Dol Guldur. Dessa forma, o intento inicial de Gandalf é cumprido: a destruição de Smaug, o ataque a Dol Guldur que resulta na fuga do Necromante e a derrota dos Orcs e Wargs na Montanha Solitária durante a Batalha dos cinco exércitos.

Porém, mesmo com todos os esforços, Sauron não foi enfraquecido. Dez anos depois de sua fuga de Mirkwood, ele reconstruiu Bara-dûr e se declarou abertamente em Mordor. Temendo as próximas ações de Gandalf, depois de mais um encontro do Conselho Branco, Saruman enviou espiões para observarem seus movimentos.

No ano de 2956, Gandalf conhece Aragorn, herdeiro de Gondor, e os dois passam a trabalhar em conjunto com o objetivo de derrotar Sauron. Suas visitas ao condado ficam mais freqüentes por conta de Bilbo e seu sobrinho Frodo. Em um determinado momento o mago nota um comportamento incomum em Bilbo e percebe que sua aparência se mantém jovem independentemente de sua idade. Pressionado, o Hobbit admite que roubou o anel de Gollum e Gandalf começa a suspeitar que aquele era, na verdade, um dos anéis de poder. Durante a festa de 111 anos do Hobbit, o mago o convence a deixar o anel para seu sobrinho antes de partir e previne Frodo para que nunca o use.

Curioso a respeito da criatura Gollum, Gandalf convence Aragorn a capturá-lo. Através de suas histórias e dos registros que encontrou em Minas Tirith, ele percebe que o anel que está nas mãos de Frodo é o próprio Um Anel. Seu temor só aumenta quando Gollum confessa ter sido levado a Bara-dûr e falado a respeito da família Bolseiro e do Condado.

Gandalf se dirige imediatamente para o Condado e conta o que descobriu a Frodo, mencionando Gollum. O Hobbit exclama que a criatura já devia ter sido morta, mas Gandalf o adverte que talvez Gollum ainda tenha um papel importante a cumprir e, de qualquer maneira, não cabia a eles decidir quem devia viver ou morrer. Com a promessa de voltar logo para levar Frodo a Rivendell, o mago segue caminho.

Próximo a Bri, Gandalf encontra Radagast que levava com ele uma mensagem de Saruman. Os Nazgûl já estavam em busca do Condado e Gandalf devia procurar o líder de sua ordem se quisesse sua ajuda e conselho. Sabendo que não conseguiria ir até Isengard e voltar a tempo de levar Frodo a um lugar seguro, o mago escreveu uma carta avisando ao Hobbit que devia deixar o Condado com urgência e procurar por alguém chamado Passolargo, ele se juntaria aos dois assim que pudesse. Gandalf entregou a carta ao dono do Pônei Saltitante para que fosse enviada a Frodo, mas ele se esqueceu.

Dessa forma, Gandalf partiu em direção a Isengard. Durante o seu encontro com Saruman, o mago branco revelou que desejava o poder do Um Anel e propôs que os dois o tomassem para si. Sentindo verdadeira aversão, Gandalf recusou totalmente a proposta e acabou sendo aprisionado por Saruman no topo de Orthanc. Ele só conseguiu escapar com a ajuda de Gwaihir, o senhor das águias.

No momento em que se viu livre de seu cativeiro, Gandalf seguiu para Rohan com o objetivo de conseguir uma montaria veloz para que pudesse encontrar Frodo. O rei Théoden lhe presenteou com Shadowfax, senhor dos cavalos, com quem o mago desenvolveu uma forte ligação. Porém, ao chegar ao Condado, foi com grande alívio que soube que Frodo já havia partido. Foi informado em Bri que o Hobbit seguiu viagem com a companhia de Passolargo.

Com o objetivo de observar a região, Gandalf subiu ao Topo do Vento. Durante a noite ele foi atacado pelos Nazgûl, mas expulsou-os em meio a uma batalha de luzes e chamas que ao longe foi vista por Aragorn e os Hobbits. O mago marcou sua inicial em algumas pedras para que eles pudessem identificá-lo quando as encontrasse e imediatamente partiu para Rivendell.

Assim que Frodo foi curado, Elrond convocou um conselho para discutir o que seria feito do Um Anel. Gandalf alertou a todos de que ele devia ser destruído no fogo onde havia sido criado. Depois de uma breve discussão, sua idéia foi aceita e ele passou a liderar a Sociedade do Anel que contava com nove membros no total.

Gandalf guiou-os por um longo caminho através das Montanhas Sombrias, próximo a Caradhras, com o intuito de permanecer o mais longe possível de Isengard. Mas durante a travessia, a Sociedade foi atingida por uma forte tempestade que obrigou o mago a mudar seus planos iniciais e passar pelas minas de Moria. Ao entrarem na Câmara de Mazarbul foram atacados pelos Orcs e forçados a fugir. Como Gandalf já havia estado em Moria anteriormente e conhecia bem as suas passagens, levou o grupo em direção a uma das saídas. Porém, eles foram alcançados por um Balrog na ponte de Khazad-dûm e, em um ato de extrema coragem, o mago enfrentou-o quebrando a ponte e jogando-o no abismo. Com uma última chicotada, o Balrog fez com que Gandalf se desequilibrasse e suas últimas palavras antes de cair foram “Corram, seus tolos!”.