Choć miał oczywiście swój pseudonim – „Ramsay” – to do Kraju Kwitnącej Wiśni przybył pod własnym nazwiskiem, jak zwyczajny obywatel Trzeciej Rzeszy. Jego magnetyczny charakter szybko spowodował wkupienie się w niemieckie środowisko dyplomatyczne, z ambasadorem Herbertem von Dirksenem na czele.
Zaczął tworzyć tokijską siatkę szpiegowską, pod przykrywką korespondenta prasowego zdobywał też coraz wyższą pozycję w środowisku. Odgrywał swoją rolę przekonująco, a po wstąpieniu do NSDAP został już w zasadzie podwójnym agentem wciągniętym w działania Abwehry. Oczywiście oznaczało to tyle, że wysyłał do Moskwy szczegółowe i potwierdzone informacje m.in. o takich sprawach jak tajny protokół paktu antykominternowskiego wymierzony w ZSRR.
W 1941 roku Stalin otrzymywał już wyraźne sygnały (m.in. ze Szwajcarii) co do tego, że Niemcy szykują inwazję na jego kraj. W tym samym tonie brzmiały raporty „Ramsaya”, z tymże tu przede wszystkim cenne były informacje o postawie Japonii, która była przecież formalnym sojusznikiem Rzeszy. Japończycy byli jednak obciążeni innymi działaniami w Azji, a poza tym nie chcieli się plątać w otwarty konflikt niemiecko-sowiecki nie będąc pewnymi jego wyniku (mimo że przecież już w 1939 roku starli się z Sowietami nad Chałchin-Goł).
Sorge już od końca 1940 roku zdobywał przekonanie, że operacja przeciwko ZSRR w końcu dojdzie do skutku, a 30 maja 1941 roku nadał komunikat, w którym podał, że ówczesny ambasador Ott dostał informację z Berlina o atak w drugiej połowie czerwca.
Stalin ignorował raporty zarówno Sorgego jak i innych siatek wywiadowczych, choć wskazywały one m.in. na koncentrację wojsk w Prusach Wschodnich. Takie podejście znacznie ułatwiło późniejszy przebieg ataku i po 22 czerwca Niemcy bardzo szybko spenetrowali ziemie w głąb Związku Radzieckiego.
Sorge miał w tym konflikcie jeszcze jedną ważną rolę do odegrania. Jego siatka szpiegowska w Tokio dostarczała informacji, że Japończycy mobilizują siły, ale prawdopodobnie nie zaatakują ZSRR, póki nie padną Moskwa czy Leningrad. Tym razem Stalin zawierzył takim informacjom i przerzucił główne wojska stacjonujące na Dalekim Wschodzie do Europy, co miało m.in. ocalić stolicę Kraju Rad.