他扮演历史决定性的角色，是在1946年，即他第二次在莫斯科任职期间的后期。1946年2月，他作为美国驻莫斯科大使馆的第二号人物，向华盛顿发回了著名的“长电报”。这个电报有8000字之多，并且为了避开苏联方面的警觉，分5次发出。在这个电报中，他令人信服地解释了苏联的制度、行为和心态，指出苏联领导层对自己的制度能否和以美国为代表的民主制度竞争毫无自信，时时觉得自己正在陷入这些国家的重重包围之中，草木皆兵。所以，他提醒美国政府放弃与苏联合作的幻想，准备与之进行长期的对峙。这一长电报，后来以X的
笔名，发表在《外交事务》杂志上，题为“苏联行为的根源”，震动华盛顿。乔治·凯南也一举成名。 这一夜之间的盛名绝非偶然。在美国，没有人比乔治·凯南更懂苏联。他讲一口完美无缺的俄语，直接观察了苏联老百姓自1930年代以来所经受的苦难。他认为，在未来的美苏对峙中，美国的制度将显示出无可非议的优越性，最终世界会天下归心，美国会获得“冷战”的胜利。所以，他主张美国进行政治动员，而非军事动员。作为马歇尔计划的设计师，他认为美国应该帮助那些战后饥寒交迫的国家，不要让走投无路的老百姓投入共产主义的怀抱，这样才可以遏制苏联。1948年，他提出秘密报告，建议通过“政治战争”主动出击，击退苏联的扩张。这一“政治战争”的计划，实际上是一场意识形态战，包括后来建立的“欧洲自由电台”。“冷战”后，哈维尔和瓦文萨等东欧的前持不同政见者和反对派领袖，都为此向他表示感谢。但是，“政治战争”的构思实现起来马上超出了他的预想。其中一个直接结果，是中央情报局中建立的“政策协调办公室”。短短4年，这个办公室指挥着数千特务人员在全球展开活动。1975年当乔治·凯南在参议院作证时，他说“政治战争”的主意是他一生中犯的最大错误。
他这样的反省，和他原初的理念实际上是一致的。他认为只有在苏联挑战美国的根本利益时，美国才应该和它有直接的军事对抗。在一般条件下，美苏的竞争应该在政治层面进行，而不必有武力和阴谋的介入。只要美国把自由世界建设好，苏联会自己垮掉。
但是，美国的决策者并没有听从他的忠告，陷入恐共症中不能自拔。在国内，麦卡锡主义横行，展开了红色清洗，许多乔治·凯南的朋友受到牵连。在国际上，美国因为过度恐惧苏联的军事力量，和苏联展开了核竞赛。而乔治·凯南于1952年被任命为驻苏大使，他一上任就被到处跟踪，愤怒至极，在欧洲被记者问及在苏联生活的感受时，干脆说那里的日子和在纳粹集中营里差不多，所不同的是在莫斯科他还能够在严密监护下上街走走，这一下得罪了斯大林。他马上被苏联宣布为“不受欢迎的人”，被迫离任。在此之后，他很快被意见不同的国务卿杜勒斯挤出外交界，此时才50岁。退出官场后，他精力旺盛，不停地著书立说，在广泛的外交事务中发言，成为美国国际事务方面重要的意见领袖，并为分析“冷战”的历史，提供了权威的声音，一直到1990年代还十分活跃。
乔治·凯南为美国外交留下的遗产，主要是思想上的而非政策上的。在他看来，“冷战”
是美苏的制度和意识形态的竞争，胜败一看便知。美国应该自信而不是恐惧。他反对朝鲜战争的扩大，曾经和苏联方面进行秘密会谈，一度导致了朝鲜战场的停火；他主张利用斯大林去世的机会，支持苏联内部的改革派，避免军备竞赛的升级；大概是出于对德国文化的热爱，同时也基于他那种自由的国家自然会倒向自由的信念，他甚至提出建立一个统一、中立的德国，美苏双方同时从德国撤军，这一提案引起轩然大波，不过多少也预示了“冷战”后德国的命运；他坚决反对“越战”，认为那里没有美国的根本利益；他甚至反对克林顿时代的北约扩张，认为那会激发俄罗斯的民族主义，妨碍俄罗斯的民主转型。一句话，他注重的不是一城一池的得失，而是政治理念的胜利。
然而，历史误读了他的基本理念。他构想中的意识形态的竞争，发展成了无休止的军备竞赛、“越战”的灾难、CIA在国际上的一系列秘密行动（包括颠覆左翼的民选政府）。在他的历史意识中，思想永远优于武力。美国最终在“冷战”中获胜，靠的应该是自由的理念，而不是大规模杀伤性武器，不是在世界范围内的武力介入，不是阴谋和颠覆。他看到了美苏冲突的实质，也构想出了解决的方案。但也正是在这里，历史和他这位历史学家分道扬镳。
