Становление дипломатической службы современной Германии началось после образования в 1949 г. двух германских государств — ФРГ и ГДР. Происходило это постепенно. В Ведомстве федерального канцлера была создана группа по связям с союзнической Верховной Контрольной Комиссией. Реально связи поддерживались с Верховными Комиссарами трех западных держав. Однако уже 22 ноября 1949 г. т.н. Петерсбергским соглашением три западные державы предоставили правительству ФРГ право поддерживать с иностранными государствами консульские и торговые отношения. В ноябре 1949 г. было открыто представительство ФРГ при штаб-квартире Организации экономического сотрудничества и развития в Париже. Вскоре в Ведомстве федерального канцлера было создано «Организационное бюро» по делам консульско-экономических представительств за границей. В течение 1950 г. были открыты Генеральные консульства ФРГ в Лондоне, Нью-Йорке и Париже, а затем в Стамбуле, Амстердаме, Брюсселе, Риме и Афинах.
В том же году на базе Группы по связям и Оргбюро в Ведомстве федерального канцлера был образован специальный орган — Служба по внешним сношениям, которая в дополнение к прежним функциям своих предшественниц получила новые, исполнением которых занялись созданные для этого референтуры по культурным связям, протоколу и подготовке дипломатических кадров.
МИДу ФРГ было возвращено старое наименование — Ведомство иностранных дел. Однако в русском варианте в дипломатической переписке используется классическое название — Министерство иностранных дел. В его состав помимо упомянутой Службы по внешним сношениям были включены т.н. Бюро по вопросам мира в Штутгарте (созданное для сбора и анализа документов по вопросам мирного урегулирования в Европе), а также внешнеторговый департамент вместо существовавшего с 1947 г. Управления по делам объединенной экономической территории во Франкфурте-на-Майне.
На первом этапе МИД ФРГ имел 330 сотрудников (из них 129 дипломатов) в Центре и 433 сотрудника в зарубежных представительствах (147 дипломатов). В 1951 г. были установлены дипломатические отношения с 12 государствами (Бельгия, Бразилия, Дания, Греция, Италия, Канада, Нидерланды, Ирландия, Люксембург, Норвегия и Швеция). При правительствах трех западных держав были назначены поверенные в делах, возведенные в 1953 г. в ранг послов. После вступления в силу в 1955 г. т.н. Германского договора, передавшего ФРГ значительную часть суверенитета, представительства ФРГ в столицах трех западных держав были преобразованы в посольства.
В 1955 г. состоялся визит в Москву канцлера ФРГ Аденауэра, в ходе которого была достигнута договоренность об установлении дипломатических отношений между СССР и ФРГ и обмене посольствами.
Параллельно происходило становление дипломатической службы ГДР. Это было сопряжено с немалыми трудностями, поскольку в результате осуществления «доктрины Хальштейна», активно поддержанной западными державами, ГДР долгое время не удавалось добиться установления дипломатических отношений с иностранными государствами, расположенными за пределами социалистического лагеря. Лишь после подписания Московского договора в августе 1970 г., Четырехстороннего соглашения по Западному Берлину в сентябре 1971 г. и вступления двух германских государств в ООН в 1973 г. «доктрина Хальштейна» была окончательно сломлена, и оба германских государства стали равноправными субъектами международных отношений.
К этому времени дипломатические службы обоих германских государств уже полностью сложились. Дипломатические службы ФРГ и ГДР отличались высоким профессионализмом, эффективностью, организованностью, настойчивостью в решении стоящих перед ними задач. На международной арене они конкурировали друг с другом, жестко противоборствовали, используя весь арсенал своих возможностей, влияния и опыта для достижения поставленных руководством государств целей.
Короткая история дипломатической службы ГДР завершилась драматически. Объединение Германии в 1990 г. сопровождалось роспуском всех государственных институтов Республики. Подлинное объединение, соединение потенциала государственных, в том числе дипломатических, служб не состоялось. Идеологическая несовместимость оказалась сильнее практической и профессиональной целесообразности. Правительство ФРГ отторгло дипломатов ГДР несмотря на то, что большинство из них были высококлассными специалистами, многие получили солидное образование, обладали немалым опытом работы за рубежом, в том числе в международных организациях. Тем не менее, было категорически запрещено принимать дипломатических работников ГДР на службу во внешнеполитическое ведомство объединенной Германии. Лишь единицы из младших дипломатов получили работу в системе государственных органов ФРГ.
