Отто Юльевич Шмидт родился 30 сентября 1891 года в городе Могилеве. В детстве работал в лавке письменных принадлежностей в Белоруссии. Деньги на обучение одаренного мальчика в гимназии дал его дедушка – Фрицис Эрглис. В 1913 году Отто Шмидт окончил университет и был оставлен при нем для подготовки к профессорскому званию.
После Октябрьской революции 1917 года в течении нескольких лет он занимал различные государственные должности - был одним из организаторов высшего образования и науки в СССР.
В 1923-1956 годах Шмидт был профессором математики в Московском университете и одновременно вел руководящую научную и научно-организационную работу в различных областях. Отто Юльевич – один из основателей и главный редактор Большой советской энциклопедии (1924-1942 годы). В 1935 году он стал действительным членом Академии наук СССР. К тому времени был издан ряд его работ по географии, геофизике, геологии, астрономии.
Отто Шмидт основал в 1937 году новый институт – Институт теоретической геофизики Академии наук СССР с целью комплексного изучения Земли как планеты. Он же стал первым его директором (1937-1949). Сегодня это Институт физики Земли имени О.Ю. Шмидта.
Известен Отто Юльевич и как великий путешественник - в 1929 и 1930 годах он возглавлял экспедиции на ледокольном пароходе "Георгий Седов", в 1932 году - экспедицию на ледокольном пароходе "Сибиряков", которая впервые прошла за одну навигацию из Архангельска в Тихий океан, в 1933-1934 годах - плавание на пароходе "Челюскин" по Северному морскому пути. В 1937 году он участвовал в организации дрейфующей научной станции "Северный полюс-1" (за это ему было присвоено звание Героя Советского Союза), а в следующем году руководил операцией по снятию персонала станции со льдины.
Помимо научной, исследовательской и педагогической работы Шмидт занимался и общественной деятельностью - он был депутатом Верховного Совета СССР 1-го созыва, членом ЦИК СССР. Награжден орденами и медалями.
7 сентября 1956 года Отто Юльевич Шмидт умер в Москве. В честь него названы мыс на побережье Чукотского моря и остров в Карском море.