Собственно, Агрикола он был не всегда. Урожденный Микаэль Олай появился на свет около 1510 года (по некоторым исследованиям — в 1507) в деревне Торсбю общины Перно, провинции Нюланд, в семье зажиточного крестьянина. Ребёнка назвали в честь святого покровителя уездной церкви. У Микаэля было три сестры. Учителя заметили способность Микаэля к языкам и отправили его учиться в Выборг, в латинскую школу. В те годы современная Финляндия была частью Великой Швеции. В начале 1520-х годов в этих местах начали проповедовать первые последователи Мартина Лютера. В 1523 году королём Швеции стал Густав Васа. Вначале новый король негативно отнёсся к проповеди нового учения, однако сложная внутриполитическая ситуация заставила его искать новых союзников внутри страны. В 1524 году возник конфликт между королём и папой Клементом VII по поводу избрания нового архиепископа, в результате чего отношения с папством были прерваны окончательно.
Реформа Церкви в Швеции осуществлялась постепенно. С 1525 года началось проведение богослужений на шведском языке, в 1526 году был издан Новый Завет, а в 1541 году — вся Библия, и король обязал все церкви купить новые книги.
Учась в Выборге, Микаэль взял себе фамилию «Агрикола» (то есть «земледелец») — фамилии, взятые по роду занятий отца в то время часто встречались среди учёных в первом поколении. Вероятно, именно в Выборге Агрикола впервые соприкоснулся с идеями Реформации. Комендантом выборгского замка в то время был граф Иоганн, немец на службе у шведского короля Густава Васы, сторонник Реформации, и в замке уже проводились лютеранские богослужения.
В 1527 году на Вестеросском риксдаге главой Церкви был провозглашён король, а имущество монастырей было конфисковано в пользу короны. Делами Церкви стали управлять светские лица, назначенные королём.
В 1528 году Микаэль перебрался в Турку (Або), де-факто центр финских территорий Швеции и центр католической епархии. Именно в Турку Агрикола встретился с первым финским учеником Мартина Лютера Петером Сяркилахти. После кончины Сяркилахти в 1529 году Агрикола продолжил его труд. В 1531 году он был рукоположён в священники. В 1536 году епископ Турку послал его учиться в Германию, в Виттенберг. Там он познакомился с Лютером, и летом 1539 стал мастером теологии.
Первую книгу на финском языке он издал в 1543 году. Это был букварь «ABC-kiria». Сегодня этот год считается годом рождения финской письменности. В 1548 году Микаэль Агрикола закончил перевод Нового Завета. Тираж был напечатан в Стокгольме за государственный счёт. Кроме того, он перевёл на финский язык части Ветхого Завета и много назидательных сочинений.