Tokarski stroj koji se pojavio u drugom tisućljeću prije Krista bio je najraniji prototip alatnog stroja. Tijekom rada stanite na čahuru na donjem kraju užeta, upotrijebite elastičnost grane da natjerate obradak da se okreće uz uže, držite školjku ili komadić kamena kao alat i pomičite alat duž letvice kako biste rezali obradak. Srednjovjekovni strugovi s elastičnom šipkom još uvijek su koristili ovaj princip. Oglas unutar članka
U petnaestom stoljeću, zbog potrebe za proizvodnjom satova i oružja, pojavljuju se navojni tokarilice i strojevi za obradu zupčanika za urare, kao i strojevi za bušenje cijevi na vodu. Oko 1500. Talijan Leonardo da Vinci nacrtao je konceptualne skice tokarilica, strojeva za bušenje, strojeva za narezivanje navoja i strojeva za unutarnje brušenje, uključujući nove mehanizme kao što su ručice, zamašnjaci, vrhovi vrata i ležajevi. "Tian Gong Kai Wu" objavljen u dinastiji Ming u Kini također sadrži strukturu stroja za mljevenje, koji koristi nožnu pedalu za okretanje željezne ploče i dodaje pijesak i vodu za rezanje žada.
Industrijska revolucija osamnaestog stoljeća promicala je razvoj alatnih strojeva. Godine 1774. Britanac Wilkinson izumio je precizniji stroj za bušenje bačvi. Sljedeće godine upotrijebio je ovaj stroj za bušenje bačvi kako bi izbušio cilindre koji su udovoljavali zahtjevima Wattovog parnog stroja. Za bušenje većih cilindara izgradio je 1776. stroj za bušenje cilindara pokretan vodenim kotačem, što je pospješilo razvoj parnog stroja. Od tada je alatni stroj pokretan parnim strojem kroz gornju osovinu.
Godine 1797. Britanac Maudsley stvorio je tokarski stroj s držačem alata na vijke, koji može ostvariti motorizirani posmak i okretanje navoja, što je velika promjena u strukturi alatnog stroja. Maudsley je također poznat kao "otac britanske industrije alatnih strojeva".
U 19. stoljeću, zbog promicanja proizvodnje tekstila, energije, transportnih strojeva i oružja, pojavljuju se jedna za drugom razne vrste alatnih strojeva. Godine 1817. britanski Roberts stvorio je portalnu blanjalicu; 1818. Amerikanac Whitney izradio je horizontalnu glodalicu; 1876. godine Sjedinjene Države napravile su univerzalni cilindrični mlin; 1835. i 1897. godine izumio je stroj za glodanje zupčanika i oblik zupčanika.
S izumom elektromotora, alatni strojevi su počeli koristiti elektromotor za centralni pogon, a zatim su naširoko koristili pogon s jednim elektromotorom. Početkom dvadesetog stoljeća, u cilju što veće preciznosti obrade izradaka, stezaljki i alata za narezivanje navoja, sukcesivno su stvoreni strojevi za koordinatno bušenje i strojevi za brušenje navoja. U isto vrijeme, kako bi se zadovoljile potrebe masovne proizvodnje u industrijama kao što su automobili i ležajevi, razvijeni su razni automatski alatni strojevi, alatni strojevi za kopiranje, kombinirani alatni strojevi i automatske proizvodne linije.
S razvojem elektroničke tehnologije, Sjedinjene Države razvile su prvi numerički upravljani alatni stroj 1952. godine; 1958. razvila je obradni centar koji može automatski mijenjati alate za višeprocesnu obradu. Od tada, s razvojem i primjenom elektroničke tehnologije i računalne tehnologije, alatni stroj je doživio značajne promjene u pogonskim metodama, sustavima upravljanja i strukturnim funkcijama.