Слово «хімія» виникло, мабуть, ще за 3000 років до нової ери, судячи з текстів клинописних таблиць, які знайдено при розкопках стародавніх міст Єгипту і Малої Азії. Встановити походження цього слова дуже важко.
Алхімік IV ст. н.е. Зосима з Панополіса в Греції вважав, що слово «хімія» походить від слова «Хемес» – скороченого імені Гермеса Трисмегиста – легендарного мудреця, який отримав знання у вигляді божественного одкровення. За переказами, воїни Олександра Македонського знайшли могилу Гермеса Трисмегиста з кам’яною плитою, названою «Смарагдовою Скрижаллю Гермеса». На ній був напис, у якому нібито повідомлялося про спосіб отримання дивної речовини – «філософського каменю». Деякі історики вважають, що слово «хімія» пов’язане з давньогрецьким «хима», що означає мистецтво виплавки металів. Візантійський лексикограф Свида, який жив у X-XI ст. н. е., розумів під хімією штучне приготування золота і срібла. На давньокитайській мові «ким» означало «золото».
Найчастіше слово «хімія» пов’язують з назвою Стародавнього Єгипту – «Хемі», тому що жерці з цієї країни були видатними хіміками. Тому, за змістом, слово «хімія» є тотожним висловом «єгипетська наука». У III ст. до н.е. в м. Александрія (Єгипет) вже була заснована Академія наук, і «священному мистецтву» – хімії було відведено навіть спеціальне приміщення, храм Серапіса.
Сучасна назва «хімія» проводиться від позднелатінського слова Chimia і є інтернаціональним словом: німецьке Chimie, французьке chimie, англійське chemistry.