尼勒克自古以来就是多民族的聚居之地。古代的塞族人、大月氏人、乌孙人、匈奴人、突厥人都曾在这块美丽的土地上栖息繁衍。自汉迄晋，该地区为乌孙国辖地。南北朝时为悦般国地。隋朝为西域校尉管辖的西突厥石汗那国辖地。唐朝时受辖于昆陵都护府，北庭都护府。辽时为契丹护府，西辽时为黑汗国地。元朝时属达鲁花赤管辖的察合台汗国地。明朝时为别失八里管辖下的鞑靼瓦刺（或称厄鲁特.卫拉特）游牧地。清初，尼勒克地区为准葛尔所据。乾隆二十四年(1759年)，清政府平定准噶尔和大小和卓木之乱后，清政府将西域改称新疆，尼勒克地区受辖于清政府。乾隆三十年(1770年)，因伊犁将军伊勒图奏请，乾隆谕云：“查伊犁种地驻兵，宜于形势之地，修建城池，以御外夷，其努克地方设一小城。现有回民三百户，不便移动，仍驻兵数百，以防西通哈萨克、布鲁特之路。固尔扎东一百一十里，有阿日喀什，回环数百里，其上多银多野性。将军围场其中，有城焉，曰喀什回子之城（今尼勒克老城），由定边副将军，带兵800人，和领队大臣经营之，提督驻防其努克。”

　　1885年，新疆省政府决定成立宁远县（后因与湖南宁远县重名，改名为伊宁县），辖今尼勒克地区。

　　1932年，从伊宁县析出，成立巩留县，辖尼勒克地区。1938年2月，巩哈地区从巩留县析出，成立巩哈设治局，受辖于伊犁长官公署。

　　1939年6月，巩哈设治局改设为巩哈县。

　　1944年8月17日，伊犁、塔城、阿山(今阿勒泰)3个地区反抗国民党统治的革命斗争首先在巩哈县的加哈乌拉斯台山区爆发。同年10月7日，巩哈游击队攻占巩哈县城，改巩哈县为尼勒克县，并成立“三区革命”尼勒克总部和尼勒克县临时政府。1945年1月，正式成立“三区革命”尼勒克县政府，受辖于“三区革命”政府。

　　1949年9月28日，新疆和平解放。尼勒克县复称巩哈县，同时成立巩哈县解放军委员会和巩哈县政府。

　　1950年3月，中国人民解放军六军通讯团三营七连进驻巩哈县，协助开展安民、建政、清匪反霸等工作。

　　1951年3月26日，巩哈县各族各界代表大会在县城召开。会议决定废除封建部落的千户长、百户长制，改巩哈县政府为巩哈县人民政府。

　　1951年7月1日，中共巩哈县委成立。

　　1954年4月，经中央政务院批准，将巩哈县更名为倪俐克县，后经标准化正音为尼勒克县。4月19日，第一届人民代表大会在县城召开，大会决定改尼勒克县政府为尼勒克县人民委员会，隶属于伊犁地委和伊犁地区领导。

　　1955年3月至1975年9月，因伊犁地委撤消，中共尼勒克县委员会和尼勒克县人民委员会隶属中共伊犁地区委员会（即伊犁区党委）领导。

　　1975年9月，伊犁地区恢复重建，尼勒克县归为伊犁地区领导。

　　1979年6月，伊犁地区撤销，尼勒克县归为伊犁哈萨克自治州领导。

　　1985年1月，因伊犁地区恢复重建，尼勒克县归于伊犁地区领导。

　　2001年3月，因伊犁地区撤销，尼勒克县直属伊犁哈萨克自治州领导。