Жаркентская мечеть уникальна в своем роде — это единственная мечеть в Казахстане. Ее внешний вид напоминает буддийский храм.
Жаркент был известен еще в конце X века, через него входил на территорию Казахстана Великий Шелковый путь. Месторасположение города было удобно для развития торговли. Известный исследователь древностей И. А. Кастанье отмечает многочисленные курганы различных форм, а также упоминает христианско-несторианские и мусульманские памятники, относящиеся к древней и раннесредневековой истории Семиречья. Доказательством древности города Жаркента является городская крепостная стена, следы которой до сих пор сохранились. Подобная глиняная оборонительная стена характерна для средневековой и древней истории Центральной Азии. Из исследований Шокана Уалиханова, Билала Назима, Туглук Тимура, И. А. Кастанье следует, что возраст Жаркента не меньше возраста Кульджи, Алмалыка, Талгара (Талхир) и Алматы.
Путешественник и ученый Шокан Уалиханов в 1856 году в своем дневнике сделал записи о городе Жаркенте и поселке Каратурук, начертил карту. Уалиханов еще в 1856 году Жаркент называет городом.
В 1881 году в результате Петербургского договора часть земель западной части Илийской долины осталась за Российской империей. На месте старых поселений была основана новая деревня. По переписи 1887 года в районе проживало 81 927 казахов, 38831 уйгуров и дунган, 9358 русских и украинцев.
В 1887 году на собрании мусульманской общины города Жаркента купец первой гильдии Вали Ахун Юлдашев предложил построить новую мечеть. Внес первый взнос и выступил организатором сбора пожертвований от мусульман.
Мечеть была построена в по проекту китайского архитектора Хона Пика. Он давно хотел построить мусульманскую мечеть в китайском стиле, но не мог получить разрешение в Китае. По легенде, китайский архитектор принял предложение Юлдашева бесплатно.
Хону Пику, которого называли Мукан, помогали уйгурские мастера: Хасан Иманов, Ушурбаки, Таир Исмаилов, Насретдин Кары, Зайнутдин, Абдукадыр. В строительстве мечети приняли участие около 100 человек разных национальностей. Было два переводчика, которые знали несколько языков.
За три года — с 1887 по 1890 — на место строительства были доставлены дерево, колонны и балки, в них вырублены отверстия. Готовые детали размечали и декорировали. Привозили землю, выравнивали площадку. Огромные деревянные колонны поднимали с помощью нескольких упряжек волов. Благодаря такой подготовке здание было построено без гвоздей за лето 1892 года.
В комплекс мечети входят жума-мечеть, малая мечеть, главный вход — ворота, боковые въездные ворота и каменная ограда.
Общая площадь мечети 28×54,5 м, высота 14,5 м, высота минарета 19 м. Минарет окружен 52 колоннами. Антаблемент украшен деревянной резьбой. Колонны изготовлены из тянь-шаньских елей, которую доставляли из Кетменских гор. При строительстве из дерева гвозди не применяли. Стены в большом зале выполнены из кирпичей, привезенных из Капшагая, там есть 13 видов песка, до сих пор точный состав этих кирпичей неизвестен, в большом зале полностью деревянная крыша, которая опирается на 122 колонны, 52 колонны находятся снаружи, опоясывают здание, остальные 70 — внутри. Все колонны поставлены на каменную подставку, чтобы дерево не сгнило. При реставрации их покрыли гипсом для сохранности. Многие не верят, что колонны деревянные, поэтом на одной из них убрали гипс, чтобы было видно, что основа — дерево. Крышу поменяли — была черепица, но со временем она износилась, заменили на железо. Мечеть состоит из двух этажей.
Влияние китайских архитектурных традиций проявляется в конструкции парящей крыши, имеющей изогнутые кверху концы ската, придающей зданию изысканность и воздушность. Крыша отделена от стен системой декоративных балок и опор, называемых «дау» и «гун». Кривизна кровли зависит от системы пересечений, размещенных на определенном расстоянии, чтобы добиться контраста.
Особенностью мечети является изобилие декора — резьбы по дереву, росписи в насыщенном цвете. В орнаменте преобладают растительные мотивы, арабская вязь, элементы уйгурского орнамента, но встречаются и изображения птиц, рыб, животных. Есть натюрморты и пейзажи.
В 1910 году здесь ощущалось землетрясение до 7 баллов, поэтому были частичные повреждения, трещины в куполе.
Пятничная мечеть и главные ворота были дополнены двухэтажными минаретами-пагодами.
С 1918 по 1948 годы здание мечети использовалось как склад, зернохранилище, казармы для пограничников, комнаты медресе — кинотеатр, квартиры и чайхана. Здание было повреждено.
В рамках комплексного обследования мечети по заданию Динмухамеда Кунаева изучались инженерные коммуникации и состояние строительных конструкций и художественного оформления. В 1967—1978 годах, в мечети была проведена реставрация, затем предложили создать здесь музей.
Архитектурно-художественный музей в мечети был открыт согласно распоряжению Совета Министров Казахской ССР от 24 марта 1978 года.
С 1982 года находится под охраной государства как памятник архитектуры и истории республиканского значения.
В 2001-2004 годах была произведена реконструкция крыши и главного портала.
По словам экскурсовода, во времена Советского Союза здесь снимали художественные фильмы «Транссибирский экспресс», «Конец атамана», «Год дракона», а в 2015 году — «Казахское ханство. Алмазный меч», будто это орда могольского хана, про Кажымукана тоже снимали, но Фархат Абдраимов, который играл в главной роли, скончался, поэтому фильм так и не вышел в прокат. И совсем недавно снимали фильм про Ахмета Байтурсынова — бракосочетание с Татьяной здесь снимали.
Восемь светильников с рисунками ручной работы, которые другу друга не повторяют, сохранились в мечети.
Второй этаж закрыт для посещения, так как туда опасно подниматься по лестнице.
130-летняя краска осталась сверху колонн, находящихся под лестницей. Остальные обновляются каждый год.
Во дворе мечети с северо-восточной стороны расположен маленький дворик, а с южной — медресе. Комплекс мечети огорожен каменным забором высотой 2,3 м. С южной и северной сторон имеются ворота.
Медресе находилось в здании у главных ворот, оно состоит из 14 комнат и хозяйственных построек — справа было медресе для мальчиков, а слева — для девочек. Окна медресе выходят на улицу, а двери — во двор мечети. Здание медресе годами использовалось в качестве то жилого дома, то кинотеатра, поэтому лишилось оригинального облика, который был возвращен в ходе реставрации. В медресе расположены экспозиционные и рабочие комнаты музея.
В малой мечети у главных ворот сейчас находятся выставочные залы: в одном представлены макеты мавзолеев Казахстана. В другом — старинные предметы быта — своеобразный историко-краеведческий музей.
Ровесник этой мечети — построенный в 1892 году храм Илии Пророка, также находящийся в Жаркенте.