Фракталы этого типа возникают при исследовании нелинейных динамических систем (отсюда и название). Поведение такой системы можно описать комплексной нелинейной функцией (многочленом) f(z). Возьмем какую-нибудь начальную точку z₀ на комплексной плоскости. Теперь рассмотрим бесконечную последовательность чисел на комплексной плоскости, каждое следующее из которых получается из предыдущего: z₀, z₁ = f(z₀), z₂ = f(z₁), ... z_n+1 = f(z_n). В зависимости от начальной точки z₀ такая последовательность может вести себя по-разному: стремиться к бесконечности при n → ∞; сходиться к какой-то конечной точке; циклически принимать ряд фиксированных значений; возможны и более сложные варианты.

Таким образом, любая точка z комплексной плоскости имеет свой характер поведения при итерациях функции f(z), а вся плоскость делится на части. При этом точки, лежащие на границах этих частей, обладают таким свойством: при сколь угодно малом смещении характер их поведения резко меняется (такие точки называют точками бифуркации). Так вот, оказывается, что множества точек, имеющих один конкретный тип поведения, а также множества бифуркационных точек часто имеют фрактальные свойства. Это и есть множество Жюлиа для функции f(z).

Множество Мандельброта строится несколько иначе. Рассмотрим функцию f_c(z) = z² + с, где c — комплексное число. Построим последовательность этой функции с z₀ = 0, в зависимости от параметра с она может расходиться к бесконечности или оставаться ограниченной. При этом все значения с, при которых эта последовательность ограничена, как раз и образуют множество Мандельброта. Оно было детально изучено самим Мандельбротом и другими математиками, которые открыли немало интересных свойств этого множества.

Видно, что определения множеств Жюлиа и Мандельброта похожи друг на друга. На самом деле эти два множества тесно связаны. А именно, множество Мандельброта — это все значения комплексного параметра c, при которых множество Жюлиа f_c(z) связно (множество называется связным, если его нельзя разбить на две непересекающиеся части, с некоторыми дополнительными условиями).