El gobierno de Abd al-Rahman II supone un gran desarrollo en el emirato, y como consecuencia un gran esplendor cultural, que dará un importante boato a la corte cordobesa.

 Es en este momento cuando se realiza, por motivos de crecimiento de la población cordobesa, la primera ampliación de la aljama de Córdoba. Al contrario que en la primera construcción, ahora se tienen datos sobre los directores de las obras, se trataba de los eunucos Nasr y Masrur; y como inspector de los trabajos Abd al-Rahman designó al cadí y encargado de la oración en Córdoba, Muhammad ban Ziyad. Las obras duraron quince años, a diferencia del año que tardó en levantarse la de Abd al-Rahman I.

El edificio creció  en dirección sur, para ello fue necesario derruir el muro de qibla existente, destruyendo el mihrab, prolongando las once naves con ocho tramos más de arcos. 

 En esta nueva edificación surgen diferencias en el modo de construir respecto a la etapa anterior. Aquí se prescinde de las basas de las columnas, el arranque de los pilares sobre la pieza cruciforme no se resuelve por modillones de rollos, sino por una moldura en forma de cuarto de bocel. Este elemento también lo encontramos en el muro primitivo de la izquierda, lo que influye en la teoría de que la primera mezquita, la de Abd al-Rahman I tenía nueve naves, y que en esta época se añadieron las dos laterales. Respecto a los capiteles,  hay un número de once que no son aprovechados, son labrados en Córdoba ex profeso. Se crea en esta ciudad un taller de labra de piedra que va adquiriendo cada vez más prestigio hasta llegar a su culmen en época califal de Abd al-Rahman III, siendo frecuente exportar capiteles de Córdoba al mundo musulmán del norte de África. De los capiteles ex novo que se realizan, habría que destacar los cuatro, iguales dos a dos, que soportaban el arco de entrada al nicho del mihrab, y que Al-Hakam II trasladará a su emplazamiento definitivo en el actual arco de mihrab. Los demás, en líneas generales, se trata de copias de capiteles romanos, una vez más se acude a las raíces locales de tradición romana.

 El nicho de mihrab presentaba una planta semicircular al interior, resaltando en el exterior con una forma rectangular.

 En esta ampliación queda constancia del deseo de continuidad de la obra del primer emir, correspondiéndose las partes arquitectónicas de las dos fases, manteniendo las mismas proporciones en la sala de oración ampliada que  en la primitiva.

 También en esta época se levanta un nuevo alminar de medidas muy proporcionadas: hasta la linterna tenía una altura igual a tres veces el lado de su base. 

 De esta ampliación han desaparecido el muro sur de la qibla y el muro oriental, manteniéndose sólo el occidental, en el que se abre la puerta de los Deanes.

 A la muerte de Abd al-Rahman II, su hijo Muhammad continuó y finalizó las obras de ampliación. Levantó también una maqsura y restauró la puerta occidental de la mezquita, la Puerta de San Esteban, construida en tiempos de Abd al-Rahman I.

 Posteriormente se fueron realizando otras obras, añadiendo otros espacios: Al-Mundir, hijo de Muhammad, añadió un tesoro a la mezquita y Abd Allah, su sucesor, construyó un sabat, paso cubierto que unía el palacio con la mezquita para “ir a rezar sin que la gente lo viera, cuando lo desease, para que nadie tuviera que ponerse en pie o verlo salir”, según un relato de Ibn Hayyan.

Obras en la mezquita con Abd al-Rahman III

 Las aportaciones de Abd al-Rahman III a la aljama son escasas, teniendo puestos sus intereses en el palacio de Madinat al-Zahra. La actuación en la sala de oración de la mezquita dejó poca huella, centrándose en el patio, que amplió, dotó de pórticos, incorporó un alminar y reforzó la fachada de Abd al-Rahman I.

 La ampliación del patio se realizó hacia el actual muro norte, al lado opuesto de la sala de oración. La traza primitiva constaba de arcos que apeaban alternativamente en series rítmicas de un pilar y dos columnas, como en el patio de la gran mezquita de Damasco.

 El primer califa reforzó la fachada de la sala de oración de Abd al-Rahman I, debido a los empujes longitudinales que estaba recibiendo, con arcos de herradura peraltados en la mitad del radio, enjarjados y con las dovelas despiezadas a la línea de impostas; trasdós e intradós no van paralelos, ensanchándose la rosca a la altura de la clave. Las columnas son de pudinga rosada, y están embebidas en los pilares. Los capiteles son de orden corintio y compuesto, de hojas lisas, denominados capiteles de “pencas”, que se utilizan por primera vez aquí.

 El alminar construido por Abd al-Rahman III, inmediatamente después a la ampliación del patio, entre 951 y 952, se constituyó como imagen de la Córdoba califal.  Situado en el muro norte del patio, por la parte interior, se cimentó con sillares a soga y tizón. Constaba de un primer cuerpo de treinta metros de altura, de planta cuadrada de 8’48 m. de lado, un segundo cuerpo retranqueado de menor altura, una cúpula calada y el Yamur reproduciendo tres granadas, la primera y la tercera de oro y la segunda de plata. 

Es importante la estructura interna del cuerpo inferior, dividida en dos partes rectangulares, por un muro en dirección norte-sur. Se accedía a ambas partes  desde la calle y desde el patio, y en  su interior, cada una de ellas desarrollaba una escalera en torno a un volumen central. La caja de escalera se dividía en pequeños tramos cuadrados, articulados por pilastras, de poco resalte, que sostenían arcos de herradura; se cubrían estos espacios con bóvedas de arista escalonadas. Los vanos al exterior eran diferentes en cada lateral, en los lados norte y sur había ventanas de arcos gemelos en dos alturas, y en los lados este y oeste los vanos eran de tres arcos en herradura muy cerrada, con el trasdós lobulado, y las dovelas despiezadas a la línea de impostas. Sólo una de estas ventanas era practicable, las demás eran fingidas. En la parte alta de este primer cuerpo había un friso de nueve arquillos ciegos, y se remataba todo el conjunto con almenas escalonadas.

El cuerpo superior era de planta y altura más pequeña, tenía de lado 4’8 m. y 11’4 de alto. Tenía puerta en sus cuatro lados y se cubría con una cúpula calada.

Tal vez sea éste el primer alminar de importancia que se levanta en al-Andalus, y constituye un símbolo de la transcendencia del nuevo califa dentro del mundo musulmán; por otro lado, puede considerarse como una competencia frente a la torre campanario cristiana.

Sobre su cronología surge polémica que Félix Hernández suscita, pensando que el alminar pudiera ser anterior a la fecha que se da en seis años aproximadamente, basándose en una versión del manuscrito de al-Maqqari. 

Este modelo se repetirá en los alminares andalusíes y norteafricanos posteriores. Su imagen ha quedado en escudos de armas, en la puerta de Santa Catalina de la catedral cristiana, en cantorales, etc. Se han sacado dibujos y maquetas a partir del interior.

 De la ampliación de Abd  al-Rahman III, la galería oriental desapareció con el ensanche de Almanzor, la norte y oeste se reconstruyeron a principios del siglo XVI, siguiendo la traza primitiva, y del alminar, lo que queda, se conserva recubierto por la torre cristiana, proyectada por Hernán Ruiz.