En 1956, la SNCASO étudie le SO 4060 , un intercepteur équipé de radar, volant à Mach 1.3, successeur des Vautour N qui n'étaient d'ailleurs pas encore en service. En même temps la Générale Aéronautique Marcel Dassault étudie plusieurs projets de chasseurs, du plus léger qui donnera naissance au Mirage IIIA au plus lourd : le biréacteur Mirage IV. Au mois de novembre 1956, le Ministre de la Défense décide que seule l'étude du Mirage IIIA doit être poursuivie, le Mirage IV devant évoluer vers un avion de bombardement capable de voler à plus de Mach 2 et effectuer la moitié de la pénétration vers l'objectif, à l'aller et au retour et le lâcher de la bombe, en supersonique et haute altitude.
En avril 1957, le marché de fabrication du prototype désigné Mirage IV-01 est passé. Il se présente comme un Mirage III-A à l'échelle 2 pour sa surface, sa motorisation et son poids à vide. Par contre, il emporte 3 fois plus de carburant. Il est biplace en raison de la présence nécessaire d'un navigateur pour mener à bien la mission. Le SO 4060 et le Mirage IV sont mis en concurrence. La formule delta du Mirage IV semble mieux correspondre à la mission que l'aile en flèche du SO 4060, celui-ci souffrant d'un poids à vide élevé et d'une sous-motorisation, le projet est abandonné à l'automne 1958. Dans le même temps, le Général de Gaulle décide de doter la France de forces nucléaires, indépendantes et suffisamment crédibles pour dissuader tout agresseur éventuel. Le Mirage IV est désigné comme vecteur de l'Arme Nucléaire Stratégique.
Le premier prototype du Mirage IV prit l'air le 17 juin 1959, piloté par Roland Glavany, propulsé par deux turboréacteurs Atar 9. Sur cet appareil René Bigand a battu le 22 septembre 1960 le record du monde de vitesse en circuit fermé de 1000 km à la vitesse moyenne de 1822 km/h, dont 30 minutes accomplies entre Mach 1,8 et 2. Le second prototype prend la désignation Mirage IV A et il est équipé de réacteurs Atar 9D, puis 9K. D'autres missions que le bombardement sont possibles : reconnaissance stratégique grâce à un conteneur ventral spécifique (CT 52 avec caméras optiques et/ou détecteur infrarouge), et guerre électronique grâce à un conteneur spécialisé (CT 51) emporté sous la voilure.

Nota : historique intégralement tiré du site du Conservatoire de l'Air et de l'Espace d'Aquitaine, qui possède dans sa collection le Mirage IVP n°56 codé CC.

Le Mirage 2000 et le Mirage III, seuls deltas à voilure simple en service en France sont bien plus petits que le Mirage IV, comme le montre cette comparaison à l'échelle avec le deuxième nommé.