Login| Sign Up| Help| Contact|

Patent Searching and Data


Title:
UNMANNED AERIAL VEHICLE OPERABLE BY REMOTE CONTROL, PROVIDED WITH IMAGING DEVICES
Document Type and Number:
WIPO Patent Application WO/2018/073371
Kind Code:
A1
Abstract:
The invention relates to an unmanned aerial vehicle (10) operable by remote control for flying over a zone, comprising an imaging assembly that can capture at least one image of a zone flown over. The imaging assembly comprises a first imaging device (12) with an array of sensors designed to capture a first image of the zone flown over, with a first spatial resolution, and a second imaging device (14) comprising at least one strip of sensors, the at least one strip of sensors being positioned substantially perpendicularly to the direction of travel of the aerial vehicle and designed to capture a second image of the zone flown over, by scanning, with a second spatial resolution higher than the first resolution, said first (12) and second (14) imaging devices being fixed to the aerial vehicle and coupled according to a predetermined coupling relation.

Inventors:
DELVIT JEAN-MARC (FR)
BUIL CHRISTIAN (FR)
Application Number:
PCT/EP2017/076763
Publication Date:
April 26, 2018
Filing Date:
October 19, 2017
Export Citation:
Click for automatic bibliography generation   Help
Assignee:
CENTRE NAT ETD SPATIALES (FR)
International Classes:
G06T5/50; G01C11/02; H04N3/14; H04N5/225; H04N5/232; H04N5/33; H04N5/372; H04N5/374
Domestic Patent References:
WO2016161284A12016-10-06
WO2014140129A12014-09-18
Foreign References:
US20020122114A12002-09-05
FR3006296A12014-12-05
Other References:
TCHERNYKH V ET AL: "Airborne test results for smart pushbroom imaging system with optoelectronic image correction", OPTOMECHATRONIC MICRO/NANO DEVICES AND COMPONENTS III : 8 - 10 OCTOBER 2007, LAUSANNE, SWITZERLAND; [PROCEEDINGS OF SPIE , ISSN 0277-786X], SPIE, BELLINGHAM, WASH, vol. 5234, no. 1, 1 January 2004 (2004-01-01), pages 550 - 559, XP002520674, ISBN: 978-1-62841-730-2, DOI: 10.1117/12.510712
Attorney, Agent or Firm:
BLOT, Philippe et al. (FR)
Download PDF:
Claims:
REVENDICATIONS

1 . - Aéronef sans pilote à bord et télécommandable pour survoler une zone, comportant un ensemble imageur apte à acquérir au moins une image d'une zone survolée, caractérisé en ce que l'ensemble imageur comporte :

un premier dispositif d'imagerie (12) à matrice de capteurs adapté à acquérir une première image de la zone survolée de première résolution spatiale, et

un deuxième dispositif d'imagerie (14) comprenant au moins une barrette de capteurs, la ou les barrettes de capteurs étant positionnées sensiblement perpendiculairement à la direction de déplacement de l'aéronef, apte à acquérir une deuxième image de la zone survolée par balayage, de deuxième résolution spatiale supérieure à la première résolution,

lesdits premier (12) et deuxième (14) dispositifs d'imagerie étant fixés à l'aéronef, et couplés selon une relation de couplage prédéterminée.

2. - Aéronef selon la revendication 1 , dans lequel le premier dispositif d'imagerie (12) et le deuxième dispositif d'imagerie (14) sont montés sur une platine qui confère une liaison rigide entre le premier dispositif et le deuxième dispositif. 3.- Aéronef selon l'une des revendications 1 ou 2, dans lequel le deuxième dispositif d'imagerie (14) comprend une pluralité d'ensembles de barrettes de capteurs, chaque ensemble de barrettes de capteurs étant adapté à une acquisition d'image dans une bande spectrale prédéterminée. 4.- Aéronef selon l'une des revendications 1 à 3, dans lequel le deuxième dispositif d'imagerie (14) comprend une pluralité d'ensembles de barrettes de capteurs d'imagerie hyperspectrale.

5. - Aéronef selon l'une des revendications 1 à 4, dans lequel le deuxième dispositif d'imagerie (14) comprend des barrettes de capteurs de type à décalage temporel et intégration.

6. - Procédé de traitement d'images acquises par un ensemble imageur porté par un aéronef conforme à l'une des revendications 1 à 5 en survol d'une zone, l'aéronef ayant une attitude définie par des paramètres de roulis, de tangage et de lacet, comportant une étape de mise en géométrie (20) d'une première image d'une zone spatiale survolée acquise par le premier dispositif d'imagerie à matrice de capteurs, utilisée comme image de référence, et d'une deuxième image de la même zone spatiale survolée, acquise par le deuxième dispositif d'imagerie, utilisée comme image secondaire, pour obtenir une image de référence transformée et une image secondaire transformée.

7. - Procédé de traitement d'images selon la revendication 6, comportant une deuxième étape (30) d'application d'un calcul de corrélation dense entre l'image de référence transformée et l'image secondaire transformée obtenues à la première étape (20) pour obtenir une nappe de disparité, et un calcul de paramètres dépendant des vibrations de l'aéronef, comprenant des paramètres de roulis, tangage et lacet à partir de la nappe de disparité.

8. - Procédé de traitement d'images selon la revendication 7, comportant une troisième étape (40) de calcul statistique à partir de la nappe de disparité permettant d'obtenir des directions de visée des capteurs des barrettes de capteurs du deuxième dispositif d'imagerie.

9. - Procédé de traitement d'images selon la revendication 8, comportant une étape de correction géométrique de l'image secondaire transformée utilisant les paramètres dépendant des vibrations de l'aéronef et les directions de visée calculés.

Description:
Aéronef sans pilote à bord télécommandable équipé de dispositifs

d'imagerie

La présente invention concerne un aéronef sans pilote à bord et télécommandable pour survoler une zone, comportant un ensemble imageur apte à acquérir au moins une image d'une zone survolée.

L'invention se situe dans le domaine technique des aéronefs sans pilote à bord et télécommandables (en anglais « unmanned aerial vehicle »), appelées également drones, et plus particulièrement dans le domaine de l'acquisition d'images par de tels aéronefs.

Récemment, divers types de drones ont été développés, et ces engins sont en général équipés d'un dispositif imageur permettant d'acquérir des images des surfaces survolées.

Un des problèmes rencontrés pour la capture d'images est l'instabilité en vol de tels drones, du fait de leur taille réduite par rapport à des aéronefs de transport. En effet, les drones sont particulièrement sensibles aux divers courants et mouvements d'air en vol, et par conséquent leur position n'est pas stabilisée, ce qui nuit à la capture d'images exploitables.

De plus, pour certaines applications, il est utile de recaler les images capturées par rapport à un référentiel de géolocalisation, par exemple pour construire une carte d'un terrain survolé donné.

Pour connaître plus précisément l'attitude d'un drone en vol, et être en mesure de positionner les images captées dans un référentiel de géolocalisation, une solution connue consiste à utiliser une centrale inertielle embarquée à bord du drone, comportant un ensemble de capteurs, dont trois accéléromètres pour mesurer l'accélération du drone selon trois directions permettant de définir un repère spatial tridimensionnel. Cependant, une telle centrale inertielle de grande précision est encombrante et a un poids non négligeable, ce qui est défavorable, notamment en termes de consommation énergétique du drone.

Il est donc utile de trouver des alternatives permettant l'acquisition d'images par un dispositif d'imagerie embarqué sur un drone, qui soient exploitables pour diverses applications.

A cet effet l'invention propose un aéronef sans pilote à bord et télécommandable pour survoler une zone, comportant un ensemble imageur apte à acquérir au moins une image d'une zone survolée. L'ensemble imageur comporte un premier dispositif d'imagerie à matrice de capteurs adapté à acquérir une première image de la zone survolée de première résolution spatiale, et un deuxième dispositif d'imagerie comprenant au moins une barrette de capteurs, la ou les barrettes de capteurs étant positionnées sensiblement perpendiculairement à la direction de déplacement de l'aéronef, apte à acquérir une deuxième image de la zone survolée par balayage, de deuxième résolution spatiale supérieure à la première résolution, lesdits premier et deuxième dispositifs d'imagerie étant fixés à l'aéronef, et couplés selon une relation de couplage prédéterminée.

Avantageusement, l'utilisation d'un ensemble imageur composé de deux dispositifs d'imagerie permet d'obtenir un recalage des images acquises, et de calculer l'attitude en vol du drone porteur.

De plus, la solution proposée permet d'alléger l'aéronef, tout en améliorant la résolution des images acquises, puisqu'il n'est plus nécessaire d'embarquer une centrale inertielle précise, et même, pour certaines applications, il n'est pas nécessaire d'embarquer de centrale inertielle du tout.

L'aéronef sans pilote à bord et télécommandable selon l'invention peut également présenter une ou plusieurs des caractéristiques ci-dessous, selon toute combinaison techniquement acceptable.

Le premier dispositif d'imagerie et le deuxième dispositif d'imagerie sont montés sur une platine qui confère une liaison rigide entre le premier dispositif et le deuxième dispositif.

Le deuxième dispositif d'imagerie comprend une pluralité d'ensembles de barrettes de capteurs, chaque ensemble de barrettes de capteurs étant adapté à une acquisition d'image dans une bande spectrale prédéterminée.

Le deuxième dispositif d'imagerie comprend une pluralité d'ensembles de barrettes de capteurs d'imagerie hyperspectrale.

Le deuxième dispositif d'imagerie comprend des barrettes de capteurs de type à décalage temporel et intégration.

Selon un autre aspect, l'invention concerne un procédé de traitement d'images acquises par un ensemble imageur porté par un aéronef tel que brièvement décrit ci- dessus en survol d'une zone, l'aéronef ayant une attitude définie par des paramètres de roulis, de tangage et de lacet.

Le procédé comporte une étape de mise en géométrie d'une première image d'une zone spatiale survolée acquise par le premier dispositif d'imagerie à matrice de capteurs, utilisée comme image de référence, et d'une deuxième image de la même zone spatiale survolée, acquise par le deuxième dispositif d'imagerie, utilisée comme image secondaire, pour obtenir une image de référence transformée et une image secondaire transformée. Le procédé de traitement d'image selon l'invention peut également présenter une ou plusieurs des caractéristiques ci-dessous, selon toute combinaison techniquement acceptable.

Ce procédé comporte une deuxième étape d'application d'un calcul de corrélation dense entre l'image de référence transformée et l'image secondaire transformée obtenues à la première étape pour obtenir une nappe de disparité, et un calcul de paramètres dépendant des vibrations de l'aéronef, comprenant des paramètres de roulis, tangage et lacet à partir de la nappe de disparité.

Ce procédé comporte une troisième étape de calcul statistique à partir de la nappe de disparité permettant d'obtenir des directions de visée des capteurs des barrettes de capteurs du deuxième dispositif d'imagerie.

Enfin le procédé comporte une étape de correction géométrique de l'image secondaire transformée utilisant les paramètres dépendant des vibrations de l'aéronef et les directions de visée calculés.

D'autres caractéristiques et avantages de l'invention ressortiront de la description qui en est donnée ci-dessous, à titre indicatif et nullement limitatif, en référence aux figures annexées, parmi lesquelles :

- la figure 1 représente schématiquement un drone équipé de deux dispositifs d'imagerie selon un mode de réalisation de l'invention ;

- la figure 2 est un synoptique d'un procédé de traitement d'images acquises.

La figure 1 représente schématiquement un aéronef 10 sans pilote à bord et télécommandable, qui sera appelé drone par la suite, équipé de deux dispositifs d'imagerie 12, 14.

Le premier dispositif d'imagerie 12 est un dispositif d'acquisition d'image à matrice de capteurs, adapté à acquérir instantanément une première image numérique matricielle de la zone survolée, de première résolution spatiale.

Une image numérique est composée d'une ou plusieurs matrices bidimensionnelles d'échantillons appelés pixels, chaque échantillon ayant une valeur de radiométrie associée.

La résolution spatiale d'une image numérique est définie par le nombre de pixels par ligne et par colonne de l'image. Le premier dispositif d'imagerie 12 est par exemple un capteur matriciel comprenant une matrice de capteurs CCD ou CMOS, ayant une ouverture de champ donnée et permettant d'acquérir une première image de MxN pixels.

Le deuxième dispositif d'imagerie 14 est un dispositif d'acquisition d'images comprenant une ou plusieurs barrettes de capteurs élémentaires, chaque barrette pouvant être bi-dimensionnelle ou mono-dimensionnelle. Par exemple, les capteurs élémentaires sont des capteurs de type à décalage temporel et intégration (capteur TDI) et une barrette comporte P capteurs élémentaires.

Selon un mode de réalisation, le deuxième dispositif d'imagerie 14 comprend une au moins un ensemble de barrettes de capteurs, chaque ensemble de barrettes de capteurs étant adapté à une acquisition d'image dans une bande spectrale prédéterminée, le dispositif d'imagerie 14 étant ainsi adapté à réaliser une acquisition multi-spectrale. Par exemple, le deuxième dispositif comprend plusieurs ensembles de N barrettes de capteurs.

Selon une variante de réalisation, le deuxième dispositif d'imagerie 14 comprend une pluralité de barrettes de capteurs d'imagerie hyperspectrale. L'imagerie hyperspectrale est une technologie permettant la représentation d'une scène suivant un grand nombre de bandes spectrales (généralement plus d'une centaine), étroites (< 10nm) et contiguës.

Le deuxième dispositif d'imagerie 14 est attaché au drone 10 de manière à ce que la ou les barrettes défilent sensiblement au droit de la zone survolée, perpendiculairement à la direction D de déplacement du drone. Le deuxième dispositif d'imagerie est en déplacement relatif rectiligne par rapport à la zone observée.

Ainsi, chaque capteur élémentaire défile au regard du paysage observé, chaque ligne L, de l'image numérique l 2 acquise correspondant à l'acquisition effectuée à un instant donné.

L'image numérique l 2 est obtenue par une pluralité d'acquisitions à des instants successifs. Cette deuxième image numérique l 2 a une deuxième résolution spatiale, supérieure à la première résolution spatiale de l'image numérique acquise par le premier dispositif d'imagerie.

Dans ce mode d'acquisition, chaque colonne de l'image numérique l 2 est associée physiquement à un capteur élémentaire, chaque pixel d'une ligne d'image correspondant à une acquisition de signal de ce capteur élémentaire.

Ce mode d'acquisition par déplacement rectiligne d'une ou plusieurs barrettes de capteurs est connu sous le nom d'acquisition par balayage de fauchée, ou « push- broom » en anglais. Les images obtenues par le deuxième dispositif d'imagerie 14 ont une meilleure résolution que les images matricielles obtenues par le premier dispositif d'imagerie 12, mais présentent des artefacts qui nécessitent un traitement supplémentaire avant exploitation. Par exemple, des artefacts géométriques dus aux vibrations de l'aéronef porteur sont observés.

Le premier dispositif d'imagerie et le deuxième dispositif d'imagerie sont couplés par une relation de couplage prédéterminée.

On entend par relation de couplage le positionnement spatial du premier dispositif d'imagerie par rapport au deuxième dispositif d'imagerie, les deux dispositifs d'imagerie étant fixés respectivement au drone porteur.

En particulier, la relation de couplage définit le positionnement entre le premier axe de visée du premier dispositif d'imagerie 12 et le deuxième axe de visée D 2 du deuxième dispositif d'imagerie 14.

De préférence, les premier et deuxième dispositifs d'imagerie sont montés sur une platine qui confère une liaison rigide entre le premier dispositif d'imagerie 12 et le deuxième dispositif d'imagerie 14. En particulier, les différentes matrices et barrettes de capteurs sont liées par une liaison rigide.

Ainsi, il est possible d'effectuer un recalage numérique des images numériques et l 2 acquises respectivement par le premier et le deuxième dispositif d'imagerie.

Par exemple, optionnellement, une unité de traitement de données 16, comprenant un processeur de calcul, est embarquée à bord du drone, permettant d'effectuer des calculs.

En outre, le premier et le deuxième dispositif d'imagerie disposent chacun d'unités de mémorisation aptes à mémoriser les images acquises, permettant de mémoriser les premières images et les deuxièmes images l 2 pour un traitement ultérieur.

Selon une variante, tous les calculs sont effectués en post-traitement par un dispositif de traitement au sol.

Selon un mode de réalisation, les dispositifs d'imagerie sont également équipés de modules de communication, permettant de transmettre les images numériques acquises à un dispositif de traitement au sol.

Tout mode de communication radio sans fil est adapté à une telle transmission peut être utilisé.

En vol, le drone est caractérisé par une attitude, définie de manière connue en soi par des paramètres de roulis, de tangage et de lacet.

Ainsi, à chaque image acquise par un des deux dispositifs d'imagerie de l'ensemble imageur correspond à une attitude donnée du drone. La figure 2 illustre schématiquement les principales étapes d'un procédé de traitement des images acquises.

Lors d'une première étape 20, dite étape de « mise en géométrie », on choisit la première image acquise par le capteur matriciel comme image de référence et la deuxième image l 2 , acquise par balayage push-broom, est considérée comme image secondaire, alors que cette deuxième image a une bien meilleure résolution et comporte plus d'informations, exploitables par toute application ultérieure, que la première image .

La mise en géométrie, ou mise en superposition, a pour objet de rendre les première et deuxième images superposables ou quasi-superposables.

On utilise alors les modèles géométriques connus a priori de l'image de référence et de l'image secondaire, afin d'injecter dans ces deux images toute la connaissance délivrée par le système (attitudes existantes, modèle de distorsions optiques, par exemple des caractéristiques optiques de la caméra comme la distorsion et la focale, et modèle de la relation de couplage entre le premier dispositif d'imagerie et le deuxième dispositif d'imagerie).

On obtient alors, à partir respectivement de l'image de référence et de l'image secondaire l 2 , une image de référence transformée ΙΊ et une image secondaire transformée Γ 2 . Les images transformées ΙΊ , Γ 2 sont obtenues par transformation ou rééchantillonnage en utilisant les modèles géométriques, et recalage au mieux de la connaissance.

Les deux images ΙΊ et l' 2 sont alors quasi-superposables.

Les seules différences proviennent d'un biais résiduel entre les deux dispositifs d'imagerie, de la méconnaissance du plan focal et des erreurs d'attitudes résiduelles (vibration du drone porteur par exemple).

II est à noter qu'une connaissance a priori des distorsions optiques de prise de vue et des directions de visée des capteurs n'est pas suffisante pour compenser des erreurs résiduelles dues aux vibrations du drone.

Ces vibrations du drone peuvent induire des biais d'attitude en roulis et en tangage et/ou un biais en lacet et/ou un grandissement.

Lors d'une seconde étape 30 dite de « corrélation dense », l'image secondaire transformée l' 2 et l'image de référence transformée ΙΊ sont corrélées, afin d'obtenir une nappe de disparité. La nappe de disparité est composée des décalages en lignes et en colonnes permettant de superposer les images transformées ΙΊ et l' 2 .

Les biais d'attitude en roulis et tangage du drone porteur se traduisent par des décalages moyens en colonne et ligne de la nappe de disparité. Le biais en lacet se traduit par une pente sur la ligne moyenne des décalages en ligne.

Le grandissement se traduit par une pente sur la ligne moyenne des décalages en colonnes.

Les lignes de la nappe de disparité résultante comportent des informations sur la cartographie du plan focal du deuxième dispositif d'imagerie 14 d'acquisition push-broom, tandis que les colonnes de la nappe de disparité correspondent à des informations relatives aux biais d'attitudes de ce dispositif d'imagerie 14 non restitué par la centrale inertielle si elle est présente (par exemple les vibrations).

Lors d'une troisième étape 40 dite de « Statistiques », on estime la cartographie du plan focal et les résidus d'attitude du deuxième dispositif d'imagerie 14.

Selon un premier mode de réalisation de l'étape 40, on calcule une ligne moyenne et une colonne moyenne sur la nappe de disparité résultant de l'étape 30 de corrélation dense. Dans ce premier mode de réalisation, le procédé comprend ainsi le moyennage des lignes et des colonnes de la nappe de disparité obtenue par la corrélation de l'image de référence transformée ΙΊ et de l'image secondaire transformée l' 2 . Pour un capteur, on estime les directions de visée du capteur par la ligne moyenne et les attitudes de ce même capteur par la colonne moyenne. Pour N capteurs, les opérations de moyennage sont effectuées N fois.

Les décalages des directions de visée des capteurs de chaque barrette du deuxième dispositif d'imagerie peuvent alors être modélisés sous forme de polynômes, par exemple en mettant en œuvre un ajustement selon la méthode des moindres carrés.

Selon un second mode de réalisation de l'étape 40, on met en œuvre un ajustement bidimensionnel, selon la méthode des moindres carrés, de la nappe de disparité obtenue par la corrélation de l'image de référence transformée ΙΊ et de l'image secondaire transformée l' 2 pour modéliser sous forme de polynômes ou d'autres fonctions les décalages des directions de visée du capteur pushbroom mission et de l'attitude de ce même capteur. De même que dans le premier mode de réalisation, pour N barrettes de capteurs, N ajustements bidimensionnels sont mis en œuvre.

La solution conforme au premier mode de réalisation basée sur le moyennage des lignes et colonnes présente l'avantage de la simplicité.

Selon un troisième mode de réalisation de l'étape 40, on met en œuvre une aérotriangulation entre le capteur matriciel (considéré comme la référence) et le capteur pushbroom à B barrettes, l'aérotriangulation étant mise en œuvre autant de fois que le nombre de barrettes de capteurs considérées. Cette aérotriangulation, réalisée en utilisant des images acquises, permet à partir d'un ensemble de points homologues de déterminer à minima les biais relatifs entre le repère du deuxième dispositif d'imagerie et le repère du premier dispositif d'imagerie. Si un dispositif de géolocalisation, par exemple un dispositif GPS, est embarqué sur l'aéronef, on peut déterminer un positionnement des première et deuxième images acquises dans un référentiel terrestre.

Grâce à ce procédé, on peut compenser des vibrations d'amplitudes inférieures au pixel de deuxième résolution spatiale associée au deuxième dispositif d'imagerie.

De préférence, on applique une correction géométrique de l'image secondaire transformée en utilisant les paramètres dépendant des vibrations de l'aéronef et les directions de visée calculés, pour obtenir une image secondaire améliorée et exploitable par des applications. Dans un mode de réalisation, la correction géométrique appliquée est analogue au traitement appliqué à l'étape 20, en utilisant les valeurs de paramètres caractérisant les vibrations et les directions de visée obtenus à l'issue des étapes 30 et 40. Avantageusement, les paramètres calculés permettent une correction affinée et précise.

Grâce à l'invention, et notamment grâce à l'utilisation du deuxième dispositif d'imagerie en plus du premier dispositif d'imagerie, il est possible de réaliser des prises de vues de nuit lorsque les dispositifs d'imagerie comprennent des capteurs infrarouges ou des capteurs dans le domaine visible du type à décalage temporel et intégration (TDI).