Login| Sign Up| Help| Contact|

Patent Searching and Data


Title:
MONITORING THE ORIENTATION OF A LASER SCANNER
Document Type and Number:
WIPO Patent Application WO/2024/028003
Kind Code:
A1
Abstract:
The invention relates to a method for monitoring the orientation of a laser scanner (3, 5). In the method, the laser scanner (3, 5) repeatedly determines distances of the laser scanner (3, 5) from a plurality of measurement points on various planar external surfaces of a measurement object (9), wherein all measurement objects (9) have the same geometric form having planar external surfaces and are arranged such that the normal vectors (11, 13) of the external surfaces of all measurement objects have defined directions in a fixed first reference system (K). From the determined distances, the directions of normal vectors (11, 13) of external surfaces of the measurement object (9) are determined, for each measurement object (9), in a second reference system (K1, K2) relating to the laser scanner (3, 5). A change to the orientation of the laser scanner (3, 5) is inferred when the direction of at least one normal vector (11, 13) in the second reference system (K1, K2) changes significantly, for example by more than a specified angle.

Inventors:
BENKERT JOHANNES (DE)
MIELKE RONNY (DE)
RECKTENWALD ALOIS (DE)
SCHAUB MARKUS (DE)
TERIET FLORIAN (DE)
VOGEL JULIAN (DE)
WIELENS BERND (DE)
DE CARVALHO FERREIRA FABRICIO (DE)
Application Number:
PCT/EP2023/067569
Publication Date:
February 08, 2024
Filing Date:
June 28, 2023
Export Citation:
Click for automatic bibliography generation   Help
Assignee:
SIEMENS AG (DE)
International Classes:
G01S7/497; G01S7/481; G01S17/08; G01S17/875
Foreign References:
DE102008019373A12009-01-22
EP2910512A12015-08-26
DE102008019373A12009-01-22
Attorney, Agent or Firm:
SIEMENS PATENT ATTORNEYS (DE)
Download PDF:
Claims:
Patentansprüche

1. Verfahren zum Überwachen der Ausrichtung eines Laserscanners ( 3 , 5 ) , wobei

- mit dem Laserscanner (3, 5) wiederholt Abstände des Laserscanners (3, 5) von jeweils mehreren Messpunkten auf verschiedenen planaren Außenoberflächen jeweils eines Messobjekts (9) ermittelt werden, wobei alle Messobjekte (9) dieselbe geometrische Form mit planaren Außenoberflächen aufweisen und derart angeordnet sind, dass die Normalenvektoren (11, 13) der Außenoberflächen aller Messobjekte (9) definierte Richtungen in einem festgelegten ersten Bezugssystem (K) aufweisen,

- aus den ermittelten Abständen für jedes Messobjekt (9) die Richtungen von Normalenvektoren (11, 13) von Außenoberflächen des Messobjekts (9) in einem auf den Laserscanner (3, 5) bezogenen zweiten Bezugssystem (Kl, K2 ) bestimmt werden, wobei die Richtungen der Normalenvektoren (11, 13) von Außenoberflächen eines Messobjekts (9) in dem zweiten Bezugssystem (Kl, K2 ) aus einer Vielzahl von Messpunktrichtungen bestimmt werden, die jeweils einem Messpunkt zugeordnet sind und jeweils als ein Eigenvektor einer Scatter-Matrix bestimmt werden, die aus Koordinaten des Messpunktes und dem Messpunkt benachbarter Messpunkte in dem zweiten Bezugssystem (Kl, K2 ) gebildet wird, und

- auf eine Änderung der Ausrichtung des Laserscanners (3, 5) geschlossen wird, wenn sich die Richtung wenigstens eines Normalenvektors (11, 13) in dem zweiten Bezugssystem (Kl, K2 ) signifikant, beispielsweise um mehr als einen vorgegebenen Winkel, ändert.

2. Verfahren nach Anspruch 1, wobei aus den für ein Messobjekt (9) bestimmten Messpunktrichtungen mit einem agglomera- tiven Clustering-Verf ahren Cluster-Schwerpunkte bestimmt werden und Außenoberflächen des Messobjekts (9) jeweils ein Cluster-Schwerpunkt zugeordnet wird, um die Richtung des Normalenvektors der jeweiligen Außenoberfläche zu bestimmen. 3. Verfahren nach einem Anspruch 2, das für wenigstens zwei Laserscanner (3, 5) angewendet wird, wobei auf eine fehlerhafte Ausrichtung eines Laserscanners (3, 5) geschlossen wird, wenn für ein Messobjekt (9) wenigstens zwei mit verschiedenen Laserscannern (3, 5) ermittelte, zueinander korrespondierende Cluster-Schwerpunkte signifikant voneinander abweichen .

4. Verfahren nach einem der vorhergehenden Ansprüche, wobei im Fall, dass sich die Ausrichtung des Laserscanners (3, 5) ändert, eine Transformationsmatrix bestimmt wird, die die Änderung der Ausrichtung beschreibt.

5. Verfahren nach Anspruch 4, wobei mit dem Laserscanner (3, 5) ermittelte Positionen und Ausrichtungen von Objekten entsprechend der Transformationsmatrix korrigiert werden.

6. Verfahren nach einem der vorhergehenden Ansprüche 1 bis 3, wobei im Fall, dass sich die Ausrichtung des Laserscanners (3, 5) ändert, der Laserscanner (3, 5) neu eingemessen wird .

7. Verfahren nach einem der vorhergehenden Ansprüche, wobei die Messobjekte (9) quaderförmig sind.

8. Verfahren nach einem der vorhergehenden Ansprüche, wobei der Laserscanner (3, 5) ein Lidar-Sensor ist.

9. Verfahren nach einem der vorhergehenden Ansprüche, das in einem Umfeld eines Krans (1) ausgeführt wird.

Description:
Beschreibung

Überwachen der Ausrichtung eines Laserscanners

Die Erfindung betri f ft ein Verfahren zum Überwachen der Ausrichtung eines Laserscanners , insbesondere im Umfeld eines Krans .

Für eine Viel zahl unterschiedlicher Automatisierungslösungen im Umfeld eines Krans werden 3D-Sensoren zur Vermessung der Umgebung verwendet . Typischerweise handelt es sich hierbei um Laserscanner, insbesondere so genannte Lidar-Sensoren ( Lidar : Abkürzung für englisch Light detection and ranging oder Light imaging, detection and ranging) . Ein derartiger Laserscanner sendet Laserpulse aus , die von Obj ekten teilweise reflektiert werden . Aus der Lauf zeit eines Laserpulses zwischen dem Aussenden des Laserpulses und dem Empfangen des reflektierten Teils des Laserpulses kann die Entfernung des Laserscanners von dem den Laserpuls j eweils reflektierenden Ort bestimmt werden . Durch Variieren der Richtungen der ausgesendeten Laserpulse können Obj ekte in der Umgebung des Laserscanners erfasst ( „gescannt" ) werden .

Aufgrund von perspektivischen Ef fekten wie Verschattungen oder Spiegelungen sowie aus Redundanzgründen zur Steigerung der Robustheit , Genauigkeit oder Performance werden häufig Sensorsysteme mit mehreren Laserscannern eingesetzt . Durch j eden Laserscanner werden Positionen in einem auf den Laserscanner bezogenen Bezugssystem erfasst . Diese Positionen müssen in ein gemeinsames Bezugssystem ( „Weltkoordinatensystem" ) trans formiert werden . Dazu ist anfänglich eine Kalibrierung der Laserscanner erforderlich, über die die Position und die Ausrichtung der Laserscanner bezüglich des Weltkoordinatensystems erfasst wird .

Durch Materialverformung, aber auch durch Stöße und Schocks , die während des Betriebs des Krans auf treten, kann sich j edoch die Ausrichtung eines Laserscanners ändern, so dass die Ausrichtung nicht mehr mit der anfänglich erfassten Kalibrierung übereinstimmt . Dies hat zur Folge , dass die von dem Laserscanner erfassten Messpunkte falsch in das Weltkoordina- tensystem trans formiert werden . Dementsprechend arbeitet die Automatisierungslösung mit falschen Positionsdaten, wodurch Obj ekte , beispielsweise Container, an falschen Positionen erkannt werden . Als Folge können die Obj ekte beispielsweise nicht mehr exakt gestapelt werden, aber auch Kollisionen entstehen, was zur Unterbrechung des Betriebs führen kann .

Derzeit wird die anfängliche Kalibrierung eines Laserscanners beispielsweise mit einem definierten Kalibrierobj ekt ausgeführt . In einem manuellen Vorgang wird dieses Kalibrierobj ekt an einer definierten Position und mit einer definierten Ausrichtung mit dem Laserscanner vermessen . In den von dem Laserscanner erfassten Sensordaten wird das Kalibrierobj ekt lokalisiert und hierüber die Trans formation zwischen dem auf den Laserscanner bezogenen Bezugssystem und dem Weltkoordina- tensystem bestimmt . Im laufenden Betrieb des Krans wird eine veränderte Ausrichtung des Laserscanners dadurch erkannt , dass die Automatisierungslösung nicht mehr wie erwartet funktioniert ( geringere Genauigkeit oder sogar Aus fall des Systems ) . In diesem Fall muss die Ausrichtung des Laserscanners manuell überprüft und der Laserscanner muss erforderlichenfalls neu eingemessen werden . Dies hat zur Folge , dass der Kran für die Zeit der Rekalibrierung nicht mehr verwendet werden kann und das Sensorsystem aufwändig neu eingemessen werden muss , beispielsweise unter Zuhil fenahme eines externen Messsystems , z . B . unter Verwendung eines Theodoliten .

DE 10 2008 019 373 Al of fenbart ein Verfahren zum Kalibrieren einer Messvorrichtung eines Krans , bei dem ein Container derart angeordnet wird, dass zumindest eine Fläche des Containers in einem gemeinsamen Sichtbereich von wenigstens zwei zueinander beabstandeten 3D-Sensoren der Messvorrichtung liegt . Mit den 3D-Sensoren wird die eine Fläche des Containers erfasst und es wird eine Orientierung von der einen Fläche des Containers in den Bezugssystemen der 3D-Sensoren be- stimmt . Die Bezugssysteme der 3D-Sensoren werden basierend auf der bestimmten Orientierung der einen Fläche des Containers abgeglichen .

Der Erfindung liegt die Aufgabe zugrunde , ein verbessertes Verfahren zum Überwachen der Ausrichtung eines Laserscanners , insbesondere im Umfeld eines Krans , anzugeben .

Die Aufgabe wird erfindungsgemäß durch ein Verfahren mit den Merkmalen des Anspruchs 1 gelöst .

Vorteilhafte Ausgestaltungen der Erfindung sind Gegenstand der Unteransprüche .

Bei dem erfindungsgemäßen Verfahren zum Überwachen der Ausrichtung eines Laserscanners werden mit dem Laserscanner wiederholt Abstände des Laserscanners von j eweils mehreren Messpunkten auf verschiedenen planaren Außenoberflächen j eweils eines Messobj ekts ermittelt , wobei alle Messobj ekte dieselbe geometrische Form mit planaren Außenoberflächen aufweisen und derart angeordnet sind, dass die Normalenvektoren der Außenoberflächen aller Messobj ekte definierte Richtungen in einem festgelegten ersten Bezugssystem aufweisen . Aus den ermittelten Abständen werden für j edes Messobj ekt die Richtungen von Normalenvektoren von Außenoberflächen des Messobj ekts in einem auf den Laserscanner bezogenen zweiten Bezugssystem bestimmt . Auf eine Änderung der Ausrichtung des Laserscanners wird geschlossen, wenn sich die Richtung wenigstens eines dabei bestimmten Normalenvektors in dem zweiten Bezugssystem signi fikant , beispielsweise um mehr als einen vorgegebenen Winkel , ändert .

Die Messobj ekte sind dabei beispielsweise herkömmliche Container . Das Verfahren ermöglicht somit , die Ausrichtung eines Laserscanners ohne ein spezielles Kalibrierobj ekt zu bestimmen . Dadurch ermöglicht das Verfahren insbesondere vorteilhaft verkürzte Inbetriebnahmezeiten von Anlagen mit Laserscannern . Ferner ermöglicht das Verfahren, während des Be- triebs einer derartigen Anlage zu überwachen, ob sich die Ausrichtung eines Laserscanners geändert hat , und somit , ob eine anfänglich eingemessene Kalibrierung des Laserscanners noch gültig ist .

Bei dem Verfahren werden die Richtungen der Normalenvektoren von Außenoberflächen eines Messobj ekts in dem zweiten Bezugssystem aus einer Viel zahl von Messpunktrichtungen bestimmt , die j eweils einem Messpunkt zugeordnet sind und j eweils als ein Eigenvektor einer Scatter-Matrix bestimmt werden, die aus Koordinaten des Messpunktes und dem Messpunkt benachbarter Messpunkte in dem zweiten Bezugssystem gebildet wird . Beispielsweise werden dabei aus den für ein Messobj ekt bestimmten Messpunktrichtungen mit einem agglomerativen Clustering- Verfahren Cluster-Schwerpunkte bestimmt und Außenoberflächen des Messobj ekts wird j eweils ein Cluster-Schwerpunkt zugeordnet .

Bei der vorgenannten Ausgestaltung des Verfahrens werden somit für verschiedene Messpunkte auf planaren Außenoberflächen eines Messobj ekts j eweils Messpunktrichtungen bestimmt . Die Verteilung dieser Messpunktrichtungen wird mit einem Clus- tering-Verf ahren analysiert , um die Orientierungen der Außenoberflächen des Messobj ekts zu bestimmen, wobei die Orientierung einer Außenoberfläche als eine Hauptorientierung von Messpunktrichtungen bestimmt wird . Die bei dem Clustering- Verfahren bestimmten Cluster-Schwerpunkte ergeben die Richtungen der Normalenvektoren der Außenoberflächen des j eweiligen Messobj ekts .

Bei einer weiteren Ausgestaltung der Erfindung wird das Verfahren für wenigstens zwei Laserscanner angewendet . Auf eine fehlerhafte Ausrichtung eines Laserscanners wird geschlossen, wenn für ein Messobj ekt wenigstens zwei mit verschiedenen Laserscannern ermittelte , zueinander korrespondierende Cluster- Schwerpunkte signi fikant voneinander abweichen . Diese Ausgestaltung der Erfindung ermöglicht vorteilhaft , eine geänderte Ausrichtung eines Laserscanners durch einen Vergleich der für verschiedene Laserscanner bestimmten Cluster-Schwerpunkte zu erkennen .

Bei einer weiteren Ausgestaltung der Erfindung wird im Fall , dass sich die Ausrichtung eines Laserscanners ändert , eine Trans formationsmatrix bestimmt , die die Änderung der Ausrichtung beschreibt . Mit dem Laserscanner ermittelte Positionen und Ausrichtungen von Obj ekten werden dann beispielsweise entsprechend der Trans formationsmatrix korrigiert . Dies ermöglicht eine Korrektur der mit dem Laserscanner ermittelten Positionen und Ausrichtungen von Obj ekten durch eine mathematische Trans formation dieser Positionen und Ausrichtungen mit Hil fe der Trans formationsmatrix, so dass die Korrektur ohne eine Neukalibrierung des Laserscanners erfolgt . Eine derartige Korrektur eignet sich vor allem für kleine Änderungen der Ausrichtung des Laserscanners . Bei größeren Änderungen wird der Laserscanner vorzugsweise neu eingemessen .

Bei einer weiteren Ausgestaltung der Erfindung sind die Messobj ekte quaderförmig . Insbesondere eignen sich beispielsweise Container als Messobj ekte .

Bei einer weiteren Ausgestaltung der Erfindung ist der Laserscanner ein Lidar-Sensor . Diese Ausgestaltung der Erfindung berücksichtigt , dass Lidar häufig zur Bestimmung der Positionen und Ausrichtungen von Obj ekten eingesetzt wird .

Bei einer weiteren Ausgestaltung der Erfindung wird das Verfahren in einem Umfeld eines Krans ausgeführt . Insbesondere kann das Verfahren vorteilhaft im Umfeld eines Krans eingesetzt werden, mit dem Container transportiert werden, da sich Container besonders vorteilhaft als Messobj ekte eignen .

Die oben beschriebenen Eigenschaften, Merkmale und Vorteile dieser Erfindung sowie die Art und Weise , wie diese erreicht werden, werden klarer und deutlicher verständlich im Zusammenhang mit der folgenden Beschreibung von Aus führungsbei- spielen, die im Zusammenhang mit den Zeichnungen näher erläutert werden. Dabei zeigen:

FIG 1 ein Umfeld eines Krans, in dem zwei Laserscanner angeordnet sind,

FIG 2 ein Ablauf diagramm eines Ausführungsbeispiels des erfindungsgemäßen Verfahrens,

FIG 3 Transformationen zwischen Bezugssystemen.

Figur 1 (FIG 1) zeigt beispielhaft und schematisch ein Umfeld eines Krans 1, in dem zwei Laserscanner 3, 5 angeordnet sind. Der Kran 1 weist eine Greif einrichtung 7 auf und ist eingerichtet, Objekte zu transportieren. Die Greif einrichtung 7 ist an einer Laufkatze 8 des Krans 1 angeordnet und durch diese verfahrbar. Die beiden Laserscanner 3, 5 sind beispielsweise ebenfalls an der Laufkatze 8 angeordnet, können jedoch auch an anderen Stellen des Krans 1 angeordnet sein. Gezeigt sind ferner ein Messobjekt 9, das ein quaderförmiger Container ist, und zwei Normalenvektoren 11, 13 von Außenoberflächen des Messobjekts 9. Das Messobjekt 9 ist derart angeordnet, dass die Normalenvektoren 11, 13 seiner Außenoberflächen definierte Richtungen in einem festgelegten ersten Bezugssystem ( „Weltkoordinatensystem" ) aufweisen.

Figur 2 (FIG 2) zeigt ein Ablauf diagramm eines Ausführungsbeispiels des erfindungsgemäßen Verfahrens mit Verfahrensschritten 101 bis 104 zum Überwachen der Ausrichtung der Laserscanner 3, 5.

In einem ersten Verfahrensschritt 101 werden mit jedem Laserscanner 3, 5 Abstände des Laserscanners 3, 5 von jeweils mehreren Messpunkten auf verschiedenen planaren Außenoberflächen des Messobjekts 9 ermittelt. Hierbei müssen sich die Scanbereiche der Laserscanner 3, 5 nicht überlappen. Es müssen lediglich von beiden Laserscannern 3, 5 dieselben Außenoberflächen des Messobjekts 9 erfasst werden. Anschließend wird j edem Messpunkt x eine Messpunktrichtung zugeordnet . Zu diesem Zweck werden für den Messpunkt x Messpunkte x± bestimmt , deren Abstand von dem Messpunkt x kleiner als ein vorgegebener Schwellenwert r ist . Die Menge dieser Messpunkte wird mit A bezeichnet :

A = { A I ll ~ x|| < r}

Nun wird als Messpunktrichtung für den Messpunkt x die Richtung eines Normalenvektors einer Ebene e bestimmt , welche die Summe der quadrierten Abstände zwischen der Ebene und den Punkten der Menge A minimiert . Hierzu wird zunächst das Zentrum c der Menge A bestimmt gemäß

Hier wurde angenommen, dass die Menge A die Mächtigkeit n hat . Nun wird die relative Lage der Punkte x± zu diesem Zentrum c berechnet gemäß yt = A - c.

Die ermittelten relativen Punktlagen y ± werden nun in eine Scatter-Matrix S umgerechnet gemäß

5 = 2”=!^ ^, wobei das dyadische Produkt des Vektors y± mit sich selbst bezeichnet . Die gesuchte Messpunktrichtung zum Messpunkt x ist der normierte Eigenvektor zum kleinsten Eigenwert der Matrix S und kann in bekannter Weise berechnet werden .

In einem zweiten Verfahrensschritt 102 werden für j eden Laserscanner 3 , 5 aus den in dem ersten Verfahrensschritt 101 bestimmten Messpunktrichtungen mit einem agglomerativen Clus- tering-Verf ahren Cluster-Schwerpunkte bestimmt und Außenoberflächen des Messobj ekts 9 wird j eweils ein Cluster- Schwerpunkt zugeordnet . Aus den für den ersten Laserscanner 3 bestimmten Cluster-Schwerpunkten wird eine erste Trans formation TI ermittelt , mit der in einem auf den ersten Laserscan- ner 3 bezogenen Bezugssystem Kl ermittelte Positionen in das Weltkoordinatensystem K trans formiert werden . Entsprechend wird aus den für den zweiten Laserscanner 5 bestimmten Cluster-Schwerpunkten eine zweite Trans formation T2 ermittelt , mit der in einem auf den zweiten Laserscanner 5 bezogenen Bezugssystem K2 ermittelte Positionen in das Weltkoordinaten- system K trans formiert werden . Ferner wird daraus eine dritte Trans formation T3 ermittelt , die die Bezugssysteme Kl und K2 aufeinander abbildet beziehungsweise Positionen in dem Bezugssystem Kl in Positionen in dem Bezugssystem K2 trans formiert . Die Trans formationen TI und T2 bilden die anfänglichen Kalibrierungen der beiden Laserscanner 3 , 5 .

Figur 3 ( FIG 3 ) zeigt symbolisch die Trans formationen TI bis T3 zwischen den Bezugssystemen K, Kl , K2 .

In einem dritten Verfahrensschritt 103 werden zunächst die beiden ersten Verfahrensschritte 101 , 102 für die beiden Laserscanner 3 , 5 wiederholt , j edoch gegebenenfalls für ein anderes Messobj ekt 9 , das aber wie das in den beiden ersten Verfahrensschritten 101 , 102 verwendete Messobj ekt 9 geometrisch gestaltet und ausgerichtet ist . Anschließend wird geprüft , ob sich die dabei für einen Laserscanner 3 , 5 ermittelten Cluster-Schwerpunkte gegenüber den in dem zweiten Verfahrensschritt 102 für diesen Laserscanner 3 , 5 ermittelten Cluster-Schwerpunkten signi fikant geändert haben oder sich die dritte Trans formation T3 zwischen den Bezugssystemen Kl , K2 signi fikant , beispielsweise um mehr als einen vorgegebenen Winkel , geändert hat . Im Fall einer signi fikanten Änderung wird auf eine Änderung der Ausrichtung eines Laserscanners 3 , 5 geschlossen und ein vierter Verfahrensschritt 104 ausgeführt . Andernfalls wird der dritte Verfahrensschritt 103 wiederholt .

In dem vierten Verfahrensschritt 104 wird die in dem dritten Verfahrensschritt 103 erkannte fehlerhafte Kalibrierung während des regulären Betriebs des Krans 1 zumindest teilweise kompensiert . Hierfür ist es erforderlich, die Cluster-Schwerpunkte im kalibrierten Zustand abzuspeichern. Über einen mathematischen Optimierungsterm können nun zwei Bedingungen optimiert werden :

Bedingung A:

Zum einen müssen die den Cluster-Schwerpunkten jeweils zugeordneten normalisierten Richtungen orthogonal zueinander orientiert sein, da die zugehörigen Ebenen (Container-Flächen) orthogonal zueinander sind. Für je zwei verschiedene Orientierungspaare ö^ö muss somit gelten:

Bedingung B:

Zusätzlich wird eine Transformationsmatrix R gesucht, welche die Differenz zwischen aktueller Clusterlage c und gewünschter Clusterlage c minimiert gemäß

||/?c — c|| = min

Über eine Eigenwertzerlegung (englisch Singular Value Decomposition) kann hierfür eine Lösung bestimmt werden. Die Transformationsmatrix R stellt hierbei die Rotation dar, um welche die Kalibrierung angepasst werden muss.

Hierbei muss berücksichtigt werden, dass die Laserscanner 3, 5 - unabhängig von ihrer Montageposition - skalierungsgleich abbilden. Die Lösung muss somit nicht mehr skaliert, jedoch muss der Fall einer negativen Dimensions-Skalierung (-1) abgeprüft werden. Eine Spiegelung stellt zwar mathematisch eine gültige Lösung dar, kann durch die Montageposition jedoch in Realität nie auftreten.

Das Verfahren wurde oben am Beispiel von zwei Laserscannern 3, 5 beschrieben, kann aber in analoger Weise für jede andere Anzahl von Laserscannern 3, 5, insbesondere auch für nur einen Laserscanner 3, 5, durchgeführt werden. Obwohl die Erfindung im Detail durch bevorzugte Aus führungsbeispiele näher illustriert und beschrieben wurde , so ist die Erfindung nicht durch die of fenbarten Beispiele eingeschränkt und andere Variationen können vom Fachmann hieraus abgeleitet werden, ohne den Schutzumfang der Erfindung zu verlassen .