Login| Sign Up| Help| Contact|

Patent Searching and Data


Title:
CAMERA SYSTEM AND HOME AUTOMATION SYSTEM COMPRISING A CAMERA SYSTEM
Document Type and Number:
WIPO Patent Application WO/2020/148073
Kind Code:
A1
Abstract:
The invention relates to a camera system, which comprises at least two first omnidirectional cameras the first optical axes of which essentially run along a first space axis, and at least two second omnidirectional cameras the second optical axes of which essentially run along a second space axis, characterized in that the first optical axes are spaced from each other and that the second optical axes are spaced from each other.

Inventors:
BECKER GERNOT (DE)
Application Number:
PCT/EP2019/086607
Publication Date:
July 23, 2020
Filing Date:
December 20, 2019
Export Citation:
Click for automatic bibliography generation   Help
Assignee:
INNOGY SE (DE)
International Classes:
H04N7/18; H04N13/00
Foreign References:
US20170163970A12017-06-08
US20160269717A12016-09-15
Attorney, Agent or Firm:
COHAUSZ & FLORACK PATENT- UND RECHTSANWÄLTE PARTNERSCHAFTSGESELLSCHAFT MBB (DE)
Download PDF:
Claims:
P a t e n t a n s p r ü c h e

1. Kamerasystem mit

zumindest zwei ersten omnidirektionalen Kameras, deren ersten optische Achsen im Wesentlichen entlang einer ersten Raumachse verlaufen und zumindest zwei zweiten omindirektionalen Kameras, deren zweiten optische Achsen im Wesentlichen entlang einer zweiten Raumachse verlaufen,

dadurch gekennzeichnet,

dass die ersten optischen Achsen einen Abstand zueinander aufweisen und dass die zweiten optischen Achsen einen Abstand zueinander aufweisen.

2. Kamerasystem nach Anspruch 1,

dadurch gekennzeichnet,

dass der Abstand der jeweiligen zumindest zwei optischen Achsen zueinander gleich ist.

3. Kamerasystem nach Anspruch 1 oder 2,

dadurch gekennzeichnet,

dass die jeweiligen zumindest zwei optischen Achsen jeweils parallel zueinander verlaufen oder dass die jeweiligen zumindest zwei optischen Achsen jeweils in einem Winkel kleiner als 10° aufeinander zulaufen.

4. Kamerasystem nach einem der vorangehenden Ansprüche,

dadurch gekennzeichnet,

dass die jeweiligen zumindest zwei optischen Achsen einen stereoskopischen Augenabstand zueinander aufweisen, wobei der stereoskopische Augenabstand zwischen 5 und 8 cm, insbesondere 6,5 cm ist.

5. Kamerasystem nach einem der vorangehenden Ansprüche,

dadurch gekennzeichnet,

dass optische Achsen von zumindest zwei dritten omnidirektionalen Kameras im

Wesentlichen entlang eine dritten Raumachse verlaufen.

6. Kamerasystem nach einem der vorangehenden Ansprüche,

dadurch gekennzeichnet,

dass die Raumachsen jeweils zueinander in einem rechten Winkel verlaufen.

7. Kamerasystem nach einem der vorangehenden Ansprüche,

dadurch gekennzeichnet,

dass mit zueinander antiparallelen optischen Achsen jeweils im Wesentlichen entlang einer der Raumachse jeweils zumindest zwei omnidirektionale Kameras angeordnet sind.

8. Kamerasystem nach einem der vorangehenden Ansprüche,

dadurch gekennzeichnet,

dass die Kameras jeweils Bilder zu einem definierten Zeitpunkt erfassen und dass ein Bildprozessor Bilder eines gleichen Zeitpunktes aller Kameras zur

Berechnung einer stereoskopischen Ansicht nutzt.

9. Kamerasystem nach einem der vorangehenden Ansprüche,

dadurch gekennzeichnet,

dass der Bildprozessor in einem Bild einer ersten Kamera ein Abbild einer zweiten Kamera überlagert mit Bildinformationen zumindest einer dritten Kamera.

10. Kamerasystem nach einem der vorangehenden Ansprüche,

dadurch gekennzeichnet, dass der Bildprozessor Informationen zu einer Blickrichtung empfängt und dass der Bildprozessor für die empfangene Blickrichtung zwei stereoskopische Bilder aus den Bildern der Kameras berechnet und ausgibt. 11. Kamerasystem nach einem der vorangehenden Ansprüche,

dadurch gekennzeichnet,

dass die omnidirektionalen Kameras Hemisphären-Kameras sind.

12. Heimautomatisierungssystem mit zumindest einem Aktor und einem Sensor und einem Kamerasystem nach einem der vorangehenden Ansprüche,

dadurch gekennzeichnet,

dass ein Prozessor zwei aus den Bildern der Kameras berechnete

stereoskopische Bilder mit Bildinformationen zumindest eines Sensors und/oder eines Aktors anreichert.

13. Heimautomatisierungssystem nach einem der vorangehenden Ansprüche,

dadurch gekennzeichnet,

dass der Prozessor die Positionierung der Bildinformationen den Sensors und/oder des Aktors abhängig von einer empfangenen Blickrichtung in den stereoskopischen Bildern bestimmt.

Description:
Kamerasystem und Heimautomatisierungssystem mit einem Kamerasystem

Der Gegenstand betrifft ein Kamerasystem sowie ein Heimautomatisierungssystem mit einem solchen Kamerasystem.

Augmented Reality als auch Virtual Reality erlangen durch den Zugang zu geeigneten Displays immer größere Bedeutung. Virtual Reality Brillen sind bereits für den Massenmarkt verfügbar. Auch Smart Glasses sind bereits verfügbar, mit denen Augmented Reality möglich ist. Beiden Displaysystemen ist gemeinsam, dass diese eine 3D-Ansicht eines virtuellen oder teilvirtuellen Raums reproduzieren, so dass der Benutzer in eine 3D-Welt„eintauchen“ kann.

Dies kann insbesondere im Bereich der Heimautomatisierungssysteme von großem Interesse sein, da durch Augmented Reality intuitive Benutzerinterfaces gestaltet werden können. So kann mittels Augmented Reality eine Programmierung eines Heimautomatisierungssystems erheblich vereinfacht werden. Darüber hinaus ist es möglich, virtuelle Sensoren in einem Raum zu platzieren, die mittels Augmented Reality angezeigt und durch Nutzergesten angesteuert werden können. Die entsprechend programmierte Aktor Steuerung kann dann über das Augmented Reality System ausgelöst werden. Ein realer Aktor kann somit durch eine Geste innerhalb der Augmented Reality aktiviert werden. Gerade die Programmierung von Heimautomatisierungssystemen wird immer komplexer, so dass ein Benutzer über eine Unterstützung durch Augmented Reality intuitiv an die Programmierung herangeführt werden kann.

Problematisch ist dabei jedoch bisher, dass ein 3D-Abbild der zu programmierenden Umgebung, insbesondere des Hauses, nicht zur Verfügung stand. Zwar existieren Rundumsichtkameras, insbesondere omnidirektionale Kameras mit vollsphärischen oder hemisphärischen Aufnahmewinkeln, diese erfassen jedoch stets nur eine 2D- Ansicht der 3D-Umgebung.

Somit lag dem Gegenstand die Aufgabe zu Grunde, ein Kamerasystem zur Verfügung zu stellen, welches in besonders einfacher Weise eine 3D-Ansicht einer Umgebung ermöglicht.

Diese Aufgabe wird gegenständlich durch ein Kamerasystem nach Anspruch 1 gelöst.

Mit Hilfe des gegenständlichen Kamerasystems ist es möglich, eine vollsphärische stereoskopische Aufnahme zu erstellen und aus dieser Aufnahme bedarfsweise eine stereoskopische Ansicht eines zuvor bildlich erfassten Raumes in jedem beliebigen Blickwinkel zu erzeugen. Um ein stereoskopisches Bild zu erhalten, wird

vorgeschlagen, dass jeweils zwei omnidirektionale Kameras mit im Wesentlichen entlang einer gleichen Raumachse verlaufenden optischen Achse vorgesehen sind. Die jeweils zwei omnidirektionalen Kameras haben jeweils optische Achsen, die jeweils bevorzugt im Wesentlichen parallel in eine Achse verlaufen. Die beiden optischen Achsen der jeweils zwei Kameras haben einen Abstand zueinander, so dass die beiden Kameras in Richtung der Raumachse gemeinsam ein stereoskopisches Bild erfassen.

Mit Hilfe der zumindest 4 Bilder der jeweils zwei in jeweils eine von zwei

Raumrichtungen gerichteten omnidirektionalen Kameras kann in Kenntnis eines Blickwinkels eines Nutzers ein 3D-Abbild des erfassten Raumes erstellt werden. Zur Erfassung eines Blickwinkels eines Nutzers ist es möglich, an dem Display zumindest einen Sensors, insbesondere eines Neigungssensors und/oder eines

Beschleunigungssensors anzuordnen. Mit Hilfe der erfassten Blickrichtung des Nutzers können zwei zueinander korrespondierende, eine stereoskopisches Abbild des Raumes wiedergebende Bilder erzeugt werden.

Der Abstand der optischen Achsen der jeweils zwei Kameras zueinander ist gemäß einem Ausführungsbeispiel bevorzugt gleich groß. Somit erfasst jedes aus den zwei omnidirektionalen Kameras gebildete System im Wesentlichen entlang einer

Raumachse verlaufend zwei stereoskopische Bilder. Der stereoskopische Abstand jeweils zweier Kameras mit gleichgerichteter optischer Achse ist gleich. Dies vereinfacht die anschließende Rekonstruktion der zwei stereoskopischen Bilder.

Die jeweiligen optischen Achsen der beiden omnidirektionalen Kameras verlaufen gemäß einem Ausführungsbeispiel bevorzugt parallel zueinander. Es ist jedoch auch möglich, dass die optischen Achsen der beiden omnidirektionalen Kameras leicht zueinander geneigt sind, insbesondere in einem Winkel von < 10 ° zueinander oder zu einer zwischen den Kameras parallel zu einer Raumrichtung verlaufenden Achse geneigt sind. Hierdurch ist es möglich, gegebenenfalls einen Fokuspunkt in einer bestimmten Entfernung zu definieren. Dieser Fokuspunkt ergibt sich aus dem Abstand der beiden optischen Achsen zueinander als auch aus dem Winkel, in dem die optischen Achsen zueinander verlaufen.

Gemäß einem Ausführungsbeispiel wird vorgeschlagen, dass der Abstand der beiden optischen Achsen zueinander insbesondere ein stereoskopischer Augenabstand ist. Dieser stereoskopische Augenabstand liegt zwischen 5cm und 8cm, insbesondere bei 6,5cm. Die von den beiden Kameras erfassten Bilder entsprechen somit unmittelbar den Anforderungen, welche an die reproduzierten Bilder für ein stereoskopisches Display gestellt werden.

Gemäß einem Ausführungsbeispiel wird vorgeschlagen, dass zusätzlich zu den ersten und zweiten omnidirektionalen Kameras zumindest zwei dritte omnidirektionale Kameras vorgesehen sind. Deren optische Achsen verlaufen im Wesentlichen entlang einer dritten Raumachse. Die Ausrichtung der optischen Achsen und der Abstand der dritten Kameras kann identisch zu den oben beschriebenen Ausführungsbeispielen zu den ersten und zweiten Kameras sein.

Bevorzugt laufen die Raumachsen in einem rechten Winkel zueinander, so dass die drei Raumachsen ein kartesisches Koordinatensystem aufspannen. Die jeweils zwei Kameras sind bevorzugt in jeweils eine der Raumachsen gerichtet bzw. deren optischen Achsen weisen bevorzugt in diese Richtung.

Es ist jedoch auch möglich, dass die optischen Achsen jeweils zweier Kameras zu optischen Achsen jeweils zweier anderer Kameras im Wesentlichen antiparallel verlaufen. Das heißt, dass zwei Kameras in eine erste Richtung gerichtet sind und zwei weitere Kameras in eine zweite, antiparallel dazu verlaufende Richtung. Hiermit ist es möglich, durch insgesamt 4 omnidirektionale Kameras ein vollsphärisches Bild zu erfassen.

Um die Bilder der Kameras miteinander zu kombinieren, insbesondere um ein stereoskopisches Abbild zu erzeugen, muss ein zeitlicher Gleichlauf der Bilder sichergestellt werden. Dies gilt insbesondere, wenn die Bilder gemäß einem

Ausführungsbeispiel Bewegtbilder sind. Der zeitliche Gleichlauf wird dadurch ermöglicht, dass die Kameras jeweils Bilder zu einem definierten Zeitpunkt erfassen. Dieser definierte Zeitpunkt kann als Zeitstempel den jeweiligen Bildern der jeweiligen Kameras zugeordnet werden. Mit Hilfe eines Bildprozessors ist es möglich, Bilder eines gleichen Zeitraums aller Kameras zur Berechnung einer stereoskopischen Ansicht zu nutzen. Hierdurch kommt es zu keiner zeitlichen Verschiebung zwischen zwei Bildern, die genutzt werden, um eine stereoskopische Ansicht zu erstellen.

Gemäß einem Ausführungsbeispiel wird vorgeschlagen, dass der Bildprozessor in einem Bild einer ersten Kamera ein Abbild einer zweiten Kamera überlagert mit Bildinformationen zumindest einer dritten Kamera. Bei omnidirektionalen Kameras, welche nebeneinander angeordnet sind, ist es möglich, dass im Bild einer ersten Kamera ein Abbild einer zweiten Kamera zu sehen ist. Dies ist bei der Rekonstruktion und Erstellung eines optischen Abbilds des Raumes unerwünscht, da der optische Eindruck ungestört sein soll, insbesondere das Aufnahmesystem nicht zu sehen sein soll. Wird mit Hilfe eines Bildprozessors detektiert, dass in einem Bild einer ersten Kamera ein Abbild einer zweiten Kamera zu sehen ist, so kann der Bildprozessor den Raumwinkel errechnen, in welchem das Abbild der zweiten Kamera in dem Bild der ersten Kamera relativ zur optischen Achse der ersten Kamera liegt. Unter

Verwendung dieses ermittelten Raumwinkels kann zumindest ein Bild einer dritten Kamera genutzt werden, welche ein Bild in Richtung dieses Raumwinkels liefert. Dieses Bild der dritten Kamera kann dann dazu genutzt werden, das Abbild der zweiten Kamera in dem Bild der ersten Kamera zu überlagern und somit das Abbild der zweiten Kamera aus dem Bild der ersten Kamera auszublenden.

Gemäß einem Ausführungsbeispiel wird vorgeschlagen, dass der Bildprozessor Informationen zu einer Blickrichtung empfängt und dass der Bildprozessor für die empfangene Blickrichtung zwei stereoskopische Bilder aus den Bildern der Kameras berechnet und ausgibt. Mit Hilfe dieser berechneten Bilder kann ein stereoskopisches Display gespeist werden. An dem Display kann beispielsweise ein Neigungs- und/oder Beschleunigungssensor und/oder Kompass angeordnet sein, mit dem eine

Blickrichtung eines Nutzers erfasst werden kann. Ausgehend von dieser Blickrichtung kann bestimmt werden, welche zwei Bilder welcher zwei Kameras genutzt werden, um das stereoskopische Abbild zu erstellen. Auch ist es möglich, dass in einem solchen stereoskopischen Abbild nicht unmittelbar die Bilder zweier in einer gleichen

Raumrichtung weisenden Kameras genutzt werden, sondern dass die Bilder aus jeweils mehreren Bildern von mehreren Kameras kombiniert werden.

Gemäß einem Ausführungsbeispiel wird vorgeschlagen, dass die omnidirektionalen Kameras Hemisphären-Kameras sind.

Wie bereits erläutert, ist ein stereoskopisches Abbild eines Raumes insbesondere im Bereich der Heimautomatisierung sinnvoll. Aus diesem Grunde wird ein

Heimautomatisierungssystem mit zumindest einem Aktor und einem Sensor und einem zuvor beschriebenen Kamerasystem vorgeschlagen. Mit Hilfe eines

Bildprozessors werden stereoskopische Bilder eines Raumes erstellt. Ein Prozessor reichert diese stereoskopischen Bilder des Raumes mit Bildinformationen zumindest eines Sensors und/oder Aktors des Heimautomatisierungssystems an. Diese Büdinformationen können beispielsweise Ikonen von einem Sensor und/oder einem Aktor sein.

Die Positionierung der Bildinformationen in den berechneten Bildern kann dabei definiert werden. Insbesondere ist es möglich, dass ein Nutzer eine Position eines Sensors„virtuell" in dem Raum anordnen kann. Abhängig von der so definierten Position in dem Raum kann dann anschließend bei der Erstellung der

stereoskopischen Bilder der Sensor und/oder Aktor bzw. dessen Bildinformationen an einer virtuellen Position in dem Raum angezeigt werden.

Dabei ist es möglich, dass die Positionierung der Bildinformationen in den Bildern des Raumes abhängig von der Blickrichtung des Nutzers in dem Raum ist. Die

Blickrichtung des Nutzers wird erfasst und hieraus wird ein stereoskopisches Bild erstellt. In diesem stereoskopischen Bild ist die Positionierung der Bildinformationen vorzugsweise abhängig von der Blickrichtung.

Nachfolgend wird der Gegenstand anhand einer Ausführungsbespiele zeigenden Zeichnung näher erläutert. In der Zeichnung zeigen:

Fig. 1 eine Anordnung von Kameras in einem Kamerasystem;

Fig. 2 optische Achsen zweier Kameras gemäß einem Ausführungsbeispiel;

Fig. 3 optische Achsen mehrerer Kameras gemäß einem Ausführungsbeispiel;

Fig. 4 ein Sichtbereich einer Kamera gemäß einem Ausführungsbeispiel;

Fig. 5 die Aufnahme von Bildern in einem Raum;

Fig. 6 die Erfassung von Blickwinkeln in einem Raum; Fig. 7 die Darstellung von Bildern in einem stereoskopischen Display

Fig. 8 die Überlagerung von Abbildern einer Kamera in einem Bild.

Fig. 1 zeigt ein Kamerasystem mit jeweils zwei Kameras 2a, 4a; 2b, 4b; 2c, 4c. Die Kameras werden nachfolgend auch mit 2, 4 bezeichnet.

Die beiden Kameras 2, 4 haben jeweils optische Achsen 6a, 8a; 6b, 8b; 6c, 8c. Die optischen Achsen werden nachfolgend auch mit 6, 8 bezeichnet. Jeweils zwei optische Achsen 6, 8 sind in jeweils eine Raumrichtung 10, 12, 14 gerichtet. Dabei sind die optischen Achsen 6a, 8a in die Raumrichtung 10 gerichtet, die optischen Achsen 6b, 8b in die Raumrichtung 12 und die optischen Achsen 6c, 8c in die Raumrichtung 14. Die Raumrichtungen 10, 12, 14 spannen dabei insbesondere ein kartesisches

Koordinatensystem auf und sind jeweils rechtwinklig zueinander.

Jeweils zu einem gleichen Zeitpunkt nehmen die Kameras 2, 4 jeweils ein Bild auf. Das jeweilige Bild wird mit einem Zeitstempel versehen. Die Bilder aller sechs Kameras 2,

4 werden in einem Bildprozessor verarbeitet und hieraus wird ein stereoskopisches Abbild eines Raumes erstellt, wie nachfolgend noch beschrieben werden wird.

Fig. 2 zeigt, dass zwei Kameras 2, 4 in einem Abstand 16 zueinander angeordnet sind. Der Abstand 16 ist der Abstand der optischen Achsen 6, 8 der Kameras im Bereich der Kameraobjektive. Der Abstand 16 ist insbesondere ein stereoskopischer

Augenabstand.

Die optischen Achsen 6, 8 sind zueinander geneigt und verlaufen in einem Winkel a zu einer der Raumrichtungen 10, 12, 14. Der Winkel a kann dabei zwischen 0° und L 0° sein. Die optischen Achsen 6, 8 können entweder parallel zueinander verlaufen oder wie in der Fig. 2 gezeigt, zueinander konvergierend verlaufen. Fig. 3 zeigt eine antiparallele Anordnung von vier Kameras 2, 4 wobei zwei Kameras 2a, 4a mit ihren optischen Achsen 6a, 8a in eine erste Richtung weisen und zwei Kameras 2b, 4b mit ihren optischen Achsen 6b, 8b hierzu antiparallel ausgerichtet sind. Die Kameras 2, 4 haben jeweils Blickrichtungen, wie sie in der Fig. 3 mit Pfeilen gezeigt sind. Eine solche Anordnung ist insbesondere dann sinnvoll, wenn die

Kameras 2, 4 hemisphärische Kameras sind.

Eine hemisphärische Kamera 2, 4 hat einen Blickwinkel wie in der Fig. 4 dargestellt. Mit Hilfe einer solchen Kamera 2, 4 ist eine Hemisphäre um die Kamera 2, 4 erfassbar. Durch die antiparallele Ausrichtung der Kameras 2a, 4a zu den Kameras 2b, 4b wird mit Hilfe von vier Kameras 2 , 4 somit ein vollsphärisches Bild eines Raums erfasst.

Ein Raum, welcher mit Hilfe eines Kamerasystems wie beschrieben erfasst wird, ist in der Fig. 5 dargestellt. Das Kamerasystem 18 mit den zuvor beschriebenen Kameras 2, 4 wird in dem Raum 20 angeordnet und in den Raumrichtungen 10, 12, 14 erfassen die jeweiligen Kameras 2, 4 stereoskopische Bilder. Mit Hilfe der so stereoskopisch erfassten Bilder lassen sich Anzeigen des Raums 20 generieren. Hierfür ist es notwendig, dass ein Nutzer 22 bzw. eine Blickrichtung 24 des Nutzers 22 in dem Raum 20 erfasst wird. Diese Blickrichtung 24 kann mit geeigneten Sensoren erfasst werden. Dies ist in Fig. 6 gezeigt.

Mit Hilfe einer geeigneten Anzeigevorrichtung 26 mit zwei Displays 26a, 26b, wie in der Fig. 7 dargestellt, kann ein Bild des Raumes 20 abhängig von der Blickrichtung 24 erstellt werden. In diesem Bild kann ein Sensor 28 eines

Heimautomatisierungssystems virtuell platziert werden, insbesondere können Bildinformationen des Sensors 28 in dem Raum 20 platziert werden. Ändert der Nutzer 22 seine Blickrichtung 24 so wird das Bild in den Anzeigen 26a, 26b

verschoben. Die Bilder in den Anzeigen 26a, 26b sind stereoskopisches zueinander verschoben und wurden mittels eines Bildprozessors berechnet. Fig. 8 zeigt oben, dass in den Bildern 26a, 26b gegebenenfalls Abbilder 30 einer der Kameras 2, 4 zu sehen sind. Um diese Abbilder 30 der Kameras 2, 4 in den Bildern zu entfernen, wird mit Hilfe eines Bildprozessors ausgehend von der Blickrichtung und der Information, wo in einem Bild ein Abbild 30 einer Kamera 2, 4 ist, mit Hilfe von Bildinformationen anderer Kameras 2, 4 ein überlagertes Bild 32 an der Stelle des Abbilds 30 berechnet und in die Anzeige 26a, 26b hinein projiziert, sodass das Abbild 30 der Kameras 2, 4 überdeckt ist, wie in Fig. 8 unten gezeigt. Für den Nutzer ergibt sich somit ein ungestörter Blick auf den virtuellen Raum 20.

Bezugszeichenliste

2, 4 Kamera

6, 8 optische Achse

10, 12, 14 Raumrichtung

16 Abstand

18 Kamerasystem

20 Raum

22 Nutzer

24 Blickrichtung

26 Anzeigevor ri chtung

26a, 26b Display

28 Sensorabbild

30 Abbild einer Kamera

32 Überlagerung