Login| Sign Up| Help| Contact|

Patent Searching and Data


Title:
METHOD FOR PROCESSING DATA OF A HOUSEHOLD APPLIANCE
Document Type and Number:
WIPO Patent Application WO/2016/202542
Kind Code:
A1
Abstract:
The invention relates to a method which comprises the following steps: taking a picture by means of a mobile terminal device, identifying a household appliance in the picture, and replacing the household appliance or a part of the household appliance in the picture by a contents picture of the interior of the household appliance. The invention further relates to a corresponding system which comprises the household appliance and the mobile terminal device.

Inventors:
GRIMMINGER JOCHEN (DE)
KLINGSHIRN ASTRID (DE)
GEBLER MARTIN (DE)
LINDER MARKUS (DE)
Application Number:
PCT/EP2016/061770
Publication Date:
December 22, 2016
Filing Date:
May 25, 2016
Export Citation:
Click for automatic bibliography generation   Help
Assignee:
BSH HAUSGERAETE GMBH (DE)
International Classes:
G06F17/30; F25D29/00; H04N7/18
Domestic Patent References:
WO2007080473A12007-07-19
WO2015075225A12015-05-28
Foreign References:
DE102013211096A12014-12-18
Other References:
None
Download PDF:
Claims:
PATENTANSPRÜCHE

Verfahren umfassend die Schritte:

- Erstellen einer Aufnahme mittels eines mobilen Endgeräts,

- Erkennen eines Haushaltsgeräts in der Aufnahme,

- Ersetzen des Haushaltsgeräts oder eines Teil des Haushaltsgeräts in der Aufnahme durch ein Inhaltsbild vom Inneren des Haushaltsgeräts.

Verfahren nach Anspruch 1 , bei dem die Aufnahme das Haushaltsgerät umfasst.

Verfahren nach einem der vorhergehenden Ansprüche, bei dem vor dem Ersetzen des Haushaltsgeräts oder des Teils des Haushaltsgeräts in der Aufnahme der Schritt durchgeführt wird:

- Erstellen des Inhaltsbilds vom Innenraum des Haushaltsgeräts.

Verfahren nach einem der vorhergehenden Ansprüche, bei dem das Inhaltsbild mindestens eine Information umfasst, die anhand des mobilen Endgeräts selektierbar und anzeigbar ist.

Verfahren nach Anspruch 4, bei dem die Information mindestens eine aus Folgenden umfasst:

- einem Datum, das angibt, seit wann der Gegenstand in dem Kühlschrank gelagert wird,

- einem Datum, das zeigt, seit wann der Gegenstand nicht mehr bewegt wurde,

- eine Dauer bis zu einem Verfallsdatum des Gegenstands,

- ein Farb-Code für bestimmte Lebensmittel,

- einer Nährwertinformation,

- einer zweckgebundenen Information,

- einem Rezept.

Verfahren nach einem der Ansprüche 4 oder 5, bei dem anhand der Information eine vorgegeben Aktion ausführbar ist. Verfahren nach Anspruch 6, bei dem die vorgegebene Aktion mindestens eine aus Folgenden umfasst:

- Auslösung einer Bestellung;

- Anzeige, ob ein Rezept oder eine Speise zubereitbar ist oder nicht;

- Auswahl aus Rezepten, die aufgrund der mindestens einen Information zubereitbar sind;

- Anweisung zur Platzierung eines Gegenstands in dem Haushaltsgerät.

Verfahren nach einem der vorhergehenden Ansprüche, umfassend den Schritt:

- Ersetzen des Haushaltsgeräts oder eines Teil des Haushaltsgeräts in der Aufnahme durch das Inhaltsbild, wobei das Inhaltsbild abhängig von einer Navigationsinformation ausgewählt wird.

Verfahren nach Anspruch 8, bei dem die Navigationsinformation mittels des mobilen Endgeräts bereitgestellt wird, so dass eine virtuelle Navigation im Inneren des Haushaltsgeräts ermöglicht wird.

Verfahren nach einem der vorhergehenden Ansprüche, bei dem das Haushaltsgerät eines der folgenden Geräte ist:

- ein Küchengerät,

- ein Gargerät,

- ein Kühl- und/oder Gefriergerät.

Verfahren nach einem der vorhergehenden Ansprüche, bei dem das Inhaltsbild vom Innenraum des Haushaltsgeräts erstellt wird mittels einer in dem Haushaltsgerät angeordneten Kamera, wobei beim Öffnen und/oder Schließen einer Türe des Haushaltsgeräts das Inhaltsbild erstellt wird.

System mit einem Haushaltsgerät und einem mobilen Endgerät,

- wobei das Haushaltsgerät eine Kamera aufweist zum Erstellen eines Inhaltsbilds vom Innenraum des Haushaltsgeräts, wobei das Inhaltsbild dem mobilen Endgerät bereitstellbar ist,

- wobei das mobile Endgerät - eine Kamera aufweist zum Erstellen einer Aufnahme,

- eine Verarbeitungseinheit aufweist zum Erkennen eines Haushaltsgeräts in der Aufnahme und zum Ersetzen des Haushaltsgeräts oder eines Teil des Haushaltsgeräts in der Aufnahme durch das Inhaltsbild vom Inneren des Haushaltsgeräts.

Description:
Verfahren zum Verarbeiten von Daten eines Haushaltsgeräts

Die Erfindung betrifft ein Verfahren zum Verarbeiten von Bilddaten, die von einem Haushaltsgerät bereitgestellt werden auf einem mobilen Endgerät sowie ein entsprechendes System.

Es ist bekannt, in einem Haushaltsgerät, z.B. einem Kühlschrank, eine Kamera zu verwenden, die zu bestimmten Zeiten das Innere des Kühlschranks oder einen Teil davon aufnimmt. Die Kamera kann z.B. beim Öffnen und/oder Schließen der Kühlschranktüre eine Aufnahme vom Inneren des Kühlschranks erstellen, z.B. von den Lebensmitteln oder sonstigen Gegenständen, die sich gerade im Kühlschrank befinden. Eine solche Aufnahme kann entsprechend auch im geschlossenen Zustand des Kühlschranks gemacht werden.

Beispielsweise ist es möglich, dass hierzu ein Sensor vorgesehen ist, der ein Öffnen und/oder ein Schließen der Kühlschranktüre erkennt. Dies kann z.B. mittels eines magnetischen Sensors oder eines sonstigen Schalters erfolgen. Die von der Kamera erstellte Aufnahme wird z.B. über eine drahtlose oder drahtgebundene Verbindung in einem Speicher abgelegt. Der Speicher kann z.B. ein Speicher des Haushaltsgeräts oder ein Speicher eines Computers oder eines Computernetzwerks sein. Insbesondere kann die Aufnahme über eine Netzwerkschnittstelle auf einer zentralen Datenbank, die z.B. über das Internet angebunden ist, gespeichert werden. Wird mit jedem Öffnen und/oder Schließen mindestens eine Aufnahme vom Inhalt des Haushaltsgeräts gemacht, so kann anhand der Veränderungen zwischen unterschiedlichen Aufnahmen, die im Verlauf der Benutzung des Haushaltsgeräts entstehen, auf ein Einstellen von Waren in das Haushaltsgerät und auf ein entsprechendes Entnehmen der Waren rückgeschlossen werden. Diese Information kann für unterschiedliche Zwecke weiterverarbeitet werden.

Hierbei ist es problematisch, dass es eine Vielzahl von wiederverwendbaren Behältern gibt, die auf der Aufnahme erscheinen und keinen Rückschluss auf deren Inhalt liefern. Dies gilt z.B. für universell verwendbare wiederverschließbaren Behälter. Die Aufgabe besteht darin, den Umgang mit einem Haushaltsgerät zu verbessern.

Diese Aufgabe wird gemäß den Merkmalen der unabhängigen Patentansprüche gelöst. Weiterbildungen der Erfindung ergeben sich auch aus den abhängigen Ansprüchen.

Zur Lösung der Aufgabe wird ein Verfahren vorgeschlagen umfassend die Schritte:

Erstellen einer Aufnahme mittels eines mobilen Endgeräts,

Erkennen eines Haushaltsgeräts in der Aufnahme,

- Ersetzen des Haushaltsgeräts oder eines Teil des Haushaltsgeräts in der Aufnahme durch ein Inhaltsbild vom Inneren des Haushaltsgeräts.

Die Erkennung des Haushaltsgeräts als Objekt in der Aufnahme kann von dem mobilen Endgerät durchgeführt werden. Vorzugsweise sind das mobile Endgerät und das Haushaltsgerät zumindest zeitweise über ein Netzwerk oder über eine Kommunikationsverbindung miteinander verbunden, so dass das Inhaltsbild von dem Haushaltsgerät an das mobile Endgerät übertragbar ist.

Das Inhaltsbild kann dabei ein einzelnes Bild, eine Bildfolge oder eine Bewegtbildfolge (also einen Film) umfassen. Das Inhaltsbild kann z.B. von mindestens einer Kamera aufgenommen werden, die sich an oder in dem Haushaltsgerät befindet. Diese Kamera macht Aufnahmen vom Innenraum des Haushaltsgeräts. Die Inhaltsbilder können z.B. vorübergehend in einem Speicher abgespeichert werden. Als derartiger Speicher können z.B. genutzt werden: ein Speicher in dem Haushaltsgerät, ein Netzwerkspeicher und/oder ein Speicher des mobilen Endgeräts.

Beispielsweise kann das Inhaltsbild über eine WLAN-Schnittstelle von dem Haushaltsgerät über das Internet an ein Smartphone übertragen werden, das entweder über eine WLAN-Schnittstelle oder über eine sonstige drahtlose Kommunikationsverbindung (z.B. 3G oder 4G) mit dem Internet verbindbar ist. Zum Erkennen des Objekts kann das mobile Endgerät ein spezielles Programm (eine sogenannte "App") aufweisen. Das Inhaltsbild oder ein Teil des Inhaltsbildes kann dazu genutzt werden, das Haushaltsgerät in der Aufnahme, die von dem mobilen Endgerät erstellt wurde oder wird, zu ersetzen und somit einen Eindruck einer erweiterten Realität auf dem mobilen Endgerät darzustellen, indem der Benutzer in das Innere des Haushaltsgeräts blicken kann.

Eine Weiterbildung ist es, dass die Aufnahme das Haushaltsgerät umfasst.

Vorzugsweise ist auf der Aufnahme das Haushaltgerät (von außen) dargestellt. Dieser Teil der Aufnahme kann durch das Inhaltsbild ersetzt bzw. überlagert werden.

Eine andere Weiterbildung ist es, dass vor dem Ersetzen des Haushaltsgeräts oder des Teils des Haushaltsgeräts in der Aufnahme der Schritt durchgeführt wird:

Erstellen des Inhaltsbilds vom Innenraum des Haushaltsgeräts.

Hierzu kann z.B. eine Kamera des Haushaltsgeräts genutzt werden. Diese Kamera kann über eine Verarbeitungseinheit das Inhaltsbild einem Speicher bereitstellen. Optional kann die Kamera mit der Verarbeitungseinheit kombiniert sein, so dass die Kamera mit Verarbeitungseinheit z.B. zu bestimmten Zeitpunkten das Inhaltsbild über ein Netzwerk verschickt.

Insbesondere ist es eine Weiterbildung, dass das Inhaltsbild mindestens eine Information umfasst, die anhand des mobilen Endgeräts selektierbar und anzeigbar ist. Vorzugsweise kann das Inhaltsbild die Information zusätzlich zu der von der Kamera des Haushaltsgeräts gemachten Aufnahme umfassen. Diese Information kann als Symbol angezeigt werden. Optional kann die Information bei Selektion ausführlicher angezeigt werden, indem sich z.B. ein Fenster öffnet, das Erläuterungen enthält. Die Information ist nicht beschränkt auf Farben, Symbole, Text, o.ä. Auch kann die Information mit einer Bedingung, z.B. einer Selektion, verknüpft sein, so dass die Information dann angezeigt wird, wenn auf das Inhaltsbild oder auf einen Teil des Inhaltsbilds geklickt wird (z.B. durch Berühren mit einem Finger im Falle eines mobilen Endgeräts mit Touchscreen). Auch ist es eine Weiterbildung, dass die Information mindestens eine aus Folgenden umfasst:

einem Datum, das angibt, seit wann der Gegenstand in dem Kühlschrank gelagert wird,

- einem Datum, das zeigt, seit wann der Gegenstand nicht mehr bewegt wurde,

eine Dauer bis zu einem Verfallsdatum des Gegenstands,

ein Farb-Code für bestimmte Lebensmittel,

einer Nährwertinformation,

einer zweckgebundenen Information,

- einem Rezept.

Ferner ist es eine Weiterbildung, dass anhand der Information eine vorgegebene Aktion ausführbar ist. Im Rahmen einer zusätzlichen Weiterbildung umfasst die vorgegebene Aktion mindestens eine aus Folgenden:

Auslösung einer Bestellung;

Anzeige, ob ein Rezept oder eine Speise zubereitbar ist oder nicht;

Auswahl aus Rezepten, die aufgrund der mindestens einen Information zubereitbar sind;

Anweisung zur Platzierung eines Gegenstands in dem Haushaltsgerät.

Eine nächste Weiterbildung besteht darin, dass das Verfahren weiterhin umfasst:

Ersetzen des Haushaltsgeräts oder eines Teil des Haushaltsgeräts in der Aufnahme durch das Inhaltsbild, wobei das Inhaltsbild abhängig von einer

Navigationsinformation ausgewählt wird.

Hierbei sei angemerkt, dass die Auswahl des dargestellten Inhaltsbilds auch einen Teil des Inhaltsbilds umfasst. Also ist eine Navigation im Inneren des Haushaltsgeräts mittels des Inhaltsbilds (oder mehrerer Inhaltsbilder) möglich.

Eine Ausgestaltung ist es, dass die Navigationsinformation mittels des mobilen Endgeräts bereitgestellt wird, so dass eine virtuelle Navigation im Inneren des Haushaltsgeräts ermöglicht wird. Eine alternative Ausführungsform besteht darin, dass das Haushaltsgerät eines der folgenden Geräte ist:

ein Küchengerät,

- ein Gargerät,

ein Kühl- und/oder Gefriergerät.

Das Kühl- und/oder Gefriergerät wird hier auch als Kühlschrank bezeichnet. Eine nächste Ausgestaltung ist es, dass das Inhaltsbild vom Innenraum des Haushaltsgeräts erstellt wird mittels einer in dem Haushaltsgerät angeordneten Kamera, wobei beim Öffnen und/oder Schließen einer Türe des Haushaltsgeräts das Inhaltsbild erstellt wird. Weiterhin wird ein System mit einem Haushaltsgerät und einem mobilen Endgerät vorgeschlagen,

wobei das Haushaltsgerät eine Kamera aufweist zum Erstellen eines Inhaltsbilds vom Innenraum des Haushaltsgeräts, wobei das Inhaltsbild dem mobilen Endgerät bereitstellbar ist,

- wobei das mobile Endgerät

eine Kamera aufweist zum Erstellen einer Aufnahme,

eine Verarbeitungseinheit aufweist zum Erkennen eines Haushaltsgeräts in der Aufnahme und zum Ersetzen des Haushaltsgeräts oder eines Teil des Haushaltsgeräts in der Aufnahme durch das Inhaltsbild vom Inneren des Haushaltsgeräts.

Die hier genannte Verarbeitungseinheit kann insbesondere als eine Prozessoreinheit und/oder eine zumindest teilweise festverdrahtete oder logische Schaltungsanordnung ausgeführt sein, die beispielsweise derart eingerichtet ist, dass das Verfahren wie hierin beschrieben durchführbar ist. Besagte Verarbeitungseinheit kann jede Art von Prozessor oder Rechner oder Computer mit entsprechend notwendiger Peripherie (Speicher, Input/Output-Schnittstellen, Ein-Ausgabe-Geräte, etc.) sein oder umfassen. Die vorstehenden Erläuterungen betreffend das Verfahren gelten für die Vorrichtung bzw. das System entsprechend.

Ausführungsbeispiele der Erfindung werden nachfolgend anhand der Zeichnungen dargestellt und erläutert.

Es zeigen:

Fig.1 eine schematische Anordnung einer Küchenzeile mit mehreren Einheiten, darunter einem Kühlschrank als beispielhaftes Haushaltsgerät sowie ein Smartphone, das eine Aufnahme von der Küchenzeile erstellt;

Fig.2 ein Bildschirminhalt auf dem Smartphone umfassend die Küchenzeile mit dem Inhaltsbild, das anstelle des Kühlschranks von außen das Innere des Kühlschranks zeigt;

Fig.3 beispielhaft ein schematisches Blockdiagramm umfassend einen Kühlschrank mit einer Türe, einer Kamera und einer Verarbeitungseinheit in einer symbolischen Schnittansicht.

Die hier beschriebenen Beispiele ermöglichen es einem Benutzer, den Inhalt eines Haushaltsgeräts auf einem Endgerät darzustellen, wenn ein von der Kamera des Endgeräts aufgenommenes Bild das Haushaltsgerät oder einen Teil des Haushaltsgeräts erfasst und/oder darstellt.

Bei dem Endgerät handelt es sich z.B. um ein mobiles Endgerät, ein Smartphone, eine Smartwatch, ein Tabletcomputer, einen tragbaren Computer o.ä. Das Endgerät verfügt über eine drahtlose oder eine drahtgebundene Verbindung zu einem Netzwerk. Das Netzwerk kann z.B. das Internet umfassen oder eine Verbindung zu dem Internet aufweisen.

Diese Lösung kann somit als eine Form einer erweiterten Realität ("Augmented Reality") im Bereich der Haushaltsgeräte aufgefasst werden. Unter erweiterter Realität versteht man laut Wikipedia (http://de.wikipedia.org/wiki/Erweiterte_Realität) die computergestützte Erweiterung der Realitätswahrnehmung.

Im vorliegenden Fall wird ein vorgegebenes Muster, z.B. eine Türe des Haushaltsgeräts, erkannt und anstatt der Türe des Haushaltsgeräts der Inhalt des Haushaltsgerät auf dem Endgerät dargestellt. Hierzu kann eine Aufnahme vom Inneren des Haushaltsgeräts an das Endgerät übermittelt werden und auf dem Bildschirm des Endgeräts z.B. anstatt des vorgegebenen Musters angezeigt werden. Somit wird das Muster, also z.B. die Türe des Haushaltsgeräts durch die Aufnahme von dem Inhalt des Haushaltsgeräts ersetzt.

Hierbei ist es eine Option, dass mit einer Bewegung des Endgeräts ein der Bewegung entsprechender Blickwinkel auf den Inhalt des Haushaltsgeräts als Aufnahme dargestellt wird. Dies kann z.B. durch unterschiedliche Aufnahmen aus unterschiedlichen Blickwinkeln, von unterschiedlichen Kameras, oder durch die Darstellung unterschiedlicher Ausschnitte aus mindestens einer Aufnahme erreicht werden. Bewegt der Benutzer beispielsweise das Endgerät von oben nach unten, so können die entsprechenden unterschiedlichen Bereiche im Inneren des Haushaltsgeräts auf dem Bildschirm angezeigt werden. Anstatt das Endgerät selbst von oben nach unten zu bewegen könnte auch ein Eingabemittel (z.B. virtueller Joystick, Scrollbalken, Touchscreen, etc.) vorgesehen sein, mit dem diese Bewegung (oder eine beliebige andere Bewegung) simuliert wird. Auch ist es möglich, dass z.B. durch Bewegen des Endgeräts und/oder durch das Eingabemittel ein Herein- oder Herauszoomen realisiert wird. Grundsätzlich kann auch eine (nahezu) freie Navigation im Inneren des Haushaltsgeräts mittels derartiger Eingabemittel und/oder entsprechender Bewegung des Endgeräts realisiert werden.

Beispielsweise kann es sich bei dem Haushaltsgerät um einen Kühlschrank handeln. Das Endgerät kann beispielsweise ein Smartphone sein. Richtet der Benutzer die Kamera des Smartphones auf den Teil der Küche, in der sich der Kühlschrank befindet, so wird der Kühlschrank als Objekt erkannt. Dieses Objekt kann durch die Aufnahme des Inhalts des Kühlschranks (auch bezeichnet als "Inhaltsbild") ersetzt werden. Das Inhaltsbild wurde entweder zuvor oder wird währenddessen von einer Kamera, die sich in dem Kühlschrank befindet, erstellt und, z.B. über ein Netzwerk, dem Smartphone bereit gestellt. Hierdurch wird beispielsweise auf dem Bildschirm des Smartphones die (oder ein Teil der) Küche bis auf den Kühlschrank unverändert dargestellt; anstatt des Kühlschranks sieht der Benutzer nun aber anhand des Inhaltsbilds ins Innere des Kühlschranks und kann so erkennen, welche Lebensmittel und Gegenstände sich in dem Kühlschrank befinden. Die Türe des Kühlschranks erscheint mittels dieser Maßnahme der erweiterten Realität so als sei sie durchsichtig.

Optional kann je nach Größe des erkannten Objekts "Kühlschrank" das Inhaltsbild in unterschiedlichen Auflösungen und/oder Ausschnitten dargestellt werden. Das Inhaltsbild vom Inneren des Kühlschranks kann mit unterschiedlichen zusätzlichen Informationen versehen sein, z.B.

einem Datum, das angibt, seit wann der Gegenstand in dem Kühlschrank gelagert wird,

einem Datum, das zeigt, seit wann der Gegenstand nicht mehr bewegt wurde, - eine Dauer bis zu einem Verfallsdatum des Gegenstands,

ein Farb-Code für bestimmte Lebensmittel; z.B. können Lebensmittel mit kurzer

Haltbarkeit (von wenigen Tagen, z.B. weniger als einer Woche) mit einer roten Farbe oder einer roten Markierung versehen sein,

einer Nährwertinformation,

- einer zweckgebundenen Information, z.B. einer Verwendbarkeit für eine Party,

einem Rezept.

Beispielsweise können Gegenstände, die Teile eines Rezepts sind, mit einer Farbe markiert (oder auf eine sonstige Art hervorgehoben) werden. Der Benutzer kann an dem Smartphone ein Rezept auswählen und sieht die Zutaten im Kühlschrank (diese können z.B. mit einer grünen Farbe oder einer grünen Markierung auf dem Bildschirm gekennzeichnet sein). Die Rezepte können dem Benutzer abhängig von dessen Präferenz und/oder abhängig von der Tageszeit automatisch angeboten werden. Auch kann z.B. pro Rezept vermerkt sein, ob die notwendigen Zutaten, die normalerweise im Kühlschrank lagern müssten, auch vorhanden sind. In so einem Fall können z.B. die Rezepte grün markiert sein, für die alle erforderlichen Zutaten im Kühlschrank vorhanden zu sein scheinen. Auch ist es eine Option, dass für einen Gegenstand ein idealer Lagerplatz in dem Kühlschrank angegeben wird. Beispielsweise könnte so auf dem Inhaltsbild markiert sein, dass ein Apfel in dem für Obst vorgesehenen Bereich gelagert werden sollte. Ein Vorteil dieses Ansatzes besteht darin, dass der Benutzer den Inhalt des Kühlschranks effizient auf unterschiedliche Art und Weise nutzen kann, ohne dass hierfür jedes Mal die Kühlschranktüre geöffnet werden muss. Hierdurch wird einerseits Energie gespart, andererseits entfällt das lästige und zeitaufwändige Durchsuchen des Kühlschrankinhalts. Fig.1 zeigt eine schematische Anordnung einer Küchenzeile 101 mit mehreren Einheiten, darunter einem Kühlschrank 102 als beispielhaftes Haushaltsgerät. Weiterhin ist ein Smartphone 103 mit einem Display 104 (das z.B. als ein Touchscreen ausgeführt ist) und einer Kamera 105 gezeigt, wobei die Kamera 105 auf der dem Display 104 gegenüberliegenden Seite verbaut ist. Der Benutzer kann mit der Kamera 105 die Küchenzeile 101 aufnehmen. Die Aufnahme kann mindestens ein Bild oder eine Sequenz von Bildern, also einen Film, umfassen. Die Aufnahme kann insbesondere als Film in Echtzeit erstellt und angezeigt werden.

Das Smartphone 103 ist ein Beispiel für ein mobiles Endgerät. Es ist im vorliebenden Beispiel über eine Funkschnittstelle, z.B. Mobilfunkschnittstelle oder eine WLAN- Anbindung, mit einem Netzwerk verbunden. Ebenso ist der Kühlschrank 102 mit dem Netzwerk verbunden. Beispielhafte Details zur Infrastruktur werden auch nachfolgend im Hinblick auf Fig.3 erläutert. Die Aufnahme auf dem Smartphone wird analysiert und der Kühlschrank 102 wird in der Küchenzeile 101 erkannt. Die Erkennung kann automatisch erfolgen; auch ist es möglich, dass der Benutzer zuvor der auf dem Smartphone 103 ablaufenden Software mitgeteilt hat, wie der Kühlschrank 102 aussieht (dies kann z.B. in Form einer Aufnahme des Kühlschranks von vorne geschehen, die dann der Software übergeben oder von dieser eingelesen wird).

Wird der Kühlschrank 102 erkannt, so wird automatisch in der Aufnahme das erkannte Objekt "Kühlschrank" zumindest teilweise, vollständig oder symbolisch durch eine Aufnahme des Inhalts des Kühlschranks ersetzt. Diese Aufnahme des Inhalts des Kühlschranks (nachfolgend der besseren Lesbarkeit bezeichnet als "Inhaltsbild") wird von einer Kamera bereitgestellt, die sich in dem Kühlschrank befindet (um die Kamera im Kühlschrank von der Kamera des Endgeräts zu unterscheiden, wird erstere auch als CIF ("camera in fridge") bezeichnet).

Das Inhaltsbild überlagert also teilweise die Aufnahme der Kamera 105. Diese erweiterte Realität 106 umfasst die Darstellung der Küchenzeile mit einem Inhaltsbild 107. Zur Veranschaulichung ist diese erweiterte Realität 106 nochmal in Fig.2 vergrößert dargestellt. Auf dem Smartphone 103 kann der Benutzer in den Kühlschrank 102 blicken, ohne dafür die Kühlschranktüre öffnen zu müssen.

Fig.3 zeigt beispielhaft ein schematisches Blockdiagramm umfassend einen Kühlschrank 102 mit einer Türe 302 in einer symbolischen Schnittansicht. In Fig.3 ist die Türe 302 geschlossen. Ein Sensor 306 detektiert, ob die Türe 302 offen oder geschlossen ist. Bei Öffnen und/oder Schließen der Türe 302 übermittelt der Sensor 306 ein entsprechendes Signal an eine Verarbeitungseinheit 304. Die Verarbeitungseinheit 304 steuert dann eine Kamera 303 (CIF) an, so dass diese eine Aufnahme vom Innenraum des Kühlschranks 102 erstellt. Beispielhaft speichert die Verarbeitungseinheit 304 die Aufnahme in einem Speicher 307. Der Speicher 307 kann Teil der Verarbeitungseinheit 304 oder separat zu dieser ausgeführt sein.

Die Verarbeitungseinheit 304 kann beispielsweise eingerichtet sein, um mindestens ein Objekt 305 in der von der Kamera 303 gemachten Aufnahme zu erkennen. In Fig.3 sind beispielhaft eine Vielzahl von Objekten 305 dargestellt, die Gegenstände im Inneren des Kühlschranks, z.B. Waren oder Lebensmittel, sein können.

Beispielsweise ist es auch möglich, dass die Kamera 303 und die Verarbeitungseinheit 304 als eine Komponente ausgeführt sind. Insbesondere kann eine solche Komponente eine z.B. drahtlose Netzwerkverbindung aufweisen und die erstellten Aufnahmen direkt auf einem über das Internet angeschlossenen Speicher abspeichern. Ein solcher Speicher wird auch bezeichnet als "Cloud-Speicher".

In Fig.3 ist weiterhin beispielhaft eine Schnittstelle zwischen der Verarbeitungseinheit 304 und dem Smartphone 103 dargestellt. Hierbei sei erwähnt, dass die gestrichelten Linien in Fig.3 symbolisch eine Übertragung von Signalen oder Daten darstellen. Die Übertragung von Daten zu dem Smartphone 103 kann beispielsweise über eine Funkschnittstelle erfolgen, die zumindest teilweise das Internet nutzt. Hierzu kann die Verarbeitungseinheit 304 selbst eine drahtlose oder drahtgebundene Verbindung zum Internet aufweisen.

Das Smartphone 103 stellt ein anderes Beispiel für ein Anzeigegerät dar. Es umfasst eine Eingabemöglichkeit in Form einer (z.B. virtuellen) Tastatur 321 sowie einen Bildschirm 104. Tastatur 321 und Bildschirm 104 können kombiniert als Touchscreen ausgeführt sein.

Das Inhaltsbild kann zu unterschiedlichen Zeitpunkten von der CIF 303 aufgenommen werden, z.B. wenn die Türe 302 des Kühlschranks 102 geschlossen und/oder geöffnet wird. Auch kann zu vorgegebenen Zeitpunkten oder aber zu bestimmten Anlässen (z.B. infolge einer Abfrage) ein Inhaltsbild erstellt werden. Das Inhaltsbild kann auf unterschiedliche Arten gespeichert werden. Der Speicher kann in dem Kühlschrank 102, in einem Netzwerk oder aber in dem mobilen Endgerät 103 verortet sein. Auch kann das Inhaltsbild mehrfach gespeichert werden.

In einem beispielhaften Szenario verfügt der Kühlschrank 102 über eine Verbindung zu einem Netzwerk, z.B. dem Internet. Diese Verbindung kann drahtlos oder drahtgebunden ausgeführt sein. Das Smartphone 103 verfügt ebenfalls über eine Verbindung zu dem Netzwerk (vorzugsweise drahtlos). So können der Kühlschrank 102 und das Smartphone 103 direkt oder über das Netzwerk miteinander kommunizieren; beispielsweise kann so das Inhaltsbild dem Smartphone 103 bereitgestellt werden.

Handelt es sich bei der Aufnahme um eine Echtzeitaufnahme, die das Smartphone 103 von der Küchenzeile 101 erstellt, so kann der Kühlschrank zumindest teilweise durch das Inhaltsbild oder aber durch ein Objekt, das mit dem Inhaltsbild assoziiert ist, ersetzt werden. Abhängig von einer Ausrichtung und/oder Bewegung des Smartphones 103 kann ein unterschiedlicher Ausschnitt des Inhaltsbilds dargestellt werden oder es kann zwischen mehreren Inhaltsbildern (auch Ausschnitten mehrerer Inhaltsbilder) gewechselt werden. So kann erreicht werden, dass der Benutzer durch die Bewegung des Smartphone 103 den Inhalt des Kühlschranks 102 aus unterschiedlichen Blickwinkeln oder mit unterschiedlichen Vergrößerungen sieht. So kann insbesondere erreicht werden, dass der Benutzer im Inneren des Kühlschranks 102 navigiert. Optional kann die Navigation - neben der Bewegung des Smartphones selbst - auch (ggf. alternativ oder zusätzlich) mittels eines Eingabegeräts (z.B. eines virtuellen Joysticks oder eines Touchscreens) durchgeführt werden.

Bezugszeichenliste

101 Küchenzeile

102 Kühlschrank

103 Smartphone

104 Display

105 Kamera

106 erweiterte Realität

107 Inhaltsbild

302 Türe

303 Kamera (CIF)

304 Verarbeitungseinheit

305 Objekt

306 Sensor

307 Speicher

321 Tastatur