Login| Sign Up| Help| Contact|

Patent Searching and Data


Title:
TRAFFIC SITUATION-DEPENDENT CONTROL OF A VIRTUAL REALITY DEVICE
Document Type and Number:
WIPO Patent Application WO/2021/219414
Kind Code:
A1
Abstract:
The invention relates to a method for controlling a VR device, in particular VR goggles, of a user in a vehicle interior of a vehicle via a communication link, wherein vehicle data is received and evaluated or evaluated vehicle data is received via the communication link, at least one traffic event is classified based on the evaluated vehicle data, and wherein control commands for controlling the VR device are generated, by which the user of the VR device is alerted to a reaction of the vehicle to the traffic event, which is unpredictable to the user. The invention further relates to a vehicle arrangement.

Inventors:
WEIGAND CHRISTOPH (DE)
MAYER STEFAN (DE)
Application Number:
PCT/EP2021/060064
Publication Date:
November 04, 2021
Filing Date:
April 19, 2021
Export Citation:
Click for automatic bibliography generation   Help
Assignee:
AUDI AG (DE)
International Classes:
B60K35/00; G02B27/01; H04N21/414; H04N21/81
Domestic Patent References:
WO2020035380A12020-02-20
Foreign References:
US20170113702A12017-04-27
DE102013222580A12015-05-07
Download PDF:
Claims:
PATENTANSPRÜCHE:

Verfahren zum Steuern eines VR-Geräts (10), insbesondere einer VR- Brille, eines Benutzers (8) in einem Fahrzeuginnenraum (4) eines Fahrzeugs (2) über eine Kommunikationsverbindung (14), wobei über die Kommunikationsverbindung (14) Fahrzeugdaten empfangen und ausgewertet werden oder ausgewertete Fahrzeugdaten empfangen werden, und anhand der ausgewerteten Fahrzeugdaten mindestens ein Verkehrsereignis klassifiziert wird, dadurch gekennzeichnet, dass Steuerbefehle zum Steuern des VR-Geräts (10) erzeugt werden, durch welche der Benutzer (8) des VR-Geräts (10) auf eine für den Benutzer (8) unvorhersehbare Reaktion des Fahrzeugs (2) auf das Verkehrsereignis hingewiesen wird.

Verfahren nach Anspruch 1, wobei die Steuerbefehle zum Ausgeben einer Meldung in einer Anzeige des VR-Geräts (10), Aktivieren einer Transparenz des VR-Geräts (10), Ausgeben einer akustischen oder grafischen Benachrichtigung, zum Pausieren oder Beenden einer Applikation des VR-Geräts (10) und/oder zum Aufheben einer Geräuschunterdrückungsfunktion erzeugt werden.

Verfahren nach Anspruch 1 oder 2, wobei der Benutzer (8) des VR- Geräts (10) auf eine Reaktion des Fahrzeugs (2) auf das Verkehrsereignis in Form einer Aktivierung eines Notbremsassistenten, eines Ausweichmanövers des Fahrzeugs (2), einer Ankunft oder Annäherung an einen Zielort, einer ausgelösten Müdigkeitserkennung oder eines von einer Fahrzeugsensorik (16) erkannten Objekts hingewiesen wird.

Verfahren nach einem der Ansprüche 1 bis 3, wobei Steuerbefehle zum Steuern des VR-Geräts (10) erzeugt werden, welche einen Kommunikationsbedarf eines Fahrzeugpassagiers (6) mit dem Benutzer (8) des VR-Geräts (10) signalisieren.

5. Verfahren nach Anspruch 4, wobei der Kommunikationsbedarf des Fahrzeugpassagiers (6) mit dem Benutzer (8) des VR-Geräts (10) durch eine fahrzeugseitige Eingabe des Fahrzeugpassagiers (6) eingeleitet wird.

6. Verfahren nach einem der Ansprüche 1 bis 5, wobei die Steuerbefehle zum Steuern des VR-Geräts (10) durch ein fahrzeugseitiges Steuergerät (12) und/oder durch eine Prozessoreinheit (11) des VR- Geräts (10) erzeugt werden.

7. Verfahren nach Anspruch 6, wobei Fahrzeugdaten und/oder ausgewertete Fahrzeugdaten zwischen dem fahrzeugseitigen Steuergerät (12) und dem VR-Gerät (10) über eine als eine Bluetooth- Verbindung oder eine WLAN-Verbindung ausgestaltete Kommunikationsverbindung (14) übertragen werden.

8. Fahrzeuganordnung (1), aufweisend ein Fahrzeug (2) mit einem fahrzeugseitigen Steuergerät (12) und mindestens ein VR-Gerät (10), wobei die Fahrzeuganordnung (1) dazu eingerichtet ist, ein Verfahren gemäß einem der vorhergehenden Ansprüche auszuführen.

Description:
Verkehrssituations-abhängige Steuerung eines Virtual-Reality-Geräts

BESCHREIBUNG: Die Erfindung betrifft ein Verfahren zum Steuern eines VR-Geräts, insbesondere einer VR-Brille, eines Benutzers in einem Fahrzeuginnenraum eines Fahrzeugs über eine Kommunikationsverbindung sowie eine Fahrzeuganordnung. Es sind derzeit verschiedene theoretische Anwendungsmöglichkeiten für Virtual-Reality-Headsets bzw. VR-Geräte im Fahrzeugbereich bekannt, welche bislang in der Entwicklung sind. Beispielsweise sind Programmbibliotheken bekannt, die es Entwicklern von VR-Medienformaten erlauben, diese Inhalte auf die Fahrzeugbewegungen abzustimmen. Durch die Implementierung der Fahrzeugbewegung in die Ausgabe der VR- Medienformate kann eine intensivere Immersion des Benutzers des VR- Geräts realisiert werden. Des Weiteren kann die Einbeziehung der Fahrzeugbewegung in einer Minimierung der Neigung zu sogenannter Motion-Sickness resultieren.

Bei der Nutzung eines VR-Geräts im Fahrzeug ist der Benutzer von den Geschehnissen im und um das Fahrzeug abgeschirmt. Einerseits fördert dies das immersive Erlebnis, andererseits ist der Benutzer des VR-Geräts auch von bedeutenden Vorfällen im Fahrzeug abgekoppelt. Beispielsweise kann der Benutzer eine drohende Unfallsituation im Fahrzeug nicht direkt wahrnehmen bzw. sich auf die drohende Unfallsituation einstellen. Hierdurch kann der Benutzer des VR-Geräts erschreckt oder überrascht werden. Es ist die Aufgabe der vorliegenden Erfindung, ein Verfahren und eine Fahrzeuganordnung bereitzustellen, durch welche ein Benutzer eines Virtual- Reality-Geräts vor einem Erschrecken bzw. Überraschen geschützt wird.

Erfindungsgemäß wird diese Aufgabe durch ein Verfahren mit den Merkmalen des Anspruchs 1 und eine Fahrzeuganordnung mit den Merkmalen des Anspruchs 8 gelöst. Vorteilhafte Ausgestaltungen und Weiterbildungen ergeben sich aus den abhängigen Ansprüchen.

Das erfindungsgemäße Verfahren dient zum Steuern eines VR-Geräts, insbesondere einer VR-Brille, eines Benutzers in einem Fahrzeuginnenraum eines Fahrzeugs über eine Kommunikationsverbindung. Bei dem erfindungsgemäßen Verfahren werden über die Kommunikationsverbindung Fahrzeugdaten empfangen und ausgewertet oder bereits ausgewertete Fahrzeugdaten empfangen. Anhand der ausgewerteten Fahrzeugdaten wird mindestens ein Verkehrsereignis klassifiziert, wobei Steuerbefehle zum Steuern des VR-Geräts erzeugt werden, durch welche der Benutzer des VR- Geräts auf eine für den Benutzer unvorhersehbare Reaktion des Fahrzeugs auf das Verkehrsereignis hingewiesen wird.

Durch das Verfahren kann eine Weiterleitung spezifischer Informationen aus dem Fahrzeug an das VR-Gerät und eine Anzeige derselben umgesetzt werden. Dabei kann beispielsweise ein Datenkanal zwischen dem Fahrzeug und dem VR-Gerät verwendet werden, welcher zur Bewegungskompensation bei der Benutzung des VR-Geräts nutzbar ist. Der Datenkanal kann beispielsweise auf einer drahtlosen oder drahtgebundenen Kommunikationstechnologie, wie beispielsweise WLAN, Bluetooth, NFC, Funk, Infrarot, Ethernet, USB und dergleichen basieren.

Das VR-Gerät kann beispielsweise als ein Virtual-Reality-Fleadset ausgestaltet sein. Dabei kann eine Ausgabe von VR-Medieninhalten über mindestens ein in das Virtual-Reality-Fleadset integrierte Display oder über ein in das Virtual-Reality-Fleadset eingesetzte tragbare Gerät, wie beispielsweise ein Smartphone, erfolgen. Das VR-Gerät kann weiterhin Kopfhörer, Kamerasensoren, Mikrofone und dergleichen aufweisen, um die Immersion des Benutzers zu optimieren.

Die Kommunikationsverbindung kann vorzugsweise auf einem drahtlosen Übertragungsstandard, wie beispielsweise Bluetooth, basieren und zwischen einem fahrzeugseitigen Steuergerät und dem VR-Gerät ausgebildet sein. Durch die datenleitende Kopplung des VR-Geräts mit dem Fahrzeug kann dem Benutzer nach wie vor ein immersives VR-Erlebnis bereitgestellt werden. Durch das erfindungsgemäße Verfahren kann der Benutzer über besondere Vorkommnisse im und um das Fahrzeug informiert werden. Das VR-Gerät kann somit auf Verkehrsereignisse reagieren, um ein Erschrecken des Benutzers des VR-Geräts zu verhindern. Durch das Verfahren kann somit der Komfort bei der Benutzung von VR-Medieninhalten während einer Fahrt erhöht werden.

Das mindestens eine Verkehrsereignis kann auf Grundlage von Fahrzeugsignalen bzw. Fahrzeugdaten definiert bzw. klassifiziert werden. Die Fahrzeugdaten können auch mittelbar dem Benutzer des VR-Geräts im Fahrzeug bereitgestellt werden, um eine Verkehrssituations-abhängige Steuerung des VR-Geräts zu ermöglichen.

Es werden Verkehrsereignisse, wie beispielsweise drohende Auffahrunfälle oder erfolgreiche Fußgängererkennung, fahrzeugseitig durch Steuergeräte bereits registriert bevor eine Reaktion des Fahrzeugs erfolgt. Die entsprechenden Auswerteergebnisse können in Form von ausgewerteten Fahrzeugdaten oder direkt in Form von Steuerbefehlen an das VR-Gerät übermittelt werden. Somit können fahrzeugseitige Instanzen, welche auf die fahrzeugseitige Sensorik zugreifen, zum Steuern des VR-Geräts herangezogen werden. Alternativ oder zusätzlich kann eine Auswertung der Fahrzeugdaten durch das VR-Gerät erfolgen.

Gemäß einem Ausführungsbeispiel werden die Steuerbefehle zum Ausgeben einer Meldung in einer Anzeige des VR-Geräts, Aktivieren einer Transparenz des VR-Geräts, Ausgeben einer akustischen oder grafischen Benachrichtigung, zum Pausieren oder Beenden einer Applikation des VR- Geräts und/oder zum Aufheben einer Geräuschunterdrückungsfunktion erzeugt. Hierdurch kann eine Benachrichtigung des Benutzers des VR- Geräts generiert werden, welche ein Erschrecken des Benutzers verhindert.

Die Meldung in der Anzeige des VR-Geräts kann in Form einer Warnung oder eines Hinweises erfolgen. Dabei können akustische, haptische und/oder optische Meldungen bzw. Benachrichtigungen als Reaktionen auf die erzeugten Steuerbefehle durch das VR-Gerät ausgegeben werden.

Bei einer weiteren Ausführungsform wird der Benutzer des VR-Geräts auf eine Reaktion des Fahrzeugs auf das Verkehrsereignis in Form einer Aktivierung eines Notbremsassistenten, eines Ausweichmanövers des Fahrzeugs, einer Ankunft oder Annäherung an einen Zielort, einer ausgelösten Müdigkeitserkennung oder eines von einer Fahrzeugsensorik erkannten Objekts hingewiesen. Bei derartigen Verkehrsereignissen kann das Fahrzeug als Reaktion ein Bremsmanöver oder ein Ausweichmanöver einleiten, welches durch den Benutzer des VR-Geräts plötzlich und ohne Vorwarnung wahrgenommen wird. Durch das Verfahren kann im Vorfeld zu derartigen Reaktionen des Fahrzeugs der Benutzer des VR-Geräts berücksichtigt und benachrichtigt werden. Eine derartige Ansteuerung des VR-Geräts ermöglicht eine Vorwarnung bzw. eine Einstellung des Benutzers auf die bevorstehende Reaktion des Fahrzeugs, wodurch der Fahrkomfort für den Benutzer erhöht wird.

Wird der Fahrer durch eine Müdigkeitserkennung des Fahrzeugs als müde erkannt, kann der Benutzer des VR-Geräts direkt oder indirekt darauf hingewiesen werden, sodass er beispielsweise dazu beitragen kann, den Fahrer des Fahrzeugs wach und aktiv zu halten. Beispielsweise könnten dem Benutzer des VR-Geräts Medienangebote vorgeschlagen werden, die eine Kollaboration mit einem weiteren Nicht-VR-Nutzer, wie beispielsweise dem Fahrer oder einem weiteren Fahrzeugpassagier, erfordern. Ein derartiger VR-Medieninhalt kann beispielsweise als ein Quiz ausgestaltet sein. Der Benutzer des VR-Geräts kann vorzugsweise ein Fahrzeugpassagier sein, welcher auf einer Rücksitzbank oder einem Beifahrersitz im Fahrzeuginnenraum sitzt. Das Fahrzeug kann dabei automatisiert, teilautomatisiert oder manuell durch einen Fahrer gesteuert werden. Der Benutzer des VR-Geräts ist vorzugsweise von der Steuerung des Fahrzeugs ausgeschlossen.

Gemäß einem weiteren Ausführungsbeispiel werden Steuerbefehle zum Steuern des VR-Geräts erzeugt, welche einen Kommunikationsbedarf eines Fahrzeugpassagiers mit dem Benutzer des VR-Geräts signalisieren.

Bei einer weiteren Ausgestaltung wird der Kommunikationsbedarf des Fahrzeugpassagiers mit dem Benutzer des VR-Geräts durch eine fahrzeugseitige Eingabe des Fahrzeugpassagiers eingeleitet.

Bei einem Kommunikationsbedarf kann mindestens ein Fahrzeugpassagier eine Eingabe über eine Mediensteuerung des Fahrzeugs ausführen, um diesen Kommunikationsbedarf dezent dem Benutzer des VR-Geräts mitzuteilen. Dies kann beispielsweise in Form einer Aktivierung eines Buttons in einer grafischen Oberfläche der Mediensteuerung, durch Drücken einer Taste oder durch Nutzung eines sprachgestützten Fahrzeugassistenten umgesetzt werden.

Der Benutzer des VR-Geräts kann über die Kommunikationsverbindung eine Benachrichtigung erhalten. Die Benachrichtigung bzw. der Flinweis auf den Kommunikationsbedarf kann als Textnachricht im VR-Gerät eingeblendet, als Sprachnachricht über Kopfhörer wiedergegeben oder als eine Deaktivierung einer Geräuschunterdrückung der Kopfhörer signalisiert werden. Im Gegensatz zu einer direkten Kontaktaufnahme, beispielsweise durch Berühren, mit dem Benutzer des VR-Geräts kann ein Erschrecken des Benutzer des VR-Geräts durch die indirekte Kommunikation über die Kommunikationsverbindung mit dem Fahrzeug verhindert werden. Gemäß einem weiteren Ausführungsbeispiel werden die Steuerbefehle zum Steuern des VR-Geräts durch ein fahrzeugseitiges Steuergerät und/oder durch eine Prozessoreinheit des VR-Geräts erzeugt. Durch diese Maßnahme können die Berechnung der Steuerbefehle und die Klassifizierung des mindestens einen Verkehrsereignisses fahrzeugseitig oder durch das VR- Gerät erfolgen. Insbesondere können bereits vom Fahrzeug durchgeführte Berechnungen, Warnungen und Rechenergebnisse vom VR-Gerät genutzt werden, um den Leistungsbedarf des VR-Geräts zu verringern und die Batterielaufzeit des VR-Geräts zu erhöhen.

Nach einer weiteren Ausführungsform werden Fahrzeugdaten und/oder ausgewertete Fahrzeugdaten zwischen dem fahrzeugseitigen Steuergerät und dem VR-Gerät über eine als eine Bluetooth-Verbindung oder eine WLAN-Verbindung ausgestaltete Kommunikationsverbindung übertragen. Durch diese Maßnahme kann eine Kommunikationsverbindung basierend auf unterschiedlichen drahtlosen Übertragungsstandards ausgebildet werden, welche eine Übertragung von Fahrzeugdaten für fahrdynamikabhängige VR-Erlebnisse ermöglicht.

Die Kommunikationsverbindung kann vorzugsweise als ein bidirektionaler Datenkanal zwischen dem Fahrzeug bzw. dem fahrzeugseitigen Steuergerät und dem VR-Gerät realisiert sein. Die entsprechende Kommunikationsverbindung kann auf einer oder mehreren fahrzeuginternen oder fahrzeugexternen Übertragungstechnologien, wie beispielsweise Bluetooth, WLAN, LTE, 5G und dergleichen, basieren.

Die erfindungsgemäße Fahrzeuganordnung weist ein Fahrzeug mit einem fahrzeugseitigen Steuergerät und mindestens ein VR-Gerät auf. Die Fahrzeuganordnung ist dazu eingerichtet, das erfindungsgemäße Verfahren auszuführen.

Die Fahrzeuganordnung ermöglicht die Nutzung von VR-Geräten, wie beispielsweise VR-Brillen oder VR-Headsets, auf einem Rücksitz oder einem Beifahrersitz des Fahrzeugs, unabhängig davon, ob die Fahrt automatisiert oder manuell gesteuert ist. Dabei kann der Benutzer des VR-Geräts auf eine für den Benutzer unvorhersehbare Reaktion des Fahrzeugs auf ein Verkehrsereignis hingewiesen werden, um ein Erschrecken oder ein Überraschen des Benutzers zu vermeiden und den Fahrkomfort für den Benutzer zu erhöhen.

Die Erfindung ist anhand von Ausführungsformen in den Zeichnungen schematisch dargestellt und wird unter Bezugnahme auf die Zeichnungen weiter beschrieben. Es zeigt:

Figur 1 eine Fahrzeuganordnung gemäß einem erfindungsgemäßen Ausführungsbeispiel.

Figur 1 zeigt eine Fahrzeuganordnung 1 gemäß einem erfindungsgemäßen Ausführungsbeispiel. Die Fahrzeuganordnung 1 weist ein Fahrzeug 2 auf, welches als ein automatisiert betreibbares oder als ein manuell gesteuertes Fahrzeug ausgestaltet sein kann. In einem Fahrzeuginnenraum 4 des Fahrzeugs 2 befinden sich beispielhaft zwei Fahrzeugpassagiere 6, 8.

Ein erster Fahrzeugpassagier ist ein Fahrer des Fahrzeugs 2. Ein zweiter Fahrzeugpassagier 8 trägt ein Virtual-Reality-Fleadset bzw. ein VR-Gerät 10. Der zweite Fahrzeugpassagier 8 ist somit ein Benutzer 8 des VR-Geräts 10. Der erste Fahrzeugpassagier 6 ist ein sogenannter Nicht-VR-Nutzer.

Zwischen einem fahrzeugseitigen Steuergerät 12 und dem VR-Gerät 10 ist eine datenleitende Kommunikationsverbindung 14 hergestellt, welche beispielsweise auf einem Bluetooth Übertragungsstandard basiert. Über die Kommunikationsverbindung 14 können Fahrzeugdaten empfangen und ausgewertet werden oder ausgewertete Fahrzeugdaten empfangen werden. Die Fahrzeugdaten können beispielsweise von einer Fahrzeugsensorik 16 ermittelt oder empfangen werden. Zusätzlich können Informationen einer Routenführung in Form von Fahrzeugdaten berücksichtigt werden. Die Fahrzeugsensorik 16 kann beispielsweise Kamerasensoren, LIDAR- Sensoren, Radarsensoren und dergleichen aufweisen.

Anhand der ausgewerteten Fahrzeugdaten kann durch das fahrzeugseitige Steuergerät 12 oder von einer Prozessoreinheit 11 des VR-Geräts 10 eine Klassifizierung einer Verkehrssituation bzw. eines Verkehrsereignisses durchgeführt werden. Basierend auf dem Verkehrsereignis kann eine Reaktion des Fahrzeugs 2 auf das Verkehrsereignis abgeschätzt werden.

Als mögliche Verkehrsereignisse können beispielsweise kritischen Fahrsituationen klassifiziert werden. Bei kritischen Fahrsituationen wird ein Sicherheitsabstand des Fahrzeugs 2 unterschritten, sodass ein Ausweichmanöver oder ein Notbremsmanöver eingeleitet wird. Derartige Fahrmanöver können automatisiert durch das fahrzeugseitige Steuergerät 12 bzw. durch eine Notbremsassistenzfunktion oder durch den Fahrer 6 eingeleitet werden. Die entsprechende Fahrsituation kann oftmals bereits im Vorfeld anhand der Fahrzeugsensorik 16 festgestellt werden.

Nach einer Klassifizierung des Verkehrsereignisses werden Steuerbefehle zum Steuern des VR-Geräts 10 erzeugt, um den Benutzer 8 des VR- Geräts 10 auf eine für den Benutzer 8 unvorhersehbare Reaktion des Fahrzeugs 2 bzw. des Fahrers 6 auf das Verkehrsereignis hinzuweisen und ein Erschrecken des Benutzers 8 zu vermeiden. Flierzu kann eine Einblendung einer Warnmeldung in der VR-Anzeige des VR-Geräts 10 durch die erzeugten Steuerbefehle veranlasst werden.

Je nach Ausgestaltung des VR-Geräts 10 kann eine See-Through-Funktion durch die erzeugten Steuerbefehle aktiviert werden. Zur Positionierung des VR-Geräts 10 im Raum weisen manche VR-Geräte 10 Kamerasysteme auf, mit welchen die Umgebung erfasst und ausgewertet wird. Eine See-Through- Funktion blendet anstelle der VR-Anzeige den Videostrom eines solchen Kamerasystems ein, um dem Benutzer 8 eine Sicht hinter das VR-Gerät 10 zu ermöglichen. Die See-Through-Funktion kann somit Verkehrssituations- getrieben aktiviert und deaktiviert werden, um den Benutzer 8 auf eventuelle Reaktionen des Fahrzeugs 2 vorzubereiten.

Bei einem weiteren beispielhaften Verkehrsereignis kann das Fahrzeug 2 einen Zielort erreichen. Dies kann basierend auf Fahrzeugdaten in Form von Navigationsdaten registriert werden. Bei einer Annäherung an den Zielort kann eine Einblendung eines entsprechenden Flinweises in dem VR- Gerät 10 erfolgen, damit der Benutzer 8 sich auf ein Ende der VR-Nutzung vorbereiten kann.

BEZUGSZEICHENLISTE:

Fahrzeuganordnung

Fahrzeug

Fahrzeuginnenraum erster Fahrzeugpassagier / Fahrer zweiter Fahrzeugpassagier / Benutzer des VR-Geräts

VR-Gerät / Virtual-Reality-Headset

Prozessoreinheit des VR-Geräts fahrzeugseitiges Steuergerät

Kommunikationsverbindung

Fahrzeugsensorik