KOMPRESSION UND DEKOMPRESSION VON REFERENZBILDERN IN

EINEM VIDEOKODER

Die Erfindung betrifft Verfahren und Vorrichtungen zum reitstellen eines rekonstruierten Bildes.

In den vergangenen Jahren wurden zu codierende Bildformate, beispielsweise durch Einführung von neuartigen Aufnahmesyste- men immer größer. So findet unter anderem derzeit eine Um ^¬ stellung von einem in den letzten 50 Jahren in Europa verwen ^¬ deten Fernsehübertragungssystem PAL (Phase Alternation Line Verfahren) mit einer Vollbildgröße von 625 x 576 Bildpunkten zu einem HDTV (High Definition Television) mit 1920 x 1080

Bildpunkten bzw. 1280 x 720 Bildpunkten statt. Es ist zu er ^¬ warten, dass in Zukunft noch größere Bildformate in neuarti ^¬ gen Fernsehsystemen eingeführt werden.

HDTV und zukünftige Systeme verwenden digitale Kompressions ^¬ verfahren, um eine Folge von Videobildern derart zu kompri ^¬ mieren, dass diese beispielsweise über das Internet oder über Mobilfunkkanäle übertragbar sind. Durch die Vergrößerung der Bildformate nehmen jedoch eine zur Komprimierung der Folge von Videodaten benötigte Rechenleistung und der hierbei benö ^¬ tigte Speicherbedarf erheblich zu. Eine Folge hiervon ist, dass auch ein Datentransfer zwischen Speicher und Rechenein ^¬ heiten, die die Kompressionsverfahren realisieren, erheblich ansteigt .

Daher arbeiten Arbeitsgruppen, wie beispielsweise die Joint Colloborative Team on Video Coding (JCT-VC), eine gemeinsame Arbeitsgruppe der ITU und der ISO/IEC (ITU - International Telecommunication Union, ISO - International Standardization Organisation, IEC - International Electrotechnical Commissi- on) nicht nur an einer Verbesserung der Kompressionsrate, sondern auch an standardisierten Methoden, um Videobilder in Referenzbildspeichern der jeweiligen Codecs effizient ablegen und in ressourcenschonender Weise zugreifen zu können.

Figur 1 zeigt eine bekannte Vorrichtung zur Komprimierung ei- ner Sequenz von Bildern mit einem Referenzbildspeicher SRB. Hierbei werden Bilder bspw. mittels einer prädiktiven Kodie ^¬ rung, auch als INTER-Kodiermodus bekannt, kodiert. Eines der Bilder wird in Bildblöcke BB, beispielsweise mit 16 x 16 Bildpunkten, zerlegt und anschließend bildblockweise codiert. Dann wird für einen der Bildblöcke ein Referenzbildblock RBB in einem Referenzbild REF gesucht, der eine gute Grundlage für eine Schätzung eines Bildinhaltes des Bildblocks gewähr ^¬ leistet. Hierzu wird der Bildblock einer Bewegungsschätzein ^¬ heit ME übergeben, die anhand eines Referenzteilbildes REFT, das Teile des Referenzbildes REF nach einer Bilddekompression durch eine Bilddekompressionseinheit PC umfasst, den Refe ^¬ renzbildblock aus dem Referenzteilbild auswählt und den aus ^¬ gewählten Referenzbildblock mittels eines Bewegungsvektors MV an eine Bewegungskompensationseinheit MC signalisiert. Die Bewegungskompensationseinheit stellt den Referenzbildblock auf Basis des Referenzbildes und des Bewegungsvektors bereit.

In einem nächsten Schritt wird ein Differenzbildblock BD durch Subtraktion des Referenzbildblocks RBB von dem Bild- block BB erzeugt. Der Differenzbildblock wird im Folgenden einer Transformation in einer Transformationseinheit T, bei ^¬ spielsweise nach einem diskreten Cosinustransformationsverfahren, unterzogen. Am Ausgang der Transformationseinheit stehen Transformationskoeffizienten TK zur Verfügung, die nachfolgend zur Quantisierung einer Quantisierungseinheit Q zugeführt werden. Am Ausgang der Quantisierungseinheit stehen quantisierte Transformationskoeffizienten TQ zur Verfügung, die durch eine Entropiekodierung, durchgeführt durch eine Entropie-Codiereinheit EC, in ein Ausgangssignal AS überführt werden.

In einer Rückkoppelschleife werden die quantisierten Trans ^¬ formationskoeffizienten TQ mittels einer inversen Quantisie- „

rung durch eine inverse Quantisierungseinheit IQ in rekon ^¬ struierte Transformationskoeffizienten TKR überführt. Diese rekonstruierten Transformationskoeffizienten TKR werden durch inverse Transformation einer inversen Transformationseinheit IT in einen rekonstruierten Differenzbildblock BDR transformiert. In einem weiteren Schritt wird ein rekonstruierter Bildblock RBM durch Addition des rekonstruierten Differenzbildblocks BDR und des Referenzbildblocks RBB generiert.

In älteren Codierverfahren wird der rekonstruierte Bildblock direkt in den Referenzbildspeicher geschrieben. In aktuell in der Standardisierung befindlichen Verfahren wird zur Redukti ^¬ on eines Datenvolumens der rekonstruierte Bildblock zunächst noch einer Bildkompression durch eine Bildkompressionseinheit PC unterzogen, die ein Datenvolumen des rekonstruierten Bild ^¬ blocks deutlich reduziert. Ein durch die Bildkompressionsein ^¬ heit PC entstandener komprimierter rekonstruierter Bildblock RBC wird nachfolgend in dem Referenzbildspeicher abgelegt. Um der Bewegungsschätzeinheit und der Bewegungskompensationsein- heit einen Zugriff auf die benötigten Bilddaten zu gewähren, wird bei Anforderung eines Referenzbildes REF bzw. eines spe ^¬ zifischen Bildausschnitts des Referenzbildes zunächst der je ^¬ weilige komprimierte rekonstruierte Bildblock aus dem Refe ^¬ renzbildspeicher SRB ausgelesen und mittels einer Bilddekom- pression durch eine Bilddekompressionseinheit PD in einen Re ^¬ ferenzteilbild REFT überführt.

Figur 2 zeigt einen zum in Figur 1 gezeigten Encoder korres ^¬ pondierenden Decoder. Hierbei wird das Ausgangssignal AS mit- tels einer Entropiedecodiereinheit ED in quantisierte Trans ^¬ formationskoeffizienten TQ decodiert. Ferner werden die quan- tisierten Transformationskoeffizienten mittels der inversen Transformationseinheit IQ in rekonstruierte Transformations ^¬ koeffizienten TKR invers quantisiert. Hieran schließt sich eine inverse Transformation der rekonstruierten Transformati ^¬ onskoeffizienten TKR in einen rekonstruierten Differenzbild ^¬ block BDR durch die inverse Informationseinheit IT an. Neben dem Ausgangssignal wird dem Decoder unter anderem auch der jeweilige Bewegungsvektor MV übermittelt. Hieraus kann der Decoder unter Verwendung des Referenzteilbildes REFT durch die Bewegungs-Kompensationseinheit MC den Referenzbild ^¬ block RBB ermitteln, der durch Addition mit dem rekonstruier ^¬ ten Differenzbildblock in den rekonstruierten Bildblock RBM überführt wird.

Der rekonstruierte Bildblock RBM kann beispielsweise an einem Display wiedergegeben werden. Der rekonstruierte Bildblock RBM wird nachfolgend mittels einer Kompression durch die Bildkompressionseinheit PC in den komprimierten rekonstruier ^¬ ten Bildblock RBC überführt, der anschließend in dem Refe ^¬ renzbildspeicher SRB abgelegt wird. Die in dem Referenzbild ^¬ speicher abgelegten komprimierten rekonstruierten Bildblöcke können durch die Bilddekompressionseinheit PD in das Refe ^¬ renzteilbild dekomprimiert werden.

Dokument [1] beschreibt ein verlustloses Bildkompressionsver- fahren/Bilddekompressionsverfahren, bei dem nach einer Floa ^¬ ting Point DCT-Transformation (DCT - Discrete Cosinus Trans ^¬ formation) und einem Scanning von, nach der Transformation zweidimensional angeordnete, Koeffizienten in einer eindimen ^¬ sionalen Darstellung eine Bitebenencodierung durchgeführt wird .

In einem Verfahren gemäß Dokument [2] wird eine Speicher ^¬ zugriffsbandbreitenreduktiontechnik vorgeschlagen. Hierbei werden neben einer Transformation und einer Quantisierung auch eine DC Prädiktion und eine Entropiecodierung für die Bildkompressionseinheit PC bzw. inversen Schritt dazu für die Bilddekompressionseinheit PD vorgeschlagen.

In einem weiteren Dokument [3] werden Testergebnisse bei ei ^¬ ner Kompression bzw. Dekompression von Bilddaten vor und nach einem Deblockingbildspeicher vorgestellt. Schließlich wird in einem Dokument [4] eine eindimensionale DPCM basierte Bildspeicherkompressionsmethode (DPCM - Diffe ^¬ rential Pulscode Modulation) vorgestellt.

Zumindest die in den Dokumenten [1] und [4] vorgeschlagenen Kompressionsmethoden sind verlustfrei.

Es besteht die Aufgabe Verfahren und Vorrichtungen anzugeben, mit denen eine resourceneffiziente Implementierung zur Kompression/ Dekompression von rekonstruierten Bildblöcken für eine Bildencodiervorrichtung und/oder Bilddecodiervorrichtung ermöglicht wird.

Die Aufgabe wird durch die unabhängigen Ansprüche gelöst. Weiterbildungen der Erfindung sind den abhängigen Ansprüchen zu entnehmen.

Die Erfindung betrifft ein Verfahren zum Speichern zumindest eines Bildbereichs eines rekonstruierten Bildes, das durch eine Bildencodiervorrichtung oder durch eine Bilddecodiervorrichtung generiert wird, und zum Bereitstellen des zumindest einen Bildbereichs als Referenzbild für die Bildencodiervor ^¬ richtung oder Bilddecodiervorrichtung, mit folgenden Schritten :

a) Komprimieren des zumindest einen Bildbereichs in kompri ^¬ mierte Daten auf Basis einer ersten Vorschrift;

b) Speichern der komprimierten Daten;

c) Dekomprimieren der komprimierten Daten (KDAT) in den zumindest einen Bildbereich (BR) auf Basis einer zweiten Vorschrift (V2) ;

dadurch gekennzeichnet, dass

d) die erste Vorschrift (VI) auf Basis einer dritten Vor ^¬ schrift (V3), wobei die dritte Vorschrift (V3) einen Ko ^¬ diermodus (Ml) der Bildencodiervorrichtung (ENC) definiert, gebildet wird,

e) die zweite Vorschrift (V2) dadurch gebildet wird, dass die zweite Vorschrift (V2) als eine zur dritten Vorschrift (V3) inverse dritte Vorschrift (V3I) gewählt wird. Die Erfindung ermöglicht ein speichereffizientes Ablegen von Referenzbildern, die im Rahmen einer Codierung durch die Bildencodiervorrichtung bzw. einer Decodierung durch die Bildde- codiervorrichtung benötigt werden. Von Vorteil ist, dass das Komprimieren der rekonstruierten Bilder, d.h. der Referenzbilder, auf Basis eines der Kodiermodi der Bildencodiervor ^¬ richtung erfolgt. Hierdurch kann unter anderem eine implizite Vorschrift zur Erstellung der ersten bzw. zweiten Vorschrift zum Komprimieren bzw. Dekomprimieren erreicht werden. Ferner folgt eine Kodierentscheidung der Bildencodiervorrichtung zur Kodierung eines Bildblocks oftmals einer Rate-Distortion Op ^¬ timierung, die eine Bildqualität bei minimalem Speicherauf ^¬ wand optimiert. Dieser optimale Kodiermodus bildet dann die Basis zur Kompression des Bildbereichs des rekonstruierten Bildes, wodurch auch eine hohe Kompressionsrate erzielbar ist. Zudem unterstützen eine Vielzahl von auf dem Markt verfügbare Geräte eine Hardwareunterstützung zur Verarbeitung von zumindest Teilschritten, die in der Bildencodiervorrichtung bzw. Bilddecodiervorrichtung durchgeführt werden. Somit kann auch die Kompression bzw. Dekompression des Referenzbil ^¬ des diese Hardwareunterstützung einsetzen.

In heute standardisierten Bildencodiervorrichtungen und Bild- decodiervorrichtungen werden oftmals vor Speicherung der rekonstruierten Bilder diese einem Deblocking-Filter und/oder weiteren Filteroperationen, wie bspw. einem Wiener-Filter, unterzogen. In einer Weiterbildung der Erfindung werden bei Verwendung der Erfindung diese Schritte erst nach der Dekompression durchgeführt. Hierdurch wird eine Nutzung von für den jeweiligen Bildbereich des rekonstruierten Bildes zur Verfügung stehenden Kodiermodi, transformierte oder quanti- sierte Koeffizienten durch die Kompression zur Erzeilung einer verbesserten Kompressionsrate ermöglicht.

Vorzugsweise werden die komprimierten Daten zusammen mit einem Index in dem Referenzbildspeicher abgelegt werden, wobei der Index eine Kennung zur eindeutigen Identifikation der ersten Vorschrift oder der zweiten Vorschrift umfasst. Hierdurch lassen sich auch Modi zum Komprimieren bzw. Dekomprimieren einsetzen, die nicht implizit bestimmbar sind und ge ^¬ genüber implizit bestimmbaren Modi eine bessere Kompressions ^¬ rate erzielen.

In einer Weiterbildung der Erfindung werden die kodierten Daten gemäß einer Syntax zur Erzeugung eines Ausgangsdatenstroms, der (i) durch die Bildencodiervorrichtung erzeugt und/oder (ii) durch die Bilddecodiervorrichtung empfangen wird, gespeichert. Hierdurch erhält die Bilddecodiervorrichtung Informationen, in welcher Art und Weise die Bildenco ^¬ diervorrichtung einzelne Bildbereiche des rekonstruierten Bildes, möglicherweise nicht verlustfrei, komprimiert und de ^¬ komprimiert hat. Hiermit lässt sich eine Drift zwischen Bil ^¬ dencodiervorrichtung und Bilddecodiervorrichtung vermeiden.

In einer vorteilhaften Weiterbildung werden mehrere Bildbereiche des rekonstruierten Bildes zu einer Bildregion zusam- menfasst und als unabhängig dekomprimierbar von anderen Bildregionen desselben rekonstruierten Bildes gespeichert. Hierdurch wird erreicht, dass auf die Bildregionen eines rekon ^¬ struierten Bildes unabhängig von anderen Bildregionen desselben rekonstruierten Bildes Zugriffen werden kann. Hierdurch wird ein Rechenaufwand zur Dekompression und eine Zugriffs ^¬ zeit auf Bildinhalte einer Bildregion reduziert, da außer der angefragten Bildregion keine Bildinhalte anderer Bildregionen dekomprimiert werden muss.

Vorteilhafterweise werden die jeweiligen Bildbereiche der Bildregion entweder gemäß einer einzigen ersten Vorschrift oder gemäß einer Abfolge von jeweiligen ersten Vorschriften komprimiert. Hierdurch wird ein Signalisierungsaufwand und somit ein Speicheraufwand reduziert, da nicht für jeden Bild ^¬ bereich eine individuelle erste bzw. zweite Vorschrift in dem Referenzbildspeicher abgelegt werden muss. In vorteilhafter Weise werden zumindest einige der Bildberei ^¬ che der Bildregion durch einen INTRA-Prädiktionsmodus kompri ^¬ miert, wobei erste Bildpunkte, die zur Rekonstruktion zumin ^¬ dest eines Bildpunkts der Bildregion erforderlich sind und lediglich durch eine andere Bildregion als die Bildregion ermittelbar sind, zusätzlich zu den komprimierten Daten (der Bildregion gespeichert werden. Eine Verwendung des INTRA- Prädiktionsmodus kann in einfacher Weise durchgeführt werden.

Werden die ersten Bildpunkte gemäß einer vorgebaren Vor ^¬ schrift komprimiert, insbesondere gemäß einer Delta- Kodierung, und gespeichert, so wird ein Speicherungplatz zum Speichern des Bildbereichs komprimiert mittels des INTRA- Prädiktionmodus weiter reduziert.

In einer vorteilhaften Weiterbildung der Erfindung wird zumindest einer der Bildbereiche der Bildregion anstelle durch den INTRA-Prädiktionsmodus durch einen INTRA-Kodiermodus komprimiert. Hier lassen sich auch Bildbereiche, die schlecht prädizierbar sind, bspw. aufgrund von Bildrauschen oder starker Bewegung, effizient komprimieren.

Vorteilhafterweise wird aus einer Anzahl an Modi, gebildet (i) durch zumindest zwei unterschiedliche INTRA- Prädiktionsmodi oder (ii) durch zumindest einen INTRA- Prädiktionsmodus und dem INTRA-Kodiermodus, derjenige Modus ausgewählt, der für den zu komprimierenden Bildbereich einen geringsten Speicherplatzbedarf hat. Durch diese Optimierung wird erreicht, dass das rekonstruierte Bild in einer guten Qualität dekomprimierbar ist und gleichzeitig mit einer hohen Kompressionsrate komprimierbar ist.

Wird vorzugsweise bei einer INTRA-Prädiktion ein zur INTRA- Prädiktion verwendeter Quantisierungsparameter gespeichert, so kann eine hochqualitative Dekompression gewährleistet werden . In einer Weiterbildung der Erfindung werden zumindest zwei rekonstruierte Bilder gespeichert, wobei ein erstes der zu ^¬ mindest zwei rekonstruierten Bilder mittels eines INTRA- Prädiktionsmodus und/oder INTRA-Kodiermodus und ein zeitlich dem ersten rekonstruierten Bild nachfolgendes zweites der zu ^¬ mindest zwei rekonstruierten Bilder mittels eines INTER- Kodiermodus, dessen Bewegungsvektoren auf das erste rekonstruierte Bild verweisen, komprimiert werden. Hierdurch kann gegenüber der reinen INTRA-Prädiktion eine Steigerung der Kompressionsrate erzielt werden.

Vorzugsweise wird die erste Vorschrift auf Basis der dritten Vorschrift durch eine der folgenden Schritte erzeugt:

- Falls die dritte Vorschrift einen INTRA-Kodiermodus be- schreibt, so wird die erste Vorschrift durch den dersel ^¬ ben INTRA-Kodiermodus gebildet;

- Falls die dritte Vorschrift einen Kodiermodus be ^¬ schreibt, bei dem (i) ein zu kodierender Makroblock / Bildblock durch ein „skip" Signal, d.h. ohne Bewegungs- vektor, und (ii) das Referenzbild des zu kodierenden

Makro-/Bildblocks mittels eines INTRA-Kodiermodus ko ^¬ diert sind, dann wird für die erste Vorschrift derjenige INTRA-Kodiermodus gewählt, der für die Kodierung des Re ^¬ ferenzbilds verwendet wird;

- Falls die dritte Vorschrift für den Bildblock

/Makroblock einen INTER-Kodiermodus mit zugehörigen Be ^¬ wegungsvektoren verwendet, dann wird die erste Vor ^¬ schrift identisch zu der dritten Vorschrift gewählt, wo ^¬ bei Bewegungsvektor für den INTER-Kodiermodus sowohl der dritten Vorschrift als auch der ersten Vorschrift iden ^¬ tisch gewählt wird.

Durch Anwendung einer dieser Vorschriften kann eine implizite Signalisierung der zur Kompression bzw. Dekompression verwen- deten ersten bzw. zweiten Vorschrift erreicht werden. Zudem lassen sich bereits optimierte Kodiermodi zur Kompression wieder verwenden, wodurch Rechenaufwand zur Ermittlung einer optimalen ersten Vorschrift vermieden werden kann. In einer vorteilhaften Weiterbildung des erfindungsgemäßen Verfahrens wird nach einem der vorangehenden Ausführungen, bei dem zum Synchronisieren des Verfahrens in der Bildenco ^¬ diervorrichtung und in der Bilddekodiervorrichtung eine Sig ^¬ nalisierung zumindest einer der folgenden Parameter zwischen Bildencodiervorrichtung und Bilddekodiervorrichtung durchge ^¬ führt wird:

- der Index für den Bildbereich des rekonstruierten Bildes oder für eine Bildregion des rekonstruierten Bildes, wobei der Index eine Kennung zur eindeutigen Identifikation der ersten Vorschrift oder der zweiten Vorschrift umfasst;

- ein Quantisierungsfaktor, der bei einem INTRA- Prädiktionsmodus oder INTRA-Kodiermodus zur Komprimierung zumindest einer der Bildbereiche eingesetzt wird.

Hierdurch kann eine Kompressionsrate erhöht werden, da die Kompression nicht nur auf implizit signalisierbare erste Vor ^¬ schriften durchgeführt werden muss. Somit steht eine größere Auswahl an dritten Vorschriften zur Auswahl, die durch die erste Vorschrift berücksichtigt werden können.

Neben den genannten Vorschriften können die erste und die zweite Vorschrift gemäß zumindest einer der folgenden Vorge ^¬ hensweisen bestimmt werden: a) Einsatz von verschiedenen Kompressionsverfahren ausgeführt durch die Bildkompressionseinheit bzw. Bilddekompressionsein- heit :

- explizite Signalisierung des verwendeten Kompressionsver ^¬ fahrens im Ausgangssignal;

- Zuordnung von Kompressionsverfahren jeweils zu Profilen und Profilen/Level, die zur Kodierung eines Bildblocks von der Bildencodiervorrichtung bzw. Bildbecodiervorrichtung ver ^¬ wendet werden;

Parameter, die das Kompressionsverfahren beschreiben:

Zuordnung von Parametersets zu Profil / Levelkombinationen - Signalisierung / Übertragung von Parametern inband oder als separater Parameterset;

- Parameterreduktion auf Basis von verfügbaren Daten, z.B. vorhergehendes Bild, aktuell verwendeter Quantisierungspa- rameter ; c) Möglichkeiten zur Reduktion der Parameter auf Basis von verfügbaren Daten:

- mitgeführte Statistik

- für einen Bildteil, der INTRA kodiert ist:

o) Übernahme des aktuellen Kodiermodus, oder

o) Änderung des Modus in eine jeweiligen oder sehr ähnli ^¬ chen INTRA Kompressionsmodus;

o) Herleiten der Prädiktionsrichtung (zu verwenden durch anderen Modus der Kompression)

- Herleiten der Parameter durch einen anderen Kodierschritt, insbesondere von der Quantisierung (Quantisierungsschritt ^¬ weite oder Quantisierungsparameter) , Transformationsopera ^¬ tionen und Filteroperationen.

Die Herleitung kann eine Konvertierung des Zahlenraums, spe- zielles Runden von berechneten Werten, aber auch Formeln zum direkten Berechnen der Parameter, umfassen.

Falls eine Parameterherleitung nicht auf bereits auf Decoder ^¬ seite verfügbaren Daten basiert, dann ist Folgendes möglich:

- Ermittlung von Statistiken des zu komprimierenden Bildes

- Verwendung anderer Seiteninformation, z.B. Sensorinformati ^¬ onen

- Multipath-Encodierung (Mehr-Pfad Encodierung) - Optimierung der Parameter durch Berücksichtigung von mehreren Bildern oder einer vollständigen Sequenz (auch qualifiziert für Auswahl einer Kompressionsmethode) ;

- Erkennen von Szenenschnitten, bspw. ein Bild muss nicht komprimiert werden, da es nicht als Referenzbild eingesetzt wird; Verwendung von speziell verfügbaren Parametern für long term-reference Bilder (=Langzeit-Referenzbilber ) , bspw. ne sehr hohe Qualität, könnte verlustlos sein;

Bedingungen :

- Datenrateneinschränkungen des Übertragungskanals lassen eine Verwendung von gröberen Parametern zu;

- Qualitätsgrenzen auf Bildebene erfordern statistisch basierte Ansätze, weil die Verarbeitung blockweise durchge ^¬ führt wird;

- Qualitätsgrenzen auf Blockebene könnten sich direkt auf die Qualität eines zu komprimierenden Blocks beziehen;

- minimale Qualität zum Erreichen, maximale Anzahl an Daten generiert und interner Datenbusdurchsatz als potentielle Grenze für Parameterherleitung und Prozessauswahl;

Die Verwendung der Kompression für Referenzinformation resultiert in verschiedenen Speicher-Footprints (=Speichermuster oder Speicheranforderungen) für jedes Referenzbild. Dies er- gibt sich im Besonderen durch die Verwendung von verschiedenen Kompressionsprozessen und durch die Herleitung der Para ^¬ meter für den Kompressionsprozess in einer dynamischen Art und Weise.

- Speicherorganisation (beispielsweise Aufteilung von Bildda- ten in Teilbereiche = einer bestimmten Größe) ermittelt

Speicherausnutzung und hierdurch die Anzahl an Referenzbilder;

- Zuordnung einer Speicherverwaltung in Bezug auf Parameter zu Profil/Level-Kombinationen, z.B. Teilbereichsgröße.

Der Vorteil dieser Vorgehensweisen: Signalisierung und/oder Herleitung der Parameter wird zur Steuerung eines gleichen Verhaltens des Komprimierungsprozesses von Referenzinformati ^¬ on in Encoder und Decoder optimiert für nachfolgende Prozess- schritte, Speichergrößen und internen Datenbusdurchsatz sowie für Bildqualitätsanforderungen benötigt. Die Erfindung betrifft auch eine Vorrichtung zum Speichern zumindest eines Bildbereichs eines rekonstruierten Bildes, das durch eine Bildencodiervorrichtung oder durch eine Bild- decodiervorrichtung generiert ist, und zum Bereitstellen des zumindest einen Bildbereichs als Referenzbild für die Bilden codiervorrichtung oder Bilddecodiervorrichtung, mit folgende Einheiten :

a) Bildkompressionseinheit zum Komprimieren des zumindest ei nen Bildbereichs in komprimierte Daten auf Basis einer ersten Vorschrift;

b) Speichereinheit zum Ablegen der komprimierten Daten zusam ^¬ men;

c) Bilddekompressionseinheit zum Dekomprimieren der komprimierten Daten in den zumindest einen Bildbereich auf Basi einer zweiten Vorschrift;

dadurch gekennzeichnet, dass

d) die erste Vorschrift auf Basis einer dritten Vorschrift, wobei die dritte Vorschrift einen Kodiermodus der Bilden ^¬ codiervorrichtung definiert, gebildet ist,

e) die zweite Vorschrift dadurch gebildet ist, dass die zwei te Vorschrift eine zur dritten Vorschrift inverse dritte Vorschrift ist.

Die Vorrichtung weist ferner eine Verarbeitungseinheit auf, die derart ausgestaltet ist, dass zumindest einer der Schrit te des Verfahrens implementie bar und ausführbar ist.

Die Vorteile der Vorrichtung sind analog zu denen des Verfah

Schließlich ist eine Verwendung des Verfahrens gemäß einem der oben ausgeführten Schritte oder der Vorrichtung gemäß ei nem der obigen Ausführungen in einer Bildencodiervorrichtung (ENC) und/oder Bilddecodiervorrichtung Teil der Erfindung. Hiermit lassen sich die Erfindung und ihre Weiterbildung in vorteilhafter Weise implementieren und ausführen. Die Erfindung und ihre Weiterbildungen sind anhand von Zeich nungen näher erläutert.

Im Einzelnen zeigen:

Figur 1 ein aus dem Stand der Technik bekannter Encoder zum

Komprimieren von Bilddaten;

Figur 2 ein aus dem Stand der Technik bekannter Decoder zum

Dekomprimieren von komprimierten Bilddaten;

Figur 3 erstes Ausführungsbeispiel für eine Bildcodiervor ^¬ richtung;

Figur 4 erstes Ausführungsbeispiel für eine Bilddecodiervor- richtung;

Figur 5a und 5b zwei INTRA-Prädiktionsmodi gemäß einem Stan ^¬ dard H.264/AVC;

Figur 6 komprimierte und nicht-komprimierte Bildpunkte zum

Ablegen in einem Referenzbildspeicher;

Figur 7 weiteres Ausführungsbeispiel mit zwei Referenzbil ^¬ dern;

In den Figuren sind Elemente mit gleicher Funktion und Wir ^¬ kungsweise mit denselben Bezugszeichen versehen.

Die Figuren 1 und 2 zeigen einen Encoder und Decoder zur Bildkodierung /-decodierung gemäß dem Stand der Technik. Die Figuren 1 und 2 wurden in der Einleitung ausführlich erläu ^¬ tert, so dass an dieser Stelle auf die Ausführungen in der Einleitung verwiesen wird.

In Folgenden wird unter zumindest einem Bildbereich BR eines rekonstruierten Bildes RBD beispielweise ein rekonstruierter Bildblock RBC verstanden. Ferner wird unter zumindest einem Bildbereich eines Referenzbildes beispielsweise ein Referenzbildblock verstanden. Zudem wird der Referenzbildspeicher auch als Speichereinheit SRB bezeichnet. Im Allgemeinen verwenden Encoder und Decoder den Referenzbildspeicher um verschiedene prädiktive Kodiermodi zu ermöglichen. Der in den Figuren 1 und 2 vorgestellte Kodiermodus ist ein INTER-Kodiermodus , bei dem rekonstruierte Bildinhalte eines zeitlich zuvor kodierten und decodierten bzw. rekon- struierten Bildes zur Prädiktion eines aktuell zu kodierenden bzw. zu dekodierenden Bildes verwendet wird. Im Stand der Technik ist eine Vielzahl von prädiktiven Kodiermodi bzw. korrespondierende Dekodiermodi beschrieben, so dass hierauf nicht weiter eingegangen wird.

Figur 3 zeigt schematisch eine Bildencodiervorrichtung ENC, im Folgenden als Encoder bezeichnet, der aus Bildern mit Bildblöcken BB das Ausgangssignal AS erzeugt. Die Funktionsweise ist ähnlich zu einer Funktionsweise der Vorrichtung ge- mäß Figur 1. Hier werden als rekonstruierter Bildblock RBM das Synonym Bildbereich BR des rekonstruierten Bildes RBD, wobei das rekonstruierte Bild alle zu dem Bild zugehörigen rekonstruierten Bildblöcke umfasst, und als komprimierter rekonstruierter Bildblock RBC das Synonym komprimierte Daten KDAT verwendet.

Eine Auswahleinheit ASE wählt aus einer Mehrzahl an Kodiermodi Ml, M2 denjenigen aus, der bei einer vorgebbaren Bildqualität einen Speicherplatzbedarf zur Speicherung des Ausgangs- Signals minimiert bzw. bei einem vorgebbaren Speicherplatzbedarf zur Speicherung des nach Kodierung jeweiligen Bildblocks die Bildqualität des zum Bildblock korrespondierenden rekonstruierten Bildblocks maximiert. Jeder der Kodiermodi Ml, M2 repräsentiert jeweils eine von möglichen dritten Vorschriften V3, die die Kodierung des Bildblocks beschreibt. Analog dazu gibt es für jeden der Kodiermodi Ml, M2 jeweils eine zu der dritten Vorschrift V3 inverse dritte Vorschrift V3I, die die Dekodierung eines kodierten Bildblocks definiert. Beispiel für die dritte Vorschrift V3 gemäß Figur 1:

- wähle Referenzbildblock RBB aus dem Referenzteilbild

REFT aus

- erzeuge Differenzbildblock BD durch Subtraktion des Re ^¬ ferenzbildblocks von dem Bildblock BB des Bildes;

- erzeuge Transformationskoeffizienten TK aus Differenzbildblock BD durch Cosinus-Transformation;

- erzeuge quantisierte Transformationskoeffizienten TQ aus Transformationskoeffizienten TH durch Quantisierung;

Beispiel für eine zur dritten Vorschrift inversen dritten Vorschrift V3I gemäß Figur 1 oder 2:

- erzeuge rekonstruierte Transformationskoeffizienten TKR durch inverse Quantisierung aus quantisierten Transfor ^¬ mationskoeffizienten TQ;

- erzeuge rekonstruierten Differenzbildblock BDR durch inverse Transformation aus rekonstruierte Transformations ^¬ koeffizienten TKR

- erzeuge rekonstruierten Bildblock RBM durch Addition des Referenzbildblocks RBB und des rekonstruierten Diffe ^¬ renzbildblocks BDR

Wie in Figur 3 dargestellt wird die mit dem ausgewählten Ko ^¬ diermodus verknüpfte dritte Vorschrift V3 der Bildkompressi ^¬ onseinheit PC als erste Vorschrift übergeben. Die Bildkom ^¬ pressionseinheit komprimiert den rekonstruierten Bildblock RBM gemäß dieser ersten Vorschrift, die entweder mit der dritten Vorschrift identisch ist, oder von dieser abgeleitet wird. Beispiele hierfür sind:

- Falls die dritte Vorschrift einen INTRA-Kodiermodus be ^¬ schreibt, so kann derselbe INTRA-Kodiermodus für die erste Vorschrift verwendet werden.

- Falls die dritte Vorschrift einen Kodiermodus be ^¬ schreibt, bei dem (i) ein zu kodierender Makroblock / Bildblock durch ein „skip" Signal und ohne Bewegungsvek- _η

tor und (ii) das Referenzbild mittels eines INTRA- Kodiermodus kodiert wurden, dann wird als erste Vor ^¬ schrift ein Kodiermodus bereitgestellt, bei dem der zu kodierende Makroblock / Bildblock mittels des INTRA- Kodiermodus, der für die Kodierung des Referenzbilds eingesetzt wurde, verwendet werden;

- Falls die dritte Vorschrift für den Bildblock

/Makroblock einen INTER-Kodiermodus mit zugehörigen Be ^¬ wegungsvektoren verwendet, so kann zur Kompression des rekonstruierten Bildblocks / Makroblocks als erste Vor ^¬ schrift die dritte Vorschrift übernommen werden, d.h. die Bildkompressionseinheit verwendet zur Kompression des rekonstruierten Bildblocks auch den INTER- Kodiermodus gemäß der dritten Vorschrift und den identi- sehen Bewegungsvektor.

Durch die Kompression des rekonstruierten Bildblocks RBM wer ^¬ den die komprimierten Daten KDAT erzeugt. Die komprimierten Daten werden mit einer Positionsangabe APOS, die eine Positi- on des rekonstruierten Bildblocks in dem Referenzbild bzw. in dem die rekonstruierten Bildblöcke beschreibenden rekon ^¬ struierten Bild RBD wiedergibt, abgelegt. Hierdurch ist ein Auffinden von kodierten Einheiten, wie des rekonstruierten Bildblocks möglich. Um einen Zugriff auf bestimmte Bildberei- che im Referenzbild zu ermöglichen wird in dem Referenzbild ^¬ speicher eine Tabelle TAB angelegt, die anzeigt, an welcher Speicherposition die zu dem rekonstruierten Bildblock bzw. zu einem Bildbereich im rekonstruierten Bild dazugehörenden komprimierten Daten zu finden sind. Falls die komprimierten Daten eine eindeutige Dekomprimierung durch die Dekomprimie- rungseinheit nicht ermöglichen, so kann den komprimierten Da ^¬ ten ein Index INX angefügt und im Referenzbildspeicher abgelegt werden, wobei der Index INX eine Kennung zur eindeutigen Identifikation der ersten Vorschrift und/oder der zweiten Vorschrift umfasst. Somit kann die Dekomprimierungseinheit anhand des Index INX die zweite Vorschrift V2 ermitteln und aus den komprimierten Daten KDAT den Referenzbildteil REFT ermitteln. Alternativ kann der Index in der Tabelle TAB abgelegt sein.

Die Bildkompressionseinheit PC, die Bilddekompressionseinheit PD und der Referenzbildspeicher SRB sind als Kompressionsmo ^¬ dul XC, auch als Vorrichtung SV bezeichnet, zusammengefasst .

In dem obigen Beispiel konnte eine erste Vorschrift aus der dritten Vorschrift direkt gewonnen werden. Im Falle, dass die Zuordnung der ersten Vorschrift zu der dritten Vorschrift nicht eindeutig ist, kann in dem Ausgangssignal zusätzlich ein Informationsfeld mit dem Index INX eingefügt werden, das die erste Vorschrift explizit signalisiert. Figur 4 zeigt eine Vorgehensweise zur Anwendung der Erfindung in einer Bilddekompressionseinheit DEC, im Folgenden als De ^¬ coder bezeichnet. Ein Ausgangssignal wird analog zur Figur 2 empfangen und verarbeitet. Die Begriffe werden analog zu der Figur 3 verwendet. Das Kompressionsmodul mit seinen Einhei- ten, Bildkompressionseinheit PC, Bilddekompressionseinheit PD und Referenzbildspeicher SRB arbeitet analog zur Beschreibung in Figur 3. Im Gegensatz zum Encoder nach Figur 3 wird beim Decoder keine Auswahl an Kodiermodi eigenständig getroffen. Vielmehr wird dem Decoder entweder mittel des Informations- feldes im Ausgangssignal die dritte Vorschrift explizit mit ^¬ geteilt, bspw. mittels des Index INX, oder die spezielle Aus ^¬ gestaltung der dritten Vorschrift ist explizit im Encoder und Decoder vorgegeben oder der Decoder kann die dritte Vor ^¬ schrift aus dem Ausgangssignal, bspw. anhand eines zur Kodie- rung eines Bildblocks verwendeten Kodiermodus oder des Bildinhalts, zweifelsfrei ableiten. Aus der dritten Vorschrift lässt sich dann die inverse dritte Vorschrift eindeutig ab ^¬ leiten. Es wäre sehr hilfreich, wenn Encoder und Decoder zur Komprimierung und Dekomprimierung desselben Bildblocks die identische dritte bzw. inverse dritte Vorschrift verwenden. Ansonsten kann es Kodierartefakten kommen. In einem weiteren Ausführungsbeispiel wird eine INTRA- Prädiktion durch die Bildkommpressionseinheit bzw. Bilddekom pressionseinheit eingesetzt. Die INTRA-Prädiktion zeichnet sich dadurch aus, dass ein zu komprimierender Bildblock mittels eines rekonstruierten Bildausschnitts in demselben Bild wie der zu komprimierende Bildblock prädiziert und das sich ergebende Fehlersignal zusammen mit Informationen bzgl. der Prädkition, wie bspw. Prädiktionsmodus oder Bewegungsvektor, kodiert wird. Ein Standard H.264/AVC definiert neun verschie dene INTRA-Prädiktionsmodi , die folgendermaßen lauten:

Modus der Name (in Englisch und Deutsch)

INTRA-Prädiktion

Modus 0 Vertical (Verikal)

Modus 1 Horizontal

Modus 2 DC-Modus (Gleichanteil-Modus)

Modus 3 Diagonal-Down-Left (Diagonal-Unten-Links )

Modus 4 Diagonal-Down-Right (Diagonal-Unten-Rechts

Modus 5 Vertical-Right (Vertikal-Rechts )

Modus 6 Horizontal-Down (Horizontal-Unten)

Modus 7 Vertical-Left (Vertikal-Links )

Modus 8 Hprizontal-Up (Horizontal-Oben)

Beispielhaft sind in Figur 5a der Modus 0 und in Figur 5b der Modus 1 abgebildet. Dabei ist im fettumrandeten 4x4 Bildblock der rekonstruierte Bildblock mit 4x4 Bildpunkten zu sehen. Zur Anwendung des Modus 0 werden 4 Bildpunkte des rekonstruierten Bildblocks, siehe Bezugszeichen X, benötigt, der oberhalb des aktuellen rekonstruierten Bildblocks liegt. Ana- log dazu werden im Modus 1 vier Bildpunkte desjenigen rekon ^¬ struierten Bildblocks zur Komprimierung / Dekomprimierung benötigt, der links vom aktuellen rekonstruierten Bildblock liegt . Zur Kompression des rekonstruierten Bildes wird dieses in Bildregionen unterteilt, wobei die Bildregionen unabhängig von einander komprimiert werden. Hierdurch kann auf Bildinhalte des Referenzbildes derart zugegriffen werden, dass le- diglich Bildinhalte einer der Bildregion bearbeitet werden muss. Bei der Vorgehensweise zur Komprimierung gibt es mehre ^¬ re Varianten. Variante 1 :

In der ersten Variante werden diejenigen Bildpunkte, die in ^¬ nerhalb der jeweiligen Bildregion nicht rekonstruiert werden können, unkomprimiert in dem Referenzbildspeicher abgelegt. So wird beispielsweise bei ausschließlicher Verwendung des

Modus 0 eine ganze Bildpunktzeile, die direkt oberhalb der zu komprimierenden rekonstruierten Bildblöcke liegt, unkompri ^¬ miert im Referenzbildspeicher abgelegt. Figur 6 zeigt eine Bildregion mit 3x5 rekonstruierten Bildblöcken. Hierbei rep- räsentiert die quergestreifte Zeile oberhalb der Bildregion die unkomprimierten Bildpunkte.

Im Allgemeinen werden bei der Variante 1 diejenigen Bildpunk ^¬ te, die durch andere Regionen des rekonstruierten Bildes ge- nerierbar sind unkomprimiert im Referenzbildspeicher abge ^¬ legt. Hierdurch kann ein Zugriff auf bestimmte Bildbereiche innerhalb derjenigen Bildregion, die komprimiert im Referenz ^¬ bildspeicher liegt, erfolgen. Variante 2:

In einer Variation zur Variante 1 werden die unkomprimierten Bildpunkte zumindest teilweise komprimiert abgelegt. Hierzu können alle Bildpunkte nach einer vorgebaren Vorschrift in einer Reihe aufgestellt werden und mittels einer Delta- Kodierung oder einer anderen Differenzkodierung komprimiert werden .

Beispiel :

Bildpunktwerte: 100, 80, 115

Werte nach Differenzkodierung: 100, -20, 15 Hierbei wird der erste Bildpunktwert uncodiert, die nachfolgenden Bildpunktwerte differenziell übertragen.

Variante 3:

Es kann mehrere INTRA-Prädiktionsmodi, wie bspw. bei

H.264/AVC geben. Dann kann pro Bildregion ein spezifischer Modus gewählt werden, der auf alle rekonstruierten Bildblöcke der Bildregion angewandt wird. Alternativ kann auch eine vor- gebare Abfolge von INTRA-Prädiktionsmodi zur Kompression einer Abfolge von rekonstruierten Bildblöcken bestimmt sein, wie beispielsweise

Modus 1 -> Modus 0 -> Modus 1 -> Modus 0 -> ...

Hierbei wird ein erster rekonstruierter Bildblock mittels des Modus 1, ein zweiter rekonstruierter Bildblock mittels Modus 0, ein dritter rekonstruierter Bildblock mittels des Modus 1 usw. komprimiert. Die Abfolge der Modi kann im Referenzbild- Speicher abgelegt sein, damit eine Individualisierung der Kompression erzielt wird.

Variante 4 : Neben den INTRA-Prädiktionsmodi kann es auch einen INTRA-

Kodiermodus geben, der einen Bildblock ohne Referenzinformation kodiert. Somit wird in dieser Variante der INTRA- Kodiermodus als Modus 9, neben den INTRA-Prädiktionsmodi 0-8, bezeichnet .

In einem ersten Schritt wird bestimmt, welcher der Modi 0 bis 9 unter Berücksichtigung des Speicherbedarfs zur Signalisierung des Kodiermodus und zur Speicherung von nicht durch die Bildregion ermittelbaren Bildpunkten, die für den jeweiligen Modus benötigt werden, den geringsten Speicherplatzbedarf aufweist . In einem zweiten Schritt werden die komprimierten Daten, die durch Kompression des jeweiligen rekonstruierten Bildblocks auf Basis desjenigen Modus, der den geringsten Speicherplatz ^¬ bedarf hat, komprimiert und zusammen mit der Information, die zur Dekompression benötigt wird in dem Referenzbildspeicher abgelegt. Zu dieser Information gehört eine Angabe über den Modus und Bildpunkte, die nicht durch die Bildregion rekon ^¬ struierbar sind.

Da in dieser Variante auch der INTRA-Kodiermodus berücksich ^¬ tigt wird, wird der Speicherplatzbedarf zum Speichern der komprimierten Daten minimiert.

Variante 5:

In einer weiteren Variation kann die Bildkompressionseinheit auch eine Quantisierung der durch die INTRA-Prädiktion und/oder INTRA-Kodiermodus erzeugten Daten durchführen. Falls der Quantisierungsfaktor nicht implizit bestimmbar ist, wird dieser in dem Referenzbildspeicher abgelegt.

Variante 6:

Eine weitere Variation kann darin bestehen, dass die Bildkom- pressionseinheit einen Standard-kompatiblen Datenstrom für die Bildregion, beispielsweise in Form von Slices, erzeugt und den Standard-kompatiblen Datenstrom im Referenzbildspei- eher ablegt.

Die oben genannten Varianten können zumindest teilweise kom ^¬ biniert werden. Um eine Drift zwischen Enkoder und Decoder zu vermeiden oder zu minimieren können Informationen, die in den jeweiligen Varianten zusätzlich zu den komprimierten Daten in dem Referenzbildspeicher abgelegt werden, in das Ausgangssig ^¬ nal eingefügt und von dem Enkoder zu dem Decoder übertragen werden . In einem weiteren Ausführungsbeispiel werden jeweils zwei Re ^¬ ferenzbilder im Referenzbildspeicher abgelegt. Ein erstes Referenzbild wird mittels INTRA-Prädiktion komprimiert im Refe ^¬ renzbildspeicher gespeichert. Ein zweites Referenzbild wird komprimiert mittels eines INTER-Kodiermodus in dem Referenz ^¬ bildspeicher abgelegt. Hierbei wird für jeden rekonstruierten Bildblock ein Referenzbildblock im in dem Referenzbildspeicher abgelegten ersten Referenzbild gesucht. Vorzugsweise wird ein Bewegungsvektor bei dieser Referenzbildblocksuche zu Null gewählt, so dass neben den komprimierten Daten nur eine geringe Anzahl an Informationen im Referenzbildspeicher abzulegen ist. Auch hier müssen die Bildkompressionseinheiten im Encoder und Decoder bzw. die Bilddekompressionseinheiten das jeweilige Referenzbild in derselben Art und Weise komprimie- ren bzw. dekomprimieren. In einer Ausformung dieser Variante werden die geradzahligen rekonstruierten Bilder mittels

INTRA-Prädiktion und die ungeradzahligen rekonstruierten Bilder mittels INTER-Kodiermodus komprimiert im Referenzbild ^¬ speicher abgelegt.

In einem weiteren Ausführungsbeispiel, siehe Figur 7, kann aus zwei Referenzbildern, beide als INTRA-Prädiktion im Referenzbildspeicher abgelegt, jeweils ein Referenzteilbild

REFT1, REFT2 ausgewählt werden. In dieser Darstellung zeigen die gestrichelten Bereiche C nicht-komprimierte rekonstruier ^¬ te Bilddaten in einem Speicher. So werden zumindest einige der Bildpunkte X des rekonstruierten Bildblocks für eine Komprimierung eines nachfolgend zu verarbeitenden rekonstruierten Bildblocks in dem Speicher zwischengespeichert. Um einen einfachen Zugriff auf Teilbereiche der Referenzteilbil ^¬ der, bspw. für die Bewegungsschätzeinheit ME oder die Bewe- gungskompensationseinheit MC, zu ermöglichen, werden für je ^¬ des der Referenzbilder zumindest Teile als Referenzteilbilder REFT1, REFT2 durch die jeweilige Bilddekompressionseinheit PD1, PD2 in dem Speicher zur Verfügung gestellt. In Figur 7 werden pro Referenzteilbild die Makroblockzeilen ML0, MB1 und MB2 im Speicher abgelegt. Neben der Möglichkeit eine einzige Instanz für die Bilddekompressionseinheit bereitzustellen, kann es vorteilhaft sein auch mehrere Instanzen bereitzuhal ^¬ ten, wie bspw. PD1, PD2. Dies hat den Vorteil, dass die je ^¬ weiligen Referenzteilbilder parallel dekomprimiert werden können. Werden bestimmte Bilddaten durch die jeweilige Bild- dekompressionseinheit bzw. Bildkompressionseinheit nicht mehr benötigt, so können diese aus dem Speicher gelöscht werden. Dieses Löschen kann in einer Ausgestaltung wie ein gleitendes Fenster (Sliding Window) erfolgen. Eine Anzahl an Referenzbildern, die im Referenzbildspeicher abgelegt werden soll, kann zwischen Encoder und Decoder sig ^¬ nalisiert werden.

Literaturverzeichnis :

[1] JCTVC-Bl 03 : "Reference frame compression using image co ^¬ der", ISO/IEC Document: JCTVC-Bl 03 , 2nd Meeting: Geneva CH, 21-27 July, 2010, Author: Chong Soon Lim

[2] JCTVC-B089: "Compressed Reference Frame Buffers (CRFB) " ISO/IEC Document: JCTVC-B089 , 2nd Meeting: Geneva, CH, 21-28 July, 2010, Author: Mehmet Umut Demircin et al

[3] JCTVC-B090: "ALF memory compression and IBDI /ALF coding efficiency test results in TMuC-0.1", JSO/IEC, Document JCTVC-B090, Author: Madhukar Budagavi

[4] JCTVC-B057 : "DPCM-based memory compression", ISO/IEC Do cument JCTVC-B057, 2nd Meeting: Geneva, CH, 21-28 July, 2010 Author: Hirofumi Aoki