Login| Sign Up| Help| Contact|

Patent Searching and Data


Title:
METHOD FOR GENERATING AND ANALYSING AN OVERVIEW CONTRAST IMAGE
Document Type and Number:
WIPO Patent Application WO/2018/219632
Kind Code:
A1
Abstract:
The invention relates to a method for generating and analysing an overview contrast image of a specimen carrier (1) and/or of specimens situated on a specimen carrier (1). A specimen carrier (1) arranged at least partially in the focus of a detection optical unit (2) is illuminated in transmitted light using a two-dimensional, array-like illumination pattern (3). At least two overview raw images are detected using different illuminations of the specimen carrier (1), and, according to information to be extracted from the overview contrast image, a combination algorithm is selected by means of which the at least two overview raw images are combined to form the overview contrast image. According to information to be extracted from the overview contrast image, an image evaluation algorithm is selected by means of which the information is extracted.

Inventors:
HAASE DANIEL (DE)
OHRT THOMAS (DE)
STICKER MARKUS (DE)
Application Number:
PCT/EP2018/062483
Publication Date:
December 06, 2018
Filing Date:
May 15, 2018
Export Citation:
Click for automatic bibliography generation   Help
Assignee:
ZEISS CARL MICROSCOPY GMBH (DE)
International Classes:
G02B21/36; G06T7/586; G02B21/08; G02B21/12
Domestic Patent References:
WO2015179452A12015-11-26
WO2016090331A12016-06-09
Foreign References:
US20160216208A12016-07-28
US20160202460A12016-07-14
Other References:
GUO KAIKAI ET AL: "Fourier Ptychography for Brightfield, Phase, Darkfield, Reflective, Multi-Slice, and Fluorescence Imaging", IEEE JOURNAL OF SELECTED TOPICS IN QUANTUM ELECTRONICS, IEEE SERVICE CENTER, PISCATAWAY, NJ, US, vol. 22, no. 4, 1 December 2015 (2015-12-01), pages 1 - 12, XP011603991, ISSN: 1077-260X, [retrieved on 20160322], DOI: 10.1109/JSTQE.2015.2504514
KENICHIRO TANAKA ET AL: "Descattering of transmissive observation using Parallel High-Frequency Illumination", COMPUTATIONAL PHOTOGRAPHY (ICCP), 2013 IEEE INTERNATIONAL CONFERENCE ON, IEEE, 19 April 2013 (2013-04-19), pages 1 - 8, XP032424248, ISBN: 978-1-4673-6463-8, DOI: 10.1109/ICCPHOT.2013.6528300
"Fundamentals of Digital Image Processing: A Practical Approach with Examples in MATLAB", 5 July 2011, JOHN WILEY & SONS, article CHRIS SOLOMON: "The Top-Hat Transformation", XP055499264
JIASONG SUN ET AL: "Efficient positional misalignment correction method for Fourier ptychographic microscopy", BIOMEDICAL OPTICS EXPRESS, vol. 7, no. 4, 17 March 2016 (2016-03-17), United States, pages 1336, XP055498819, ISSN: 2156-7085, DOI: 10.1364/BOE.7.001336
ARMIN KAPPELER: "Deep Neural Networks with Applications in Image and Video Classification and Recovery", 4 October 2016 (2016-10-04), XP055498915, Retrieved from the Internet [retrieved on 20180810]
CRUZ-ROA ANGEL ALFONSO ET AL: "A Deep Learning Architecture for Image Representation, Visual Interpretability and Automated Basal-Cell Carcinoma Cancer Detection", MEDICAL IMAGE COMPUTING AND COMPUTER-ASSISTED INTERVENTION - MICCAI 2015 : 18TH INTERNATIONAL CONFERENCE, MUNICH, GERMANY, OCTOBER 5-9, 2015; PROCEEDINGS; [LECTURE NOTES IN COMPUTER SCIENCE; LECT.NOTES COMPUTER], SPRINGER INTERNATIONAL PUBLISHING, CH, vol. 8150 Chap.50, no. 558, 22 September 2013 (2013-09-22), pages 403 - 410, XP047042102, ISSN: 0302-9743, ISBN: 978-3-540-70543-7
MICHAEL V D'AMBROSIO ET AL: "Point-of-care quantification of blood-borne filarial parasites with a mobile phone microscope", SCIENCE TRANSLATIONAL MEDICINE, 6 May 2015 (2015-05-06), United States, pages 286re4 - 286re4, XP055500911, Retrieved from the Internet [retrieved on 20180821], DOI: 10.1126/scitranslmed.aaa3480
Attorney, Agent or Firm:
PATENTANWAELTE GEYER, FEHNERS & PARTNER MBB (DE)
Download PDF:
Claims:
Patentansprüche

1 . Verfahren zur Erzeugung und Analyse eines Übersichtskontrastbildes eines Probenträgers (1 ) und / oder auf einem Probenträger (1 ) angeordneter Proben, bei dem

ein mindestens teilweise im Fokus einer Detektionsoptik (2) angeordneter Probenträger (1 ) im Durchlicht mit einem zweidimensionalen, arrayförmigen Beleuchtungsmuster (3) beleuchtet wird,

mindestens zwei Übersichtsrohbilder mit unterschiedlichen Beleuchtungen des Probenträgers (1 ) detektiert werden,

in Abhängigkeit von aus dem Übersichtskontrastbild zu extrahierenden Informationen ein Verrechnungsalgorithmus ausgewählt wird, mittels dessen die mindestens zwei Übersichtsrohbilder zum Übersichtskontrastbild verrechnet werden,

in Abhängigkeit von aus dem Übersichtskontrastbild zu extrahierenden Informationen ein Bildauswertungsalgorithmus ausgewählt wird, mittels dessen die Informationen aus dem Übersichtskontrastbild extrahiert werden.

2. Verfahren nach Anspruch 1 , dadurch gekennzeichnet, dass zur Erzeugung von Beleuchtungsmustern ein Array bevorzugt gleich großer Beleuchtungselemente verwendet wird, wobei die einzelnen Beleuchtungselemente in den mindestens zwei Übersichtsrohbildern jeweils voneinander unterscheidbar sind.

3. Verfahren nach Anspruch 2, dadurch gekennzeichnet, dass als Beleuchtungselemente LED, OLED, Lichtleitfasern, Elemente eines beleuchteten DMD oder eines SLM verwendet werden.

4. Verfahren nach einem der Ansprüche 1 bis 3, dadurch gekennzeichnet, dass die unterschiedlichen Beleuchtungen erzeugt werden, indem zwischen zwei Aufnahmen der Probenträger (1 ) relativ zum Beleuchtungsmuster (3) lateral verschoben wird oder unterschiedliche Belichtungszeiten für die Detektion verwendet werden.

5. Verfahren nach Anspruch 4, dadurch gekennzeichnet, dass das Übersichtskontrastbild aus Einzelkontrastbildern, die jeweils verschiedene Bereiche des Probenträgers (1 ) und / oder der Probe zeigen, zusammengesetzt wird.

6. Verfahren nach einem der Ansprüche 2 oder 3, dadurch gekennzeichnet, dass die unterschiedlichen Beleuchtungen durch unterschiedliche Beleuchtungsmuster (3), die in Ab- hängigkeit von den zu extrahierenden Informationen ausgewählt werden, erzeugt werden.

7. Verfahren nach Anspruch 6, dadurch gekennzeichnet, dass zur Erzeugung unterschiedlicher Beleuchtungsmuster (3) die Beleuchtungselemente einzeln oder gruppenweise angesteuert und zu verschiedenen Beleuchtungsmustern (3) geschaltet werden, wobei ein erster Teil der Beleuchtungselemente Licht abstrahlend und mindestens ein zweiter Teil der Beleuchtungselemente kein Licht oder Licht einer anderen Farbe oder Licht einer anderen Polarisation abstrahlend geschaltet wird.

8. Verfahren nach Anspruch 7, dadurch gekennzeichnet, dass unterschiedliche Beleuchtungsmuster (3) erzeugt werden, indem

a. der erste Teil der Beleuchtungselemente für jedes Beleuchtungsmuster (3) stochastisch ausgewählt wird, oder

b. der erste Teil der Beleuchtungselemente eine schachbrettartige oder eine andere regelmäßige Verteilung, vorzugsweise eine kreuzförmige Verteilung oder Halbpupillenverteilung im Array aufweist.

9. Verfahren nach Anspruch 8, Alternative b, bei dem der zweite Teil der Beleuchtungselemente kein Licht abstrahlt, dadurch gekennzeichnet, dass mindestens zwei Übersichtsrohbilder mit zueinander komplementären Beleuchtungsmustern (3) aufgenommen werden.

10. Verfahren nach Anspruch 8, Alternative b, bei dem alle Teile der Beleuchtungselemente Licht voneinander paarweise verschiedener Farben oder Polarisationen abstrahlen, dadurch gekennzeichnet, dass eine der Anzahl von Teilen entsprechende Anzahl von Übersichtsrohbildern gleichzeitig in einem Bild aufgenommen und anschließend nach Farbkanälen bzw. Polarisation separiert wird.

1 1. Verfahren nach Anspruch 6 oder 7, bei dem als Beleuchtungselemente LED (16) oder OLED verwendet werden, dadurch gekennzeichnet, dass stochastische Beleuchtungsmuster erzeugt werden, indem pulsweitenmodulierte Beleuchtungselemente verwendet werden, deren Pulsweite länger als die Integrationszeit einer Detektoreinheit zur Aufnahme der Übersichtsrohbilder gewählt wird.

12. Verfahren nach Anspruch 6, dadurch gekennzeichnet, dass das Beleuchtungsmuster (3) nur in mindestens einem Ausschnitt des Arrays von Beleuchtungselementen erzeugt wird, und die unterschiedlichen Beleuchtungen durch abtastendes Verschieben des mindestens einen Ausschnitts auf dem Array erzeugt werden, wobei die Beleuchtungsele- mente außerhalb des mindestens einen Ausschnitts kein Licht abstrahlend geschaltet werden.

13. Verfahren nach Anspruch 6, bei dem die Beleuchtungselemente als LED (16) ausgestaltet sind, dadurch gekennzeichnet, dass eine LED (16) aus drei einzelnen, jeweils in verschiedenen Grundfarben Rot, Grün und Blau Licht abstrahlenden, einander benachbarten Sub-LEDs gebildet wird, und unterschiedliche Beleuchtungen durch die Beleuchtung aus verschiedenen Winkeln in den Grundfarben eingestellt werden.

14. Verfahren nach einem der Ansprüche 1 bis 13, dadurch gekennzeichnet, dass in Abhängigkeit von der Wahl des Beleuchtungsverfahrens ein Verrechnungsalgorithmus zur Erzeugung eines Übersichtskontrastbildes in einem Dunkelfeld- oder Hellfeldmodus ausgewählt wird.

15. Verfahren nach Anspruch 14, dadurch gekennzeichnet, dass

- der Verrechnungsalgorithmus auf pixelweiser Projektion basiert, vorzugsweise auf einer Rangordnungsprojektion oder auf einer Projektion statistischer Momente, wobei zur Erzeugung des Übersichtskontrastbildes aus einem Stapel von mindestens zwei Übersichtsrohbildern die Übersichtsrohbilder pixelweise verglichen und entsprechend einer Projektionsbedingung der Intensitätswert eines der Pixel für die entsprechende Position im Übersichtskontrastbild ausgewählt wird, oder.

- der Verrechnungsalgorithmus auf morphologischen Operationen mit anschließender pixelweiser Projektion, bevorzugt auf einer Top-Hat- oder ß/ac/(-/-/af-Transformation mit anschließender pixelweiser Maximums-Projektion basiert, oder

- ein segmentierungs-basierter Verrechnungsalgorithmus ausgewählt wird, bei dem für jedes Pixel eines Übersichtsrohbildes zunächst bestimmt wird, ob dieses direkt von einem Beleuchtungselement mit Licht bestrahlt wurde, und zur Erzeugung eines Übersichtskontrastbildes im Dunkelfeldkontrastmodus diese nicht berücksichtigt werden.

16. Verfahren nach einem der Ansprüche 2 bis 15, dadurch gekennzeichnet, dass zur Korrektur von geometrischen Verzeichnungen vor der Aufnahme von Übersichtsrohbildern eine Kalibrierung mittels der Aufnahme und Auswertung eines Kalibriermusters vorgenommen wird, wobei das Kalibriermuster bevorzugt mit den Beleuchtungselementen des Arrays erzeugt wird.

17. Verfahren nach einem der Ansprüche 1 bis 16, dadurch gekennzeichnet, dass aus dem Übersichtskontrastbild vor der Auswertung störende Hintergrundsignale entfernt werden.

18. Verfahren zur Erzeugung und Analyse eines Übersichtskontrastbildes eines Probenträgers (1 ) und / oder auf einem Probenträger (1 ) angeordneter Proben, bei dem

ein mindestens teilweise im Fokus einer Detektionsoptik (2) angeordneter Probenträger (1 ) im Durchlicht mit einem zweidimensionalen, arrayformigen Beleuchtungsmuster (3) beleuchtet wird,

wobei zwischen dem arrayformigen Beleuchtungsmuster (3) und dem Probenträger (1 ) eine Streuscheibe eingebracht oder eine dort angeordnete schaltbare Streuscheibe streuend geschaltet wird,

ein Übersichtskontrastbild in einem Hellfeldmodus detektiert wird,

in Abhängigkeit von aus dem Übersichtskontrastbild zu extrahierenden Informationen ein Bildauswertungsalgorithmus ausgewählt wird, mittels dessen die Informationen aus dem Übersichtskontrastbild extrahiert werden.

19. Verfahren nach einem der Ansprüche 1 bis 18, dadurch gekennzeichnet, dass als Bildverarbeitungsalgorithmus ein Machine-Learning- Algorithmus, insbesondere ein Deep- /.earn/ng-Algorithmus ausgewählt wird, welcher bevorzugt anhand von Übersichtskontrastbildern mit bekannten Informationen trainiert wird.

20. Verfahren nach Anspruch 19, dadurch gekennzeichnet, dass

- zur Erkennung eines Typs des Probenträgers (1 ) ein auf einem Convolutional Neural Network basierender Deep-Z-earn/ng-Algorithmus verwendet wird,

- zur Lokalisierung von Strukturen des Probenträgers (1 ) oder der Probe eine semantische Segmentierung vorgenommen wird, bevorzugt mit einem auf einem Fully Convolutional Network basierenden Deep-Z-earn/ng-Algorithmus.

Description:
Titel

Verfahren zur Erzeugung und Analyse eines Übersichtskontrastbildes

Gebiet der Erfindung

Die Erfindung betrifft ein Verfahren zur Erzeugung und Analyse eines Übersichtskontrastbildes eines Probenträgers und / oder von Proben, die auf einem Probenträger angeordnet sind.

Stand der Technik

Klassische Lichtmikroskope wurden unter der Prämisse entwickelt, dass ein Benutzer sitzend oder stehend durch ein Okular auf einen Probenträger blickt und direkt mit der Probe in dem Sinne interagieren kann, dass er sich zum einen schnell eine Überblick über die Probe und das Sichtfeld des Objektivs verschaffen kann und zum anderen den Probenträger mit der Probe entweder direkt oder mit Hilfe eines verstellbaren Probentisches lateral verschieben kann, um andere Bereiche einer Probe ins Sichtfeld des Objektivs zu bringen. Der Benutzer des Mikroskops kann dabei an seinem Platz bleiben und muss seinen Kopf nur minimal bewegen, so dass die klassischen Mikroskope in dieser Hinsicht höchst ergonomisch sind.

Untersuchungsverfahren insbesondere für biologische Proben wurden im Laufe der Zeit immer weiter entwickelt, damit einhergehend wurde auch der Aufbau von Mikroskopen, die für die Durchführung dieser Untersuchungsverfahren geeignet sind, immer komplexer. Bei heutigen Mikroskopsystemen, die es erlauben, Bildstapel entlang der Beobachtungsrichtung aufzunehmen und daraus ein räumliches Bild der Probe zu rekonstruieren, werden Bilder mit Hilfe von Detektoren erzeugt. Als Detektoren dienen beispielsweise Kameras, die mit entsprechenden Flächensensoren ausgestaltet sind, oder auch Photomultiplier. Bei solchen Systemen hat sich daher der Arbeitsplatz vom Mikroskopstativ und damit von der Probe zum Computer bzw. zum Bildschirm eines solchen verschoben. Andererseits wird aber der Arbeitsplatz vor dem Stativ ebenfalls benutzt und benötigt, um die Probe für die Untersuchung vorzubereiten, d.h. einzurichten. Dazu muss die Probe auf dem Probenträger in das Sichtfeld des Objektivs gebracht werden, ein Probenbereich muss ausgewählt werden, dieser muss angefahren werden, schließlich muss auf die Probe fokussiert werden. Der Arbeitsablauf bei der Verwendung moderner, komplexer Mikroskopsysteme ist daher mit zwei Arbeitsbereichen verbunden, die für unterschiedliche Schritte im Arbeitsablauf stehen und räumlich voneinander getrennt sind - dem Mikroskopstativ mit Okular zur direkten Beobachtung einerseits und dem Bildschirm eines angeschlossenen Computers andererseits.

Durch das Anbringen weiterer Instrumente wie Inkubatoren zur Untersuchung lebender Zellen wird der direkte Einblick auf die Probe, d.h. die Position des Objektivsichtfeldes in der Probe, stark eingeschränkt. Werden darüber hinaus größere Probenträger verwendet, um eine Vielzahl von Proben nacheinander untersuchen zu können - beispielsweise /Wu/f/ ' ive//-Platten - wird die Orientierung auf der Probe ebenfalls behindert.

Einem Benutzer werden dadurch das Finden der Probe und die Einstellung des Probenbereichs sehr erschwert, zudem findet ein Orientierungsverlust auf der Probe statt. Für die Einstellung ist ein mehrmaliger Wechsel zwischen dem Computerarbeitsplatz und dem Mikroskopstativ, an dem die Probe direkt beobachtet werden kann, notwendig.

Andererseits gibt es auch Mikroskopsysteme, die für den Durchsatz einer hohen Anzahl von Proben ausgelegt sind und nicht unter ständiger Kontrolle stehen. Dort müssen Probenbereiche automatisch erkannt und mikroskopisch erfasst werden. Die Probenträger weisen dabei in der Regel eine Beschriftung auf, beispielsweise in Form eines Barcodes oder eines QR-Codes, die den Proben zugeordnet werden muss. Solche Untersuchungen laufen semi-automatisch ab, ein Benutzer greift beispielsweise nur ein, um die Probenträger zu wechseln, ein Übersichtsbild einzustellen, oder die Probenträgernummer zu registrieren.

Gerade bei der Verwendung von /Wu/f/ ' ive//-Platten in Mikroskopsystemen mit hohem Durchsatz (High Throughput) kommt es vor, dass einige der Wells keine Proben enthalten oder falsch eingebettete, kontaminierte oder defekte Proben enthalten. Diese Wells werden in den semi- automatischen Verfahren ebenfalls mit untersucht, obwohl die Ergebnisse nicht verwendet werden können, so dass mehr Zeit als eigentlich notwendig aufgewandt wird.

Zur Erzeugung von Übersichtsbildern gibt es im Stand der Technik zwar verschiedene Verfahren, die jedoch mit mehr oder weniger großen Nachteilen behaftet sind. So kann beispielsweise mit der Mikroskop-Optik und einem schwach vergrößernden Objektiv sowie einer hinter dem Objektiv angeordneten Kamera ein Bild aufgenommen werden. Damit lässt sich jedoch nur ein kleines Objektfeld im Vergleich zur Größe der Probe oder des Probenträgers aufnehmen, insbesondere wenn Probenträger für mehrere Proben verwendet werden. Um große Probenbereiche wie beispielsweise für /Wu/f/ ' ive//-Probenträger aufnehmen zu können, müssen daher mehre- re Bilder nebeneinander liegender Ausschnitte der Probe oder des Probenträgers aufgenommen werden, die anschließend zusammengesetzt werden müssen. Diese Prozedur ist recht langwierig und beispielsweise für die Untersuchung lebender Proben ungeeignet.

Ein Übersichtsbild kann auch aufgenommen werden, wenn die Mikroskop-Optik weggelassen wird und stattdessen eine Kamera mit einem Kameraobjektiv verwendet wird, womit sich ein relativ großes Objektfeld abbilden lässt; das Kameraobjektiv ist in der Regel nicht telezentrisch. Diese Lösung ist beispielsweise in der AxraScan-Reihe der Anmelderin implementiert, lässt sich jedoch nur mit Hellfeldbeleuchtung und Auflicht verwenden. Deckgläser und ungefärbte Proben sind in diesem Verfahren nur schwer erkennbar.

Andere Lösungen beleuchten Proben und Probenträger schräg, d.h. mit einem von Null verschiedenen Winkel zur optischen Achse, wobei das zurückgestreute Licht detektiert wird. Die Sensitivität der Messung über das zu messende Objektfeld schwankt dabei sehr stark, so dass die Ergebnisse nicht immer zuverlässig sind.

Beschreibung der Erfindung

Die Aufgabe der Erfindung besteht daher darin, ein Übersichtsbild eines Probenträgers zu er- zeugen, in welchem die Struktur des Probenträgers selbst und optional weitere Strukturen, beispielsweise der Beschriftung des Probenträgers, möglicher Probenbereiche, einer ggf. vorhandenen Immersionsflüssigkeit, der eigentlichen Probe und / oder Probenfehlern wie Luftblasen, Dreck etc. deutlich und fehlerfrei erkannt werden können. Im Vergleich zu normalen Aufnahmen einer Kamera und sogar HDR-Bildern soll das Übersichtsbild einen erhöhten Kontrast bzw. ein verbessertes Signal-Rausch-Verhältnis der jeweilig interessierenden Strukturen aufweisen, weshalb das Übersichtsbild im Folgenden als Übersichtskontrastbild bezeichnet wird. Das Übersichtskontrastbild kann dem Benutzer zur Navigation zur Verfügung gestellt werden, es kann aber auch dazu benutzt werden, um die automatisierte Analyse von Proben zu verbessern und die Fehleranfälligkeit zu verringern, indem beispielsweise Probenfehler erkannt werden.

Diese Aufgabe wird bei einem Verfahren der eingangs beschriebenen Art gelöst, indem das Übersichtskontrastbild auf folgende Weise erzeugt wird: Ein Probenträger - in der Regel mit mindestens einer Probe bestückt - wird mindestens teilweise im Fokus einer Detektionsoptik angeordnet und im Durchlicht mit einem zweidimensionalen, vorzugsweise arrayförmigen Be- leuchtungsmuster beleuchtet. Mindestens teilweise bedeutet dabei, dass der Probenträger oder die Probe nicht vollständig sichtbar sein muss, insbesondere aber, dass der Probenträger und / oder die Proben auch eine Ausdehnung entlang der optischen Achse aufweisen können, die höher als die Schärfentiefe der verwendeten Detektionsoptik ist. Als Detektionsoptik kann die Optik eines Mikroskops verwendet werden, vorzugweise handelt es sich jedoch um eine Käme- ra mit einem Kameraobjektiv, das es ermöglicht, ein großes Objektfeld bevorzugt mit ausreichend hoher Schärfentiefe auf einen Flächendetektor abzubilden.

Zur Erzeugung des Übersichtskontrastbildes ist es in dieser Ausgestaltung des Verfahrens not- wendig, mindestens zwei Übersichtsrohbilder mit unterschiedlichen Beleuchtungen des Probenträgers zu detektieren.

Die Übersichtsrohbilder, d.h. unbearbeitete Bilder, werden dann beispielsweise von der Kamera detektiert, indem ein Flächendetektor - beispielsweise ein CMOS-Chip - die Intensität pixelwei- se registriert. Je nach Art der Beleuchtung können die Übersichtsrohbilder nacheinander oder auch gleichzeitig - beispielsweise mit einer einzigen Kamera - aufgenommen werden.

In Abhängigkeit von der Art der Beleuchtung und von Informationen, die aus dem Übersichtskontrastbild zu extrahieren sind, wird ein Verrechnungsalgorithmus ausgewählt, mittels dessen die mindestens zwei Übersichtrohbilder zu einem Übersichtskontrastbild verrechnet werden. Bei den Informationen kann es sich beispielsweise um die bereits oben erwähnten Strukturen des Probenträgers, der Probe etc. sowie der Beschriftung des Probenträgers handeln.

Ebenfalls in Anhängigkeit von den Informationen, die aus dem Übersichtskontrastbild zu extra- hieren sind, wird ein Bildauswertungsalgorithmus ausgewählt, mittels dessen die Informationen aus dem Übersichtskontrastbild extrahiert werden. Diese Informationen können dann beispielsweise vom Benutzer am Bildschirm eines angeschlossenen Computers zur Einleitung weiterer Schritte im Rahmen der Beobachtung und Analyse verwendet werden, beispielsweise zur Navigation auf der Probe, wozu das Bild auf einem Bildschirm dargestellt wird und der Benutzer den interessierenden Probenbereich beispielsweise per Mausklick auswählt. Aufgrund der Bildauswertung kann das Mikroskopsystem diese Position dann automatisch anfahren. Die Informationen können auch aber auch im Rahmen einer automatisierten Untersuchung, beispielsweise in High-Throughput-[Jr\tersuc H}r\ger\, zum Ausschluss von fehlbelegten Näpfchen ( Wells) eines /Wu/f/ ' ive//-Trägers, beispielsweise einer Mikrotiterplatte, verwendet werden, so dass diese vom Mikroskop gar nicht angefahren werden.

Wesentliche Aspekte betreffen die Verwendung einer zweidimensionalen, vorzugsweise array- förmigen Beleuchtung sowie die Aufnahme der Übersichtsrohbilder mit unterschiedlichen Beleuchtungen. Eine zweidimensionale Beleuchtung lässt sich auf verschiedene Weisen errei- chen, wobei zur Erzeugung von Beleuchtungsmustern vorzugsweise ein Array gleich großer Beleuchtungselemente verwendet wird. In jedem Falle müssen die einzelnen Beleuchtungselemente in den mindestens zwei Übersichtsrohbildern voneinander unterscheidbar sein, d.h. sie müssen im Bild voneinander getrennt dargestellt werden können, obwohl nicht auf sie fokussiert wurde. Bei den Beleuchtungselementen kann es sich um LED, OLED, die Enden von Lichtleit- fasern, um Elemente eines beleuchteten DMDs (DMD - digital micromirror device) oder eines sonstigen räumlichen Lichtmodulators handeln. Es kann sich um aktiv oder passiv Licht abstrahlende Elemente handeln. Die Beleuchtungselemente können beispielsweise auch mit einer flächig abstrahlenden Lichtquelle erzeugt werden, vor der beispielsweise eine schaltbare Filter- struktur angeordnet wird, mit denen sich eine oder mehrere Eigenschaften der Beleuchtungselemente - beispielsweise Farbe, Intensität oder Polarisation - manipulieren lassen. Besonders vorteilhaft lassen sich jedoch lichtemittierende Dioden (LED) verwenden, da diese zum einen in verschachtelten Arrays mehrfarbiger LEDs angeordnet werden können, zum anderen auch eine ausreichend hohe Lichtleistung liefern und schließlich auch bereits Mikroskope erhältlich sind, die zur Beleuchtung ein LED-Array, d.h. nach Art einer Matrix oder eines Gitters angeordnete LED verwenden (LED-Array Microscope, Angular Illumination Microscope - AIM). Die LED- Arrays solcher Mikroskope lassen sich ebenfalls für die Erzeugung zweidimensionaler Beleuchtungsmuster verwenden. Die unterschiedlichen Beleuchtungen, mit der die mindestens zwei Übersichtsrohbilder aufgenommen werden, lassen sich auf verschiedene Weisen realisieren. Eine einfache Möglichkeit besteht darin, ein statisches zweidimensionales Beleuchtungsmuster zu verwenden und zwischen zwei Aufnahmen den Probenträger relativ zum Beleuchtungsmuster lateral, d.h. senkrecht zur optischen Achse der Detektionsoptik, zu verschieben. Dies kann entweder erfolgen, indem das - ebenfalls in einer Ebene mit der optischen Achse als Normalen angeordnete - Beleuchtungsmuster selbst verschoben wird, oder aber indem der Probenträger verschoben wird. Der Probenträger bzw. die Probe wird dabei im Durchlicht beleuchtet, d.h. der Probenträger befindet sich zwischen den Beleuchtungselementen des Beleuchtungsmusters und der Detektionsoptik, beispielsweise der Kamera.

Neben räumlich unterschiedlichen Beleuchtungen können auch zeitlich unterschiedliche Beleuchtungen verwendet werden, indem beispielsweise mehrere Übersichtsrohbilder mit unterschiedlichen Belichtungszeiten oder unterschiedlich langer Beleuchtung bei gleicher Belichtungszeit aufgenommen werden, wobei im letzteren Fall das Signal-Rausch-Verhältnis ungüns- tiger ist. Aus diesen Übersichtsrohbildern lässt sich nach dem im Stand der Technik bekannten HDR-Verfahren (HDR - high dynamic ränge) ein Übersichtskontrastbild berechnen.

Eine andere Möglichkeit besteht darin, räumlich unterschiedliche Beleuchtungen durch unterschiedliche Beleuchtungsmuster zu erzeugen, wobei die Beleuchtungsmuster vorzugsweise in Abhängigkeit von den zu extrahierenden Informationen ausgewählt werden. Grundsätzlich ist eine Vielzahl von Beleuchtungsmustern geeignet, die beispielsweise dem Array von Beleuchtungselementen aufgeprägt werden können. Beispielsweise können unterschiedliche Beleuchtungsmuster erzeugt werden, indem die Beleuchtungselemente einzeln oder gruppenweise angesteuert und zu verschiedenen Beleuchtungsmustern geschaltet werden, wobei ein erster Teil der Beleuchtungselemente Licht abstrahlend geschaltet wird und mindestens ein zweiter Teil der Beleuchtungselemente kein Licht oder Licht einer anderen Farbe oder Licht einer anderen Polarisation abstrahlend geschaltet wird. Strahlt der mindestens zweite Teil der Beleuchtungselemente kein Licht ab, so gibt es in jedem Muster genau zwei Teile und die Übersichts- rohbilder werden nacheinander detektiert. Strahlt der zweite Teil der Beleuchtungselemente Licht einer anderen Farbe ab, so können die Beleuchtungselemente auch in mehr als zwei Gruppen eingeteilt werden und einen dritten oder weitere Teile umfassen, die Licht jeweils anderer Farben abstrahlen, wobei die Farben voneinander paarweise verschieden sind. Entsprechendes gilt für die Polarisationen. Die Übersichtsrohbilder bei Beleuchtung mit Licht verschie- dener Farben können dann gleichzeitig aufgenommen werden, vorausgesetzt dass detektions- seitig eine Trennung in die verschiedenen Farbkanäle erfolgt. Weist beispielsweise das Array aus Beleuchtungselementen LEDs in den drei RGB-Grundfarben Rot (R), Grün (G) und Blau (B) auf und verfügt der Sensor der Kamera über entsprechende, diesen Farbkanälen zugeordnete Sensoren, so ist eine Separation ohne Weiteres möglich und es können drei Übersichts- rohbilder gleichzeitig aufgenommen werden. Entsprechendes gilt für polarisierte Beleuchtung, wenn beispielsweise ein LED-Array mit Polarisationsfiltern verschiedener Polarisationen belegt wird und die Polarisationsrichtungen ebenfalls detektiert und zur Separation der Kanäle herangezogen werden. Sind die Beleuchtungselemente als LED ausgestaltet und wird eine LED aus drei einzelnen, jeweils in verschiedenen Grundfarben Rot, Grün und Blau Licht abstrahlenden, einander benachbarten Sub-LEDs gebildet, so lassen sich die unterschiedlichen Beleuchtungen auch durch die Beleuchtung aus verschiedenen Winkeln in den Grundfarben einstellen. Auch hier können die Übersichtsrohbilder gleichzeitig detektiert werden.

Eine andere Möglichkeit besteht darin, explizit unterschiedliche Beleuchtungsmuster zu erzeugen und die Übersichtsrohbilder nacheinander mit unterschiedlichen Beleuchtungsmustern aufzunehmen. Dies kann in einer ersten Variante beispielsweise erfolgen, indem der erste Teil der Beleuchtungselemente für jedes Beleuchtungsmuster stochastisch ausgewählt wird, dabei kön- nen die einzelnen Beleuchtungselemente zufällig angesteuert und Licht abstrahlend bzw. kein Licht abstrahlend geschaltet werden, wobei über Randbedingungen auf eine möglichst gute Gleichverteilung Licht abstrahlender und kein Licht abstrahlender Beleuchtungselemente zu achten ist. In einer zweiten Variante werden pulsweitenmodulierte Beleuchtungselemente - dies lässt sich besonders gut mit LED oder OLED realisieren - verwendet, wobei die Pulsweite län- ger als die Integrationszeit einer Detektoreinheit zur Aufnahme der Übersichtsrohbilder gewählt wird. In diesem Fall müssen die Beleuchtungselemente nicht einzeln angesteuert werden.

Anstelle stochastischer Beleuchtungsmuster können auch Beleuchtungsmuster erzeugt werden, bei denen die Beleuchtungselemente regelmäßig verteilt sind. Beispielsweise lassen sich schachbrettartige, kreuzförmige oder Halbpupillenverteilungen für die Licht abstrahlenden Beleuchtungselemente verwenden. Insbesondere bei schachbrettartiger Verteilung bieten sich zwei Möglichkeiten an: Zum einen kann der zweite Teil der Beleuchtungselemente kein Licht abstrahlen, dann werden zwei Übersichtsrohbilder nacheinander mit zueinander komplementä- ren Beleuchtungsmustern aufgenommen. Im Falle einer schachbrettartigen Beleuchtung sind die Muster zueinander invertiert. Zum anderen können aber auch die beiden Teile der Beleuchtungselemente Licht unterschiedlicher Farben oder Polarisationen abstrahlen, hier können die Übersichtsrohbilder gleichzeitig in einem Bild aufgenommen und anschließend nach Farbkanälen bzw. Polarisationen separiert werden. Im Falle einer schachbrettartigen Beleuchtung mit zwei Beleuchtungsmustern sind die beiden Muster nicht nur komplementär, sondern auch invertiert zueinander. Im Falle der Verwendung mehrerer Muster - beispielsweise einem einzigen Licht abstrahlenden Beleuchtungselement, welches das Array abtastet - verhalten sich alle Muster zusammen zueinander komplementär, d.h. ergeben in Summe ein Array ausschließlich aus Licht abstrahlenden Beleuchtungselementen. Bei Halbpupillenbeleuchtung sind jeweils zwei der vier notwendigen Beleuchtungsmuster zueinander komplementär.

Schließlich lassen sich unterschiedliche Beleuchtungen auch realisieren, indem man aus dem Array von Beleuchtungselementen mindestens einen Ausschnitt auswählt und nur in diesem das Beleuchtungsmuster erzeugt. Die unterschiedlichen Beleuchtungen erreicht man durch abtastendes Verschieben des mindestens einen Ausschnitts auf dem Array, wobei die Beleuchtungselemente außerhalb des mindestens einen Ausschnitts kein Licht abstrahlend geschaltet werden. Beispielsweise kann hier eine Beleuchtung mit einer einzelnen LED verwendet werden, oder aber auch ein Ausschnitt einer schachbrettartigen Beleuchtung. Bei einem großen Probenträger können dabei mehrere Ausschnitte ausgewählt werden, die parallel verschoben werden, ebenso ist eine Kombination mit verschiedenfarbigen Beleuchtungselementen möglich, um mehrere Ausschnitte gleichzeitig zu erzeugen.

Nach der Aufnahme der Übersichtsrohbilder wird in Abhängigkeit von den aus dem Übersichtskontrastbild zu extrahierenden Informationen ein Verrechnungsalgorithmus ausgewählt, mittels dessen die mindestens zwei Übersichtrohbilder zu dem Übersichtskontrastbild verrechnet werden. Die Wahl des Verrechnungsalgorithmus erfolgt vorzugsweise auch in Abhängigkeit von der vorangegangenen Wahl des Beleuchtungsverfahrens, d.h. ist daran angepasst. Vorzugsweise wird das Übersichtskontrastbild entweder in einem Dunkelfeldmodus oder in einem Hellfeldmodus erzeugt, da diese den besten Kontrast ermöglichen, jedoch sind auch Mischmodi möglich. Dabei soll darauf geachtet werden, dass der Kontrast für die interessierenden Strukturen optimal ist, beispielsweise je nachdem, ob die Deckgläser, die Probe selbst oder die Beschriftung mit möglichst hohem Kontrast dargestellt werden sollen. Unter Umständen lassen sich Übersichtskontrastbilder aus den Übersichtsrohbildern sowohl im Hellfeld- als auch im Dunkelfeldmodus erzeugen, je nach gewünschter Information. Neben der Erzeugung eines Übersichtskon- trastbildes in einem Dunkelfeld- oder Hellfeldmodus lassen sich auch andere Arten von Kontrast erzeugen, beispielsweise Übersichtskontrastbilder in einem HDR-Modus, die Dunkel- und Hellfeldkomponenten enthalten . In einer ersten Ausgestaltung basiert der Verrechnungsalgorithmus auf pixelweiser Projektion, vorzugsweise auf einer Rangordnungsprojektion oder auf einer Projektion statistischer Momente. Dabei werden zur Erzeugung des Übersichtskontrastbildes aus einem Stapel von mindestens zwei Übersichtsrohbildern die Übersichtsrohbilder pixelweise verglichen und entsprechend einer Projektionsbedingung wird der Intensitätswert eines der Pixel für die entsprechende Posi- tion im Übersichtskontrastbild ausgewählt. Der aufgenommene Bildstapel wird also pixelweise verrechnet, d.h. jedes Pixel im Übersichtskontrastbild wird nur von den Pixeln im Bildstapel beeinflusst, welche an der gleichen Bildposition in den Übersichtsrohbildern liegen. Bei einer Rangordnungsprojektion werden für eine Bildposition die entsprechenden Pixelwerte der Übersichtsrohbilder nach Intensitäten sortiert, und der dem p-Quantil entsprechende Wert wird für das Übersichtskontrastbild verwendet, wobei p ein vom Benutzer festzulegender oder von dem Verrechnungsverfahren vorgegebener Parameter ist. Ein Spezialfall ist die Minimum-Projektion mit p = 0,0, bei der das Pixel mit minimaler Intensität ausgewählt wird; andere Spezialfälle sind die Maximum-Projektion mit p = 1 , bei der das Pixel mit maximaler Intensität ausgewählt wird, oder die Median-Projektion mit p = 0,5.

Je nachdem, mit welchen Beleuchtungen die Übersichtsrohbilder erzeugt wurden, lassen sich mit dieser Art der Verrechnung Übersichtskontrastbilder im Dunkelfeldkontrast oder im Hellfeldkontrast erzeugen. Ein Übersichtskontrastbild im Hellfeldmodus lässt sich beispielsweise erzeugen, wenn die Beleuchtungselemente - insbesondere wenn sie als LED ausgestaltet sind - nicht übersteuert sind und p = 1 , d.h. die Maximum-Projektion gewählt wird. Das Übersichtskontrastbild lässt sich aber auch im Dunkelfeldmodus erzeugen , wenn beispielsweise mit möglichst großem p ein möglichst helles Übersichtskontrastbild erzeugt wird, wobei im Rahmen der Verrechnung nur solche Pixel berücksichtigt werden , die nicht direkt durch ein Beleuchtungselement beleuchtet worden sind. Erzeugt man beispielsweise zwei Übersichtsrohbilder mit einer schachbrettartigen Verteilung des ersten Teils der Beleuchtungselemente und einer dazu komplementären Verteilung, so wird p = 0 gewählt und eine Minimum-Projektion durchgeführt. Erzeugt man hingegen das Beleuchtungsmuster nur in einem Ausschnitt des Arrays und verschiebt diesen Ausschnitt abtastend auf dem Array, wird jedes Pixel im Bild weniger oft direkt beleuchtet als Übersichtsrohbilder aufgenommen werden. Verwendet man beispielsweise vier in Form eines Kreuzes eingeschaltete LEDs und erzeugt 30 Übersichtsrohbilder für ein scannendes Schachbrettmuster, so wird jedes Pixel maximal viermal direkt von einer LED, deren Durchmesser wesentlich größer als der eines Pixels ist, beleuchtet. Der Wert ist dann p = ((30- 1 )-4)/(30-1 ) = 0,8621 . Alternativ lässt sich auch ein Algorithmus, der auf der Projektion statistischer Momente basiert, verwenden. Dabei entspricht jedes Pixel im Übersichtkontrastbild einem statistischen Moment, wie beispielsweise der Standardabweichung der Intensität über die korrespondierenden Pixel der Übersichtsrohbilder. Insbesondere in Kombination mit einer Sequenz aus statischen LED- Mustern, die relativ zum Probenträger lateral verschoben werden, liefert dies gute Kontraste und behält auch kleine Details bei, so dass dieser Verrechnungsalgorithmus beispielsweise für die Erkennung von /Wu/f/ ' ive//-Probenträgern oder c/?amöer-s//de-Probenträgern besonders gut geeignet ist. Die Vorteile der oben beschriebenen Projektionsmethoden als Verrechnungsalgorithmen liegen darin, dass sie einerseits sehr gut parallelisierbar sind und damit eine sehr schnelle Verrechnung erlauben, und andererseits durch eine Gleichbehandlung aller Pixel keine Nahtstellen- Artefakte auftreten, wie das beispielsweise bei auf Segmentierung basierenden Verrechnungsalgorithmen der Fall ist, bei denen in ungünstigen Fällen die Begrenzungen der Strukturen an den Nahtstellen diskontinuierlich zu springen scheinen.

In einer anderen Ausgestaltung basiert der Verrechnungsalgorithmus auf morphologischen Operationen mit anschließender pixelweiser Projektion, bevorzugt auf einer Top-Hat- oder ß/ac/(-/-/af-Transformation mit anschließender pixelweiser Maximums-Projektion. Mittels der 7op-/-/af-Transformation lassen sich helle Strukturen auf dunklem Untergrund hervorheben, mit der ß/ac/(-/-/af-Transformation lassen sich dunkle Strukturen auf hellem Untergrund hervorheben. Mit diesen Verrechnungsalgorithmen lassen sich insbesondere Glaskanten, also Kanten von Probenträgen oder Deckgläsern, sichtbar machen. Anschließend wird eine pixelweise Maximum-Projektion über die so transformierten Übersichtsrohbilder gebildet und so das Über- sichtskontrastbild erzeugt. Die Vorteile dieses Verrechnungsalgorithmus bestehen darin, dass die Informationen gleichzeitig aus Hellfeld- und aus Dunkelfeldkontrasten gewonnen werden, und dass sie ebenfalls effizient verrechnet werden. Im Vergleich zu einer Rangordnungs- Projektion fällt der Kontrast in den verrechneten Bildern jedoch meist schlechter aus und ist oft nur bei Glaskanten sichtbar. Außerdem können starke Hintergrundartefakte erzeugt werden, die anschließend beseitigt werden müssen.

In einer weiteren Ausgestaltung wird ein segmentierungsbasierter Verrechnungsalgorithmus ausgewählt, bei dem für jedes Pixel eines Übersichtsrohbildes zunächst bestimmt wird, ob dieses direkt von einem Beleuchtungselement mit Licht bestrahlt wurde. Zur Erzeugung eines Übersichtskontrastbildes im Dunkelfeldkontrastmodus werden diese Pixel dann nicht berücksichtigt. Das Übersichtskontrastbild wird auch hier mit einer Projektionsmethode erzeugt. Vorteil dieses Verrechnungsalgorithmus im Vergleich zur Rangordnungsprojektion ist, dass hier explizit bestimmt wird, welche Pixel-Informationen aus den Übersichtsrohbildern verwendet werden können. Nachteilig ist, dass durch die Segmentierung und der daraus entstehenden Ungleich- behandlung von Pixeln Nahtstellen im verrechneten Kontrastbild entstehen können. Zudem ist die Berechnung nicht so effizient durchführbar wie bei den vorangehend beschriebenen Verrechnungsalgorithmen. In einer alternativen Ausgestaltung des Verfahrens, welches im Hellfeldmodus arbeitet, wird das Übersichtskontrastbild nicht durch Verrechnung erzeugt, sondern direkt detektiert, d.h. es werden keine Übersichtsrohbilder detektiert, oder anders ausgedrückt, das Übersichtsrohbild ist mit dem Übersichtskontrastbild in diesem Fall identisch. Zu diesem Zweck wird eine Streuscheibe zwischen das arrayförmige Beleuchtungsmuster - welches auch hier aus einem Array bevor- zugt gleich großer Beleuchtungselemente zusammengesetzt sein kann - und dem Probenträger in den Strahlengang eingebracht. Die Streuscheibe, die für die Hellfeldbeleuchtung vorteilhafte diffuse Beleuchtung erzeugt, kann auch permanent im Strahlengang verbleiben, sofern sie schaltbar ist, sie wird dann nur für die Erzeugung eines Übersichtskontrastbildes im Hellfeldmodus eingeschaltet, d.h. auf streuend geschaltet.

Für den Fall, dass zwischen zwei Aufnahmen der Probenträger relativ zum Beleuchtungsmuster lateral verschoben wird, ist es notwendig, für die Berechnung zu wissen, wie sich dabei die Probe oder das Beleuchtungsmuster im Bild bewegt. Dazu wird die Kamera relativ zum Probenträger oder Beleuchtungsmuster kalibriert, um - im Falle einer der Verschiebung des Proben- trägers - die Koordinaten eines Tisches, auf dem der Probenträger gehalten wird und der zur Verschiebung des Probenträgers verfahren werden kann, auf Bildkoordinaten abbilden zu können. Entsprechend kann für verschiebbare Beleuchtungsmuster vorgegangen werden. Im Falle eines verfahrbaren Tisches wird zur Kalibrierung konkret ein Kalibriermuster, beispielsweise ein Schachbrett, in den Tisch eingelegt, wodurch die Koordinatenabbildung mit ausreichender Ge- nauigkeit abgeschätzt werden kann. Alternativ lässt sich bei der Verrechnung aber auch auf eine solche Kalibrierung verzichten und die Verschiebung der Probe per Bildanalyse oder mit einem anderweitigen Messsystem feststellen.

Insbesondere für den Fall, dass das Beleuchtungsmuster ortsfest ist und der Probenträger zwi- sehen den Aufnahmen verschoben wird, lässt sich nach einer Kalibrierung, d.h. nach einer Quantifizierung der tatsächlichen Verschiebung des Probenträgers in Bezug auf das Bild, auch für größere Probenträger, die nicht vollständig in das von der Kamera bzw. der Detektionsoptik erfassbare Objektfeld passen, ein Übersichtskontrastbild generieren, indem zunächst Einzelkontrastbilder erzeugt werden, die jeweils verschiedene Bereiche des Probenträgers - und / oder der Probe - zeigen und aus entsprechenden Einzelübersichtsrohbildern erzeugt werden. Diese Einzelkontrastbilder werden im Anschluss zum Übersichtskontrastbild zusammengesetzt, wobei die Kalibrierung dazu verwendet wird, die Anschlussstellen zum Aneinandersetzen korrekt zu lokalisieren. Vorteilhaft wird unabhängig davon auch zur Korrektur von geometrischen Verzeichnungen vor der Aufnahme von Übersichtsrohbildern eine Kalibrierung mittels der Aufnahme und Auswertung eines Kalibriermusters vorgenommen. Bei dem Kalibriermuster handelt es sich um ein Objekt mit bekannter Geometrie und gut zu erkennender Struktur - beispielsweise das oben bereits erwähnte Schachbrettmuster -, welches in verschiedenen Lagen im Bildfeld der Kamera platziert und mit der Kamera aufgenommen wird. Allerdings kann auch das Array aus Beleuchtungselementen, insbesondere wenn diese als LED ausgestaltet sind, als Kalibriermuster verwendet werden. Solche Kalibrierungen sind im Stand der Technik bekannt. Wie bereits im Zusammenhang mit den segmentierungsbasierten Verrechnungsalgorithmen angedeutet, können je nach verwendetem Verrechnungsalgorithmus in dem erzeugten Übersichtskontrastbild Hintergrundartefakte auftreten. Solche störenden Hintergrundsignale werden vorzugsweise nach Erzeugung des Übersichtskontrastbildes und noch vor seiner Auswertung mittels entsprechender Korrekturalgorithmen entfernt, d.h. herausgerechnet. Erfolgt keine Late- ralbewegung von Beleuchtungsmuster oder Probenträger, so bilden die Artefakte typischerweise eine periodische Struktur, welche den Positionen der einzelnen Beleuchtungselemente folgt. Diese können dann mittels sogenannter Selbst-Filterung (self-filtering) entfernt werden. Im Stand der Technik sind weitere Korrekturverfahren bekannt, mit denen sich die auftretenden Hintergrundartefakte entfernen oder mindestens reduzieren lassen, insbesondere indem ein Hintergrundbild aufgenommen oder berechnet und dann vom Übersichtskontrastbild subtrahiert wird, d.h. aus diesem herausgerechnet wird. Beispielsweise lässt sich ein Hintergrundbild aus der Verrechnung der Übersichtsrohbilder bestimmen, indem der Vordergrund herausgemittelt wird. Auch aus einer Aufnahme ohne Probenträger bzw. mit leerem Probenträger lässt sich ein Hintergrundbild bestimmen. Aus einer Verrechnung des Hintergrundkontrastbildes lässt sich ein Hintergrundbild bestimmen, indem beispielsweise die mittleren Pixelwerte in lokalen Regionen um ein nicht Licht abstrahlendes Beleuchtungselement errechnet werden, indem alle Beleuchtungselemente im Übersichtskontrastbild analysiert werden. Die Vordergrundstruktur ist nämlich unabhängig von der Position relativ zum Beleuchtungselement und wird herausgemittelt, die Hintergrundstruktur jedoch ist abhängig von dieser Position und wird dadurch verstärkt. Dies ergibt ein Hintergrundbild über die Position der Beleuchtungselemente, welches anschließend aus dem Übersichtskontrastbild herausgerechnet werden kann. Eine andere Möglichkeit zur Herausrechnung von Hintergrundartefakten besteht in der Verwendung eines Bandpassfilters, gegebenenfalls auch in Kombination mit nichtlinearen Filtern. In einem letzten Schritt werden schließlich die Hintergrundkontrastbilder automatisch mittels eines auszuwählenden Bildverarbeitungsalgorithmus analysiert und die benötigten Informationen extrahiert. Die zu extrahierenden Informationen umfassen dabei eine oder mehrere der folgenden Daten: Typ des Probenträgers, Beschriftung des Probenträgers, Orte von Proben oder Probenbereichen, Deckgläsern, Näpfchen einer /Wu/f/ ' ive//-Platte im Bild, Informationen zu einer Immersionsflüssigkeit wie Position, Volumen, Form, Positionen von Artefakten, defekten Proben, Luftblasen etc. Diese Informationen lassen sich nur aufgrund des hohen Kontrasts in den Übersichtskontrastbildern zuverlässig extrahieren. Als Bildverarbeitungsalgorithmus kann beispielsweise ein auf dem Prinzip des maschinellen Lernens (machine learning) basierender Algorithmus, insbesondere ein Deep-Learning- Algorithmus ausgewählt werden, welcher bevorzugt anhand von Übersichtskontrastbildern mit bekannten Informationen trainiert wird. Für die automatische Extraktion der o.g. Informationen aus den Übersichtskontrastbildern bietet es sich an, Verfahren aus dem Bereich des maschinellen Lernens (machine learning) einzusetzen. Dabei wird für die jeweilige Aufgabenstellung - dazu zählen beispielsweise Bildklassifikation, Segmentierung, Lokalisation, Detektion - eine annotierte Trainingsstichprobe bereitgestellt, welche eine Menge von zu analysierenden Kontrastbildern umfasst. Jedem Kontrastbild ist da- bei eine der Aufgabenstellung entsprechenden gewünschte Ausgabe zugeordnet, wie im Folgenden auch anhand von Beispielen erläutert wird. Mit Techniken des maschinellen Lernens kann dann automatisch in einem Lernschritt ein Modell so angepasst werden, dass auch für ungesehene, d.h. neue Bilder die gewünschten und korrekten Ausgaben erzeugt werden. Nachfolgend sind beispielhaft mögliche Algorithmen basierend auf Techniken des maschinellen Lernens skizziert. Alternativ können auch Verfahren aus der klassischen Bild- und Signalverarbeitung verwendet werden, allerdings bieten Algorithmen auf Basis von machine learning, und insbesondere auf Basis von deep learning deutliche Vorteile unter anderem bei Qualität, Robustheit, Flexibilität, Generalisierbarkeit, sowie Entwicklungs- und Wartungsaufwand.

Zur Erkennung des Typs eines Probenträgers, d.h. ob es sich z.B. um einen Multiwell- Probenträger, eine Petrischale, eine Chamber slide, etc. handelt, lässt sich vorteilhaft ein auf einem Convolutional Neural Network basierender Deep-Z-earn/ng-Algorithmus verwenden. Es handelt sich also um eine Aufgabe aus dem Bereich der Bildklassifikation, der Algorithmus ver- wendet als Eingabe ein Bild und gibt eine Klasse aus. Die Trainingsstichprobe umfasst in diesem Fall Kontrastbilder, und jedem Kontrastbild ist einer der in Frage kommenden Probenträgertypen zugeordnet, einem ersten Kontrastbild der Typ„Petrischale", einem zweiten Kontrastbild der Typ„Multiwell-P\atte", einem dritten Kontrastbild der Typ„Chamber slide", einem vierten Kontrastbild der Typ„slide", usw.

Ein Convolutional Neural Network (CNN) besteht aus verschiedenen Schichten, beispielsweise Faltungsschichten, Pooling-Schichten, nichtlinearen Schichten, etc., deren Anordnung in der Netz-Architektur festgelegt ist. Die für die Bildklassifikation verwendete Architektur folgt einer gewissen Grundstruktur, ist aber prinzipiell flexibel. Jedes Element des Netzwerkes nimmt eine Eingabe entgegen und berechnet eine Ausgabe. Zudem haben einige Elemente des Netzwerkes freie Parameter, welche die Berechnung der Ausgabe aus der Eingabe bestimmen. Der ersten Schicht wird ein dreidimensionales Zahlenarray, d.h. ein Farbbild mit je drei Farbwerten pro Pixel, als Eingabe des Netzwerks eingegeben. Die letzte Schicht gibt dann als Ausgabe des Netzwerks eine Wahrscheinlichkeitsverteilung über allen möglichen Probenträgertypen - Ausgabe für ein Übersichtskontrastbild ist also beispielsweise:„slide" 87%,„/Wu/f/ ' ive//-Platte" 1 %, „Petrischale" 2%,„Chamber slide" 10% - aus. Optional kann auch eine Rückweisungsklasse - diese liefert beispielsweise die Werte„unbekannt"/"ungültig"/"leer" - mit integriert werden. Durch den Trainingsprozess werden auf Basis der bereitgestellten Trainingsdaten die freien Parame- ter des Netzwerkes so angepasst, dass die Ausgaben des Modells möglichst gut zu den erwarteten Ausgaben passen.

Dabei kann das Training auch ein bereits auf anderen Daten trainiertes Modell als Ausgangspunkt im Sinne einer Feineinstellung benutzen, was Vorteile hinsichtlich Qualität, Zeitaufwand, und Datenaufwand bietet.

Alternativ zu CNNs oder daraus abgeleiteten oder verwandten Verfahren des deep learning kann die Bildklassifikation auch mit herkömmlichen Verfahren des maschinellen Lernens durchgeführt werden, welche üblicherweise zwei Schritte umfassen: (i) Merkmalsextraktion und (ii) Klassifikation. Bei der Merkmalsextraktion in Schritt (i) wird das Übersichtskontrastbild mittels eines vordefinierten Algorithmus in eine alternative Repräsentation - üblicherweise in einen kompakten oder dünn besetzten Vektor - überführt. Einfache Beispiele sind hier z.B. lokale Gradientenhistogramme (histograms of oriented gradients, HoG). Bei der Klassifikation in Schritt (ii) wird dann jedem dieser Merkmalsvektoren mit Hilfe eines Klassifikators eine Klasse zugeordnet. Ein Beispiel für einen Klassifikator ist eine Stützvektormaschine (Support- Vector- Machine, SVM). Die freien Parameter des Klassifikators werden hier ebenfalls im Trainingsschritt so angepasst, dass die tatsächlichen Ausgaben möglichst gut mit den gewünschten Ausgaben übereinstimmen. Ein Hybridansatz zwischen klassischem machine learning und deep learning basiert darauf, für die Merkmalsextraktion in Schritt (i) ein CNN zu benutzen. Dabei wird ein auf anderen Daten trainiertes CNN an einer gewissen Schicht abgeschnitten, und die Aktivierung des Netzes wird als Merkmalsvektor benutzt. Die Lokalisierung von Strukturen des Probenträgers, z.B. Deckgläsern bei slides und Petrischalen oder Kammern von Chamber slides oder /Wu/f/ ' ive//-Platten einerseits und von Strukturen der Probe oder Probenbereichen andererseits kann als Problem der semantisches Segmentierung (semantic segmentation) aufgefasst werden, d.h. für ein Übersichtskontrastbild als Eingabebild soll ein Bild zurückgeliefert werden, bei dem jedem Pixel des Eingabebildes eine Klasse zuge- ordnet ist (z.B.„Hintergrund",„Deckglas",„Dreck",„Probe", ...). Dies lässt sich vorzugsweise ebenfalls mit Netzwerken aus dem Bereich deep learning umsetzen, beispielsweise mit auf CNNs basierenden Fully Convolutional Networks (FCNs).

Wie CNNs erwarten FCNs als Eingabe üblicherweise ein dreidimensionales Zahlenarray, d.h. ein farbiges Übersichtskontrastbild, liefern als Ausgabe allerdings ein Array, in dem jedem Pixel des Eingabebildes eine Wahrscheinlichkeit für die Zugehörigkeit zu jeder der vorkommenden Klassen zugeordnet wird. Die Trainingsstichprobe umfasst in diesem Fall Kontrastbilder, und jedem Kontrastbild ist ein Array (Grauwertbild) gleicher Größe zugeordnet, in dem jedem Pixel wiederum - codiert über einen Grauwert - eine Klasse zugeordnet ist. Das Training erfolgt analog wie bei CNNs. Dabei können für die Lokalisierung von Probenträgern einerseits und von Probenbereichen andererseits verschiedene FCNs verwendet werden, insbesondere ist die Auswertung aber mit einem einzigen FCN möglich, welches beispielsweise sowohl„Deckglas" als auch„Probe" als Klassen abbildet bzw. enthält.

Es versteht sich, dass die vorstehend genannten und die nachstehend noch zu erläuternden Merkmale nicht nur in den angegebenen Kombinationen, sondern auch in anderen Kombinationen oder in Alleinstellung einsetzbar sind, ohne den Rahmen der vorliegenden Erfindung zu verlassen.

Kurze Beschreibung der Zeichnungen

Nachfolgend wird die Erfindung beispielsweise anhand der beigefügten Zeichnungen, die auch erfindungswesentliche Merkmale offenbaren, noch näher erläutert. Es zeigen:

Fig. 1 eine Anordnung zur Durchführung eines Verfahrens zur Erzeugung und Analyse eines Übersichtskontrastbildes,

Fig. 2 den Aufbau eines dafür geeigneten Mikroskops,

Fig. 3 ein Detail einer Beleuchtung,

Fig. 4 die Erzeugung stochastischer Beleuchtungsmuster,

Fig. 5 zwei komplementäre schachbrettartige Beleuchtungen,

Fig. 6 eine schachbrettartige Beleuchtung mit verschiedenen Farben,

Fig. 7 eine kreuzförmige Verteilung der Beleuchtungselemente,

Fig. 8 eine Halbpupillenverteilung der Beleuchtungselemente,

Fig. 9 das abtastende Verschieben eines Ausschnitts mit einem Beleuchtungsmuster,

Fig. 10-12 die Erzeugung von Übersichtskontrastbildern aus Übersichtsrohbildern mit statischen Beleuchtungsmustern. Ausführliche Beschreibung der Zeichnungen

Fig. 1 skizziert zunächst eine Anordnung, mit der ein Übersichtskontrastbild eines Probenträges 1 und / oder auf dem Probenträger 1 angeordneter Proben erzeugt werden kann. Der Probenträger 1 ist dabei mindestens teilweise im Fokus einer Detektionsoptik 2 angeordnet und wird im Durchlicht mit einem zweidimensionalen, arrayförmigen Beleuchtungsmuster 3 beleuchtet. Um das Übersichtskontrastbild zu erzeugen, werden zunächst mindestens zwei Übersichtsrohbilder mit unterschiedlichen Beleuchtungen des Probenträgers 1 detektiert. Dazu dient hier beispielhaft ein Flächendetektor 4, auf den die Detektionsoptik 2 abbildet. Bei der Detektionsoptik 2 kann es sich um ein Mikroskopobjektiv mit einer geringen Vergrößerung handeln, vorzugsweise handelt es sich aber um das Objektiv einer Kamera, welche in der Lage ist, einen größeren Bereich eines Objektfeldes abzubilden, das dann idealerweise den ganzen Probenträger 1 in einer Übersicht umfasst. Entsprechend handelt es sich in diesem Fall bei dem Flächendetektor 4 um den Sensor der Kamera, beispielsweise einen CMOS-Chip. Je nach Ausgestaltung und insbesondere in Abhängigkeit von der Wahl der Beleuchtung werden von dem Flächendetektor 4 nur die Intensitäten - beispielsweise bei einer weißen Beleuchtung - registriert, oder aber die Intensitäten werden in verschiedene Farbkanäle, beispielsweise Rot (R), Grün (G) und Blau (B) separiert. Ähnlich wie verschiedene Farben können auch unterschiedliche Polarisationen in der Beleuchtung mit entsprechenden Sensoren, die auch die Polarisation registrieren, berücksichtigt und für die Separation in verschiedene Kanäle verwendet werden.

In Abhängigkeit von der Art des Musters und der Art der Beleuchtung werden die Übersichtsrohbilder entweder gleichzeitig oder nacheinander aufgenommen, wobei für jedes Pixel die entsprechenden Intensitätswerte registriert werden. Die Übersichtrohbilder werden dann einer Verrechnungseinheit 5 zur Verrechnung in ein Übersichtskontrastbild zugeführt. In der Verrech- nungseinheit 5 wird in Abhängigkeit von Informationen, die aus dem Übersichtskontrastbild zu extrahieren sind, und optional auch in Abhängigkeit von der Beleuchtung, ein Verrechnungsalgorithmus ausgewählt, mittels dessen die mindestens zwei Übersichtsrohbilder zu dem Übersichtskontrastbild verrechnet werden. Das Übersichtskontrastbild wird dann einer Bildauswertungseinheit 6 zugeführt, in welcher in Abhängigkeit von den Informationen, die aus dem Über- sichtskontrastbild zu extrahieren sind, ein Bildauswertungsalgorithmus ausgewählt wird, mittels dessen die Informationen schließlich extrahiert werden. Die Informationen werden an eine Kontrolleinheit 7 übermittelt, die sie entsprechend weiterverarbeitet und beispielsweise bei einem High-Throughput-Verfahren solche Multiwells von der mikroskopischen Analyse ausnimmt, bei denen die Auswertung des Übersichtskontrastbildes ergeben hat, dass diese nicht korrekt be- füllt sind, beispielsweise mit defekten Proben oder Luftblasen, etc. Das Übersichtskontrastbild kann selbstverständlich auch für einen Benutzer auf einem mit der Bildauswertungseinheit 6 oder der Kontrolleinheit 7 verbundenen Bildschirm, der Teil dieser Einheiten sein kann, dargestellt werden, so dass ein Benutzer per Hand entsprechende Einstellungen vornehmen kann. Verrechnungseinheit 5, Bildauswertungseinheit 6 und Kontrolleinheit 7 können sämtlich als Hard- und / oder Software in einen PC integriert sein.

Das Verfahren lässt sich, wie im Zusammenhang mit der Beschreibung zu Fig. 1 bereits ange- deutet, ohne weiteres auch mit bestehenden Mikroskopen durchführen. Insbesondere geeignet sind solche Mikroskope, welche ein LED-Array für die Beleuchtung verwenden, das Beleuchtungsmuster 3 wird dann durch die LED dieses Arrays erzeugt. Ein solches Mikroskop, welches beispielsweise für die Angular Illumination Microscopy (AIM) verwendet wird, ist beispielhaft in Fig. 2 dargestellt. Der Probenträger 1 wird hier über ein LED-Array 8 beleuchtet, die Detektion- soptik 2 umfasst hier beispielhaft zwei Linsen, zwischen denen ein Umlenkspiegel 9 zur Faltung der optischen Achse angeordnet ist. Mittels eines Strahlteilers 10 wird ein Teil des Lichts auf einen Flächendetektor 4 geleitet, während ein anderer Teil des Lichts über eine Linse 1 1 auf ein Okular 12 gelenkt wird, so dass das Übersichtsrohbild auch von einem Beobachter betrachtet werden kann. Kamera und Beleuchtung lassen sich besonders gut an einem inversen Mikro- skopstativ positionieren, indem beispielsweise das LED-Array 8, mit dem das Beleuchtungsmuster 3 erzeugt wird, oberhalb an einem für die Durchlichtbeleuchtung vorbereiteten Arm angeordnet ist, und die Kamera unterhalb der Probe - beispielsweise am Objektivrevolver - der Probe platziert wird. Zur Erzeugung von Beleuchtungsmustern 3 wird vorzugsweise ein Array bevorzugt gleich großer Beleuchtungselemente verwendet. Als Beleuchtungselemente lassen sich beispielsweise LED, OLED, Lichtleitfasern, d.h. deren Enden bzw. Austrittsflächen als aktive Lichtquellen, oder Elemente eines beleuchteten DMD (digital micromirror device) oder eines anderen räumlichen Lichtmodulators als passive Beleuchtungselemente verwenden. Wenn im Folgenden beispiel- haft LED als Lichtquellen genannt werden, so dient dies nur der anschaulichen Erläuterung und schließt explizit nicht die Verwendung der anderen möglichen Arrays von Beleuchtungselementen aus.

Die Aufnahme der Übersichtsrohbilder erfolgt durch eine Kamera mit dem Flächendetektor 4; das Objektiv der Kamera ist wie in Fig. 1 gezeigt auf den Probenträger 1 fokussiert und auf das Beleuchtungsmuster 3 bzw. die Beleuchtung hinter dem Probenträger 1 gerichtet, die sich nicht im Fokus befindet. Dabei kann eine Kamera mit einem Objektiv verwendet werden, welches ein großes Objektfeld aufweist und nicht telezentrisch ist. Zwischen dem Probenträger 1 und dem Beleuchtungsmuster 3, welches beispielsweise als LED-Array ausgestaltet sein kann, müssen keine zusätzlichen optischen Elemente zur Manipulation der Beleuchtung platziert werden. Typischerweise lassen sich die Abstände zwischen der Detektionsoptik 2 bzw. dem Flächendetektor 4 und dem Probenträger 1 einerseits und zwischen dem Probenträger 1 und dem Beleuchtungsmuster 3 andererseits jeweils in einem Bereich zwischen 0,5 cm und 10 cm wählen, können jedoch insbesondere noch größer sein, um ggf. den gesamten Probenträger 1 zu erfassen. Grundsätzlich können die Abstände auch frei gewählt werden, solange verschiedene Bedingungen erfüllt sind: (i) der Probenträger 1 muss in der Fokusebene der Detektionsoptik 2 liegen; (ii) die zu analysierenden Strukturen des Probenträgers 1 - beispielsweise Kanten von Deck- gläsern - lassen sich mittels der Kamera noch auflösen; (iii) die durch das Beleuchtungsmuster 3 erzeugten Strukturen müssen auf dem vom Flächendetektor 4 registrierten Bild erkennbar sein, d.h. einzelne Beleuchtungselemente müssen unterscheidbar sein und decken vorteilhaft die gesamte zu analysierende Struktur ab, was durch eine entsprechende Wahl der Größe des Arrays aus Beleuchtungselementen, der Größe der Beleuchtungselemente und ihres Abstand zueinander beeinflusst werden kann, weshalb beispielsweise ein Array aus LED sehr gut für die größeren Strukturen wie Probenträger geeignet ist. Decken sie die Struktur nicht vollständig ab, so kann bei entsprechender Kalibrierung ein zusammengesetztes Übersichtskontrastbild erzeugt werden. Die Beleuchtung wird im Folgenden anhand von Fig. 3, bei der beispielhaft LED als Beleuchtungselemente verwendet werden, näher erläutert. Aus dem Beleuchtungsmuster 3 wurde hier beispielhaft nur eine LED 13 herausgegriffen, die hinter dem Probenträger 1 angeordnet ist. Die Abstände sind willkürlich gewählt, tatsächlich kann das Beleuchtungsmuster 3 noch weiter entfernt angeordnet werden. Eine Anordnung direkt hinter dem Probenträger 1 ermöglicht jedoch eine Anordnung in der Nähe der Fokusebene, so dass die Auflösung der einzelnen Beleuchtungselemente verbessert wird.

Die Aufnahme erfolgt mit nicht telezentrischer Detektionsoptik 2. Jede eingeschaltete LED 13 wirkt abhängig vom Feldbereich der Probe entweder als Hell- oder Dunkelfeldbeleuchtung. Für einen ersten Feldbereich 14 ist die LED 13 direkt hinter der Probe bzw. dem Probenträger angeordnet, hier dominiert ein Durchlicht-Anteil, so dass die LED 13 für diesen ersten Feldbereich 14 als Hellfeldbeleuchtung wirkt und ein entsprechender Hellfeldkontrast erzeugt wird. Für einen zweiten Feldbereich 15 neben der LED 13 wirkt die LED 13 jedoch als Dunkelfeldbeleuchtung und kann für die Erzeugung eines Dunkelfeldkontrastes verwendet werden. Soll ein Über- sichtskontrastbild im Hellfeldmodus erzeugt werden, so kann optional eine Streuscheibe zwischen dem Array aus Beleuchtungselementen und dem Probenträger 1 eingebracht werden, da für Hellfeldkontraste diffuse Lichtquellen von Vorteil sind, für Dunkelfeldkontraste jedoch nicht. Die Streuscheibe kann jeweils eingebracht werden, sie kann aber auch permanent im Strahlengang positioniert sein, und schaltbar sein, so dass eine Lichtstreuung nur bei angeschalteter Streuscheibe erfolgt. Durch die Erzeugung von Übersichtsrohbildern mit verschiedenen Beleuchtungen, die insbesondere durch verschiedene Beleuchtungsmuster 3 realisiert werden können, lassen sich Hell- und / oder Dunkelfeld-Informationen des Probenträgers 1 und auch der Probe selbst extrahieren und in einem Übersichtskontrastbild darstellen. Die unterschiedlichen Beleuchtungen werden in Abhängigkeit von den Informationen, die extrahiert werden sollen, gewählt. Zu diesen Informationen gehören in der Regel die Art des Probenträgers, beispielsweise ob es sich um einen normalen Objektträger im Sinne eines Glasplätt- chens handelt, um eine einfache Petrischale, um einen /Wu/f/ ' ive//-Probenträger mit einer Vielzahl offener Näpfchen, oder um einen Probenträger mit verschiedenen, verschlossenen Probenkammern (Chamber Slide), die daher mit einem Deckglas versehen sind. Auf dem Probenträger 1 ist häufig eine Probennummer angegeben, beispielsweise durch handschriftliche Beschriftung, öfter aber als Codierung mit einem Barcode oder einem QR-Code, welche in Verbindung mit einer entsprechenden Datenbank interpretiert werden können. Insbesondere bei der Ver- wendung von Probenträgern mit mehreren Probenkammern oder Näpfchen sollen mögliche Probenbereiche erkannt werden. Auch sollen die Proben identifiziert werden können und Fehler wie Luftblasen, Kontaminierungen oder leere Probenkammern erkannt werden können. Auch das Vorhandensein von Immersionsflüssigkeit und deren Form, Volumen und Position soll erkannt werden können.

Nachdem die gewünschten Informationen automatisch mittels eines Algorithmus zur Bildverarbeitung aus dem Übersichtskontrastbild extrahiert wurden, können die folgenden Schritte je nach Aufgabenstellung entweder automatisch oder semi-automatisch durchgeführt werden. Als Beispiel sei hier die Auswahl genannt, welche Näpfchen einer /Wu/f/ ' ive//-Platte untersucht wer- den sollen, dies kann entweder automatisch oder ausschließlich vom PC aus erfolgen, ohne dass ein Benutzer nochmals durch das Okular blicken muss, in dem allerdings ebenfalls ein Übersichtsbild des kompletten Probenträgers 1 darstellbar ist.

Anhand der Fig. 4-12 werden im Folgenden verschiedene Beleuchtungen und für diese geeig- neten Verrechnungsalgorithmen beschrieben. Zur Veranschaulichung wird dabei immer ein LED-Array verwendet, der Einsatz anderer Beleuchtungselemente, wie sie beispielhaft oben eingeführt wurden, ist jedoch ohne weiteres ebenfalls möglich.

Eine erste Möglichkeit besteht darin, die unterschiedlichen Beleuchtungen durch unterschiedli- che Beleuchtungsmuster 3, die in Abhängigkeit von den zu extrahierenden Informationen ausgewählt werden, zu erzeugen. Solche Beleuchtungsmuster sind in den Fig. 4-9 dargestellt.

Beispielsweise können verschiedene Beleuchtungsmuster 3 stochastisch erzeugt werden. Dies ist in Fig. 4 dargestellt, die sechs Einzelbilder zeigen verschiedene Beleuchtungsmuster, bei denen die LED 16 eines LED-Arrays 17 weißes Licht abstrahlen und stochastisch an- oder ausgeschaltet sind. Im angeschalteten Zustand sind sie als kleine Kreise dargestellt, im ausgeschalteten Zustand wurden sie weggelassen, um die verschiedenen Beleuchtungsmuster klar zu kennzeichnen. Eine einfache Möglichkeit, stochastische Beleuchtungsmuster 3 zu erzeugen, besteht darin, pulsweitenmodulierte Beleuchtungselemente zu verwenden, deren Pulsweite länger als die Integrationszeit einer Detektoreinheit zur Aufnahme der Übersichtsrohbilder gewählt wird, wobei diese Wahl auch durch die Festlegung einer Integrationszeit erfolgen kann. Während der Integ- rationszeit der Kamera sind dann einige der LED angeschaltet, andere ausgeschaltet, da die Pulsweitenmodulation zwischen den LED 16 nicht synchronisiert ist. Die LED 16 des LED- Arrays 17 müssen in diesem Fall nicht einzeln ansteuerbar bzw. schaltbar sein.

Selbstverständlich ist es auch möglich, die Beleuchtungselemente einzeln oder gruppenweise anzusteuern und zu verschiedenen Beleuchtungsmustern zu schalten. Dabei wird ein erster Teil der Beleuchtungselemente Licht abstrahlend und mindestens ein zweiter Teil der Beleuchtungselemente kein Licht abstrahlend oder Licht einer anderen Farbe abstrahlend oder Licht in einer anderen Polarisation abstrahlend geschaltet. Im Falle der Erzeugung stochastischer Beleuchtungsmuster in Fig. 4 wird der erste Teil der Beleuchtungselemente für jedes Beleuch- tungsmuster 3 stochastisch ausgewählt. Der zweite Teil der Beleuchtungselemente strahlt kein Licht ab. Um ein qualitatives gutes Übersichtkontrastbild erzeugen zu können, werden relativ viele Übersichtsrohbilder benötigt, so dass für die Aufnahme der Übersichtsrohbilder in der Regel mehrere Sekunden benötigt werden. Diese Zeit kann verkürzt werden, indem der zweite Teil der Beleuchtungselemente nicht abgeschaltet wird, sondern Licht einer anderen Farbe ab- strahlt, so dass zwei Übersichtsrohbilder gleichzeitig aufgenommen werden, die anschließend nach Farben separiert werden.

Übersichtskontrastbilder lassen sich sowohl in einem Dunkelfeldmodus als auch in einem Hellfeldmodus erzeugen, in Abhängigkeit vom Verrechnungsalgorithmus, der hier beispielsweise auf einer 7op-/-/af-Transformation für ein Hellfeldkontrastbild oder auf einer Black-Hat- Transformation für ein Dunkelfeldkontrastbild, jeweils mit anschließender, pixelweiser Maximum-Projektion, basieren kann, wobei beide Transformationen gleichermaßen auf die Übersichtsrohbilder angewendet werden können, so dass man ein Übersichtskontrastbild sowohl im Hellfeldmodus als auch im Dunkelfeldmodus erzeugen kann. Bei dieser Art der Beleuchtung lassen sich Glaskanten, d.h. die Ränder des Probenträgers 1 , oder Deckgläser gut sichtbar machen, sie weisen einen hohen Kontrast im Gegensatz zu der eigentlichen Probe auf.

Während bei der Verwendung von stochastischen Beleuchtungsmustern relativ viele Bilder - in der Regel zwischen 30 und 50 - aufgenommen werden müssen, um zufriedenstellende Kon- traste im Übersichtskontrastbild zu erhalten, kommen andere Beleuchtungsmuster mit weit weniger Bildern aus. Solche Muster sind in Fig. 5 und Fig. 6 dargestellt, es handelt sich um schachbrettartige Muster. An- und ausgeschaltete Beleuchtungselemente - LED 16 - weisen dabei eine schachbrettartige Verteilung auf, der erste Teil der Beleuchtungselemente, die angeschaltet sind, entspricht dann beispielsweise den weißen Feldern des Schachbretts, der ausge- schaltete zweite Teil der LED 16 den schwarzen Feldern. Es werden zwei Übersichtsrohbilder benötigt, die mit zueinander komplementären, d.h. invertierten Beleuchtungsmustern erzeugt werden. Diese beiden Schachbrettmuster sind in Fig. 5 dargestellt. Der erste der Teil der Beleuchtungselemente wird von den angeschalteten LED 16 gebildet, und in jeder Zeile und jeder Spalte ist nur jede zweite LED 16 angeschaltet. Im rechten der beiden Beleuchtungsmuster sind dabei diejenigen LED 16 angeschaltet, die im linken Bild ausgeschaltet waren und umgekehrt. Das Beleuchtungsmuster kann dabei über das ganze LED-Array 17 ausgedehnt sein, oder nur über einen interessierenden Bereich des Probenträgers 1 , um die Gesamtmenge an Licht zu reduzieren und die Probe nicht unnötig zu belasten. Die schachbrettartige Beleuchtung lässt sich insbesondere zur Verwendung eines Übersichtskontrastbildes im Dunkelfeldmodus verwenden, als Verrechnungsalgorithmus wird hier insbesondere ein auf pixelweiser Projektion basierender Rangordnungsprojektionsalgorithmus in der Minimum-Projektion verwendet. Es werden nur zwei Übersichtrohbilder benötigt, und das Verfahren liefert sehr guten Kontrast, sowohl für den Probenträger 1 und Probenbereiche - beispielsweise die Glaskanten von Deck- gläsern - als auch für die Probe selbst.

Bei der Verwendung von Beleuchtungsmustern wie in Fig. 5 gezeigt, lassen sich LED-Arrays 17 mit einfarbigen LEDs verwenden, die beispielsweise weißes Licht oder Licht in einer der Grundfarben R, G, B abstrahlen; für die Detektion kann ein Flächendetektor verwendet werden, der farbig oder monochrom registriert.

Strahlt der erste Teil der Beleuchtungselemente Licht ab und der zweite Teil der Beleuchtungselemente kein Licht, so werden in dem in Fig. 5 gezeigten Fall zwei Übersichtsrohbilder zur Erzeugung eines Übersichtkontrastbildes benötigt, die nacheinander aufgenommen werden müssen. Die Übersichtsrohbilder lassen sich aber auch gleichzeitig mit einer Kamera aufnehmen und anschließend separieren, wenn alle Teile der Beleuchtungselemente Licht von einander paarweise verschiedener Polarisationen abstrahlen. Zur Erzeugung der schachbrettartigen Beleuchtungsmuster kann hier ein LED-Array 17 verwendet werden, welches entsprechend dem Muster mit komplementären Polarisationsfiltern, die einander in Zeilen und Spalten ab- wechseln, ausgestattet ist. Die Polarisationsfilter können auch schaltbar sein. Auf diese Weise können die beiden Übersichtsrohbilder mit einer Aufnahme erzeugt werden und müssen nur anschließend separiert werden, wozu die Polarisation ebenfalls detektiert werden muss.

Eine weitere Möglichkeit besteht darin, dass alle Teile der Beleuchtungselemente Licht vonein- ander paarweise verschiedener Farben abstrahlen, d.h. beispielsweise bei vier Teilen von Beleuchtungselementen, das jeder der Teile Licht in einer anderen Farbe abstrahlt. Dies ist in Fig. 6 wieder anhand eines schachbrettartigen Beleuchtungsmusters erläutert. Der erste Teil der Beleuchtungselemente umfasst hier blaue LED 18, die also Licht im blauen Wellenlängenbereich abstrahlen, während der zweite Teil der Beleuchtungselemente rote LED 19, d.h. im roten Wellenlängenbereich Licht abstrahlende LED, umfasst. Die beiden Gitter sind ineinander verschachtelt, so dass auf dem LED-Array 17 ein rot-blaues Schachbrett dargestellt ist. Der Probenträger 1 wird mit diesem Beleuchtungsmuster beleuchtet, und es wird eine Aufnahme gemacht, die bereits beide notwendigen Übersichtsrohbilder umfasst. Die einzelnen Übersichts- rohbilder erhält man, indem man die Aufnahme nach Farbkanälen separiert. Je nach Ausgestaltung der Kamera, d.h. nach Anzahl der Farbkanäle und der LED 13 des LED-Arrays 17 können auch drei oder mehr Muster miteinander verschachtelt werden, mit denen die Probe bzw. der Probenträger 1 gleichzeitig beleuchtet wird. Idealerweise sind dabei die LED 16 des LED-Arrays 17 und die Farbkanäle der für die Aufnahme verwendeten Kamera aufeinander abgestimmt, ohne weitere Maßnahmen stehen hier in der Regel die drei Grundfarbkanäle Rot, Grün und Blau zur Verfügung, da auch weißes Licht abstrahlende LED aus roten, grünen und blauen Sub-LEDs zusammengesetzt sind.

Anstelle eines Beleuchtungsmusters in Schachbrettform können auch andere Beleuchtungs- muster verwendet werden, bei denen der erste Teil der Beleuchtungselemente - und entsprechend der zweite und ggf. weitere Teile - eine regelmäßige Verteilung im Unterschied zur sto- chastischen Verteilung aufweist. Fig. 7 zeigt ein solches Beispiel, ein sogenanntes Kreuzmuster, bei dem vier verschiedene Beleuchtungsmuster erzeugt werden und entsprechend vier Übersichtsrohbilder benötigt werden. Gegenüber schachbrettartigen Beleuchtungsmustern ist der Kontrast hier leicht erhöht. Ebenfalls vier einzelne Übersichtsrohbilder werden bei der Verwendung von Halbpupillenmustern benötigt, wie sie in Fig. 8 dargestellt sind. Für die Erzeugung eines Übersichtsrohbildes wird das LED-Array 17 in zwei Hälften eingeteilt, der erste Teil der Beleuchtungselemente liegt dann in der einen Hälfte und der zweite Teil der Beleuchtungselemente, der ausgeschaltet ist, in der anderen Hälfte. Das zweite Übersichtsrohbild wird mit dazu komplementärer Verteilung aufgenommen, d.h. wenn zunächst der erste Teil der Beleuchtungselemente die linke Hälfte auf dem LED-Array 17 ausfüllt, so füllt er für das zweite Übersichtrohbild die rechte Hälfte aus. Zwei weitere Übersichtsrohbilder werden erzeugt, indem das LED-Array in eine obere und eine untere Hälfte eingeteilt wird, d.h. mit einer Teilungsrichtung senkrecht zur ersten Teilungsrichtung. Bei transparenten Probenträgern mit vertikalen Elemen- ten, insbesondere bei sogenannten Chamber Südes oder transparenten /Wu/f/ ' ive//-Platten lässt sich so ein hoher Kontrast erzielen. Das Übersichtskontrastbild wird vorzugsweise im Dunkelfeldmodus erzeugt, wozu ein auf pixelweiser Projektion basierender Verrechnungsalgorithmus, vorzugsweise ein Rangordnungsprojektions-Algorithmus verwendet wird. Dabei werden die Übersichtsrohbilder pixelweise verglichen und entsprechend einer Projektionsbedingung der Intensitätswert eines der Pixel für die entsprechende Position im Übersichtskontrastbild ausgewählt.

In einer weiteren Ausgestaltung des Verfahrens wird ausgenutzt, dass jede weißes Licht abstrahlende LED aus drei einzelnen, jeweils in den verschiedenen Grundfarben Rot, Grün und Blau Licht abstrahlenden, einander benachbarten Sub-LEDs gebildet wird. Unterschiedliche Beleuchtungen - die Beleuchtungsmuster können hier identisch sein - können hier durch die Beleuchtung aus verschiedenen Winkeln in den Grundfarben eingestellt werden. In diesem Fall wird ein Verrechnungsalgorithmus gewählt, mit dem ein Übersichtskontrastbild im Hellfeldmo- dus erzeugt wird.

Eine weitere Ausgestaltung des Verfahrens besteht darin, das Beleuchtungsmuster 3 nur in mindestens einem Ausschnitt des Arrays von Beleuchtungselementen zu erzeugen. Die unterschiedlichen Beleuchtungen werden dann durch abtastendes Verschieben des mindestens einen Ausschnitts auf dem Array erzeugt. Beleuchtungselemente außerhalb des mindestens einen Ausschnitts werden dabei so geschaltet, dass sie kein Licht abstrahlen. Dies ist in Fig. 9 am Beispiel des Schachbrettmusters dargestellt, aus dem hier ein kleiner Ausschnitt aus vier LEDs 1 6 ausgewählt wurde, der in eine Sequenz von Bildern bzw. Beleuchtungsmustern eine Zeile abtastet und dann zeilenweise über das LED-Array 17 verschoben wird. Im Vergleich mit dem im Zusammenhang mit Fig. 5 beschriebenen Schachbrettmuster werden hier mehr Übersichtrohbilder benötigt, der Kontrast ist vergleichbar in der Qualität. Vorteilhaft ist jedoch die Menge an Licht pro Zeit, welche durch das LED-Array 17 abgestrahlt wird, deutlich geringer als bei Verwendung der beiden vollen Muster. Die Hintergrundhelligkeit ist daher reduziert und es finden sich weniger störende Reflexe in den Übersichtrohbildern. Die für die Aufnahme der Übersichtrohbilder benötigte Zeit kann verringert werden, indem beispielsweise im Bild des Probenträgers 1 räumlich weit entfernte Bereiche gleichzeitig Ausschnitte mit Beleuchtungsmustern verschoben werden, und / oder in dem zu verschiebenden Ausschnitt Beleuchtungsmuster in verschiedenen Farben erzeugt werden, die getrennt registriert werden. Im Ausschnitt, der über das LED-Array 1 7 verschoben wird, können auch andere Muster erzeugt werden, beispielsweise können alle LED 16 bis auf eine eingeschaltet sein, so dass der Ausschnitt nur eine - ausgeschaltete - LED umfasst, dieser Ausschnitt wird dann verschoben. Eine andere Möglichkeit besteht darin, nur eine LED einzuschalten und alle anderen auszulassen, und diesen Ausschnitt über das Array zu verschieben und dabei die Übersichtsrohbilder aufzunehmen.

Als Verrechnungsalgorithmus bietet sich hier insbesondere ein Rangordnungsprojektions- Algorithmus an, insbesondere auch in der Minimum-Projektion, so dass man ein Übersichtskontrastbild im Dunkelfeldmodus erhält.

Generell kann es notwendig sein, den Hellfeldbereich auf der Kamera zu übersteuern, um ein gutes Dunkelfeldsignal für Dunkelfeldkontraste zu erhalten. Für eine anschließende Hellfeldaufnahme muss dann eventuell eine weitere Aufnahme ohne übersteuerten Hellfeldbereich durchgeführt werden. Eine andere Ausgestaltung des Verfahrens schließlich wird im Folgenden anhand der Fig. 10- 12 erläutert. Dabei werden unterschiedliche Beleuchtungen nicht mit verschiedenen Beleuchtungsmustern erzeugt, sondern indem zwischen zwei Aufnahmen der Probenträger 1 relativ zum Beleuchtungsmuster 3 lateral verschoben wird. In Bezug auf Fig. 1 entspricht das einer Verschiebung senkrecht zur optischen Achse. Dabei kann entweder der Probenträger 1 gegen das Beleuchtungsmuster 3 oder umgekehrt verschoben werden, es können aber auch beide gegeneinander verschoben werden. Meist ist eine Verschiebung des Probenträgers 1 allein einfacher zu realisieren, da dieser gewöhnlich auf einem in allen drei Raumrichtungen verfahr- baren Tisch montiert ist. Die LED 16 des LED-Arrays 17 werden in einem festen Muster, beispielsweise in einem regulären Gitter geschaltet. Zwischen zwei Übersichtsrohbildern wird das Beleuchtungsmuster 3 und / oder der Probenträger 1 in einer Ebene orthogonal zur optischen Achse der Kamera verschoben. In den Fig. 10-12 sind verschiedene Probenträger in jeweils vier verschiedenen Positionierungen des Beleuchtungsmusters 3 relativ zum Probenträger 1 dargestellt, realisiert mit dem LED-Array 17 und den LED 16. Als Probenträger in Fig. 10 wird eine Slide 20 mit Deckgläsern 21 verwendet, die sichtbar gemacht werden sollen, in Fig. 1 1 handelt es sich um eine /Wu/f/ ' ive//-Platte 22, deren Näpfchen 23 sichtbar gemacht werden sollen und in Fig. 12 handelt es sich bei den Probenträger um ein Chamber-Slide 24, deren Kammern 25 sichtbar gemacht werden sollen. Die Übersichtskontrastbilder sind in allen Fällen auf der rechten Seite der Figuren dargestellt. Übersichtskontrastbilder können hier sowohl im Hellfeld- als auch im Dunkelfeldmodus erzeugt werden. Im Falle eines Übersichtskontrastbildes im Dunkelfeldmodus wird als Verrechnungsalgorithmus die Minimum-Projektion als Spezialfall der Rangordnungsprojektion verwendet, im Falle eines Übersichtskontrastbildes im Hellfeldmodus kann eine Maximumsprojektion verwendet werden. Zum Ausgleich von Helligkeitsunterschieden kann hier wie auch in allen anderen Fällen, wo es notwendig erscheint, im Anschluss an die Verrechnung eine Shading-KorreWtur vorgenommen werden. Im Falle einer segmentierungsba- sierten Verrechnung kann die Shading-KorreWtur auch vor der Verrechnung der Übersichtrohbilder vorgenommen werden. Aufgrund der relativen Bewegung zwischen den Aufnahmen der Übersichtsrohbilder muss für die korrekte Anwendung des Verrechnungsalgorithmus bekannt sein, wie sich der Probenträger bzw. das Beleuchtungsmuster 1 im Bild bewegt. Dazu ist eine Kalibrierung der Kamera bzw. der Detektionsoptik 2 relativ zum Probenträger 1 bzw. zu einem Tisch, auf dem er montiert ist, notwendig, um die Probenträgerkoordinaten auf Bildkoordinaten abbilden zu können und umge- kehrt. Dazu wird anstelle des Probenträgers zunächst ein Kalibriermuster an gleicher Position verwendet bzw. auf dem Tisch eingespannt. Auf diese Weise lässt sich solch eine Abbildung - eine Homographie, d.h. eine Abbildung von einer zweidimensionalen Ebene auf eine zweidimensionale Ebene im Raum - schätzen. Selbstverständlich ist es auch möglich, auf eine Kalibrierung zu verzichten, wenn die Relativbewegung per Bildanalyse oder mittels eines gesonder- ten Messsystems festgestellt werden kann, oder aber eine Eichung basierend auf Objektivparametern und Abständen vorab vorzunehmen.

Die mit statischen Beleuchtungsmustern bestimmten Übersichtskontrastbilder liefern qualitativ den besten Kontrast, insbesondere bei der Verwendung von LED, da bei den dynamischen Mustern, bei denen sich also die Muster ändern, die ausgeschalteten LED ein recht starkes Hintergrundsignal aufgrund von Rückreflexion am Probenträger liefern können. Mittels entsprechender Bildverarbeitungsalgorithmen, beispielsweise mit Deep-Z-earn/ng-Algorithmen, lassen sich diese Artefakte jedoch bei der Auswertung eliminieren, d.h. sie werden nicht berücksichtigt.

Eine weitere Möglichkeit der Verwendung von statischen Mustern zur Erzeugung unterschiedlicher Beleuchtungen, ohne die Probe bzw. den Probenträger 1 relativ zum Beleuchtungsmuster lateral zu verschieben, besteht darin, ein Übersichtskontrastbild aus mehreren Aufnahmen, die mit verschiedenen Belichtungen vorgenommen wurden, nach Art einer HDR-Aufnahme (HDR - High Dynamic Range) zusammenzusetzen. Aus beispielsweise drei Übersichtrohbildern, die mit verschiedenen Belichtungen aufgenommen werden, lässt sich ein Übersichtskontrastbild als HDR-Bild zusammensetzen.

Dabei kann bei der Berechnung des Übersichtskontrastbildes zusätzlich die Position der Be- leuchtungselemente im Hinblick auf die Probe bzw. den Probenträger berücksichtigt werden, wie im Zusammenhang mit Fig. 3 erläutert. Beleuchtet das Beleuchtungselement direkt den Probenträger bzw. die Probe, so werden Hellfeldinformationen genutzt, ansonsten Dunkelfeldinformationen. Damit ist das Übersichtskontrastbild eine Mischung aus Hell- und Dunkelfeldkontrasten ist.

Das oben im Zusammenhang mit der Kalibrierung der Relativbewegung beschriebene Kalibriermuster kann außerdem dazu verwendet werden, eine Korrektur geometrischer Verzeichnungen im Bild vorzunehmen, die bei jedem Übersichtskontrastbild angewendet wird. Außerdem lassen sich auch Hintergrundartefakte nach der Verrechnung herausrechnen.

Im Anschluss an die Erzeugung der Übersichtskontrastbilder werden diese automatisch mittels eines Bildauswertungsalgorithmus analysiert, vorzugsweise mit einem auf deep learning basierenden Algorithmus unter Verwendung neuronaler Netzwerke. Beispielsweise wird die Art des Probenträgertyps erkannt, der Probenträger kann auch im Bild lokalisiert werden. Weist der Probenträger eine Beschriftung auf, so kann diese ebenfalls aus dem Kontrastbild bestimmt werden. Gleiches gilt für die Probe bzw. Bereiche auf dem Träger, wie beispielsweise Näpfchen, welche Proben enthalten können. Mittels der Erkennung von Luftblasen oder anderen Artefakten durch entsprechende Bildauswertungsalgorithmen lässt sich insbesondere bei Probenträgern, die mehrere Proben in getrennten Behältnissen umfassen, die Untersuchungszeit, die für den Probenträger verwendet wird, verkürzen, wenn dort solche Artefakte vorhanden sind. Schließlich lässt sich mittels der Bildauswertung des Übersichtskontrastbildes im Falle einer Immersionsflüssigkeit auch das Volumen und die Form eines Immersionstropfens erkennen, sowie lassen sich Rückschlüsse auf Verschmutzungen in der Immersionsflüssigkeit zie- hen.

Diese Informationen können bei einem Betrachter bzw. Benutzer am PC vorzugweise mittels graphischer Mittel angezeigt werden, so dass der Benutzer sein weiteres Vorgehen an die Ergebnisse der Analyse des Übersichtskontrastbildes anpassen kann. Während es bei der Bedie- nung durch einen Benutzer unter Umständen auch ausreichend sein kann, diesem allein das Übersichtskontrastbild zu präsentieren, können die mittels der Bildauswertung gewonnenen Informationen insbesondere auch für die automatische Steuerung von Probenuntersuchungen mit dem verwendeten Mikroskop verwendet werden. Das für den Nutzer bereit gestellte Übersichtskontrastbild kann die Steuerung zur Navigation auf der Probe verwenden, um die weiteren Untersuchungen vorzubereiten. Die Informationen des Übersichtskontrastbildes, die mittels der Bildverarbeitungsalgorithmen extrahiert werden, können aber auch eine robuste nachfolgende Verarbeitung ermöglichen, welche beispielsweise automatisch relevante Strukturen des Probenträgers - wie beispielsweise der Gläser - oder auch relevante Strukturen der Proben auf dem Probenträger - wie beispielsweise Gewebeschnitte, Organismen oder Zellen - erkennt und lokalisiert, beispielsweise um eine vollautomatische Grobpositionierung der Probe in allen drei Raumrichtungen einzustellen. Schließlich erlauben die extrahierten Bildinformationen auch eine robustere, schnellere und effizientere automatische Mikroskopie - beispielsweise High- Throughput-M\WrosWop\e - mit geringerem Datenvolumen und kürzeren Aufnahmezeiten beim automatischen Ausschluss von Fehlstellen.

Bezuqszeichenliste

1 Probenträger

5 2 Detektionsoptik

3 Beleuchtungsmuster

4 Flächendetektor

5 Verrechnungseinheit

6 Bildauswertungseinheit

10 7 Kontrolleinheit

8 LED-Array

9 Umlenkspiegel

10 Strahlteiler

1 1 Linse

15 12 Okular

13 LED

14 erster Feldbereich

15 zweiter Feldbereich

16 LED

20 17 LED-Array

18 blaue LED

19 rote LED

20 Slide

21 Deckglas

25 22 M//f we//-Platte

23 Näpfchen

24 Chamber Slide

25 Kammer

30