Login| Sign Up| Help| Contact|

Patent Searching and Data


Title:
METHOD FOR LOGGING A SCIENTIFIC EXPERIMENTAL WORK FLOW
Document Type and Number:
WIPO Patent Application WO/2023/023872
Kind Code:
A1
Abstract:
The invention relates to a method for logging and analyzing a scientific experimental work flow, wherein, over the duration of the work flow, a video recording, which comprises a plurality of successive individual images, of at least parts of a workplace, where the work flow is carried out, and simultaneously values of parameters relevant for the work flow are recorded and stored as separate sets of data (31, 32, 33, 34, 35) in a digital database (30). The sets of data (31, 32, 33, 34, 35) contain the individual images of the video recording and the values of the parameters are assigned over time to a common reference time (38), so that a unique temporal assignment exists at each point in time between the individual images of the video recording and the values of the parameters. The sets of data of the parameters are stored in a browsable form so that it can be searched for parameter events, in which a parameter has a searched value or a searched change. The values of at least selected parameters and the images of the video recording are visually displayed preferably in temporal association.

Inventors:
GUELLER ROLF (CH)
CHERBUIN MATHIAS (CH)
Application Number:
PCT/CH2022/050021
Publication Date:
March 02, 2023
Filing Date:
August 23, 2022
Export Citation:
Click for automatic bibliography generation   Help
Assignee:
CHEMSPEED TECH AG (CH)
International Classes:
G06F17/40; G06Q10/06; G06Q10/10
Foreign References:
DE102014000078A12014-07-10
DE10116540A12002-03-14
US20130191752A12013-07-25
US20140188860A12014-07-03
Other References:
PHILIPP M SCHOLL ET AL: "Wearables in the wet lab", PERVASIVE AND UBIQUITOUS COMPUTING, ACM, 2 PENN PLAZA, SUITE 701 NEW YORK NY 10121-0701 USA, 7 September 2015 (2015-09-07), pages 589 - 599, XP058074145, ISBN: 978-1-4503-3574-4, DOI: 10.1145/2750858.2807547
Attorney, Agent or Firm:
BOHEST AG (CH)
Download PDF:
Claims:
32

Patentansprüche

1. Verfahren zur Protokollierung eines wissenschaftlich experimentellen Arbeitsablaufs, wobei über die Dauer des Arbeitsablaufs eine Video-Aufnahme, die eine Vielzahl aufeinanderfolgender einzelner Bilder umfasst, zumindest von Teilen eines Arbeitsplatzes, an dem der Arbeitsablauf durchgeführt wird, und gleichzeitig Werte von für den Arbeitsablauf relevanten Parametern aufgezeichnet und als separate Datensätze (31, 32, 33, 34, 35) in einer digitalen Datenbank (30) gespeichert werden, wobei die Datensätze (31, 32, 33, 34, 35) die einzelnen Bilder der Video-Aufnahme und die Werte der Parameter im zeitlichen Verlauf zugeordnet zu einer gemeinsamen Bezugszeit (38) enthalten, so dass zu jedem Zeitpunkt eine eindeutige zeitliche Zuordnung zwischen den einzelnen Bildern der Video-Aufnahme und den Werten der Parameter besteht, wobei zumindest die Datensätze der Parameter in einer durchsuchbaren Form gespeichert werden, so dass nach Parameter- Ereignis sen, bei welchen ein Parameter einen gesuchten Wert oder eine gesuchte Veränderung aufweist, gesucht werden kann.

2. Verfahren zur Protokollierung und Analyse eines wissenschaftlich experimentellen Arbeitsablaufs, wobei über die Dauer des Arbeitsablaufs eine Video-Aufnahme, die eine Vielzahl aufeinanderfolgender einzelner Bilder umfasst, zumindest von Teilen eines Arbeitsplatzes, an dem der Arbeitsablauf durchgeführt wird, und gleichzeitig Werte von für den Arbeitsablauf relevanten Parametern aufgezeichnet und als separate Datensätze (31, 32, 33, 34, 35) in einer digitalen Datenbank (30) gespeichert werden, wobei die Datensätze (31, 32, 33, 34, 35) die einzelnen Bilder der Video-Aufnahme und die Werte der Parameter im zeitlichen Verlauf zugeordnet zu einer gemeinsamen Bezugszeit (38) enthalten, so dass zu jedem Zeitpunkt eine eindeutige zeitliche Zuordnung zwischen den einzelnen Bildern der Video-Aufnahme und den Werten der Parameter besteht, wobei zumindest die Datensätze der Parameter in einer durchsuchbaren Form gespeichert werden, so dass nach Parameter- Ereignis sen, bei welchen ein Parameter einen gesuchten Wert oder eine gesuchte Veränderung aufweist, gesucht werden kann, und wobei die zum Zeitpunkt eines gesuchten Parameter- Ereignisses oder die in einem den Zeitpunkt des gesuchten Parameter-Ereignisses umfassenden Zeitintervall vorliegenden 33

Werte zumindest ausgewählter Parameter und die Bilder der Video-Aufnahme in zeitlicher Zuordnung zueinander visuell dargestellt werden.

3. Verfahren nach einem der vorangehenden Ansprüche, wobei für ausgewählte Parameter Zielwerte dieser Parameter als Datensätze in der Datenbank abgespeichert und zusammen mit den aufgezeichneten tatsächlichen Werten dieser Parameter visuell dargestellt werden, vorzugsweise die zeitlichen Verläufe als Graphen.

4. Verfahren nach einem der vorangehenden Ansprüche, wobei die zeitlichen Verläufe der Werte zumindest ausgewählter Parameter, allenfalls zusammen mit ihren entsprechenden Zielwerten, in nebeneinander oder untereinander angeordneten Spuren visuell, insbesondere als Zahlenreihen, dargestellt werden.

5. Verfahren nach einem der vorangehenden Ansprüche, wobei als gemeinsame Bezugszeit eine Standardzeit, insbesondere die Universalzeit UTC oder Internationale Atomzeit TAI, verwendet wird.

6. Verfahren nach einem der vorangehenden Ansprüche, wobei zwei oder mehrere Video-Aufnahmen des Arbeitsplatzes aus unterschiedlichen Blickwinkeln und/oder in unterschiedlichen Wellenlängenbereichen gemacht und als separate Datensätze gespeichert werden.

7. Verfahren nach einem der vorangehenden Ansprüche, wobei zwei oder mehrere Video-Aufnahmen des Arbeitsplatzes in unterschiedlichen Wellenlängenbereichen gemacht und als separate Datensätze gespeichert werden und wobei aus diesen Datensätzen eine zumindest ausschnittsweise überlagerte Darstellung des aufgenommenen Arbeitsplatzes erzeugt und visuell dargestellt wird.

8. Verfahren nach einem der vorangehenden Ansprüche, wobei die Werte zumindest ausgewählter Parameter zusammen mit dem jeweiligen Zeitpunkt automatisch oder manuell durch einen Anwender in die Datenbank eingegeben werden.

9. Verfahren nach einem der vorangehenden Ansprüche, wobei textlich festgehaltene Beobachtungen oder, vorzugsweise parametrisierte, akustische Aufzeichnungen eines Anwenders als separate Datensätze gespeichert werden und/oder wobei Datensätze mit Kommentaren versehen werden.

10. Verfahren nach einem der vorangehenden Ansprüche, wobei mindestens eine Video-Aufnahme im sichtbaren Spektrumsbereich gemacht und aufgezeichnet wird.

11. Verfahren nach einem der vorangehenden Ansprüche, wobei eine Video-Aufnahme im UV- und/oder IR-Spektrumsbereich gemacht und aufgezeichnet wird.

12. Verfahren nach einem der vorangehenden Ansprüche, wobei ein Parameter Strahlungswerte wie Radioaktivität oder Röntgenstrahlung, Magnetfeldwerte, Luftströmungswerte oder Ultraschallmesswerte enthält.

13. Verfahren nach einem der vorangehenden Ansprüche, wobei die Video-Aufnahme oder Video-Aufnahmen mit einem Bilderkennungsverfahren nach bestimmten Bildinhalten oder Veränderungen derselben durchsucht wird bzw. werden und vorzugsweise die dem Auftreten der gesuchten Bildinhalte bzw. Veränderungen derselben oder einem auswählbaren Zeitintervall um das Auftreten der gesuchten Bildinhalte bzw. Veränderungen derselben zeitlich zugeordneten Werte zumindest ausgewählter Parameter und die Bilder der Video -Aufnahme in zeitlicher Zuordnung zueinander visuell dargestellt werden.

14. Verfahren nach einem der vorangehenden Ansprüche, wobei Planungsdaten des wissenschaftlich experimentellen Arbeits ablauf s als eigener Datensatz oder eigene Datensätze gespeichert werden.

15. Verfahren nach einem der vorangehenden Ansprüche, wobei für zwei oder mehrere vergleichbare wissenschaftlich experimentelle Arbeitsabläufe über die Dauer des jeweiligen Arbeits ablauf s mindestens eine Video-Aufnahme zumindest von Teilen eines Arbeitsplatzes, an dem der jeweilige Arbeitsablauf durchgeführt wird, und gleichzeitig Werte von für den jeweiligen Arbeitsablauf relevanten Parametern aufgezeichnet und als separate Datensätze in einer digitalen Datenbank in durchsuchbarer Form gespeichert und vorzugsweise gemeinsam in zeitlicher Zuordnung zueinander visuell dargestellt werden.

Description:
Verfahren zur Protokollierung eines wissenschaftlich experimentellen Arbeitsablaufs

Die Aufzeichnung chemischer oder sonstiger wissenschaftlicher Experimente und Arbeitsabläufe erfolgt üblicherweise in Form eines manuell durch den Anwender aufgezeichneten Protokolls von Tätigkeiten, Messungen und Beobachtungen. So protokolliert ein Anwender (z.B. ein Laborant) etwa jeden einzelnen Arbeitsschritt eines Arbeitsablaufs als Abfolge zeitlich nacheinander, sequentiell erfolgter Arbeitsschritte, Tätigkeiten, aber auch von Messungen und Beobachtungen.

In automatisierten Arbeitsvorrichtungen für die Durchführung wissenschaftlicher Experimente und/oder Fertigungsprozesse, sowohl einzeln als auch sequentiell oder parallel, werden meist eine Vielzahl von Parametern ebenfalls aufgezeichnet. So werden etwa die Messwerte von Sensoren, aber auch Aktivitäten der Vorrichtungen automatisch aufgezeichnet, wobei auch hier die Aufzeichnung sequentiell (bei parallelen Arbeitsabläufen auch parallel) erfolgt. Verfügt eine entsprechende Arbeitsvorrichtung über mehrere Sensoren, Messvorrichtungen oder anderweitig messbare Parameter, so werden die jeweiligen einzelnen Messungen/ Aufzeichnungen ebenfalls sequentiell aufgezeichnet. Hierbei bedeutet der Begriff Parameter jeweils einen experimentell oder durch ein Verfahren oder eine Vorrichtung bestimmten Wert, einen geplanten Wert, eine geplante oder durchgeführte Aktion, eine Aufzeichnung in irgendeiner Form, aber auch einen beispielsweise von einem Laboranten beobachteten Wert oder auch eine gefühlte Beobachtung/Interpretation des Beobachtenden.

In diesen Fällen besteht also die so erzeugte Aufzeichnung aus einer sequentiellen Abfolge von einzelnen Messungen, Aufzeichnungen und Beobachtungen, und es bedarf für die Auswertungen der Gesamtheit dieser Daten und Informationen oft eines aufwändigen und mühsamen manuellen bzw. visuellen Herausfiitems und Durchsuchens der gewünschten Informationen. Insbesonders die (zeitliche) Verknüpfung dieser Daten und Informationen mit dem Arbeitsablauf-Protokoll und eine übersichtliche Darstellung dieser Verknüpfung ist bisher technisch ungelöst. In einem Labor fällt bei jeder Durchführung eines wissenschaftlichen Experiments bzw. eines wissenschaftlich experimentellen Arbeitsablaufs eine enorme Menge an Daten in den unterschiedlichsten Formen und Arten an, und da ja immer wieder neue Arbeitsabläufe durchgeführt werden, nimmt diese Datenmenge entsprechend zu. Diese Gesamtheit an Daten nach einzelnen gewünschten Parametern, Werten oder Informationen zu durchsuchen, stellt den Laboranten traditionsgemäss vor sehr grosse Herausforderungen, und eine Verknüpfung mit visuellen Eindrücken im Protokoll ist selbst im Falle einer als Videoaufnahme vorliegenden Information praktisch unmöglich. So muss etwa bei Videoaufzeichnungen eines Arbeitsablaufs eine ganze Aufzeichnung visuell durchgeschaut werden, um ein gewünschtes Ereignis (beispielsweise einen Farbwechsel, einen Siedeverzug, Schaumbildung, ...) zu erkennen und zu interpretieren und zum Beispiel mit einer anderen Datenreihe von z.B. einem Thermometer zu verknüpfen, um diese Relation zu interpretieren.

Falls ein Experiment mit einer Kamera visuell aufgenommen wird, besteht der grosse Nachteil, dass man selbst mit den besten Kl-Systemen (künstliche Intelligenz) höchstens eingeschränkt nach bestimmten Daten suchen kann, und auch die Schwierigkeit, bestimmte Bildsequenzen mit entsprechenden mit anderen Aufnahmetechniken, Sensoren etc. aufgezeichneten Daten zeitlich zu verbinden.

Durch die Erfindung soll die Aufzeichnung und Protokollierung aller relevanten, an einem Arbeitsablauf beteiligten Daten, insbesondere von allen Daten mit Videoaufzeichnungen, IR, UV oder anderen Aufnahmetechniken oder anderen komplexen Aufnahmemethoden (Ton, Ultraschall, Radioaktivität, ...) so vereinfacht und optimiert werden, dass eine einfache Suche nach Parametern und Ereignissen über ganze, zum Teil sehr lange dauernde Arbeitsabläufe oder sogar über eine Vielzahl unterschiedlicher Arbeitsabläufe hinweg ermöglicht wird.

Konkret zielt die Erfindung darauf ab, die Aufzeichnung bzw. Protokollierung der Gesamtheit aller relevanten messbaren und beobachtbaren Parameter der an einem wissenschaftlich experimentellen Arbeits ablauf beteiligten Vorgänge und Vorrichtungen, aber auch Aktionen und Beobachtungen eines Anwenders, so zu vereinfachen, dass eine spätere Analyse der Gesamtheit der Informationen möglichst einfach, schnell und zielgerichtet erfolgen kann, und zwar so, dass all diese Daten mit einer Video -Aufnahme des Arbeitsablaufs direkt und zu jedem Zeitpunkt verbunden werden können.

Die der Erfindung zugrundeliegende Aufgabe wird durch die erfindungsgemässen Verfahren gelöst, wie sie in den unabhängigen Patentansprüchen 1 und 2 definiert sind. Vorteilhafte Ausgestaltungen und Weiterbildungen sind Gegenstand der abhängigen Ansprüche.

Das Wesen des erfindungsgemässen Verfahrens zur Protokollierung eines wissenschaftlich experimentellen Arbeits ablauf s besteht in Folgendem:

Bei einem Verfahren zur Protokollierung eines wissenschaftlich experimentellen Arbeitsablaufs werden über die Dauer des Arbeits ablauf s eine Video-Aufnahme, die eine Vielzahl aufeinanderfolgender einzelner Bilder umfasst, zumindest von Teilen eines Arbeitsplatzes, an dem der Arbeitsablauf durchgeführt wird, und gleichzeitig Werte von für den Arbeitsablauf relevanten Parametern aufgezeichnet und als separate Datensätze in einer digitalen Datenbank gespeichert. Die Datensätze enthalten die einzelnen Bilder der Video-Aufnahme und die Werte der Parameter im zeitlichen Verlauf zugeordnet zu einer gemeinsamen Bezugszeit, so dass zu jedem Zeitpunkt eine eindeutige zeitliche Zuordnung zwischen den einzelnen Bildern der Video-Aufnahme und den Werten der Parameter besteht. Die Datensätze der Parameter werden in einer durchsuchbaren Form gespeichert, so dass nach Parameter-Ereignissen, bei welchen ein Parameter einen gesuchten Wert oder eine gesuchte Veränderung aufweist, gesucht werden kann.

Das Wesen des erfindungsgemässen Verfahrens zur Protokollierung und Analyse eines wissenschaftlich experimentellen Arbeits ablauf s besteht in Folgendem:

Bei einem Verfahren zur Protokollierung und Analyse eines wissenschaftlich experimentellen Arbeits ablauf s werden über die Dauer des Arbeitsablaufs eine Video- Aufnahme, die eine Vielzahl aufeinanderfolgender einzelner Bilder umfasst, zumindest von Teilen eines Arbeitsplatzes, an dem der Arbeitsablauf durchgeführt wird, und gleichzeitig Werte von für den Arbeitsablauf relevanten Parametern aufgezeichnet und als separate Datensätze in einer digitalen Datenbank gespeichert. Die Datensätze enthalten die einzelnen Bilder der Video -Aufnahme und die Werte der Parameter im zeitlichen Verlauf zugeordnet zu einer gemeinsamen Bezugszeit, so dass zu jedem Zeitpunkt eine eindeutige zeitliche Zuordnung zwischen den einzelnen Bildern der Video-Aufnahme und den Werten der Parameter besteht. Die Datensätze der Parameter werden in einer durchsuchbaren Form gespeichert, so dass nach Parameter- Ereignis sen, bei welchen ein Parameter einen gesuchten Wert oder eine gesuchte Veränderung aufweist, gesucht werden kann. Die zum Zeitpunkt eines gesuchten Parameter- Ereignisses oder die in einem den Zeitpunkt des gesuchten Parameter-Ereignisses umfassenden Zeitintervall vorliegenden Werte zumindest ausgewählter Parameter und die Bilder der Video -Aufnahme werden in zeitlicher Zuordnung zueinander visuell dargestellt.

Mit den erfindungsgemässen Verfahren können aufgezeichnete Videos anhand von synchron aufgezeichneten Parameterwerten einfach, schnell und zielgerichtet durchsucht werden und umgekehrt.

Bei den erfindungsgemässen Verfahren erfolgt die Aufzeichnung bzw. Speicherung aller Werte der Parameter in separaten Datensätzen so synchronisiert wie eine Tonspur eines Filmes, nur dass bei wissenschaftlich experimentellen Arbeitsabläufen oft hunderte solcher Datensätze aufgezeichnet werden. Dabei kann in jedem dieser Datensätze nach bestimmten Kriterien gesucht werden und umgehend auf die Video- Aufnahme geschlossen werden, also die entsprechende Videosequenz ist automatisch und schlüssig zugeordnet. Auf diese Weise ist eine Video-Aufnahme, gegebenenfalls auch in verschiedenen Wellenlängenbereichen, eines wissenschaftlich experimentellen Arbeitsablaufs effizient durchsuchbar und es kann visuell angeschaut bzw. rückverfolgt werden, was visuell zum Zeitpunkt des Auftretens eines bestimmten Parameterwerts oder einer bestimmten Veränderung desselben im Arbeitsablauf passiert ist und/oder was genau zu diesem Zeitpunkt oder zuvor manipuliert wurde. Erfindungswesentlich ist hierbei, dass für jeden einzelnen messbaren oder beobachtbaren Parameter ein eigener Datensatz und/oder eine Ableitung davon (beispielsweise ein Temperaturgradient als Ableitung einer Temperatur) angelegt wird, in dem alle Werte oder Wertänderungen des Parameters aufgezeichnet werden. So würde ein Datensatz eines Temperatursensors etwa jeweils jede gemessene Temperatur oder Temperaturänderung sowie den Zeitpunkt der Temperaturmessung oder der Temperaturänderung aufzeichnen, oder der Datensatz einer automatisierten Dosiervorrichtung würde aufzeichnen, zu welchem Zeitpunkt welche Aktion (Dosierung einer gewünschten Substanz in ein gewünschtes Zielobjekt) durchgeführt wurde und welches Resultat erreicht wurde (hier beispielsweise, welche Menge tatsächlich dosiert wurde). Eine Kombination der Datensätze zeigt, wie sich der Arbeitsablauf verhalten hat, und ergibt zusammen mit einer visuellen Darstellung eine durchsuchbare visuelle Protokollierung.

Die zeitlich genau zugeordneten Datenreihen können selbstverständlich auch umgerechnet werden, z.B. in andere Werte, oder statistisch geglättet werden. Ausreisser können gestrichen werden (z.B. Messwerte, welche nur kürzer als 0.1 Sekunden auftreten). Oder es kann eine neue, zeitlich kalibrierte Datenreihe gebildet werden, welche die Differenz von jeweils zwei Datensätzen oder beispielsweise eine Beschleunigung ausrechnet. Auch in diesen umgerechneten Datenreihen kann gesucht werden, so dass dann das oder die entsprechenden Video-Bilder zugeordnet und angezeigt werden können.

Dargestellt werden diese einzelnen Parameter resp. Datensätze im erfindungsgemässen Verfahren ähnlich, wie man es etwa aus der Musik- oder Filmindustrie kennt, wobei jeder Parameter als "Spur" dargestellt wird. Dabei werden alle Datensätze synchron, d.h. in zeitlicher Zuordnung aufgezeichnet und ausgewählte oder alle Datensätze werden beispielsweise auf einem Bildschirm visuell dargestellt.

Erfindungsgemäss entscheidend ist dabei, dass alle aufgezeichneten Datensätze zeitlich synchronisiert sind, was unabdingbar ist, um später die Zeitpunkte einzelner Messwerte, Beobachtungen, Aufzeichnungen und Aktionen in Relation zur Gesamtheit aller gemessenen Daten herauszufinden und vor allem visuell zu verfolgen. Dies ermöglicht erst eine "visuelle Protokollierung", weil einfach nach einer Eigenschaft, z.B. dem Wert eines Parameters oder der Wertänderung des Parameters gesucht werden kann. Die zeitliche Referenzierung kann dabei in Relation zu einem gewünschten Zeitpunkt (etwa Startpunkt des Arbeitsablaufs) erfolgen, wobei jede Messung / Protokollierung sich dann auf diesen Zeitpunkt bezieht.

Vorteilhafterweise referenzieren sich die Aufzeichnungszeitpunkte dabei auf eine universelle Zeitskala wie z.B. die Universalzeit (UTC) oder die internationale Atomzeit (TAI), wobei jeder Zeitpunkt einer Messung auf diese entsprechende universelle Zeitachse referenziert, und später jeder einzelne Datenpunkt eineindeutig genau zeitlich zugeordnet werden kann.

Vorteilhafterweise werden für ausgewählte Parameter Zielwerte dieser Parameter als Datensätze in der Datenbank abgespeichert und zusammen mit den aufgezeichneten tatsächlichen Werten dieser Parameter visuell dargestellt. Dabei werden vorteilhafterweise die zeitlichen Verläufe der Werte zumindest ausgewählter Parameter, allenfalls zusammen mit ihren entsprechenden Zielwerten, in nebeneinander oder untereinander angeordneten Spuren visuell dargestellt, wobei vorteilhafterweise die zeitlichen Verläufe der Werte zumindest ausgewählter Parameter, vorzugsweise zusammen mit zugehörigen Zielwerten, visuell als Zahlenreihen oder Graphen dargestellt werden. Diese Art der Darstellung erleichtert den Überblick über die aufgezeichneten Werte der Parameter.

Vorteilhafterweise werden die einzelnen Datensätze grafisch als parallel verlaufende Spuren integriert in der visuellen Aufnahme bzw. den parallelen visuellen Aufnahmen (Video(s)) eines Arbeitsablaufs so dargestellt, dass sie eine synchron zur visuellen Darstellung (Video) ablaufende Tabelle über die Videos oder neben der Videoaufzeichnung darstellen, die entlang einer gemeinsamen Zeitachse verlaufen. Es ist dabei selbstverständlich auch möglich, die Darstellung der Spuren horizontal nebeneinander anzuordnen (Spuren selbst vertikal, mit der Zeitachse in der Vertikalen z.B. von oben nach unten verlaufend), oder vertikal übereinander anzuordnen (Spuren selbst horizontal, mit der Zeitachse in der Horizontalen, z.B. von links nach rechts verlaufend). Auch eine Darstellung über mehrere Bildschirme oder verschiedene Ausgabegeräte (beispielsweise Kombination Bildschirm und Augmented Reality- Darstellungsgerät (Microsoft’s HoloLens)) sind dabei möglich.

Vorteilhafterweise werden zwei oder mehrere Video-Aufnahmen des Arbeitsplatzes aus unterschiedlichen Blickwinkeln und/oder in unterschiedlichen Wellenlängenbereichen gemacht und als separate Datensätze gespeichert. Vorteilhafterweise werden auch Strahlungswerte wie beispielsweise Radioaktivität oder Röntgenstrahlung, Magnetfeldwerte, Luftströmungs werte oder Ultraschallmesswerte als separate Datensätze gespeichert und können zwecks effektiverer bzw. intuitiverer Wiedergabe, Durchsuchung oder Darstellung auch übereinander überlagert dargestellt werden.

Video-Aufnahmen aus verschiedenen Blickwinkeln zeigen mehr Details des Arbeitsablaufs und können auch überlagert oder teilweise überlagert dargestellt oder z.B. zu einer dreidimensionalen Darstellung kombiniert werden und zum Beispiel mithilfe von Augmented Reality- Vorrichtungen ergänzend dargestellt werden.

Video-Aufnahmen in verschiedenen Wellenlängenbereichen (z.B. sichtbares Licht, UV oder IR) sowie andere Strahlungswerte, Magnetfeldwerte, Luftströmungswerte oder Ultraschallmesswerte liefern ebenfalls zusätzliche Informationen über den wissenschaftlich experimentellen Arbeits ablauf.

Vorteilhafterweise werden die Werte zumindest ausgewählter Parameter zusammen mit dem jeweiligen Zeitpunkt automatisch oder manuell durch einen Anwender in die Datenbank eingegeben.

Mit Vorteil kann der Anwender ein gewünschtes Bild oder eine Videosequenz, oder auch einen Wert oder ein Ereignis einer Datenspur markieren (taggen), um dessen späteres Auffinden in der Gesamtheit der Aufnahmen und Parameter zu vereinfachen. Eine solche Markierung kann in gewissen Fällen auch automatisiert erfolgen, in dem aus einer komplexen Datenspur wie beispielsweise einer Video- oder Audio-Aufnahme mittels Bilderkennungs- bzw. Tonerkennungs-Methoden gewünschte Parameter identifiziert und die Zeitpunkte bzw. Sequenzen entsprechend markiert werden (beispielsweise für gewisse Farben, Farbänderungen, Geräusche, und beliebige andere Wellenlängen oder automatisiert erkennbare Werte, Muster und Eigenschaften). So könnten beispielsweise in einer IR-Video-Aufnahme Sequenzen, bei denen eine gewisse Maximaltemperatur erkannt wird, markiert werden. Natürlich ist auch eine Markierung mehrerer Datensätze bzw. Spuren möglich, was dann speziell wieder die

Verknüpft) arkeit zwischen Datenspuren und den darin festgehaltenen Ereignissen ermöglicht.

Vorteilhafterweise werden textlich festgehaltene Beobachtungen oder, vorzugsweise parametrisierte, akustische Aufzeichnungen eines Anwenders als separate Datensätze gespeichert. So können auch verbalisierte Gedanken, Beobachtungen und Interpretationen des durch den Anwender beobachteten Ereignisses parametrisiert und einer Datenspur zugeordnet werden.

Damit können auch andere als von technischen Vorrichtungen kommende Parameter aufgezeichnet und gespeichert werden. Dies könnten etwa die manuelle Tätigkeit und/oder die Beobachtungen des Laboranten sein, der an einem manuellen, halbautomatisierten oder automatisierten Gerät arbeitet. So könnte beispielsweise zu einem Zeitpunkt des automatisierten Arbeits ablauf s eine manuelle Zugabe einer Substanz erfolgen, für die ein automatisiertes Laborgerät nicht in der Lage ist. Das Experiment könnte in der oben beschriebenen synchronisierten Art und Weise mit einer Holo Lens-artigen Brille mit z.B. drei verschiedenen Wellenlängen (z.B. UV, visuell, IR) aufgenommen (gefilmt) werden. Oder beispielsweise protokolliert der Anwender eine Beobachtung (Observation), die er bei der Vorrichtung beim automatisiert ablaufenden Arbeitsablauf macht, zusammen mit dem Zeitpunkt der Beobachtung. Dabei werden die Beobachtungen oder z.B. auch über Ton gemachte Eingaben des Anwenders ebenfalls in einem Datensatz oder mehreren separaten Datensätzen aufgezeichnet. Dabei ist immer entscheidend, dass alles mit der über eine bestimmte Wellenlänge vom Experiment gemachten Video-Aufnahme (oder mehrere davon aus verschiedenen Blickwinkeln oder Wellenlängen) synchronisiert wird, ob dies nun automatisierte Aufzeichnungen (z.B. über Sensoren) oder manuelle Eingaben betrifft, und dass jede Art von solchen Aufnahmen bzw. Aufzeichnungen in einem separaten Datensatz aufgenommen wird (wobei dies technisch natürlich auch überlagerte Datensätze sein können, welche aber individuell durchsuchbar sind). Dabei werden auch Planungsdaten (des wissenschaftlich experimentellen Arbeitsablaufs), also sowohl das Planungsprotokoll als auch zu einem bestimmten Zeitpunkt erwartete (Ziel-)Daten, etc. im genau gleichen Schema, synchronisiert zu den Video-Aufnahmen als eigene Datensätze in durchsuchbarer Form gespeichert. Damit ist es möglich, die zu einem gesuchten (und gefundenen) Planungsdatum (z.B. eine Zieltemperatur) gehörenden Video-Sequenzen und Werte der übrigen Parameter anzuzeigen.

Um die Darstellung weiter zu vereinfachen oder intuitivere Informationen wiederzugeben oder zusammenfassende Informationen wiederzugeben, werden vorteilhafterweise passende Datensätze gruppiert und zusammengefasst oder auch skaliert oder umgerechnet und so aggregierte Daten synchron laufen gelassen (z.B. Druck aus Temperatur und anderen z.T. konstanten Daten ausgerechnet und wiedergegeben). Ein Temperatursteuerungsgerät, wie beispielsweise ein Kryostat, umfasst eine Vielzahl von einzelnen Informationen, die jeweils einen eigenen Datensatz haben könnten, wie Zielwert der Temperatursteuerung zu einem Zeitpunkt, tatsächlich gemessene Temperatur, aber auch Durchflussrate eines Temperaturmediums, Systeminformationen (Warn-/Fehlerhinweise), Steuerungs-Parameter, oder einfach auch nur, ob ein gewisses Element der Vorrichtung (Heizelement oder Pumpe für das Temperaturmedium) an oder aus ist, etc. Die Aufzeichnung all dieser einzelnen Parameter kann ebenfalls in einem Datensatz gespeichert werden (z.B. TO: Starten der Pumpe, TO+ls: Messung der Temperatur: 25.3°C, T0+2s: Starten des Heizelements, T0+9s: Messung der Temperatur; 25.5°C, ...), oder aber jeder einzelne Unter-Parameter (hier etwa a) Aktivität der Pumpe, b) Aktivität des Heizelements und c) Messwert des Temperatursensors) wird als einzelner Datensatz aufgezeichnet, wobei die Datensätze aber zusammengefasst und später entweder zusammengefasst in einer Spur oder "aufgeklappt" in mehreren Spuren dargestellt werden können. Selbstverständlich kann der Anwender dabei in einer Darstellung nur die Datensätze auswählen, welche ihm für die gewünschte Analyse dienlich sind. Der Anwender kann also die Darstellung flexibel nach seinen aktuellen Bedürfnissen gestalten, und z.B. auf einer Bildschirmseite das Videobild, und auf der anderen Seite die von ihm gewünschten Datenspuren gewünschter Parameter darstellen lassen, wobei der Fokus in diesen Datenspuren jeweils auf dem Zeitpunkt liegt, der auch im Videobild dargestellt wird. Dabei wird vorteilhafterweise in der Visualisierung der zusätzlich angezeigten Datenspuren auch ein gewünschter Bereich vor resp. nach dem aktuell im Videobild dargestellten Zeitpunkt gezeigt, was erlaubt, dass der Anwender auf einen Blick die Parameter- Werte vor dem aktuellen Zeitpunkt sowie auch nachher angezeigt bekommt. So erhält er wertvolle Einblicke darin, was vor einem Ereignis passiert ist (und zu diesem geführt haben kann) und was nach dem Ereignis passiert ist (und vom Ereignis verursacht oder zumindest beeinflusst gewesen sein kann).

Weiter werden vorteilhafterweise gewisse Parameter in visueller Form wiedergegeben, sei dies in Form von Warnsignalen bei einer Überschreitung von gewissen Parameterwerten oder einfach nur, um die Temperatur statt in Zahlen in einer je nach Temperatur in einem z.B. von blau nach rot verlaufenden Farbverlauf darzustellen. Selbstverständlich können die Daten nicht nur von Sensoren oder von den visuellen oder akustischen Aufnahmen kommen, sondern ein Experimentator kann auch eine visuelle Beobachtung (z.B. Haptik, Schaumbildung oder einen anderen, nicht mit verfügbaren Sensoren oder Kameras erfassbaren Parameter) eingeben. Auch diese Eingaben werden zeitlich genau erfasst und synchronisiert gespeichert (z.B. schriftliche Eingabe, als Tonaufnahme oder auch durch Hinzufügen von Symbolen wie Häkchen, Ausrufezeichen, Smilies, Sternchen und Ähnlichem).

Vorteilhafterweise werden Planungsdaten des wissenschaftlich experimentellen Arbeitsablaufs synchron zur visuellen Aufzeichnung bzw. zu den visuellen Aufzeichnungen in gleicher Weise erfasst und in eigenen Datensätzen gespeichert. Diese Planungsdaten werden vorzugsweise in örtlicher Zuordnung zu den entsprechenden Darstellungen der realen, während des Arbeitsablaufs aufgezeichneten Daten dargestellt. Auf diese Weise kann ein Suchbefehl eingegeben werden, beispielsweise «Zeige die visuellen Aufnahmen 20 Sekunden vor der Erreichung eines Punktes und 30 Sekunden nach diesem Punkt, bei welchem der reale Wert eines aufgezeichneten Parameters (z.B. Temperatur) mit dem Planungswert über länger als 5 Sekunden übereinstimmt» oder «Zeige die Videoaufzeichnung beginnend 10 Sekunden vor der geplanten Zugabe der Substanz X und endend 20 Sekunden nach der effektiven Zugabe der Substanz X (oder umgekehrt, falls zutreffend)».

In den Datensätzen der Datenbank kann nicht nur nach Werten oder Wertänderungen der (nicht von Video-Aufzeichnungen stammenden) Parameter gesucht werden. Vorteilhafterweise werden bekannte Verfahren der Bilderkennung eingesetzt, um die Video-Aufnahme oder Video-Aufnahmen nach bestimmten Bildinhalten oder Veränderungen der Bildinhalte zu durchsuchen. Die dem Auftreten der gesuchten Bildinhalte bzw. Veränderungen derselben oder einem auswählbaren Zeitintervall um das Auftreten der gesuchten Bildinhalte bzw. Veränderungen derselben zeitlich zugeordneten Werte zumindest ausgewählter Parameter und die Bilder der Video- Aufnahme werden dann in zeitlicher Zuordnung zueinander visuell dargestellt. Auf diese Weise kann auch in umgekehrter Richtung gesucht werden, beispielsweise «Suche den Punkt, an welchem die Farbe (des Inhalts eines Reaktors) von gelb auf blau änderte und stelle die Veränderung der Parameter Druck und Temperatur 2 Minuten vor diesem Wechsel und 5 Minuten danach dar und lasse die Video-Aufnahme(n) parallel dazu laufen».

Ein wesentlicher Vorteil des erfindungsgemässen Verfahrens ist, dass die Gesamtheit an aufgezeichneten Daten und Informationen einfach durchsuchbar, analysierbar und im Zusammenhang darstellbar ist, etwa indem man einen gewünschten Zeitpunkt oder eine gewünschte Zeitspanne auswählt, und dann alle diesem Zeitpunkt bzw. dieser Zeitspanne zeitlich zugeordneten Informationen aller Aufzeichnungs spuren angezeigt erhält (natürlich nach Bedarf gefiltert), oder man sucht nach konkreten Parametern (etwa alle Dosierungen, alle Dosierungen einer bestimmten Substanz, alle Dosierungen in ein bestimmtes Zielgefäss, alle Fehlermeldungen, alle Temperaturmessungen mit einer Temperatur höher als ein bestimmter Wert, ...). Vorteilhafterweise kann man dies nicht nur bei einem einzigen wissenschaftlich experimentellen Arbeits ablauf, sondern auch über mehrere parallel oder sequentiell durchgeführte vergleichbare wissenschaftlich experimentelle Arbeits abläufe anwenden, und diese auf einem oder mehreren Bildschirmen oder Ausgabegeräten darstellen. Entscheidend dabei ist vor allem, dass auf diese Weise visuelle Aufzeichnungen von Arbeitsabläufen anhand von Messdaten durchsucht werden können und die entsprechenden visuellen Aufzeichnungen der Arbeits abläufe so als effiziente Protokolle von noch so komplexen Arbeitsabläufen verwendet werden können, welche effizient nach bestimmten Merkmalen durchsucht werden können und dabei zu jedem Zeitpunkt Rückschlüsse auf die visuelle Protokollierung gemacht werden können. Visuelle Aufnahmen von Arbeitsabläufen allein ohne diese zusätzlichen Datensätze weiterer Parameter sind nur von äusserst beschränktem Wert, zumal viele Arbeits abläufe über mehrere Stunden oder Tage dauern können.

In einer vorteilhaften Ausführung der Erfindung wird die Gesamtheit der vorgängig während eines Arbeitsablaufs aufgezeichneten Daten und Informationen mittels einer dafür ausgebildeten Software ausgewertet und interpretiert, um die für weitere Anwendungen relevanten Teile der gesamten Information zusammenzufassen und für die Weiterverwendung zur Verfügung zu stellen. Dies kann in einer weiteren vorteilhaften Ausführung sogar die teil- oder vollautomatisierte Erstellung einer Arbeitsanweisung für zukünftige Bearbeitungsvorgänge umfassen, die auf dem bereits durchgeführten Arbeitsablauf basiert.

In einer weiteren vorteilhaften Ausführung der Erfindung werden für zwei oder mehrere vergleichbare wissenschaftlich experimentelle Arbeitsabläufe über die Dauer des jeweiligen Arbeits ablauf s mindestens eine Video-Aufnahme zumindest von Teilen eines Arbeitsplatzes, an dem der jeweilige Arbeitsablauf durchgeführt wird, und gleichzeitig Werte von für den jeweiligen Arbeitsablauf relevanten Parametern aufgezeichnet und als separate Datensätze in einer digitalen Datenbank in durchsuchbarer Form gespeichert und vorzugsweise gemeinsam in zeitlicher Zuordnung zueinander visuell dargestellt. So können auch verschiedene wissenschaftlich experimentelle Arbeitsabläufe (z.B. parallel durchgeführte Experimente) untereinander synchronisiert und dargestellt werden (z.B. «Zeige alle Experimente, bei denen die gelbe Farbe mindestens 10 Sekunden gehalten wurde, den zugehörigen Zeitpunkt und lasse die entsprechenden Video- Aufnahmen vor oder nach diesem Zeitpunkt laufen»).

Als gemeinsamer Referenzzeitpunkt zwischen Aufzeichnungen mehrerer wissenschaftlich experimenteller Arbeitsabläufe kann vorteilhafterweise nicht nur ein gemeinsamer relativer Zeitpunkt (bei zu unterschiedlichen Zeiten gestarteten Experimenten beispielsweise der Startzeitpunkt) verwendet werden, sondern auch der Zeitpunkt eines gewünschten Ereignisses, etwa des Erreichens oder Auftretens eines gewissen Ereignisses oder der Durchführung einer gewissen Aktion. So könnte bei mehreren, nacheinander durchgeführten, ähnlichen Arbeitsabläufen der gemeinsame Zeitpunkt beispielsweise auf den jeweiligen Zeitpunkt der Aufnahmen kalibriert werden, bei dem etwa eine Zudosierung in ein Gefäss abgeschlossen wurde, oder eine Temperatur erreicht wurde, etc. Dies kann auch von Vorteil sein, wenn ein Experiment beispielsweise über mehrere Reaktionsgefässe verfügt, die aus technischen Einschränkungen nacheinander befüllt werden müssen, die Reaktionen in den Gefässen aber miteinander verglichen werden müssen. Hier würden die Datenspuren der verschiedenen Teilexperimente so «verschoben», dass sie im Ablauf bezogen auf eine reaktionsrelevante Aktion (hier Zugabe einer Substanz, was beispielsweise den Beginn einer Reaktion auslöst) parallel verlaufen. Natürlich sollte sich vorteilhafterweise zwischen verschiedenen Methoden der Zeitdarstellung, Parallelisierung und Vereinheitlichung auf eine gemeinsamen gewünschten relative oder absolute Zeitskala umschalten lassen.

Vorteilshafterweise lässt sich ein so protokollierter wissenschaftlich experimenteller Arbeitsablauf auch auf einem dafür geeigneten Darstellungsgerät (beispielsweise einem Augmented Reality-Gerät wie Microsoft’s HoloLens) abspielen, während der Laborant dasselbe oder eine abgeänderte Version dieses Arbeitsablaufs (beispielsweise mit z.T. angepassten Parametern, Arbeitsschritten, etc.) nochmals durchführt, um beispielsweise eine neue Methode für einen Arbeitsablauf zu entwickeln. Dies kann natürlich auch iterativ über mehrere Zyklen geschehen.

Im Folgenden wird die Erfindung anhand von in den Zeichnungen dargestellten Ausführungsformen detaillierter beschrieben. Es zeigen:

Fig. 1 - schematisch eine beispielhafte apparative Anordnung zur Durchführung eines hier im Beispiel chemischen Arbeitsablaufs;

Fig. 2 - ein vereinfachtes Prinzipschema einer zur Durchführung der erfindungsgemässen Verfahren geeigneten Vorrichtung;

Fig. 3 - ein Blockschema der grundsätzlichen Schritte einer Ausführungsform des erfindungsgemässen Protokollier- und Analyseverfahrens;

Fig. 4 - ein Blockschema von Detailschritten einer Ausführungsform des erfindungsgemässen Protokollier- und Analyseverfahrens;

Fig. 5-7 - Beispiele von Bildschirmdarstellungen des erfindungsgemässen Protokollier- und Analyseverfahrens;

Fig. 8-9 - Beispiele von Ausschnitten aus Bildschirmdarstellungen des erfindungsgemässen Protokollier- und Analyseverfahrens;

Fig. 10 - eine vereinfachte Darstellung von parallel als Spuren dargestellten Datensätzen;

Fig. 11-12 - ein Beispiel einer gruppierten Spur;

Fig. 13 - ein Beispiel einer Bildschirmdarstellung mit eingeblendeten

Arbeitsflu s s schritten ; Fig. 14-15 - ein Beispiel zur Veranschaulichung einer Durchsuchung von aufgezeichneten Parametern nach verschiedenen Kriterien;

Fig. 16 - ein Beispiel zur Veranschaulichung einer Durchsuchung von aus drei verschiedenen wissenschaftlich experimentellen Arbeitsabläufen aufgezeichneten Parametern; und

Fig. 17 - ein Beispiel einer Darstellung von aus mehreren wissenschaftlich experimentellen Arbeitsabläufen stammenden Aufzeichnungen.

Im Rahmen der vorliegenden Erfindung gelten folgende Begriffsbestimmungen:

Unter einem wissenschaftlich experimentellen Arbeitsablauf wird jede Art von Experimenten, insbesondere chemischer, biologischer oder physikalischen Natur, zu Forschungs- und Entwicklungszwecken verstanden. Im Folgenden wird dafür der Kurzbegriff Arbeitsablauf oder Experiment verwendet.

Unter Parametern werden alle Arten von Mess- und Eingabegrössen sowie Planungsdaten und vorgegebene (Ziel-)Werte verstanden, die für den wissenschaftlich experimentellen Arbeitsablauf von Relevanz oder Interesse sind. Dazu gehören in erster Linie geplante und tatsächlich gemessene Messgrössen wie z.B. Temperaturen, Rührergeschwindigkeiten, Dosiermengen etc. aber auch z.B. auf Beobachtungen basierende Eingaben durch den Anwender, beispielsweise in Textform oder auch in Form von Spracheingaben.

Unter Datensätzen sind die während des wissenschaftlich experimentellen Arbeitsablaufs von den einzelnen Video-Kameras erzeugten Bilddaten sowie die Werte der einzelnen Parameter zu verstehen, also z.B. Messwerte oder Anwendereingaben, wobei die Bilddaten und die Werte der Parameter einer gemeinsamen Bezugszeit zugeordnet sind. Datensätze können auch Planungsdaten wie z.B. Zielwerte oder Arbeitsflussschritte enthalten. Unter Spuren werden Darstellungen von Datensätzen oder Ausschnitten davon, z.B. auf einem Bildschirm, verstanden. Sie können beispielsweise bildhaft sein (Video- Aufnahmen, graphische Darstellung von Messwerten, ...), aber auch konkrete Werte umfassen (konkrete Messwerte zu einem Zeitpunkt, Text, Symbole, ...) oder akustischer Natur sein (Tonaufnahme, ...). Insbesondere sind als Spuren zeilen- oder spaltenweise Darstellungen von zeitlichen Verläufen der Werte von Parametern zu verstehen.

Unter Parameter-Ereignissen werden Situationen verstanden, in welchen ein Parameter einen bestimmten Zustand bzw. Wert aufweist oder sein Zustand bzw. Wert sich in bestimmter Weise verändert.

Gemäss Fig. 1 umfasst ein beispielhafter Arbeitsplatz zwei Reaktoren 1 und 2, zwei Heizungen 3 und 4 für die beiden Reaktoren 1, 2, zwei Temperatursensoren 5 und 6 für die beiden Reaktoren 1, 2, zwei Rührer 7 und 8 für die beiden Reaktoren 1, 2, zwei Sensoren 9 und 10 für die Rührgeschwindigkeit der beiden Rührer 7, 8, ein Dosiergerät 11 für die Zudosierung von Chemikalien in die Reaktoren 1, 2, eine Waage 12 zur Erfassung der effektiv zudosierten Mengen und drei Video-Kameras 13, 14 und 15. Alle genannten Komponenten sind mit einem Computer 16 verbunden und werden von diesem gesteuert bzw. liefern die von ihnen erfassten Daten an diesen Computer 16. An den Computer 16 sind ferner ein Eingabegerät 17 für manuelle Eingaben durch den Anwender sowie ein Mikrofon 18 für akustische Aufnahmen, z.B. Spracheingaben des Anwenders, angeschlossen. Das Eingabegerät 17 kann z.B. eine üblicherweise vorhandene Tastatur oder Maus des Computers 16 sein, oder aber auch eine Eingabevorrichtung beispielsweise in der Form eines berührungsempfindlichen Bildschirms (Touchscreen) oder mit visueller oder akustischer Aufnahmefunktion, beispielsweise eine Augmented Reality- Vorrichtung wie Microsoft’s Holo Lens (z.B. über Gesten- und/oder Sprachsteuerung).

Fig. 2 zeigt den prinzipiellen Aufbau einer für die Durchführung einer Ausführungsform des erfindungsgemässen Verfahrens geeigneten Vorrichtung, wobei nur die für das erfindungsgemässe Verfahren relevanten Komponenten dargestellt sind. Die Vorrichtung umfasst im Wesentlichen den schon erwähnten Computer 16 und einen daran angeschlossenen Bildschirm (Monitor) 19. Eingangsseitig sind an den Computer 16 Datenquellen angeschlossen, zu denen z.B. die schon erwähnten Video-Kameras 13, 14, 15, die Sensoren 5, 6, 9 und 10, die Waage 12 sowie das Eingabegerät 17 und das Mikrofon 18 gehören. Je nach Art des wissenschaftlich experimentellen Arbeitsablaufs können auch noch weitere Datenquellen, z.B. weitere Sensoren oder sonstige Messgeräte, vorgesehen sein. In Fig. 2 sind alle diese Datenquellen nur symbolisch durch fünf Blöcke 21-25 dargestellt. Ferner umfasst die Vorrichtung noch ein Eingabefeld 20 zur Bedienung und Steuerung der Funktionen der Vorrichtung bzw. des Verfahrens. Dieses Eingabefeld kann auch softwaremässig z.B. als situativ dynamisch eingeblendete Menüstruktur auf dem Bildschirm 19 realisiert sein.

Der Computer 16 umfasst als wesentlichste Komponenten eine digitale Datenbank 30 und ein durch einen Funktionsblock 40 symbolisiertes Programm, welches in der Datenbank 30 gespeicherte Daten ausliest, durchsucht, kalibriert, skaliert, filtert und in gewünschter Form auf dem Bildschirm 19 visuell darstellt.

Die von den einzelnen Datenquellen während des Arbeitsablaufs gelieferten Daten (Video-Daten, Messdaten, akustische Daten, manuelle Eingaben etc.), also die Video- Aufnahmen und die Werte der für den Arbeitsablauf relevanten Parameter, werden in der Datenbank 30 als separate, allenfalls hierarchisch organisierte Datensätze gespeichert, und zwar jeweils mit einer zeitlichen Zuordnung zu einer gemeinsamen Bezugszeit, die entweder mit Beginn des Arbeitsablaufs startet oder die eine Standardzeit ist wie etwa die Universalzeit UTC oder Internationale Atomzeit TAI. Die in Fig. 2 nur durch fünf Blöcke 31-35 symbolisierten Datensätze stellen somit die synchronisierten zeitlichen Verläufe der von den Datenquellen gelieferten Daten dar. Die allen Datensätzen gemeinsame Bezugszeit ist in Fig. 2 durch den Block 38 symbolisiert.

Die visuelle Darstellung des Arbeits ablauf s erfolgt auf dem Bildschirm 19. Dabei werden die gegebenenfalls verarbeiteten und parametrisierten Datensätze und vorzugsweise auch die einzelnen Arbeitsschritte des Arbeitsablaufs in Fig. 2 symbolisiert in Form von fünf separaten Spuren 41, 42, 43, 44 und 45 auf dem Bildschirm angezeigt.

In Fig. 3 ist eine Ausführungsform des erfindungsgemässen Verfahrens blockschematisch dargestellt.

In zwei einleitenden Schritten 701 und 702 wird der Arbeitsablauf geplant und vorbereitet. Dazu gehören die Bereitstellung des Arbeitsplatzes, der erforderlichen Arbeitseinrichtungen (Reaktoren, Dosiergeräte, Rührer, Sensoren etc.) und der erforderlichen Materialien sowie der Video-Kameras und eventuell sonstiger Eingabe- und Aufzeichnungsgeräte.

Im nächsten Schritt 703 wird der hier im Beispiel chemische Arbeitsablauf durchgeführt. Dabei werden die Bilddaten der Video-Kameras und die Werte sämtlicher für den Arbeitsablauf relevanten Parameter synchron aufgezeichnet und in Form von separaten Datensätzen in der Datenbank abgespeichert. Die Synchronisierung erfolgt, wie schon erwähnt, anhand der gemeinsamen Bezugszeit. Die Bilddaten und die Werte der Parameter tragen dabei gewissermassen einen Zeitstempel, der im Computer automatisch generiert werden kann. Mit 7030 ist der Arbeitsfluss symbolisiert, die Blöcke 7031, 7032, 7033, 7034 und 7035 symbolisieren die aufgezeichneten Rohdaten der Video-Kamera(s) und der Parameter inkl. der Anwender-Beobachtungen.

Die Aufzeichnung der Werte der Parameter erfolgt in einer durchsuchbaren Form. Das heisst, dass in den Datensätzen nach bestimmten Zuständen, Werten oder Ereignissen gesucht werden kann.

Bei einfachen Messwerten ist dies trivial. Bildaufzeichnungen oder akustische Aufzeichnungen bedürfen jedoch einer Analyse und Bearbeitung. Dies ist in Schritt 704 symbolisch dargestellt. Für die Bilddaten der Video-Kameras können Bildanalyseverfahren eingesetzt werden, welche gewünschte Bildsituationen selbständig erkennen können (z.B. einen Farbumschlag eines aufgenommenen Objekts). Für akustische Aufnahmen, z.B. Spracheingaben eines Anwenders, können Spracherkennungsverfahren eingesetzt werden. Für Texteingaben schliesslich können Texterkennungsverfahren angewandt werden. Mit 7040 ist der Arbeitsfluss symbolisiert, die Blöcke 7041, 7042, 7043, 7044 und 7045 symbolisieren die bearbeiteten bzw. aufbereiteten bzw. parametrisierten Daten der Video-Kamera(s) und der Parameter inkl. der Anwender-Beobachtungen.

Im folgenden Schritt 705 erfolgt die visuelle Darstellung des Arbeitsablaufs auf dem Bildschirm 19. Dabei werden die gegebenenfalls verarbeiteten und parametrisierten Datensätze und vorzugsweise auch die einzelnen Arbeits schritte des Arbeitsablaufs in Form von separaten Spuren 7050, 7051, 7052, 7053, 7054 und 7055 auf dem Bildschirm angezeigt.

Im Blockschema der Fig. 4 ist dargestellt, wie die visuelle Darstellung des Arbeitsablaufs zielgerichtet verfeinert werden kann, indem z.B. nur bestimmte Datensätze und/oder nur bestimmte Ausschnitte davon, z.B. in Abhängigkeit von einem Parameter-Ereignis, dargestellt werden.

Im Schritt 706 werden wie im Schritt 705 der Fig. 3 alle gegebenenfalls verarbeiteten und parametrisierten Datensätze visuell dargestellt. In der Fig. 4 ist das durch die Blöcke 7060, 7061, 7062, 7063, 7064 und 7065 symbolisiert. Im Schritt 707 wird ein interessierender Parameter ausgewählt und im Schritt 708 als Spur 7072 angezeigt. Die Auswahl des interessierenden Parameters kann mittels des Eingabefelds 20 (Fig. 2) erfolgen.

Im Schritt 709 wird ein gewünschtes Parameter-Ereignis für den ausgewählten Parameter eingegeben und der Ereigniszeitpunkt, zu welchem das gesuchte Parameter- Ereignis stattgefunden hat, ermittelt. Ein solches Parameter-Ereignis kann ein bestimmter Zustand (Wert) des betreffenden Parameters oder eine bestimmte Zustands- bzw. Wertänderung des Parameters sein. Ein Parameter-Ereignis kann aber auch eine Text- oder Spracheingabe eines Anwenders sein. Die Auswahl bzw. Eingabe des interessierenden Parameter-Ereignisses kann wieder mittels des Eingabefelds 20 (Fig. 2) erfolgen. Im Schritt 710 werden schliesslich zeitliche Ausschnitte der Datensätze visuell dargestellt, wobei diese Ausschnitte auf den zuvor ermittelten Ereigniszeitpunkt fokussieren. Das heisst, dass im einfachsten Fall nur die Video-Bilder und Werte der Parameter angezeigt werden, die dem Ereigniszeitpunkt zugeordnet sind. Alternativ und vorzugsweise werden aber die Video-Bilder und zeitlichen Verläufe der Werte der Parameter über ein gewünschtes Zeitfenster bzw. Zeitintervall dargestellt, wobei dieses Zeitintervall normalerweise den Ereigniszeitpunkt einschliesst, z.B. die letzten 30 Sekunden vor dem und bis zum Ereigniszeitpunkt. Dabei kann vorteilhafterweise eingestellt bzw. ausgewählt werden, ob während dem Abspielen der aktuelle Zeitpunkt in der Darstellung immer zentriert dargestellt werden soll und die unterschiedlichen Spuren an diesem aktuell dargestellten Zeitpunkt vorbeifliessen, oder aber ob die Spuren fix sind, der aktuelle Zeitpunkt aber den Spuren und der Zeitachse entlang wandert. Die Auswahl bzw. Eingabe des interessierenden Zeitintervalls kann wieder mittels des Eingabefelds 20 (Fig. 2) erfolgen. Die dargestellten Spuren sind in Fig. 4 durch Blöcke 7100, 7101, 7102, 7103, 7104 und 7105 symbolisiert.

Im Schritt 710 können auch nur ausgewählte Datensätze bzw. Parameter dargestellt werden. Auch die Auswahl der darzustellenden Parameter oder Video-Aufnahmen kann mittels des Eingabefelds 20 (Fig. 2) erfolgen. Das Eingabefeld 20 kann, wie schon erwähnt, vorteilhafterweise als auf dem Bildschirm 19 darstellbares Software-Menü implementiert sein.

In Fig. 5 ist in stark vereinfachter Form ein beispielhafter Bildschirmaufbau einer Ausführungsform des erfindungsgemässen Verfahrens dargestellt. Der Bildschirm zeigt ein laufendes Videobild 101, welches in diesem Beispiel gerade aufnimmt, wie auf einer automatisierten Formuliervorrichtung 102 eine Flüssigkeit über eine Dosiervorrichtung 103 in einen ersten Reaktor 104 dosiert wird. Im Videobild 101 ist auch ein zweiter Reaktor 105 sichtbar. Eine Informations spalte 106 zeigt Informationen zur für die Aufnahme des Videobildes 101 verwendeten Kamera. Über dem Videobild 101 sind relevante Informationen als überlagernde Grafiken dargestellt, etwa der Name 107 der Kamera, sowie der aktuelle, synchronisierte Zeitpunkt 108 der Aufnahme, sowie zur Vereinfachung der Identifikation der gefilmten Reaktoren deren Bezeichnungen 109 und 110.

Typischerweise erfolgt die Aufnahme des Videobilds 101 mittels einer in der Vorrichtung zur Durchführung des Arbeitsablaufs integrierten bzw. fix installierten Video-Kamera. Es ist aber auch möglich, für die Aufnahme des Videobilds 101 eine mobile Kamera zu verwenden, die etwa von einer entsprechenden Robotik oder auch einem Laboranten getragen und ausgerichtet wird, oder sogar in eine tragbare Vorrichtung integriert ist, die speziell für Augmented Reality- Anwendungen (z.B. Microsoft’s HoloLens) ausgelegt ist. Natürlich ist es möglich und vorteilhaft, nicht nur eine, sondern mehrere Aufnahmequellen bzw. Kameras zu verwenden (siehe auch Fig. 7, 8 und 9), wobei Kameras auf unterschiedliche Objekte ausgerichtet sein können, und/oder verschiedene oder gleiche Objekte mittels unterschiedlicher Kameratypen (siehe auch Fig. 9), z.B. bezüglich Aufzeichnungsmethode oder Wellenlänge, zum Einsatz kommen können, z.B. Infrarot, Ultraviolett, restlichtverstärkend, aber auch Sensoren für radioaktive Strahlung, etc.

Der in Fig. 5 dargestellte Bildschirmaufbau zeigt zudem mehrere, hier als gruppierte Spuren 111 und 112 dargestellte Werte ausgewählter Parameter, die sich auf die beiden Reaktoren 104 und 105 beziehen. Diese Spuren sind vorteilhafterweise so aufgebaut, dass sie beispielsweise den gewünschten Zielwert eines Parameters (hier die Reaktortemperatur T und die Drehgeschwindigkeiten v der Rührvorrichtungen der Reaktoren) sowie die tatsächlich gemessenen Werte der Parameter als Linien entlang einer ebenfalls als Spur dargestellten Zeitachse 113 zeigen. In Fig. 5 sind die Zielwerte als ausgezogene Linien und die tatsächlichen Werte als gepunktete Linien dargestellt. Vorteilhafterweise sind zudem aktuell gemessene Werte überlagert dargestellt (hier die Temperatur T 45.0°C und Rührgeschwindigkeit v 251 UpM (Umdrehungen pro Minute) in Reaktor #1 resp. Temperatur T 45.1°C und Rührgeschwindigkeit v 248 UpM in Reaktor #2.

Der Bildschirmaufbau zeigt als zentral wichtiges Element eine Zeitachse 113, die parallel zu den anderen Spuren 111 und 112 verläuft. Die Zeitachse zeigt dabei exakt auf, zu welchem Zeitpunkt die laufende Aufzeichnung bzw. das Abspielen derselben gerade stattfindet. Der aktuelle Zeitpunkt ist hier beispielsweise als durchgezogene Linie 114 dargestellt, welche über die verschiedenen Spuren verläuft. Beispielsweise gestrichelt dargestellte Linien 115 können als Hilfselemente gewisse Zeitpunkte (hier z.B. jede volle Minute) darstellen und somit das Ablesen der Parameterwerte in den Datenspuren 111 und 112 vereinfachen.

Der in Fig. 6 dargestellte Bildschirmaufbau zeigt eine ähnliche Situation wie in Fig. 5 mit dem Unterschied, dass hier das Videobild 201 einer Infrarot (IR)-Kamera 207 gezeigt ist, welches kältere Objekte dunkler und wärmere Objekte heller darstellt. Eine Informationsspalte 206 zeigt Informationen zur für die Aufnahme des Videobilds 201 verwendeten Kamera. Die Informations spalte 206 enthält auch eine Skala 2061, welche vereinfacht aufzeigt, welche Farbe welcher detektierten Temperatur zugewiesen ist. Der beispielhafte Bildaufbau zeigt, wie der erste Reaktor 104 und dessen Inhalt warm ist und hell angezeigt wird, während der Inhalt des zweiten Reaktors 105 kühler und deshalb dunkel (angedeutet durch die punktierte Darstellung) angezeigt ist. Aus der Temperaturspur des zweiten Reaktors ist ersichtlich, wie dieser Reaktor eine tiefere Temperatur aufweist (gestrichelte Temperatur- Linie) als vorgesehen wäre (durchgezogene Temperatur- Linie). Zudem wird hier ein Warnhinweis 2112 eingeblendet, der darauf hinweist, dass die Temperatur im Reaktor stark vom Zielwert abweicht, was darauf hinweist, dass der zweite Reaktor offenbar nicht wie geplant beheizt wird und evtl, ein technisches Problem vorliegt. Der Warnhinweis 2112 kann selbstverständlich auch einen passenden Text enthalten.

Der in Fig. 7 dargestellte beispielsweise Bildschirmaufbau zeigt eine ähnliche Situation wie in den Figuren 5 und 6 mit dem Unterschied, dass hier im angezeigten Videobild 301 die von zwei Video-Kameras stammenden Aufnahmen ausschnittsweise überlagernd (Overlay) dargestellt sind. Die eine Aufzeichnung stammt wie in Fig. 5 von einer im sichtbaren Spektralbereich arbeitenden Video-Kamera 107, die andere Aufnahme stammt wie in Fig. 6 von einer Infrarot- Kamera 207. Somit ist im Videobild 301 gleichzeitig das für das menschliche Auge sichtbare Videobild als auch das IR- Videobild, das die Wärmeab Strahlung von Objekten aufnimmt, sichtbar. Mittels bekannter Bildverarbeitungsprogramme wird dabei nicht das gesamte IR-Bild überlagert dargestellt, sondern nur interessierende Ausschnitte davon. In Fig. 7 zeigen diese Ausschnitte die Wärmeab Strahlung der in den beiden Reaktoren 104 und 105 befindlichen Flüssigkeiten 1041 und 1051. Eine Informationsspalte 306 zeigt Informationen zu den für die Aufnahme des Videobilds 301 verwendeten Kameras.

Im Rahmen der Erfindung ist es auch möglich, Bilder von mehreren, gegebenenfalls verschiedenen Video-Kameras z.B. neben oder untereinander darzustellen, so dass gleichzeitig mehrere Aufnahmen sichtbar sind. Dabei können in unterschiedlichen Spektralbereichen arbeitende Kameras auf dasselbe Objekt oder auf unterschiedliche Objekte gerichtet sein. Letzteres ist in den Figuren 8 und 9 dargestellt, wobei der Einfachheit halber Datenspuren und Zeitspuren weggelassen sind.

In Fig. 8 zeigt der Bildschirmaufbau analog Fig. 7 das überlagerte Videobild 301 von einer ersten und einer zweiten Video-Kamera sowie Videobilder 401 und 501 zweier weiterer Video-Kameras, welche auf je einen der beiden Reaktoren 104 und 105 ausgerichtet sind, und somit im Detail zeigen, was gerade in den entsprechenden Reaktoren passiert. Hier in Fig. 8 ist beispielsweise sofort ersichtlich, dass der zweite Reaktor 105 einen geringeren Flüssigkeits stand hat als der erste Reaktor 104.

Vorteilhafterweise ist natürlich auch zwischen verschiedenen Darstellungsformen resp. Kamera- Inputs umschaltbar, sprich der Anwender kann auswählen, ob er z.B. das Videobild einer ersten Video-Kamera (wie in Fig. 5), das IR-Bild einer zweiten IR- Kamera (wie in Fig. 6), eine Überlagerung von Ausschnitten der IR-Kamera über der ersten Video-Kamera (wie in Fig. 7) oder eine Überlagerung des gesamten IR-Bilds der IR-Kamera halbtransparent über dem Videobild der ersten Video-Kamera angezeigt haben möchte (nicht dargestellt). Dabei sind selbstverständlich auch Bild-in-Bild- Darstellungen möglich.

Der in Fig. 9 dargestellte Bildschirmaufbau zeigt ein Haupt- Videobild 601 mit zwei kleineren Sub-Videobildern 6011 und 6012 innerhalb des Haupt- Videobilds. Das Haupt-Videobild zeigt die beiden Reaktoren 104 und 105 wie in Fig. 5, das Sub- Videobild 6011 zeigt eine Video-Aufnahme nur des ersten Reaktors 104 im sichtbaren Spektralbereich, das Sub-Videobild 6012 zeigt eine Video-Aufnahme nur des ersten Reaktors 104 im Infrarot-Spektralbereich. In einer Informations spalte 606 ist ein Steuerfeld 607 integriert, mittels welchem die Anzeige gewünschter Sub-Videobilder gewählt bzw. abgewählt werden kann. Hier im Beispiel sind Sub-Videobilder des zweiten Reaktors 105 abgewählt.

Selbstverständlich kommen als Input-Quellen nicht nur visuelle und IR-Kameras in Frage, sondern die Möglichkeiten umfassen alle gängigen und zukünftig denkbaren Aufnahmeverfahren, Kameras und Sensoren, wie zum Beispiel und insbesondere Röntgen (Xray), z.B. zum Erkennen, was in einem Reaktor vorgeht, ohne dass man visuell Zugang dazu hat. Weitere Input-Möglichkeiten umfassen etwa UV-Strahlung, Restlicht-verstärkende Kameras, Ultraschall-Sensoren etc. In den folgenden Abschnitten werden insbesondere verschiedene erfindungsgemässe Darstellungsformen weiterer Datenspuren, welche nicht aus Kamera- Inputs kommen, dargestellt.

In Fig. 10 sind beispielsweise einige Spuren von Datensätzen eines vereinfachten chemischen Arbeits ablauf s dargestellt. In diesem Beispiel umfasst der Arbeitsablauf die Zudosierung eines Pulvers in ein gerührtes und geheiztes Gefäss.

Die Spuren verlaufen hier im Beispiel auf dem Bildschirm vertikal parallel zu einer Zeitachse 2000 und sind nebeneinander angeordnet. Eine Spur 2001 zeigt aufgezeichnete Temperaturverläufe in einem Kryostaten. Eine zweite Spur 2002 zeigt die Aktivität eines Pulverdosierers bzw. einer Waage. Eine dritte Spur 2003 zeigt aufgezeichnete Umdrehungsgeschwindigkeiten eines Rührers. Eine vierte Spur 2004 zeigt aufgezeichnete Beobachtungen eines Anwenders. Jede Spur stellt einen Parameter dar. Einzelne Datenpunkte, etwa Messungen, oder auch Aktionen oder Beobachtungen, sind zum entsprechenden Zeitpunkt entlang der Zeitachse 2000 dargestellt.

Im dargestellten Beispiel sieht man, wie etwa kurz nach Beginn (Zeitpunkt T0) des Ablaufs für den Kryostaten erst ein Zielwert von 50 °C und für den Rührer ein Zielwert von 450 UpM gesetzt wird (Zeitpunkt T0+10s) und beide Geräte dann gestartet werden (Zeitpunkt T0+15s). Daraufhin beginnen beide Geräte zu arbeiten und die dabei gemessenen Parameter (Temperatur für den Kryostaten resp. Drehzahl des Rührers) werden aufgezeichnet.

Zum Zeitpunkt TO+38s beginnt ein Dosiervorgang mit einem Pulverdosiergerät, welches 127 mg eines bestimmten Pulvers in ein bestimmtes Zielgefäss dosieren soll. Zum Zeitpunkt T0+72s ist diese Dosierung abgeschlossen, und es wird z.B. aufgrund des Inputs einer Waage gespeichert, dass in Wirklichkeit 129 mg des Pulvers dosiert wurden.

Der den automatisierten Vorgang beobachtende Laborant beobachtet bei T0+40s und T0+85s eine Schaumbildung im Gefäss und protokolliert diesen Umstand im System. Diese Beobachtungen sind in der Spur 2004 angezeigt. In der Fig. 10 sind die Beobachtungen je durch ein Symbol 2041 bzw. 2042 dargestellt. In der Praxis ist die angezeigte Beobachtung normalerweise ein entsprechender Text. Die manuelle Eingabe der Beobachtung erfolgt beispielsweise über das in Fig. 1 gezeigte Eingabegerät 17. Vorteilhafterweise erfolgen solche manuellen Eingaben aber über eine mit dem Computer 16 in Verbindung stehende Datenverarbeitungs Vorrichtung, wobei im Speziellen etwa Smartphones, Desktop-, Laptop- oder Tablett-Computer, besonders vorteilhaft aber Vorrichtungen für Augmented Reality oder Virtual Reality (z.B. Microsoft’s HoloLens-Produkte) zum Einsatz kommen können. Diese Vorrichtungen können umgekehrt dann auch dazu verwendet werden, die während eines Experiments aufgezeichneten Daten und Informationen entsprechend darzustellen und zu bearbeiten.

Später, in der Analysephase des Arbeitsablaufs, kann der Laborant nun genau sehen, zu welchem Zeitpunkt was passiert ist, resp. in welchem Zustand sich die einzelnen Elemente befanden. Er würde etwa beim Zeitpunkt T0+120s sofort sehen, dass sich der Kryostat bei einer Temperatur von 25.7°C befindet, und der Rührer sich mit 450 UpM dreht.

Manche der am Arbeits ablauf beteiligten Apparaturen bzw. Geräte sind durch mehrere Eigenschaften charakterisiert. So hat z.B. ein Kryostat eine Pumpe, eine Heizung und einen Temperatursensor. Die Werte bzw. Zustände dieser Komponenten können alle als Parameter aufgezeichnet werden. In einem solchen Fall ist es zweckmässig, die Darstellung der betreffenden, zu einem Element gehörenden Spuren zu gruppieren, z.B. wie in Fig. 11 am Beispiel eines Kryostaten gezeigt. In einer Spurengruppe 2005 mit den Einzelspuren 2051, 2052 und 2053 kann ein vorzugsweise über eine entsprechende Schaltfläche 2054 aufklappbares Auswahlfeld 2055 implementiert sein, mittels welchem die anzuzeigenden Einzelspuren ausgewählt werden können (Pumpe P, Heizung H, Temperatur T). In Fig. 11 ist die Spur des Temperatursensors des Kryostaten ausgewählt. Diese Einzelspur 2053 wird dann, wie in Fig. 12 dargestellt, auf dem Bildschirm angezeigt. Dies vereinfacht den Überblick über die dargestellten Daten.

Die Informationen in den Spuren können nicht nur als Texte und Zahlen, sondern, wo sinnvoll, auch als Graphen (Kurven), vorzugsweise zusammen mit entsprechenden Skalen, dargestellt werden. Dabei können auch entsprechende Ziel- bzw. Sollwerte mit dargestellt werden. Vorzugsweise mitdargestellte Legenden helfen dabei beim Identifizieren der beispielsweise farblich oder in Strichdicke/Strichform unterscheidenden Kurven. In den Figuren 5-7 sind Beispiele solcher Graphen- Darstellungen gezeigt.

Oft werden bei wissenschaftlich experimentellen Arbeitsabläufen diese als sogenannte Workflows mit definierter Symbolik dargestellt, wobei jeweils ein beschriftetes Pfeilsymbol einen Arbeitsschritt (oder eine Gruppe zusammengefasster Teil- Arbeitsschritte) umfasst. Ein solcher Workflow kann auch beim erfindungsgemässen Verfahren in die Bildschirmdarstellung der Parameter und Video -Aufnahmen eingeblendet werden. Die Fig. 13 zeigt vereinfacht ein Beispiel dafür.

Der Bildschirmaufbau der Fig. 13 entspricht in grossen Teilen dem der Fig. 5, nur dass zusätzlich zum Video-Bild 101, der dem Reaktor 104 zugeordneten gruppierten Spur 111 und der Zeitachse 113 noch eine Workflow-Spur 3000 dargestellt ist. Die gruppierte Spur 112 der Fig. 5 ist hier nicht dargestellt. Auf der Zeitachse 113 ist die Zeit als Universalzeit UTC aufgetragen. Die vertikale Linie 114 markiert die aktuelle Zeit. Der in der Workflow-Spur 3000 dargestellte Workflow entspricht dem geplanten Arbeitsablauf und zeigt auf, was zu welchem Zeitpunkt erledigt werden soll. Die einzelnen Arbeitsschritte sind als Pfeile dargestellt, wobei vorteilhafterweise der Status eines Arbeitsschritts durch farbliche Unterscheidung symbolisiert sein kann. Bereits erledigte Workflow-Schritte 3001 können z.B. dunkelgrau, der aktuell laufende Workflow-Schritt 3002 mittelgrau und die zukünftigen Workflow-Schritte 3003 hellgrau dargestellt sein. Gemeinsam mit dem bzw. den Videobildem(n) ermöglicht eine solche Darstellung mit einer Vielzahl an Informationen, Daten, Bildern etc. gleichzeitig erstmals ein umfassendes, alle denkbaren Aspekte eines wissenschaftlich experimentellen Arbeits ablauf s umfassendes Protokoll. Kombiniert mit der Möglichkeit der Datensuche innerhalb der Gesamtheit der Aufzeichnungen erlaubt dieses Protokoll erstmals eine vollständige, umfassende und bisher unerreichte Möglichkeit, protokollierte Arbeits abläufe zu analysieren und weiterzu verwenden.

Im Folgenden wird auf die schon erwähnte Suche innerhalb der Datensätze näher eingegangen.

Die verschiedenen Datensätze werden in einer gemeinsamen Datenbank, welche auf dem Computer 16 installiert ist, zusammengetragen. Zentral hierbei ist, dass alle Aufzeichnungen und Datensätze (Spuren, Kamerabilder, Anwenderinputs, etc.) zeitlich synchronisiert sind, da nur so eine gegenseitige Referenzierung und Suche nach Ereignissen, Werten, Parametern, etc. möglich ist. Ein wichtiger Aspekt der Erfindung ist, dass alle diese unterschiedlichen aufgezeichneten und protokollierten Daten später nach diversesten Anforderungen zusammengefasst, gefiltert, speziell aber auch durchsucht werden können. Die Suche kann dabei Stichwörter (etwa innerhalb von beispielsweise durch den Laboranten eingefügten Kommentaren und Beobachtungen) aber auch jegliche im Gesamtdatensatz gespeicherte Parameter und Werte umfassen. Zudem ist es vorteilhaft, dass auch die visuellen Spuren (resp. Kameraaufnahmen) und Sensorinputs durch geeignete, dem Fachmann geläufige Vorrichtungen und Verfahren analysiert, interpretiert und übersetzt werden, so dass auch diese Inputs durch eine Suchmaske abgedeckt werden können. So könnte mittels Bilderkennungssoftware die Farbe einer Formulierung in einem Reaktor erkannt werden, und die Suche würde dann alle Ereignisse, Zeiten, Videosequenzen und Bilder aufzeigen, bei der diese Farbe der Formulierung erkannt wurde. Dies gilt natürlich für jegliche denkbaren physikalischen und chemischen aber auch durch den Menschen beobachtbaren Parameter, Daten und Werte.

Zur Durchsuchung der Datensätze kann eine Suchmaske verwendet werden, worin etwa nach konkreten Werten, Grössen, Parametern, aber auch Text und Sprachaufzeichnungen gesucht werden kann. Alle gefundenen Einträge können tabellarisch aufgelistet werden. Vorteilhafterweise können die Ergebnisse weiter gefiltert werden, und vorteilhafterweise kann per Auswahl eines gefundenen Eintrags zum Zeitpunkt des Eintrags in der Zeitachse gesprungen und/oder dieser in der Zeitachse und/oder Spur markiert bzw. hervorgehoben werden.

Die Figuren 14 und 15 zeigen beispielsweise, wie nach dem erfindungsgemässen Verfahren die aufgezeichneten Daten und Spuren durchsucht werden können. Fig. 14 zeigt eine für Suchzwecke vorteilhafte Darstellung verschiedener Spuren in Synchronisation zu einer gemeinsamen Zeitachse 4000, hier stellvertretend für viele andere mögliche Spuren zwei Video-Spuren 4001 und 4002 von zwei verschiedenen Video-Kameras, eine Spur 4003 eines Temperatursensors, eine Spur 4004 eines Pulverdosiergeräts und eine akustische Spur 4005 mit Spracheingaben eines Laboranten. Die Video-Spuren 4001 und 4002 sind so dargestellt, dass entlang der Zeitachse 4000 einzelne Bilder angezeigt werden, wobei jedes Bild der Aufnahme des dazugehörigen Zeitpunkts entspricht.

Fig. 15 zeigt nun, wie die Suche über die Gesamtheit der Datenspuren eines Arbeitsablaufs erfindungsgemäss funktioniert: Eine erste beispielsweise Abfrage 4100 innerhalb der Temperatursensor-Spur 4003 bzw. des zugrundeliegenden Datensatzes z.B. mit dem Suchbegriff "32°C" findet ein erstes Ereignis 4101, an dem dieser Wert von einem Sensor gemessen wurde, und lässt direkt die dazugehörigen Bilder (resp. Aufnahmesequenzen) nach Wunsch anzeigen, hier im Beispiel zum Zeitpunkt 14:25:45. Weitere, spätere Ereignisse derselben Sensor-Spur, welche ebenfalls mit dem Suchbegriff 32°C übereinstimmen, würden dann ebenfalls dargestellt, sowie nach Wunsch auch Ereignisse, bei denen diese Temperatur bei anderen Sensoren gemessen wurde. Die Gesamtheit aller gefundenen Ereignisse kann dann natürlich anhand gewünschter Kriterien weiter gefiltert werden. Bei zwei oder mehreren gefundenen Ereignissen (z.B. 32°C) kann der Anwender auswählen, welchen zugehörigen Zeitpunkt bzw. welche zugehörige Videosequenz er angezeigt haben möchte, da er z.B. aufgrund seiner Erfahrung erkennt, dass ein Ereignis tatsächlich das gesuchte ist, oder vielleicht nur ein Ausreisser oder Messfehler oder sonst für seine Fragestellung irrelevanter Messwert ist. Der Anwender kann aufgrund seiner Erfahrung anhand der zugeordneten Videosequenz und eventuell zusätzlich angezeigter Parameterwerte leicht entscheiden, welches dieser Suchresultate tatsächlich das Ereignis darstellt, das ihn eigentlich im Verlaufe des Arbeits ablauf s interessiert und das er genauer untersuchen möchte.

Eine beispielsweise zweite Abfrage 4200 durchsucht den der akustischen Spur 4005 zugrundeliegenden Datensatz z.B. nach einer akustisch festgehaltenen Observation, z.B. dem Begriff "Schaum". Wesentlich ist hier nun, dass die akustische Aufzeichnung nicht nur als übliche Tonspur vorliegt, sondern dass diese Tonspur etwa durch geeignete Spracherkennungsmethoden parametrisiert resp. digitalisiert wird, und dadurch für jeden verbalen Input des Anwenders am entsprechenden Zeitpunkt auch ein Text erzeugt und abgespeichert wird, der dann mittels Suchbegriff durchsuchbar ist. Hier also findet die Suchabfrage 4200 nach "Schaum" ein Ereignis 4201 auf der akustischen Spur 4005, bei dem die Spracherkennung den Begriff "Schaum" im zugrundeliegenden Datensatz erkannt hat, und zeigt nun wiederum die zu diesem Zeitpunkt gehörigen, gewünschten anderen Spuren, Parameter, Bilder und Video Sequenzen an. Bezüglich eventueller mehrfacher Suchtreffer gilt wieder das im vorhergehenden Absatz Gesagte.

Eine wie vorgängig für eine akustische Spur beschriebene Parametrisierung bzw. Digitalisierung von Rohdaten kann natürlich für jede beliebige Spur stattfinden. Insbesondere vorteilhaft ist eine Auswertung von Aufnahmen jeglicher denkbaren Methode (Video, IR, UV, akustisch, ...) und deren Interpretation, Parametrisierung bzw. Digitalisierung. Vergleichbar ist dies etwa mit zum Beispiel der Gesichtserkennung durch entsprechend geeignete Software, wo Kameraaufnahmen von Gesichtem mit leicht erkennbaren Merkmalen versehen werden und diese Merkmale dann in umfassenden Datenbanken abgelegt und untereinander verglichen werden können, um ein aufgenommenes Bild mit bereits in der Datenbank verfügbaren Bildern vergleichen resp. zuordnen zu können. Eine ähnliche Digitalisierung kann auch im erfindungsgemässen Verfahren verwendet werden. Hier können dann (beispielhaft und nicht abschliessend) etwa die Farbe einer chemischen Formulierung, deren Struktur, das Vorhandensein von Inhomogenitäten (Partikel, Schaum, ...) erkannt und digitalisiert werden.

Eine Suche nach Daten kann natürlich nicht nur innerhalb eines einzigen Arbeitsablaufs, sondern vorteilhafterweise auch über eine Vielzahl von (vergleichbaren) Arbeitsabläufen erfolgen, wie dies sehr vereinfacht in Fig. 16 dargestellt ist. Hier wird über die Datensätze dreier Arbeitsabläufe 5001, 5002 und 5003 in einer Abfrage 5100 z.B. nach den Ereignissen "Temperatur = 32°C" und in einer Abfrage 5200 z.B. nach einer bestimmten Observation, z.B. dem Ereignis "Schaum" gesucht. Dabei werden verschiedene Ereignisse gefunden, was in Fig. 16 durch Pfeile 5101 und 5201 symbolisiert ist. Die gefundenen Ereignisse werden in zwei Tabellen 5102 und 5202 tabellarisch dargestellt. Man erkennt, dass drei Ereignisse von "Temperatur = 32°C" in zwei Experimenten und zwei Ereignisse von "Schaum" in zwei Experimenten gefunden wurden. Durch Anwählen eines gelisteten Ereignisses kann der Laborant dann direkt zum gewünschten Zeitpunkt im gewünschten Experiment springen und sich die dabei herrschenden Bedingungen, Parameter etc. anschauen. Dies erlaubt erstmals eine einfache, umfassende und schnelle Suche von Parametern im breiten Laborbetrieb.

Fig. 17 zeigt ein Beispiel einer Darstellung von mehreren Aufzeichnungen 8001 und 8002 von wissenschaftlich experimentellen Arbeitsabläufen, die zu unterschiedlichen Zeiten durchgeführt und protokolliert wurden. Hier hat der Anwender entschieden, als aktuell darzu stellenden Zeitpunkt die Zugabe einer Flüssigkeit in die Versuchsreaktoren auszuwählen, beispielsweise indem er über die gewünschten Experimente nach «pH- Wert > 6.7» suchte, und somit diese Ereignisse fand. Diese können beispielsweise nun so dargestellt werden, dass die entsprechenden Zeitachsen resp. Aufzeichnungen auf dieses gemeinsame Ereignis «pH > 6.7» verschoben bzw. kalibriert werden. Diese Darstellung bietet eine sehr intuitiv nutzbare Möglichkeit, interessierende bzw. relevante Ereignisse in Arbeitsabläufen zu finden und visuell zu vergleichen, da natürlich alle gewünschten Parameter und Aufzeichnungen dem Anwender so zur Verfügung stehen.

Vorstehend wurde die Erfindung am Beispiel chemischer Arbeitsabläufe erläutert. Die Erfindung ist jedoch nicht auf die Protokollierung und Analyse von chemischen Arbeitsabläufen beschränkt, sondern ist auch für viele andere wissenschaftlich experimentelle Arbeitsabläufe geeignet.