WO2012168065A1 - High-resolution luminescence microscopy - Google Patents
High-resolution luminescence microscopy Download PDFInfo
- Publication number
- WO2012168065A1 WO2012168065A1 PCT/EP2012/059466 EP2012059466W WO2012168065A1 WO 2012168065 A1 WO2012168065 A1 WO 2012168065A1 EP 2012059466 W EP2012059466 W EP 2012059466W WO 2012168065 A1 WO2012168065 A1 WO 2012168065A1
- Authority
- WO
- WIPO (PCT)
- Prior art keywords
- sample
- image
- resolution
- illumination
- sequence
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Ceased
Links
Classifications
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B21/00—Microscopes
- G02B21/36—Microscopes arranged for photographic purposes or projection purposes or digital imaging or video purposes including associated control and data processing arrangements
- G02B21/365—Control or image processing arrangements for digital or video microscopes
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01N—INVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
- G01N21/00—Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
- G01N21/62—Systems in which the material investigated is excited whereby it emits light or causes a change in wavelength of the incident light
- G01N21/63—Systems in which the material investigated is excited whereby it emits light or causes a change in wavelength of the incident light optically excited
- G01N21/64—Fluorescence; Phosphorescence
- G01N21/645—Specially adapted constructive features of fluorimeters
- G01N21/6456—Spatial resolved fluorescence measurements; Imaging
- G01N21/6458—Fluorescence microscopy
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01N—INVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
- G01N21/00—Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
- G01N21/62—Systems in which the material investigated is excited whereby it emits light or causes a change in wavelength of the incident light
- G01N21/63—Systems in which the material investigated is excited whereby it emits light or causes a change in wavelength of the incident light optically excited
- G01N21/64—Fluorescence; Phosphorescence
- G01N21/645—Specially adapted constructive features of fluorimeters
- G01N21/648—Specially adapted constructive features of fluorimeters using evanescent coupling or surface plasmon coupling for the excitation of fluorescence
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B21/00—Microscopes
- G02B21/0004—Microscopes specially adapted for specific applications
- G02B21/002—Scanning microscopes
- G02B21/0024—Confocal scanning microscopes (CSOMs) or confocal "macroscopes"; Accessories which are not restricted to use with CSOMs, e.g. sample holders
- G02B21/0052—Optical details of the image generation
- G02B21/0076—Optical details of the image generation arrangements using fluorescence or luminescence
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B21/00—Microscopes
- G02B21/0004—Microscopes specially adapted for specific applications
- G02B21/002—Scanning microscopes
- G02B21/0024—Confocal scanning microscopes (CSOMs) or confocal "macroscopes"; Accessories which are not restricted to use with CSOMs, e.g. sample holders
- G02B21/008—Details of detection or image processing, including general computer control
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B21/00—Microscopes
- G02B21/06—Means for illuminating specimens
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B21/00—Microscopes
- G02B21/36—Microscopes arranged for photographic purposes or projection purposes or digital imaging or video purposes including associated control and data processing arrangements
- G02B21/365—Control or image processing arrangements for digital or video microscopes
- G02B21/367—Control or image processing arrangements for digital or video microscopes providing an output produced by processing a plurality of individual source images, e.g. image tiling, montage, composite images, depth sectioning, image comparison
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
- G02B27/58—Optics for apodization or superresolution; Optical synthetic aperture systems
Definitions
- the invention relates to a microscopy method or a microscope for generating a high-resolution image of a luminescent sample.
- microscopy The examination of samples by microscopy is a wide technical field, for which there are many technical solutions.
- various microscopy techniques have developed.
- a classical field of application of light microscopy for the investigation of biological preparations is luminescence microscopy.
- certain dyes so-called phosphors or fluorophores
- the sample is illuminated with excitation radiation and the luminescence light stimulated thereby is detected with suitable detectors.
- a dichroic beam splitter in combination with block filters is provided for this purpose in the light microscope, which split off the fluorescence radiation from the excitation radiation and enable separate observation.
- Luminescence is understood here, as is common practice, as a generic term for phosphorescence and fluorescence, so it covers both processes.
- LSM laser scanning microscopy
- a confocal detection arrangement one speaks of a confocal LSM
- a nonlinear sample interaction so-called multiphoton microscopy
- An optical section is obtained, and the recording of several optical sections at different depths of the sample then makes it possible, with the aid of a suitable data processing device, to generate a three-dimensional image of the sample, which is composed of the various optical sections.
- Laser scanning microscopy is thus suitable for the examination of thick specimens.
- microscopy methods For resolutions beyond the diffraction limit given by the laws of physics, various approaches have recently been developed. These microscopy methods are characterized in that they provide the user with a higher lateral and / or axial optical resolution compared to the conventional microscope. In this specification, such microscopy methods are referred to as high-resolution microscopy methods, since they achieve a resolution beyond the optical diffraction limit. Diffraction-limited microscopes, on the other hand, are called classical microscopes. They realize known optical far field microscopy or laser scanning microscopy.
- a high-resolution microscopy method is mentioned in EP 1 157 297 B1.
- nonlinear processes are exploited by means of structured illumination.
- the non-linearity is the saturation of the fluorescence.
- Structured illumination results in a displacement of the object space spectrum relative to the transfer function of the optical system.
- the shift of the spectrum means that object space frequencies V0 are transmitted at a spatial frequency V0-Vm, where Vm is the frequency of the structured illumination.
- Vm is the frequency of the structured illumination.
- This approach requires Fourier filtering as a reconstruction algorithm for image generation and exploitation of multiple images for an image.
- the EP 1 157 297 B1 which is also fully incorporated with regard to the corresponding description of the resolving microscopy method, thus uses a structured far-field illumination of the sample, for example by means of an amplitude / phase grating. Fluorescence in the sample is also detected far field.
- the grid is now used in at least three different rotational positions, z. B. 0 °, 120 ° and 240 °, and in each rotational position, the grid is moved in three or more different positions. For the three shifts of the three rotational positions (a total of at least 9 illumination states), the sample is detected far field.
- the grating has frequencies as close as possible to the cut-off frequency, to the transmission of which the optical arrangement used is capable.
- This microscopy method is also called a SIM method.
- An increase of the resolution is obtained with this principle, if the structuring (eg by a grid) is so intense that the fluorescence of the sample reaches saturation in the bright area. Then the structured illumination of the sample on the sample no longer has a sinusoidal distribution, but because of the saturation effects even higher harmonic beyond the optical cutoff frequency.
- This development of the SIM method is also referred to as saturated pattern excitation microscopy (SPEM).
- SIM method can also be achieved with a linear illumination which is perpendicular to the grid direction. You then have a line lighting, along the line, the grid structure is found again. The lines of the lighting is thus in turn structured by the grid.
- the linear illumination allows a confocal slit detection and thus an increase in resolution. This procedure is also abbreviated SLIM.
- ISM image scanning microscopy
- the paper C. Müller and J. Enderlein, "Image scanning microscopy", Physical Review Letters, 104, 198101 (2010) uses the SIM principle, but uses a scanning of the sample with a confocal illumination and detection with subsequent Fourier filtering
- the principle is called ISM, which does not have nine orientations of structured illumination, but each scan position, ie each raster state when the image is scanned, corresponds to a lighting state, and the structured illumination is spot illumination of the sample.
- Express 2, 408-420 discloses another high-resolution method of luminescence microscopy that utilizes the blinking properties of a fluorophore: If the fluorophores of a sample flash statistically independently of each other, the sample can be imaged by appropriate filtering with a so-called "fluorescence" microscope An example of such a cumulant function is, for example, the second order autocorrelation function g. To produce a high-resolution image, a sequence of individual images is recorded and then combined with the cumulant function to form a single image, which then has the higher resolution. This method is abbreviated to the term "Super-Resolution Optical Fluctuation Imaging" as the SOFI method.
- DE 102008054317 A1 describes the combination of various high-resolution microscopy methods, with the aim of being able to use the optimum method for individual sample areas in each case from the viewpoints of resolution and measuring speed.
- the invention has for its object to provide a microscopy method or a microscope, which achieves an increased resolution.
- a microscopy method for producing a high-resolution image of a sample comprising the following steps: a) the sample is provided with a marker which emits statistically flashing luminescence radiation after excitation or a sample is used which after excitation b) the sample is excited to luminescence by structured illumination, the sample being repeatedly illuminated in different illumination states of the structured illumination, c) the luminescent sample is repeatedly imaged onto a detector in each of the different illumination states, so that a sequence of images is obtained for each of the different illumination states, d) from each image sequence by means of a cumulant function, which evaluates intensity fluctuations caused by the flashing in the image sequence, a raw image which has a di e) an increased resolution of the spatial resolution is generated so that a high-resolution raw image is obtained for each of the different illumination states; e) from the raw images obtained by a computational processing comprising a Fourier filtering the high-resolution image which has a spatial resolution which is increased compared to
- the object is further achieved according to the invention with a microscopy method for producing a high-resolution image of a sample, the method comprising the following steps: a) the sample is provided with a marker which emits statistically flashing luminescence radiation after excitation, or a sample is used which after Localized excitation, statistically flashing emitting luminescent radiation, b) the sample is excited by luminescence by structured illumination, the sample being repeatedly illuminated with a set of different illumination states of the structured illumination, c) the luminescent sample in each set and there in each of the sets mapped different illumination states to a detector, so that a sequence of sentences, each comprising an image per different illumination state is obtained, d) from each set by a Fourier filtering comprehensive arithmetic processing a raw image with the optis che E) from the sequence of raw images by means of a cumulant function, which evaluates intensity fluctuations in the sequence caused by the flashing, the high-resolution image, which is one compared to the raw images, is generated Spatial
- the object is finally also solved with a microscope for generating a high-resolution image of a sample, the sample is provided with a marker that emits statistically flashing luminescence after excitation, or a sample that distributes locally after excitation, flashing emits statistically flashing luminescence
- the Microscope comprising: a detection beam path and an illumination beam path, wherein the detection beam path images the sample detector and the illumination beam path illuminates the sample with structured illumination for excitation of luminescence, wherein the illumination beam path comprises means for realizing different illumination states, a computing and control device, the controlling the microscope so that the sample is repeatedly illuminated to the different illumination states of the structured illumination, repeating the luminescent sample in each of the different illumination states is imaged on a detector, so that an image sequence is obtained for each of the different illumination states, the arithmetic and control device from each image sequence by means of a cumulant function, which evaluates caused by the flashing intensity fluctuations in the image sequence, a raw image, the one on the optical resolution the image has increased spatial
- the object is finally solved with a microscope for generating a high-resolution image of a sample, the sample is provided with a marker that emits statistical flashing luminescence after excitation, or a sample that distributes locally after excitation, statistically flashing emitting luminescence, wherein the Microscope comprising: a detection beam path and an illumination beam path, wherein the detection beam path images the sample detector and the illumination beam path illuminates the sample with structured illumination for excitation of luminescence, wherein the illumination beam path comprises means for realizing different illumination states, a computing and control device, the controlling the microscope so that the sample is repeatedly illuminated with a set of different illumination states of the structured illumination, and the luminescent sample in each set and is there imaged onto the detector in each of the different illumination conditions, so that a sequence of sets each comprising one image per different illumination state is obtained, the arithmetic and control means from each set a computational processing comprising a Fourier filtering including a raw image generates the optical resolution of the image of increased spatial resolution, so that a sequence
- elements of the SIM / ISM principle are combined with elements of the SOFI principle.
- a clever combination achieves an increase in resolution that is better than the factor 2, which would result from the combination of the individual high-resolution images.
- the image is resolved higher than it would allow the averaging of images of the individual process characteristics at the same effort.
- the sample When using the SIM principle, the sample is illuminated in at least nine different illumination states of the structured illumination by implementing at least three rotational positions and at least three shift positions of the structured illumination per rotational position.
- the luminescent sample is repeatedly imaged onto a pixel-containing area detector in each of the different illumination states.
- the intensity fluctuations in the sequence caused by the flashing are evaluated for each pixel.
- the illumination conditions are the different scan positions that occur during scanning.
- the images of the sample in the different illumination states have a resolution showing the structure of the fluorescent elements. This can be z. B. by a corresponding resolution wide field detection.
- the images of the fluorescent sample obtained at the different illumination conditions then represent a set of images.
- the acquisition of such sets is repeated to obtain a sequence of sentences. From this sequence of sentences, a high-resolution image can now be obtained in two ways:
- Each set can be converted to a high-resolution raw image using the computational processing known for SIM / ISM using Fourier filtering. One then obtains a sequence of raw images in this way. This episode of Raw images are then converted to a still high-resolution final image using a cumulant function according to the SOFI approach. The resolution of the final image is significantly increased over that of the raw image, in particular one obtains a result in the result, which would be much better than a simple aggregation of images, which with the principles SIM or
- sequence of sentences each comprising an image of the sample in the different lighting conditions, may also be determined first for each SOFI lighting state using the
- Cumulant function are converted into a set of raw images containing a raw image for each lighting condition. This set of raw images can then be converted by means of the SIM / ISM-like approach into a final, also further increased in its resolution image.
- the sample is provided with a marker which emits statistically flashing luminescent radiation after suitable excitation.
- markers thereby usual label or other substances are provided, which attach themselves to represented structures of the sample.
- an already suitably luminescent sample can be used.
- a sample is microscopically imaged, which has structures that emit statistically flashing luminescent.
- Statistically flashing means that the individual markers or sample molecules in each case independently of each other of adjacent markers or molecules constantly change between two luminescence radiation states. In the simplest case, this may be a state in which luminescence radiation is emitted and a state in which no luminescence radiation is emitted.
- the flashing behavior within a sentence should not change as possible.
- the time period in which a sentence is recorded should be short in comparison with the mean flashing frequency, ie should not be longer than the reciprocal of the flashing frequency or particularly preferably a fraction of the reciprocal.
- the sentence rate is smaller, preferably 10 times smaller than the average frame rate. Then it is ensured that the blinking state of the molecules involved does not change within a sentence. This is an advantage for the SOFI processing executed on the sequence of raw images.
- the image acquisition rate and the blink rate of the molecules used are suitably adapted to one another. This can be achieved by selecting suitable marker or sample molecules.
- suitable marker or sample molecules For example, it is also possible to adjust the blink rate of the molecules by appropriate influence.
- different physical influencing variables come into question here, in particular temperature, wavelength of the illumination radiation acting as excitation radiation, intensity of the illumination radiation acting as excitation radiation, etc.
- chemical influences are possible, such. From Geissbuehler et al. explained. Further, for a given blink rate, one can adjust the frame rate (rate of frames with pictures) accordingly to achieve the above-mentioned condition.
- Fig. 2 is a schematic representation to illustrate the generation of a high-resolution
- Fig. 3 is a schematic illustration for illustrating the generation of a high-resolution
- FIG. 4 shows a first embodiment of a method for generating an even higher-resolution image with combination of the principles according to FIGS. 2 and 3 and FIG
- FIG. 5 shows a second embodiment of a method for generating a likewise higher-resolution image likewise with combination of the principles according to FIG.
- a microscope 1 is shown, the classical microscopy method, d. H . Microscopy method whose resolution diffraction-limited, with high-resolution Simultaneously perform microscopy method, ie with microscopy method whose resolution is increased beyond the diffraction limit.
- the microscope 1 is constructed on the basis of a conventional laser scanning microscope and detects a sample 2. For this purpose, it has an objective 3, through which the radiation runs for all microscopy methods.
- the objective 3 forms, via a beam splitter 4, the specimen together with a tube lens 5 on a CCD detector 6, which in the example is a generally possible area detector.
- the microscope 1 has a conventional light microscope module 7 and the beam path from the sample 2 through the lens 3 and the tube lens 5 to the CCD detector 6 corresponds to a conventional wide-field detection beam path 8.
- a laser scanning module 9 is further connected, whose LSM illumination and detection beam path via a switching mirror 1 1, which also has beam splitter functions, is coupled into the beam path to the lens 3.
- the beam path from the switching mirror 1 1 to the lens 3 through the beam splitter 4 is thus a beam path, are combined in the illumination beam path and detection beam path.
- illumination radiation is coupled into the switching mirror 11, which together with the wide field detection beam path 8, d. H. realized the CCD detector 6 microscopy.
- the switching mirror 1 1 and the beam splitter 4 are combined to form a beam splitter module 12, which makes it possible to change the switching mirror 1 1 and the beam splitter 4 depending on the application. This is also illustrated by double arrows.
- an emission filter 13 is provided, which is located in the wide-field detection beam path 8 and the spectral components, which can propagate through the wide-field detection beam 8, appropriately filters.
- the emission filter 13 in the beam splitter module 12 is interchangeable.
- the laser scanning module 9 receives laser radiation required for operation via an optical fiber 14 from a laser module 15.
- a collection illumination beam path 16 is coupled in at the beam splitter module 12, more precisely at the switching mirror 14, through which illumination radiation for different microscopy methods runs.
- a wide-field illumination module 17 couples via a switching mirror 18 wide-field illumination radiation in the collection illumination beam path 16, so that the tube 2 is far-field illuminated via a tube lens 27 and the lens 3.
- the wide-field illumination module can have, for example, an HBO flap.
- a TI RF illumination module 19 is provided, which realizes a TIRF illumination with a suitable position of the switching mirror 18.
- the TI RF illumination module 19 receives radiation from the laser module 15 via an optical fiber 20.
- the TI RF illumination module 19 has a mirror 21 which is longitudinally displaceable.
- the illumination beam emitted by the TI RF illumination module 19 is displaced perpendicular to the main propagation direction of the emitted illumination beam, as a result of which the TI RF illumination is incident on the objective 3 at an adjustable angle to the optical axis of the objective. In this way, simply the necessary angle of total reflection on the cover glass can be ensured. Of course, other means are suitable for effecting this angular adjustment.
- the illuminating beam path of a manipulator module 22 is coupled to the collecting illumination beam path, which likewise receives radiation from the laser module 15 via an unspecified optical fiber and leads a point or line-shaped beam distribution over the sample 2 in a scanning manner.
- the manipulator module 22 thus corresponds essentially to the illumination module of a laser scanning microscope, and consequently the manipulator module 22 can also be operated in combination with the detector of the laser scanning module 9 or the wide-field detection of the CCD detector 6.
- a grid 23 is further provided, the lattice constant is below the cutoff frequency, which can be transmitted with the microscope 1 in the sample 2.
- the grating 23 is displaceable transversely to the optical axis of the collective illumination beam path 16.
- a corresponding displacement drive 24 is provided.
- an image field rotator 25 which is rotated by a rotator drive 26, is located in the collective illumination beam path 16.
- the field rotator may be, for example, an Abbe-König prism.
- the modules and drives and detectors of the microscope 1 are all connected via unspecified lines to a control device 28. This connection can be made for example via a data and control bus.
- the control device 28 controls the microscope 1 in different operating modes.
- the controller 28 thus allows the microscope 1 classical microscopy, d. H. Wide Field Microscopy (WF), Laser Scanning Microscopy (LSM) and also fluorescence microscopy with total internal reflection (TIRF).
- the microscope of FIG. 1 essentially has two modules suitable for laser scanner illumination, namely the laser scanning module 9 and the manipulator module 22. Of course, other combinations are also possible. These modules are coupled via tube lenses with the objective 3 to the sample 2.
- the manipulator module 22 only contains the excitation part of a laser scanning module, without detection. As a result, the sample can be spot-illuminated and the illumination spot scanned over the sample 2.
- This line-shaped illumination is particularly advantageous when the grating 23, which is located in an intermediate image of the collection illumination beam path 16, is pivoted in and lies perpendicular to the line of the line-shaped illumination.
- a variably adjustable strip modulator or a DMD for producing a structured illumination in the sample 2 can also be used. Then, of course, the displacement drive 24 and the on / Ausschwenkles the grid 23 is no longer required.
- the field rotator 25 allows the structured illumination generated by the grating 23 (or elements replacing it) to rotate about the optical axis of the collection illumination beam path 16 so that the structured illumination is at different angles in the sample 2 ,
- the switching mirrors 18 and 11 and the beam splitter 4 are set appropriately.
- folding or Einschenkspiegel can be used in the realization, so that a switch between the modes can be done sequentially.
- dichroic mirrors are also possible which allow simultaneous operation of the various modules.
- the beam splitter 4 is preferably designed as a dichroic beam splitter, wherein the spectral properties are adjustable so that spectral components of fluorescence emission of Labeling molecules to be detected by means of the CCD detector 6, get into the wide-field detection beam path 8 and the remaining spectral components are transmitted as possible.
- a plurality of different beam splitters 4 and emission filters 13 are interchangeably arranged in the beam splitter module 12, e.g. B. on a filter wheel.
- control unit 28 is suitably designed, for example by a suitable programming.
- FIGS. 4 and 5 essential features and principles will first be explained with reference to FIGS. 2 and 3, which are components of the microscopy methods to be described.
- Fig. 2 exemplifies the SIM concept.
- the sample microscopically microscoped in the microscope 1 of FIG. 1 is repeatedly field-imaged, wherein different illumination states are set for each image.
- a set 39 of individual images 40 is thus obtained.
- the images 40 differ with regard to a structuring 41 of the illumination which is applied to the sample by the illumination beam path 8.
- the structuring 41 is different in different images 40.
- the set 39 shown in plan view in FIG. 2 shows, there are nine individual pictures 40; So there are nine different orientations of structuring 41.
- the different structuring are illustrated in the representation of FIG. 2 by an appendix ".01" to ".09” to the reference symbol 40 of the respective image.
- FIG. 2 shows that the nine orientations differ with regard to a displacement position or a rotational position of the structuring 40.
- the number of nine is exemplary of the orientations used. It is also possible a higher number, as is known from the publications listed in the general part of the description of the principle SIM.
- the individual images 40 of the sentence 39 are recorded successively, with the structuring 41 of the illumination being correspondingly displaced or rotated between the recording of each image 40.
- a high-resolution image 43 is then generated by means of a Fourier transformation 42.
- This image 43 can, as will be explained below with reference to FIG. 4, serve as a raw image for a further high-resolution processing.
- Fig. 2 thus illustrates features of the SIM principle.
- the structuring 41 is to be understood as purely exemplary. In particular, it does not have to be a line structure. The schematically drawn lines along the line can also be further structured.
- ISM image scanning microscopy
- Fig. 3 shows schematically another principle which is used for high-resolution microscopy.
- a sequence 44 of images 45 is taken, and as explained above with reference to the SOFI concept, each image 45 contains a different flashing state of the fluorophores in the sample 2. That the sequence 44 is a time series is illustrated by the suffixes attached to the reference number 45 of the pictures.
- the individual pictures have the words ". T1" to ". Tn".
- a high-resolution raw image 47 is again generated by means of a processing which uses a cumulant function 46.
- the n images 45 are thus converted into a single image 47.
- sentences 39 are generated repeatedly, each consisting of images 40. o1 to 40. o9. Through this repetition there are a total of n sentences 39.t1 to 39.tn.
- the necessary for the SIM concept orientations of the illumination states are present, which should be clarified by the reference of the reference numerals of Fig. 2 in Fig. 4. The same applies of course in the event that not the SIM principle, but the ISM principle is used.
- a sequence 50 of raw pictures 49.t1 to 49.tn is generated.
- These raw images 49 are temporally spaced and, due to the use of the SIM principle, contain image information with a higher resolution than they provide the microscope a priori.
- the sequence 50 is now converted into a high-resolution image 51. Its resolution is higher than the resolution in the raw images 49.
- a sequence 54 of images 45 is recorded for each orientation .o1 to .o9, so that a separate sequence exists for each orientation.
- Each sequence is then converted using the cumulant function 46 into a high-resolution raw image, so that a total of 54 sets of raw images 53. o1 to 53. o9 is given.
- the set 54 thus contains raw images 53 in the different illumination structures required for the SIM principle. The same applies in turn to the application of the ISM principle.
- the set 54 of raw images is then converted using the Fourier filtering 42 into a high-resolution image 55 whose spatial resolution is higher than that of each raw image 53 whose resolution is higher again than the optics of the microscope 1 actually permits due to the physical limitations ,
Landscapes
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Chemical & Material Sciences (AREA)
- Analytical Chemistry (AREA)
- Optics & Photonics (AREA)
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Health & Medical Sciences (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Biochemistry (AREA)
- Pathology (AREA)
- Immunology (AREA)
- Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
- General Health & Medical Sciences (AREA)
- Life Sciences & Earth Sciences (AREA)
- General Engineering & Computer Science (AREA)
- Investigating, Analyzing Materials By Fluorescence Or Luminescence (AREA)
- Microscoopes, Condenser (AREA)
Abstract
Description
Hochauflösende Lumineszenzmikroskopie High-resolution luminescence microscopy
Die Erfindung bezieht sich auf ein Mikroskopieverfahren bzw. ein Mikroskop zum Erzeugen eines hochaufgelösten Bildes einer lumineszierenden Probe. The invention relates to a microscopy method or a microscope for generating a high-resolution image of a luminescent sample.
Die Untersuchung von Proben mittels Mikroskopie ist ein weites technisches Gebiet, für das es vielfältige technische Lösungen gibt. Ausgehend von der klassischen Lichtmikroskopie haben sich verschiedenste Mikroskopieverfahren entwickelt. Ein klassisches Anwendungsgebiet der Lichtmikroskopie zur Untersuchung von biologischen Präparaten ist die Lumineszenzmikroskopie. Hierbei werden bestimmte Farbstoffe (sogenannte Phosphore oder Fluorophore) zur spezifischen Markierung von Proben, z.B. von Zellteilen, verwendet. Die Probe wird, wie erwähnt, mit Anregungsstrahlung beleuchtet und das dadurch angeregte Lumineszenzlicht mit geeigneten Detektoren erfaßt. Üblicherweise ist dazu im Lichtmikroskop ein dichroitischer Strahlteiler in Kombination mit Blockfiltern vorgesehen, die die Fluoreszenzstrahlung von der Anregungsstrahlung abspalten und eine getrennte Beobachtung ermöglichen. Durch dieses Vorgehen ist die Darstellung einzelner, verschieden gefärbter Zellteile im Lichtmikroskop möglich. Natürlich können auch mehrere Teile eines Präparates gleichzeitig mit verschiedenen, sich spezifisch an unterschiedliche Strukturen des Präparates anlagernden Farbstoffen eingefärbt werden. Dieses Verfahren bezeichnet man als Mehrfachlumineszenz. Auch kann man Proben vermessen, die per se, also ohne Markierungsstoffzugabe lumineszieren. The examination of samples by microscopy is a wide technical field, for which there are many technical solutions. Starting from classical light microscopy, various microscopy techniques have developed. A classical field of application of light microscopy for the investigation of biological preparations is luminescence microscopy. Here, certain dyes (so-called phosphors or fluorophores) are used for the specific labeling of samples, e.g. of cell parts, used. As mentioned, the sample is illuminated with excitation radiation and the luminescence light stimulated thereby is detected with suitable detectors. Typically, a dichroic beam splitter in combination with block filters is provided for this purpose in the light microscope, which split off the fluorescence radiation from the excitation radiation and enable separate observation. By this procedure, the representation of individual, differently colored cell parts in the light microscope is possible. Of course, several parts of a preparation can be colored simultaneously with different, specifically attaching to different structures of the preparation dyes. This process is called multiple luminescence. It is also possible to measure samples that luminesce per se, ie without the addition of marker.
Lumineszenz wird hier, wie allgemein üblich, als Oberbegriff für Phosphoreszenz und Fluoreszenz verstanden, erfaßt also beide Prozesse. Luminescence is understood here, as is common practice, as a generic term for phosphorescence and fluorescence, so it covers both processes.
Weiter ist es zur Probenuntersuchung bekannt, Laser-Scanning-Mikroskopie (auch LSM abgekürzt) zu verwenden, die aus einem dreidimensional ausgeleuchteten Bild mittels einer konfokalen Detektionsanordnung (dann spricht man von einem konfokalen LSM) oder einer nichtlinearen Probenwechselwirkung (sogenannte Multiphotonenmikroskopie) nur diejenige Ebene wiedergibt, die sich in der Fokusebene des Objektives befindet. Es wird ein optischer Schnitt gewonnen, und die Aufzeichnung mehrerer optischer Schnitte in verschiedenen Tiefen der Probe erlaubt es anschließend, mit Hilfe einer geeigneten Datenverarbeitungseinrichtung ein dreidimensionales Bild der Probe zu generieren, das aus den verschiedenen optischen Schnitten zusammengesetzt ist. Die Laser-Scanning-Mikroskopie ist somit zur Untersuchung von dicken Präparaten geeignet. Furthermore, it is known for sample examination to use laser scanning microscopy (also abbreviated LSM), which from a three-dimensionally illuminated image by means of a confocal detection arrangement (one speaks of a confocal LSM) or a nonlinear sample interaction (so-called multiphoton microscopy) only the one Plain level, which is located in the focal plane of the lens. An optical section is obtained, and the recording of several optical sections at different depths of the sample then makes it possible, with the aid of a suitable data processing device, to generate a three-dimensional image of the sample, which is composed of the various optical sections. Laser scanning microscopy is thus suitable for the examination of thick specimens.
Für Auflösungen jenseits der Beugungsgrenze, die durch die physikalischen Gesetze gegeben ist, wurden in der letzen Zeit verschiedene Ansätze entwickelt. Diese Mikroskopieverfahren zeichnen sich dadurch aus, daß sie im Vergleich zum klassischen Mikroskop dem Anwender eine höhere laterale und/oder axiale optische Auflösung zur Verfügung stellen. In dieser Beschreibung werden solche Mikroskopieverfahren als hochauflösende Mikroskopieverfahren bezeichnet, da sie eine Auflösung jenseits der optischen Beugungsgrenze erreichen. Beugungsbegrenzte Mikroskope werden hingegen als klassische Mikroskope bezeichnet. Sie realisieren bekannte optische Weitfeldmikroskopie oder Laser-Scanning-Mikroskopie. For resolutions beyond the diffraction limit given by the laws of physics, various approaches have recently been developed. These microscopy methods are characterized in that they provide the user with a higher lateral and / or axial optical resolution compared to the conventional microscope. In this specification, such microscopy methods are referred to as high-resolution microscopy methods, since they achieve a resolution beyond the optical diffraction limit. Diffraction-limited microscopes, on the other hand, are called classical microscopes. They realize known optical far field microscopy or laser scanning microscopy.
Ein hochauflösendes Mikroskopieverfahren ist in der EP 1 157297 B1 angesprochen. Dabei werden mittels strukturierter Beleuchtung nichtlineare Prozesse ausgenützt. Als Nichtlinearität dient die Sättigung der Fluoreszenz. Durch eine strukturierte Beleuchtung erfolgt eine Verschiebung des Objektraumspektrums relativ zur Übertragungsfunktion des optischen Systems. Konkret bedeutet die Verschiebung des Spektrums, daß Objektraumfrequenzen V0 bei einer Raumfrequenz V0 - Vm, wobei Vm die Frequenz der strukturierten Beleuchtung ist, übertragen werden. Bei gegebener, durch das System maximal übertragbarer Raumfrequenz ermöglicht dies den Transfer von um die Verschiebefrequenz Vm über der maximalen Frequenz der Übertragungsfunktion liegender Raumfrequenzen des Objektes. Dieser Ansatz erfordert eine Fourierfilterung als Rekonstruktionsalgorithmus zur Bilderzeugung und die Verwertung mehrerer Aufnahmen für ein Bild. Die bezüglich der entsprechenden Beschreibung des auflösenden Mikroskopieverfahrens ebenfalls voll einbezogene EP 1 157297 B1 verwendet also eine strukturierte Weitfeldbeleuchtung der Probe, beispielsweise durch ein Amplituden/Phasen- Gitter. Fluoreszenz in der Probe wird ebenfalls weitfelddetektiert. Das Gitter wird nun in mindestens drei verschiedene Drehlagen gebraucht, z. B. 0°, 120° und 240 °, und in jeder Drehlage wird das Gitter in drei oder mehr verschiedene Positionen verschoben. Für die jeweils drei Verschiebungen der drei Drehlagen (insgesamt also mindestens 9 Beleuchtungszustände) wird die Probe weitfelddetektiert. Weiter hat das Gitter Frequenzen möglichst nahe der Grenzfrequenz, zu deren Übertragung die verwendete optische Anordnung in der Lage ist. Unter Verwendung der Fourierfilterung erfolgt dann die erwähnte Verschiebung, wobei insbesondere die 0. und +/- 1 . Beugungsordnung in den Bildern ausgewertet wird. Dieses Mikroskopieverfahren wird auch als SIM-Verfahren bezeichnet. Eine Steigerung der Auflösung erhält man bei diesem Prinzip, wenn die Strukturierung (z.B. durch ein Gitter) so intensiv ist, daß die Fluoreszenz der Probe in den hellen Bereich eine Sättigung erreicht. Dann hat die strukturierte Beleuchtung der Probe auf der Probe keine Sinusverteilung mehr, sondern aufgrund der Sättigungseffekte noch höhere harmonische jenseits der optischen Grenzfrequenz. Diese Weiterbildung des SIM-Verfahrens wird auch als saturated pattern excitation microscopy (SPEM) bezeichnet. A high-resolution microscopy method is mentioned in EP 1 157 297 B1. In the process, nonlinear processes are exploited by means of structured illumination. The non-linearity is the saturation of the fluorescence. Structured illumination results in a displacement of the object space spectrum relative to the transfer function of the optical system. Specifically, the shift of the spectrum means that object space frequencies V0 are transmitted at a spatial frequency V0-Vm, where Vm is the frequency of the structured illumination. Given a maximum spatial frequency that can be transmitted by the system, this enables the transfer of spatial frequencies of the object lying around the shift frequency Vm above the maximum frequency of the transfer function. This approach requires Fourier filtering as a reconstruction algorithm for image generation and exploitation of multiple images for an image. The EP 1 157 297 B1, which is also fully incorporated with regard to the corresponding description of the resolving microscopy method, thus uses a structured far-field illumination of the sample, for example by means of an amplitude / phase grating. Fluorescence in the sample is also detected far field. The grid is now used in at least three different rotational positions, z. B. 0 °, 120 ° and 240 °, and in each rotational position, the grid is moved in three or more different positions. For the three shifts of the three rotational positions (a total of at least 9 illumination states), the sample is detected far field. Furthermore, the grating has frequencies as close as possible to the cut-off frequency, to the transmission of which the optical arrangement used is capable. Using the Fourier filtering then the mentioned shift, in particular the 0. and +/- 1. Diffraction order is evaluated in the images. This microscopy method is also called a SIM method. An increase of the resolution is obtained with this principle, if the structuring (eg by a grid) is so intense that the fluorescence of the sample reaches saturation in the bright area. Then the structured illumination of the sample on the sample no longer has a sinusoidal distribution, but because of the saturation effects even higher harmonic beyond the optical cutoff frequency. This development of the SIM method is also referred to as saturated pattern excitation microscopy (SPEM).
Eine Weiterbildung des SIM-Verfahrens kann auch mit einer linienförmigen Beleuchtung erreicht werden, die senkrecht zur Gitterrichtung liegt. Man hat dann eine Linienbeleuchtung, wobei längs der Linie sich die Gitterstruktur wiederfindet. Die Linien der Beleuchtung ist also ihrerseits durch das Gitter strukturiert. Die linienförmige Beleuchtung erlaubt eine konfokale Schlitzdetektion und damit nochmals eine Auflösungssteigerung. Dieses Verfahren wird auch als SLIM abgekürzt. A further development of the SIM method can also be achieved with a linear illumination which is perpendicular to the grid direction. You then have a line lighting, along the line, the grid structure is found again. The lines of the lighting is thus in turn structured by the grid. The linear illumination allows a confocal slit detection and thus an increase in resolution. This procedure is also abbreviated SLIM.
Die Veröffentlichung C. Müller und J. Enderlein,„Image scanning microscopy", Physical Review Letters, 104, 198101 (2010) greift das SIM-Prinzip auf, verwendet allerdings ein Abscannen der Probe mit einer konfokalen Beleuchtung und Detektion mit nachfolgender Fourierfilterung. Dieses Prinzip wird als ISM bezeichnet. Bei ihm liegen nicht neun Orientierungen einer strukturierten Beleuchtung vor, sondern jede Scan-Lage, d. h. jeder Rasterzustand beim Abrastern des Bildes, entspricht einem Beleuchtungszustand, und die strukturierte Beleuchtung ist eine Spotbeleuchtung des Probe. The paper C. Müller and J. Enderlein, "Image scanning microscopy", Physical Review Letters, 104, 198101 (2010) uses the SIM principle, but uses a scanning of the sample with a confocal illumination and detection with subsequent Fourier filtering The principle is called ISM, which does not have nine orientations of structured illumination, but each scan position, ie each raster state when the image is scanned, corresponds to a lighting state, and the structured illumination is spot illumination of the sample.
Aus der Veröffentlichung T. Dertinger, et al.,„Fast, background-free, 3D super-resolution optical fluctuation imaging (SOFI)", PNAS (2009), S. 22287-22292 sowie „Achieving increased resolution and more pixels with Superresolution Optical Fluctuation Imaging (SOFI)", Opt. Express, 30.08.2010, 18(18): 18875-85, doi: 10.1364/1 E.18.018875 und S. Geissbuehler et al., „Comparison between SOFI and STORM", Biomed. Opt. Express 2, 408-420 (201 1 ) ist ein weiteres hochauflösendes Verfahren der Lumineszenzmikroskopie bekannt. Dieses Verfahren nutzt die Blinkeigenschaften eines Fluorophors. Blinken die Fluorophore einer Probe statistisch unabhängig voneinander, kann eine Abbildung der Probe durch geeignete Filterung mit einer sogenannten Kumulantenfunktion eine erhebliche Auflösungserhöhung über die physikalisch vorgegebene optische Auflösungsgrenze hinaus erreicht werden. Ein Beispiel für eine solche Kumulantenfunktion ist beispielsweise die Autokorrelationsfunktion zweiter Ordnung. Zur Erzeugung eines hochaufgelösten Bildes wird dabei eine Folge von Einzelbildern aufgenommen und dann mit der Kumulantenfunktion zu einem Einzelbild vereinigt, das dann die höhere Auflösung hat. Dieses Verfahren wird in Abkürzung des Begriffes „Super-Resolution Optical Fluctuation Imaging" als SOFI-Verfahren bezeichnet. Im Stand der Technik ist es weiter bekannt, mehrere hochauflösende Mikroskopieverfahren zu kombinieren. So beschreibt beispielsweise die DE 102008054317 A1 die Kombination diverser hochauflösender Mikroskopieverfahren, mit dem Ziel für einzelne Probenbereiche jeweils das unter den Gesichtspunkten Auflösung und Meßgeschwindigkeit optimale Verfahren einsetzen zu können. From the publication T. Dertinger, et al., "Fast, background-free, 3D super-resolution optical fluctuation imaging (SOFI)", PNAS (2009), pp 22287-22292 and "Achieving increased resolution and more pixels with superresolution Optical Fluctuation Imaging (SOFI), Opt. Express, 30.08.2010, 18 (18): 18875-85, doi: 10.1364 / 1 E.18.018875 and S. Geissbuehler et al., "Comparison between SOFI and STORM", Biomed Opt. Express 2, 408-420 (201 1) discloses another high-resolution method of luminescence microscopy that utilizes the blinking properties of a fluorophore: If the fluorophores of a sample flash statistically independently of each other, the sample can be imaged by appropriate filtering with a so-called "fluorescence" microscope An example of such a cumulant function is, for example, the second order autocorrelation function g. To produce a high-resolution image, a sequence of individual images is recorded and then combined with the cumulant function to form a single image, which then has the higher resolution. This method is abbreviated to the term "Super-Resolution Optical Fluctuation Imaging" as the SOFI method. It is further known in the prior art to combine several high-resolution microscopy methods. For example, DE 102008054317 A1 describes the combination of various high-resolution microscopy methods, with the aim of being able to use the optimum method for individual sample areas in each case from the viewpoints of resolution and measuring speed.
Der Erfindung liegt die Aufgabe zugrunde, ein Mikroskopieverfahren bzw. ein Mikroskop zu schaffen, das eine gesteigerte Auflösung erreicht. The invention has for its object to provide a microscopy method or a microscope, which achieves an increased resolution.
Diese Aufgabe wird erfindungsgemäß gelöst mit einem Mikroskopieverfahren zum Erzeugen eines hochaufgelösten Bildes einer Probe, wobei das Verfahren folgende Schritte aufweist: a) die Probe mit einem Marker versehen wird, der nach Anregung statistisch blinkend Lumineszenzstrahlung abgibt, oder eine Probe verwendet wird, die nach Anregung lokal verteilt, statistisch blinkend Lumineszenzstrahlung abgibt, b) die Probe durch strukturierte Beleuchtung zur Lumineszenz angeregt wird, wobei die Probe wiederholt in verschiedenen Beleuchtungszuständen der strukturierten Beleuchtung beleuchtet wird, c) die lumineszierende Probe in jedem der unterschiedlichen Beleuchtungszustände wiederholt auf einen Detektor abgebildet wird, so daß für jeden der unterschiedlichen Beleuchtungszustände eine Bildfolge erhalten wird, d) aus jeder Bildfolge mittels einer Kumulantenfunktion, welche durch das Blinken verursachte Intensitätsfluktuationen in der Bildfolge auswertet, ein Rohbild, das eine über die optische Auflösung der Abbildung hinaus gesteigerte Ortsauflösung aufweist, erzeugt wird, so daß für jeden der unterschiedlichen Beleuchtungszustände ein hochaufgelöstes Rohbild erhalten wird, e) aus den erhaltenden Rohbildern durch eine eine Fourierfilterung umfassende rechnerische Bearbeitung das hochaufgelöste Bild, das eine gegenüber den Einzelbildern gesteigerte Ortsauflösung aufweist, erzeugt wird. This object is achieved according to the invention with a microscopy method for producing a high-resolution image of a sample, the method comprising the following steps: a) the sample is provided with a marker which emits statistically flashing luminescence radiation after excitation or a sample is used which after excitation b) the sample is excited to luminescence by structured illumination, the sample being repeatedly illuminated in different illumination states of the structured illumination, c) the luminescent sample is repeatedly imaged onto a detector in each of the different illumination states, so that a sequence of images is obtained for each of the different illumination states, d) from each image sequence by means of a cumulant function, which evaluates intensity fluctuations caused by the flashing in the image sequence, a raw image which has a di e) an increased resolution of the spatial resolution is generated so that a high-resolution raw image is obtained for each of the different illumination states; e) from the raw images obtained by a computational processing comprising a Fourier filtering the high-resolution image which has a spatial resolution which is increased compared to the individual images has generated.
Die Aufgabe wird erfindungsgemäß weiter gelöst mit einem Mikroskopieverfahren zum Erzeugen eines hochaufgelösten Bildes einer Probe, wobei das Verfahren folgende Schritte aufweist: a) die Probe mit einem Marker versehen wird, der nach Anregung statistisch blinkend Lumineszenzstrahlung abgibt, oder eine Probe verwendet wird, die nach Anregung lokal verteilt, statistisch blinkend Lumineszenzstrahlung abgibt, b) die Probe durch strukturierte Beleuchtung zur Lumineszenz angeregt wird, wobei die Probe wiederholt mit einem Satz von verschiedenen Beleuchtungszuständen der strukturierten Beleuchtung beleuchtet wird, c) die lumineszierende Probe in jedem Satz und dort in jedem der unterschiedlichen Beleuchtungszustände auf einen Detektor abgebildet wird, so daß eine Folge von Sätzen, die jeweils pro unterschiedlichem Beleuchtungszustand ein Bild umfassen, erhalten wird, d) aus jedem Satz durch eine eine Fourierfilterung umfassende rechnerische Bearbeitung ein Rohbild mit über die optische Auflösung der Abbildung hinaus gesteigerter Ortsauflösung erzeugt wird, so daß eine Folge von Rohbildern erhalten wird, e) aus der Folge von Rohbildern mittels einer Kumulantenfunktion, welche durch das Blinken verursachte Intensitätsfluktuationen in der Folge auswertet, das hochaufgelöste Bild, das eine gegenüber den Rohbildern gesteigerte Ortsauflösung aufweist, erzeugt wird. The object is further achieved according to the invention with a microscopy method for producing a high-resolution image of a sample, the method comprising the following steps: a) the sample is provided with a marker which emits statistically flashing luminescence radiation after excitation, or a sample is used which after Localized excitation, statistically flashing emitting luminescent radiation, b) the sample is excited by luminescence by structured illumination, the sample being repeatedly illuminated with a set of different illumination states of the structured illumination, c) the luminescent sample in each set and there in each of the sets mapped different illumination states to a detector, so that a sequence of sentences, each comprising an image per different illumination state is obtained, d) from each set by a Fourier filtering comprehensive arithmetic processing a raw image with the optis che E) from the sequence of raw images by means of a cumulant function, which evaluates intensity fluctuations in the sequence caused by the flashing, the high-resolution image, which is one compared to the raw images, is generated Spatial resolution has generated.
Die Aufgabe wird schließlich ebenfalls gelöst mit einem Mikroskop zum Erzeugen eines hochaufgelösten Bildes einer Probe, die Probe mit einem Marker versehen ist, der nach Anregung statistisch blinkend Lumineszenzstrahlung abgibt, oder einer Probe, die nach Anregung lokal verteilt, statistisch blinkend Lumineszenzstrahlung abgibt, wobei das Mikroskop aufweist: einen Detektionsstrahlengang und einen Beleuchtungsstrahlengang, wobei der Detektionsstrahlengang die Probe Detektor abbildet und der Beleuchtungsstrahlengang die Probe mit durch strukturierte Beleuchtung zur Anregung von Lumineszenz beleuchtet, wobei der Beleuchtungsstrahlengang eine Einrichtung zu Realisierung von verschiedenen Beleuchtungszuständen aufweist, eine Rechen- und Steuereinrichtung, die das Mikroskop so steuert, daß die Probe wiederholt den verschiedenen Beleuchtungszuständen der strukturierten Beleuchtung beleuchtet ist, die lumineszierende Probe in jedem der unterschiedlichen Beleuchtungszustände wiederholt auf einen Detektor abgebildet ist, so daß für jeden der unterschiedlichen Beleuchtungszustände eine Bildfolge erhalten ist, die Rechen- und Steuereinrichtung aus jeder Bildfolge mittels einer Kumulantenfunktion, welche durch das Blinken verursachte Intensitätsfluktuationen in der Bildfolge auswertet, ein Rohbild, das eine über die optische Auflösung der Abbildung hinaus gesteigerte Ortsauflösung aufweist, erzeugt, so daß für jeden der unterschiedlichen Beleuchtungszustände ein hochaufgelöstes Rohbild erhalten ist, die Rechen- und Steuereinrichtung aus den erhaltenden Rohbildern durch eine eine Fourierfilterung umfassende rechnerische Bearbeitung das hochaufgelöste Bild, das eine gegenüber den Einzelbildern gesteigerte Ortsauflösung aufweist, erzeugt. The object is finally also solved with a microscope for generating a high-resolution image of a sample, the sample is provided with a marker that emits statistically flashing luminescence after excitation, or a sample that distributes locally after excitation, flashing emits statistically flashing luminescence, wherein the Microscope comprising: a detection beam path and an illumination beam path, wherein the detection beam path images the sample detector and the illumination beam path illuminates the sample with structured illumination for excitation of luminescence, wherein the illumination beam path comprises means for realizing different illumination states, a computing and control device, the controlling the microscope so that the sample is repeatedly illuminated to the different illumination states of the structured illumination, repeating the luminescent sample in each of the different illumination states is imaged on a detector, so that an image sequence is obtained for each of the different illumination states, the arithmetic and control device from each image sequence by means of a cumulant function, which evaluates caused by the flashing intensity fluctuations in the image sequence, a raw image, the one on the optical resolution the image has increased spatial resolution generated so that a high-resolution raw image is obtained for each of the different lighting conditions, the arithmetic and control device from the raw images obtained by a Fourier filtering comprehensive arithmetic processing, the high-resolution image having a relation to the individual images increased spatial resolution , generated.
Die Aufgabe wird schließlich auch gelöst mit einem Mikroskop zum Erzeugen eines hochaufgelösten Bildes einer Probe, die Probe mit einem Marker versehen ist, der nach Anregung statistisch blinkend Lumineszenzstrahlung abgibt, oder einer Probe, die nach Anregung lokal verteilt, statistisch blinkend Lumineszenzstrahlung abgibt, wobei das Mikroskop aufweist: einen Detektionsstrahlengang und einen Beleuchtungsstrahlengang, wobei der Detektionsstrahlengang die Probe Detektor abbildet und der Beleuchtungsstrahlengang die Probe mit durch strukturierte Beleuchtung zur Anregung von Lumineszenz beleuchtet, wobei der Beleuchtungsstrahlengang eine Einrichtung zu Realisierung von verschiedenen Beleuchtungszuständen aufweist, eine Rechen- und Steuereinrichtung, die das Mikroskop so steuert, daß die Probe wiederholt mit einem Satz von verschiedenen Beleuchtungszuständen der strukturierten Beleuchtung beleuchtet ist, und die lumineszierende Probe in jedem Satz und dort in jedem der unterschiedlichen Beleuchtungszustände auf den Detektor abgebildet ist, so daß eine Folge von Sätzen, die jeweils pro unterschiedlichem Beleuchtungszustand ein Bild umfassen, erhalten ist, die Rechen- und Steuereinrichtung aus jedem Satz durch eine eine Fourierfilterung umfassende rechnerische Bearbeitung ein Rohbild mit über die optische Auflösung der Abbildung hinaus gesteigerter Ortsauflösung erzeugt, so daß eine Folge von Rohbildern erhalten ist, die Rechen- und Steuereinrichtung aus der Folge von Rohbildern mittels einer Kumulantenfunktion, welche durch das Blinken verursachte Intensitätsfluktuationen in der Folge auswertet, das hochaufgelöste Bild, das eine gegenüber den Rohbildern gesteigerte Ortsauflösung aufweist, erzeugt. The object is finally solved with a microscope for generating a high-resolution image of a sample, the sample is provided with a marker that emits statistical flashing luminescence after excitation, or a sample that distributes locally after excitation, statistically flashing emitting luminescence, wherein the Microscope comprising: a detection beam path and an illumination beam path, wherein the detection beam path images the sample detector and the illumination beam path illuminates the sample with structured illumination for excitation of luminescence, wherein the illumination beam path comprises means for realizing different illumination states, a computing and control device, the controlling the microscope so that the sample is repeatedly illuminated with a set of different illumination states of the structured illumination, and the luminescent sample in each set and is there imaged onto the detector in each of the different illumination conditions, so that a sequence of sets each comprising one image per different illumination state is obtained, the arithmetic and control means from each set a computational processing comprising a Fourier filtering including a raw image generates the optical resolution of the image of increased spatial resolution, so that a sequence of raw images is obtained, the arithmetic and control means from the sequence of raw images by means of a cumulant function, which evaluates intensity fluctuations in the sequence caused by the flashing, the high-resolution image, the compared to the raw images increased spatial resolution generated.
Erfindungsgemäß werden Elemente des SIM/ISM-Prinzips mit Elementen des SOFI-Prinzips kombiniert. Durch eine geschickte Kombination wird dabei eine Auflösungssteigerung erreicht, die besser ist als der Faktor 2 , der sich bei Kombination der einzelnen hochaufgelösten Bilder ergäbe. Das Bild ist höher aufgelöst, als es die Mittelung von Bildern der einzelnen Verfahrensmerkmale für sich bei gleichem Aufwand erlauben würde. According to the invention, elements of the SIM / ISM principle are combined with elements of the SOFI principle. A clever combination achieves an increase in resolution that is better than the factor 2, which would result from the combination of the individual high-resolution images. The image is resolved higher than it would allow the averaging of images of the individual process characteristics at the same effort.
Bei Ausnutzung des SIM-Prinzips wird die Probe in mindestens neun verschiedenen Beleuchtungszuständen der strukturierten Beleuchtung beleuchtet, indem mindestens drei Drehlagen und pro Drehlage mindestens drei Verschiebelagen der strukturierten Beleuchtung realisiert werden. Die lumineszierende Probe wird in jedem der unterschiedlichen Beleuchtungszustände wiederholt auf einen Pixel aufweisenden Flächendetektor abgebildet. Die durch das Blinken verursachte Intensitätsfluktuationen in der Folge werden für jedes Pixel ausgewertet. Bei Ausnutzung des ISM-Prinzips sind die Beleuchtungszustände die unterschiedlichen Scan- Stellungen, die beim Abrastern auftreten. Anders als bei einem herkömmlichen LSM haben die Bilder der Probe in den unterschiedlichen Beleuchtungszuständen eine Auflösung, die die Struktur der fluoreszierenden Elemente zeigt. Dies kann z. B. durch eine entsprechend auflösende Weitfelddetektion erfolgen. When using the SIM principle, the sample is illuminated in at least nine different illumination states of the structured illumination by implementing at least three rotational positions and at least three shift positions of the structured illumination per rotational position. The luminescent sample is repeatedly imaged onto a pixel-containing area detector in each of the different illumination states. The intensity fluctuations in the sequence caused by the flashing are evaluated for each pixel. When using the ISM principle, the illumination conditions are the different scan positions that occur during scanning. Unlike a conventional LSM, the images of the sample in the different illumination states have a resolution showing the structure of the fluorescent elements. This can be z. B. by a corresponding resolution wide field detection.
Die bei den verschiedenen Beleuchtungszuständen gewonnenen Bilder der fluoreszierenden Probe stellen dann einen Satz an Bildern dar. Das Gewinnen solcher Sätze wird wiederholt, um eine Folge von Sätzen zu erhalten. Aus dieser Folge von Sätzen kann nun auf zweierlei Weise ein hochaufgelöstes Bild erhalten werden : The images of the fluorescent sample obtained at the different illumination conditions then represent a set of images. The acquisition of such sets is repeated to obtain a sequence of sentences. From this sequence of sentences, a high-resolution image can now be obtained in two ways:
1 . Jeder Satz kann mittels der für SIM/ISM bekannten rechnerischen Bearbeitung unter Verwendung einer Fourierfilterung in ein hochaufgelöstes Rohbild umgewandelt werden. Man erhält dann auf diese Weise eine Folge von Rohbildern. Diese Folge von Rohbildern wird dann unter Verwendung einer Kumulantenfunktion gemäß dem SOFI- Ansatz zu einem noch weiter hochaufgelösten, endgültigen Bild umgerechnet. Die Auflösung des endgültigen Bildes ist dabei gegenüber der des Rohbildes deutlich gesteigert, insbesondere erhält man im Ergebnis eine Auflösung, die deutlich besser wäre, als bei einer simplen Aggregation von Bildern, die mit den Prinzipen SIM bzw.1 . Each set can be converted to a high-resolution raw image using the computational processing known for SIM / ISM using Fourier filtering. One then obtains a sequence of raw images in this way. This episode of Raw images are then converted to a still high-resolution final image using a cumulant function according to the SOFI approach. The resolution of the final image is significantly increased over that of the raw image, in particular one obtains a result in the result, which would be much better than a simple aggregation of images, which with the principles SIM or
SOFI gewonnen wurden. SOFI were won.
2. Die Folge von Sätzen, die jeweils ein Bild der Probe in den verschiedenen Beleuchtungszuständen umfassen, können aber auch zuerst für jeden Beleuchtungszustand mittels des SOFI-Prinzipes unter Verwendung der2. However, the sequence of sentences, each comprising an image of the sample in the different lighting conditions, may also be determined first for each SOFI lighting state using the
Kumulantenfunktion in einen Satz von Rohbildern umgerechnet werden, der für jeden Beleuchtungszustand ein Rohbild enthält. Dieser Satz aus Rohbildern kann dann mittels dem SIM/ISM-gemäßen Ansatz in ein endgültiges, ebenfalls weiter in seiner Auflösung gesteigertes Bild umgesetzt werden. Cumulant function are converted into a set of raw images containing a raw image for each lighting condition. This set of raw images can then be converted by means of the SIM / ISM-like approach into a final, also further increased in its resolution image.
Da die Erfindung Merkmale des SIM-Prinzipes umfaßt, sein folgende Druckschriften, die sich mit Details des SIM-Prinzipes befassen, vollumfänglich in ihrer Offenbarung hier eingebunden: EP 1 157297 B1 , DE 19908883 A1 , M. Gustafsson, „Nonlinear structured-illumination microscopy: wide-field fluorescence imaging with theoretically unlimited resolution", Proc Natl Acad Sei USA, 13.09.2005, 102(37): 13081 -6, Epub 2.09.2005; R. Heintzmann und C. Cremer, (1998), Proc. SPIE Int. Soc. Opt. Eng. 3568, S. 185-195. Analoges gilt für die ISM-Publikation Veröffentlichung C. Müller und J. Enderlein, „Image scanning microscopy", Physical Review Letters, 104, 198101 (2010). Da die Erfindung weiterhin Merkmale des SOFI-Prinzipes verwendet, seien folgende, für dieses Prinzip relevante Veröffentlichungen ebenfalls voll eingebunden: T. Dertinger et al., „Fast, background-free, 3D super-resolution optical fluetuation imaging (SOFI)", PNAS (2009), S. 22287-22292 samt zugehöriger „Supporting Information"; „Achieving increased resolution and more pixels with Superresolution Optical Fluetuation Imaging (SOFI)", Opt. Express, 30.08.2010, 18(18): 18875-85, doi: 10.1364/IE.18.018875 und S. Geissbuehler et al., „Comparison between SOFI and STORM", Biomed. Opt. Express 2, S. 408-420 (201 1 ). Since the invention includes features of the SIM principle, its following references, which deal with details of the SIM principle, fully incorporated in its disclosure here: EP 1 157 297 B1, DE 19908883 A1, M. Gustafsson, "Nonlinear structured-illumination microscopy : Wide-field fluorescence imaging with theoretically unlimited resolution ", Proc Natl Acad Sci USA, 13.09.2005, 102 (37): 13081 -6, Epub 2.09.2005, R. Heintzmann and C. Cremer, (1998), Proc. Soc., Opt., Eng., 3568, pp. 185-195, The same applies to the ISM publication C. Müller and J. Enderlein, "Image scanning microscopy," Physical Review Letters, 104, 198101 (2010). Since the invention also uses features of the SOFI principle, the following publications relevant for this principle are also fully integrated: T. Dertinger et al., "Fast, background-free, 3D super-resolution optical fluorescence imaging (SOFI)", PNAS (2009), p. 22287-22292 and associated "Supporting Information"; "Optically Expressing, 30.08.2010, 18 (18): 18875-85, doi: 10.1364 / IE.18.018875 and S. Geissbuehler et al.," Comparison between SOFI and STORM ", Biomed. Opt. Express 2, pp. 408-420 (201 1).
Erfindungsgemäß wird die Probe mit einem Marker versehen, der nach geeigneter Anregung statistisch blinkend Lumineszenzstrahlung abgibt. Unter Marker werden dabei übliche Label oder sonstige Substanzen versehen, die sich an darzustellenden Strukturen der Probe anlagern. Alternativ kann eine bereits entsprechend lumineszierende Probe verwendet werden. Letztlich wird also eine Probe mikroskopisch abgebildet, die Strukturen aufweist, welche statistisch blinkend Lumineszenzstrahlung abgeben.„Statistisch blinkend" heißt dabei, daß die einzelnen Marker oder Probenmoleküle jeweils für sich unabhängig von benachbarten Markern oder Molekülen ständig zwischen zwei Lumineszenzstrahlungszuständen wechseln. Dies können im einfachsten Fall ein Zustand, in dem Lumineszenzstrahlung abgegeben wird, und ein Zustand sein, in dem keine Lumineszenzstrahlung abgegeben wird. Es ist aber auch der Wechsel zwischen der Abgabe zweier sich unterscheidender Arten von Lumineszenzstrahlung möglich, beispielsweise ein Wellenlängenwechsel, Polarisationswechsel etc. Diese Eigenschaft der Probe ist für die Anwendung der Elemente aus dem SOFI-Prinzip notwendig, da nur dann die Kumulantenfunktion es erlaubt, eine Bildfolge in ein einzelnen hochaufgelöstes Bild umzusetzen. According to the invention, the sample is provided with a marker which emits statistically flashing luminescent radiation after suitable excitation. Under markers thereby usual label or other substances are provided, which attach themselves to represented structures of the sample. Alternatively, an already suitably luminescent sample can be used. Ultimately, therefore, a sample is microscopically imaged, which has structures that emit statistically flashing luminescent. "Statistically flashing" means that the individual markers or sample molecules in each case independently of each other of adjacent markers or molecules constantly change between two luminescence radiation states. In the simplest case, this may be a state in which luminescence radiation is emitted and a state in which no luminescence radiation is emitted. But it is also the change between the delivery of two different types of luminescence possible, for example, a wavelength change, polarization change, etc. This property of the sample is necessary for the application of the elements from the SOFI principle, since only then the cumulant function allows one To convert image sequence into a single high-resolution image.
Verwendet man die oben erwähnte zweite Variante, bei der eine Abfolge von Sätzen von Bildern der Probe in unterschiedlichen Beleuchtungszuständen mittels Fourier-Transformation in eine Abfolge aus höher aufgelösten Rohbildern umgerechnet wird, sollte sich das Blinkverhalten innerhalb eines Satzes möglichst nicht ändern. Dies führt dazu, daß die Zeitdauer, in der ein Satz aufgenommen wird, gemessen an der mittleren Blinkfrequenz kurz sein sollte, also nicht länger als der Kehrwert der Blinkfrequenz oder besonders bevorzugt einem Bruchteil des Kehrwertes betragen sollte. Dies entspricht dem Merkmal, daß die Satzrate kleiner, bevorzugt 10x kleiner, als die mittlere Bildfrequenz ist. Dann ist gewährleistet, daß innerhalb eines Satzes sich der Blinkzustand der beteiligten Moleküle nicht ändert. Für die dann an der Folge von Rohbildern ausgeführten SOFI-Bearbeitung ist dies von Vorteil. If one uses the above-mentioned second variant in which a sequence of sets of images of the sample in different illumination states by Fourier transformation into a sequence of higher-resolution raw images is converted, the flashing behavior within a sentence should not change as possible. This means that the time period in which a sentence is recorded should be short in comparison with the mean flashing frequency, ie should not be longer than the reciprocal of the flashing frequency or particularly preferably a fraction of the reciprocal. This corresponds to the feature that the sentence rate is smaller, preferably 10 times smaller than the average frame rate. Then it is ensured that the blinking state of the molecules involved does not change within a sentence. This is an advantage for the SOFI processing executed on the sequence of raw images.
Es ist deshalb in einer Weiterbildung der Erfindung bevorzugt, daß die Bildaufnahmegeschwindigkeit und die Blinkrate der verwendeten Moleküle geeignet aneinander angepaßt werden. Dies kann zum einen durch Auswahl geeigneter Marker- oder Probenmoleküle erreicht werden. Natürlich ist es auch möglich, durch geeignete Beeinflussung die Blinkrate der Moleküle anzupassen. Je nach Molekül kommen hier verschiedene physikalische Einflußgrößen in Frage, insbesondere Temperatur, Wellenlänge der als Anregungsstrahlung wirkenden Beleuchtungsstrahlung, Intensität der als Anregungsstrahlung wirkenden Beleuchtungsstrahlung, etc. Auch sind chemische Beeinflussungen möglich, wie z. B. von Geissbuehler et al. erläutert. Weiter kann man für eine gegebene Blinkrate die Bildaufnahmedauer bzw. Satzrate (Rate von Sätzen mit Bildern) entsprechend anpassen, um den oben erwähnten Zustand zu erreichen. It is therefore preferred in a development of the invention that the image acquisition rate and the blink rate of the molecules used are suitably adapted to one another. This can be achieved by selecting suitable marker or sample molecules. Of course it is also possible to adjust the blink rate of the molecules by appropriate influence. Depending on the molecule, different physical influencing variables come into question here, in particular temperature, wavelength of the illumination radiation acting as excitation radiation, intensity of the illumination radiation acting as excitation radiation, etc. Also, chemical influences are possible, such. From Geissbuehler et al. explained. Further, for a given blink rate, one can adjust the frame rate (rate of frames with pictures) accordingly to achieve the above-mentioned condition.
Soweit die Erfindung vorstehend oder nachfolgend unter Bezugnahme auf Verfahrensmerkmale beschrieben ist, soll dies gleichermaßen auch für die Beschreibung eines entsprechenden Mikroskops aus den oben erwähnten Merkmalen gelten. Wesentlich für das Mikroskop ist, daß seine Rechen- und Steuereinrichtung einen entsprechenden Betrieb des Mikroskops zur Realisierung der geschilderten Verfahrensmerkmale gewährleistet. Die Rechen- und Steuereinrichtung ist dazu geeignet ausgebildet, beispielsweise durch eine passende Programmierung. Umgekehrtes gilt natürlich für den Fall, daß einzelne Merkmale lediglich anhand des Mikroskops beschrieben sein sollten. Diese Merkmale gelten dann analog für die beschriebenen Mikroskopieverfahren. As far as the invention is described above or below with reference to process features, this should equally apply to the description of a corresponding microscope from the above-mentioned features. Essential for the microscope is that its computing and control device ensures a corresponding operation of the microscope for the realization of the described process characteristics. The computational and Control device is designed to suit, for example, by a suitable programming. The opposite applies, of course, in the event that individual features should be described only on the basis of the microscope. These features then apply analogously to the described microscopy methods.
Für SIM, SLIM und SPEM ist eine Rotation der strukturierten Beleuchtung erforderlich, wie bereits geschildert wurde. Diese läßt sich besonders einfach realisieren, wenn dem Gitter, welches zur Realisierung dieser Mikroskopieverfahren im gemeinsamen Abschnitt von zweiten und dritten Beleuchtungsstrahlengang liegt ein Bildfeldrotator nachgeordnet ist. Dieser kann beispielsweise durch ein Abbe-König-Prisma realisiert sein. Dieser nachgeordnete Bildfeldrotator ist besonders vorteilhaft für das SLIM-Prinzip, da dann die senkrechte Lage von Gitter und linienförmiger Beleuchtung nur einmal eingestellt werden mu ß und eine Nachführung, die ansonsten bei einer Gitterrotation erforderlich wäre, entfällt. Es versteht sich , daß die vorstehend genannten und die nachstehend noch zu erläuternden Merkmale nicht nur in den angegebenen Kombinationen, sondern auch in anderen Kombinationen oder in Alleinstellung einsetzbar sind, ohne den Rahmen der vorliegenden Erfindung zu verlassen. Nachfolgend wird die Erfindung beispielsweise anhand der beigefügten Zeichnungen , die auch erfindungswesentliche Merkmale offenbaren, noch näher erläutert. Es zeigen : For SIM, SLIM and SPEM a rotation of the structured illumination is required, as already described. This can be realized in a particularly simple manner, if the grating, which lies to realize this microscopy method in the common section of the second and third illumination beam path, is followed by an image field rotator. This can be realized for example by an Abbe-King prism. This subordinate Bildfeldrotator is particularly advantageous for the SLIM principle, since then the vertical position of grid and line lighting must be set only once ß and tracking, which would otherwise be required in a lattice rotation, is eliminated. It is understood that the features mentioned above and those yet to be explained below can be used not only in the specified combinations but also in other combinations or alone, without departing from the scope of the present invention. The invention will be explained in more detail for example with reference to the accompanying drawings, which also disclose characteristics essential to the invention. Show it :
Fig. 1 zeigt eine schematische Darstellung eines Kombinationsmikroskops, 1 shows a schematic representation of a combination microscope,
Fig. 2 eine Schemadarstellung zur Verdeutlichung der Erzeugung eines hochaufgelösten Fig. 2 is a schematic representation to illustrate the generation of a high-resolution
Bildes aus mehreren Weitfeldbildern einer Probe, die unter unterschiedlichenImage from several wide field images of a sample under different
Beleuchtungszuständen erhalten wurden, Lighting conditions were obtained,
Fig. 3 eine Schemadarstellung zur Veranschaulichung der Erzeugung eines hochaufgelöstenFig. 3 is a schematic illustration for illustrating the generation of a high-resolution
Bildes aus einer Bildfolge der Probe in unterschiedlichen Blinkzuständen unterImage from a sequence of images of the sample in different flashing states below
Kombination der Prinzipien gemäß Fig. 2 und Fig. 3, Combination of the principles according to FIG. 2 and FIG. 3,
Fig. 4 eine erste Ausführungsform eines Verfahrens zur Erzeugung eines nochmals höher aufgelösten Bildes unter Kombination der Prinzipien gemäß Fig. 2 und 3 und 4 shows a first embodiment of a method for generating an even higher-resolution image with combination of the principles according to FIGS. 2 and 3 and FIG
Fig. 5 eine zweite Ausführungsform eines Verfahrens zur Erzeugung eines ebenfalls nochmals höher aufgelösten Bildes ebenfalls unter Kombination der Prinzipien gemäß5 shows a second embodiment of a method for generating a likewise higher-resolution image likewise with combination of the principles according to FIG
Fig. 2 und 3. FIGS. 2 and 3.
In Fig. 1 ist ein Mikroskop 1 dargestellt, das klassische Mikroskopieverfahren, d. h . Mikroskopieverfahren deren Auflösung beugungsbegrenzt ist, mit hochauflösenden Mikroskopieverfahren simultan ausführen kann, d. h. mit Mikroskopieverfahren deren Auflösung über die Beugungsgrenze hinaus gesteigert ist. In Fig. 1, a microscope 1 is shown, the classical microscopy method, d. H . Microscopy method whose resolution diffraction-limited, with high-resolution Simultaneously perform microscopy method, ie with microscopy method whose resolution is increased beyond the diffraction limit.
Das Mikroskop 1 ist auf Basis eines herkömmlichen Laser-Scanning-Mikroskops aufgebaut und erfaßt eine Probe 2. Dazu weist es ein Objektiv 3 auf, durch das die Strahlung für alle Mikroskopieverfahren läuft. The microscope 1 is constructed on the basis of a conventional laser scanning microscope and detects a sample 2. For this purpose, it has an objective 3, through which the radiation runs for all microscopy methods.
Das Objektiv 3 bildet über einen Strahlteiler 4 die Probe zusammen mit einer Tubuslinse 5 auf einen CCD-Detektor 6 ab, der im Beispiel ein allgemein möglichen Flächendetektor ist. Insofern verfügt das Mikroskop 1 über ein herkömmliches Lichtmikroskopmodul 7 und der Strahlengang von der Probe 2 durch das Objektiv 3 und die Tubuslinse 5 zum CCD-Detektor 6 entspricht einem herkömmlichen Weitfeld-Detektionsstrahlengang 8. Der Strahlteiler 4 ist, wie durch den Doppelpfeil in Fig. 1 angedeutet, austauschbar, um zwischen Strahlteilern mit verschiedenen dichroitischen Eigenschaften bzw. achromatischen Strahlteilern gemäß US 2008/0088920 wechseln zu können. The objective 3 forms, via a beam splitter 4, the specimen together with a tube lens 5 on a CCD detector 6, which in the example is a generally possible area detector. In this respect, the microscope 1 has a conventional light microscope module 7 and the beam path from the sample 2 through the lens 3 and the tube lens 5 to the CCD detector 6 corresponds to a conventional wide-field detection beam path 8. The beam splitter 4, as indicated by the double arrow in FIG. 1, interchangeable, in order to be able to switch between beam splitters with different dichroic properties or achromatic beam splitters according to US 2008/0088920.
In den Strahlengang zum Objektiv 3 ist weiter ein Laser-Scanning-Modul 9 angebunden, dessen LSM-Beleuchtungs- und Detektionsstrahlengang über einen Schaltspiegel 1 1 , der ebenfalls Strahlteilerfunktionen hat, in den Strahlengang zum Objektiv 3 eingekoppelt ist. Der Strahlengang vom Schaltspiegel 1 1 zum Objektiv 3 durch den Strahlteiler 4 ist also ein Strahlengang, in dem Beleuchtungsstrahlengang und Detektionsstrahlengang vereint sind. Dies gilt sowohl hinsichtlich des Laser-Scanning-Moduls 9 also auch hinsichtlich des Weitfeld- Detektionsstrahlengangs 8, da, wie noch zu erläutern sein wird, am Schaltspiegel 1 1 auch Beleuchtungsstrahlung eingekoppelt wird, die zusammen mit dem Weitfeld- Detektionsstrahlengang 8, d. h. dem CCD-Detektor 6 Mikroskopieverfahren realisiert. In the beam path to the lens 3, a laser scanning module 9 is further connected, whose LSM illumination and detection beam path via a switching mirror 1 1, which also has beam splitter functions, is coupled into the beam path to the lens 3. The beam path from the switching mirror 1 1 to the lens 3 through the beam splitter 4 is thus a beam path, are combined in the illumination beam path and detection beam path. This applies both with regard to the laser scanning module 9 and also with regard to the wide-field detection beam path 8, since, as will be explained later, illumination radiation is coupled into the switching mirror 11, which together with the wide field detection beam path 8, d. H. realized the CCD detector 6 microscopy.
Der Schaltspiegel 1 1 und der Strahlteiler 4 sind zu einem Strahlteilermodul 12 zusammengefaßt, wodurch die Möglichkeit besteht, den Schaltspiegel 1 1 und den Strahlteiler 4 anwendungsabhängig zu wechseln. Dies ist auch durch Doppelpfeile veranschaulicht. Weiter im Strahlteilermodul 12 ist ein Emissionsfilter 13 vorgesehen, das im Weitfeld- Detektionsstrahlengang 8 liegt und die spektralen Anteile, welche durch den Weitfeld- Detektionsstrahlengang 8 propagieren können, geeignet filtert. Natürlich ist auch das Emissionsfilter 13 im Strahlteilermodul 12 austauschbar. Das Laser-Scanning-Modul 9 erhält für den Betrieb erforderliche Laserstrahlung über eine Lichtleitfaser 14 von einem Lasermodul 15. In der in Fig. 1 dargestellten Bauweise wird am Strahlteilermodul 12, genauer am Schaltspiegel 14 ein Sammel-Beleuchtungsstrahlengang 16 eingekoppelt, durch den Beleuchtungsstrahlung für verschiedene Mikroskopieverfahren läuft. In diesen Sammel-Beleuchtungsstrahlengang 16 sind verschiedene Beleuchtungsstrahlengänge einzelner Beleuchtungsmodule eingekoppelt. Beispielsweise koppelt ein Weitfeldbeleuchtungsmodul 17 über einen Schaltspiegel 18 Weitfeldbeleuchtungsstrahlung in den Sammel-Beleuchtungsstrahlengang 16, so daß über eine Tubuslinse 27 und das Objektiv 3 die Probe 2 weitfeldbeleuchtet wird. Das Weitfeldbeleuchtungsmodul kann beispielsweise eine HBO-Lappe aufweisen. Als weiteres Beleuchtungsmodul ist ein TI RF-Beleuchtungsmodul 19 vorgesehen, das bei geeigneter Stellung des Schaltspiegels 18 eine TIRF-Beleuchtung realisiert. Das TI RF-Beleuchtungsmodul 19 erhält dazu Strahlung von Lasermodul 15 über eine Lichtleitfaser 20. Das TI RF- Beleuchtungsmodul 19 weist einen Spiegel 21 auf, der längsverschieblich ist. Durch die Längsverschiebung wird der Beleuchtungsstrahl, der vom TI RF-Beleuchtungsmodul 19 abgegeben wird, senkrecht zur Hauptausbreitungsrichtung des abgegebenen Beleuchtungsstrahls verschoben, wodurch im Ergebnis am Objektiv 3 die TI RF-Beleuchtung unter einem einstellbaren Winkel zur optischen Achse des Objektivs einfällt. Auf diese Weise kann einfach der nötige Winkel der Totalreflexion am Deckglas sichergestellt werden. Natürlich sind auch andere Mittel geeignet, um diese Winkelverstellung zu bewirken. Weiter ist an dem Sammel-Beleuchtungsstrahlengang der Beleuchtungsstrahlengang eines Manipulatormoduls 22 angekoppelt, das ebenfalls über eine nicht näher bezeichnete Lichtleitfaser Strahlung vom Lasermodul 15 erhält und eine punkt- oder linienförmige Strahlverteilung scannend über die Probe 2 führt. Das Manipulatormodul 22 entsprechend also im wesentlichen dem Beleuchtungsmodul eines Laserscanningmikroskops, und demzufolge kann das Manipulatormodul 22 auch mit dem Detektor des Laser-Scanning-Moduls 9 oder der Weitfeld-Detektion des CCD-Detektors 6 kombiniert betrieben werden. The switching mirror 1 1 and the beam splitter 4 are combined to form a beam splitter module 12, which makes it possible to change the switching mirror 1 1 and the beam splitter 4 depending on the application. This is also illustrated by double arrows. Next in the beam splitter module 12, an emission filter 13 is provided, which is located in the wide-field detection beam path 8 and the spectral components, which can propagate through the wide-field detection beam 8, appropriately filters. Of course, the emission filter 13 in the beam splitter module 12 is interchangeable. The laser scanning module 9 receives laser radiation required for operation via an optical fiber 14 from a laser module 15. In the construction shown in FIG. 1, a collection illumination beam path 16 is coupled in at the beam splitter module 12, more precisely at the switching mirror 14, through which illumination radiation for different microscopy methods runs. In this collective illumination beam path 16 different illumination beam paths of individual lighting modules are coupled. For example, a wide-field illumination module 17 couples via a switching mirror 18 wide-field illumination radiation in the collection illumination beam path 16, so that the tube 2 is far-field illuminated via a tube lens 27 and the lens 3. The wide-field illumination module can have, for example, an HBO flap. As a further illumination module, a TI RF illumination module 19 is provided, which realizes a TIRF illumination with a suitable position of the switching mirror 18. The TI RF illumination module 19 receives radiation from the laser module 15 via an optical fiber 20. The TI RF illumination module 19 has a mirror 21 which is longitudinally displaceable. As a result of the longitudinal displacement, the illumination beam emitted by the TI RF illumination module 19 is displaced perpendicular to the main propagation direction of the emitted illumination beam, as a result of which the TI RF illumination is incident on the objective 3 at an adjustable angle to the optical axis of the objective. In this way, simply the necessary angle of total reflection on the cover glass can be ensured. Of course, other means are suitable for effecting this angular adjustment. Furthermore, the illuminating beam path of a manipulator module 22 is coupled to the collecting illumination beam path, which likewise receives radiation from the laser module 15 via an unspecified optical fiber and leads a point or line-shaped beam distribution over the sample 2 in a scanning manner. The manipulator module 22 thus corresponds essentially to the illumination module of a laser scanning microscope, and consequently the manipulator module 22 can also be operated in combination with the detector of the laser scanning module 9 or the wide-field detection of the CCD detector 6.
Im Sammel-Beleuchtungsstrahlengang 16 ist weiter ein Gitter 23 vorgesehen, dessen Gitterkonstante unterhalb der Grenzfrequenz liegt, die mit dem Mikroskop 1 in die Probe 2 übertragen werden kann. Das Gitter 23 ist quer zur optischen Achse des Sammel- Beleuchtungsstrahlengangs 16 verschieblich. Hierzu ist ein entsprechender Verschiebeantrieb 24 vorgesehen . In the collective illumination beam path 16, a grid 23 is further provided, the lattice constant is below the cutoff frequency, which can be transmitted with the microscope 1 in the sample 2. The grating 23 is displaceable transversely to the optical axis of the collective illumination beam path 16. For this purpose, a corresponding displacement drive 24 is provided.
In Beleuchtungsrichtung dem Gitter nachgeordnet sitzt im Sammel-Beleuchtungsstrahlengang 16 weiter ein Bildfeldrotator 25, der von einem Rotatorantrieb 26 gedreht wird. Bei dem Bildfeldrotator kann es sich beispielsweise um ein Abbe-König-Prisma handeln. Die Module und Antriebe sowie Detektoren des Mikroskops 1 sind alle über nicht näher bezeichnete Leitungen mit einer Steuereinrichtung 28 verbunden. Diese Verbindung kann beispielsweise über einen Daten- und Steuerbus erfolgen. Die Steuereinrichtung 28 steuert das Mikroskop 1 in verschiedene Betriebsmodi. Downstream of the grating in the illumination direction, an image field rotator 25, which is rotated by a rotator drive 26, is located in the collective illumination beam path 16. The field rotator may be, for example, an Abbe-König prism. The modules and drives and detectors of the microscope 1 are all connected via unspecified lines to a control device 28. This connection can be made for example via a data and control bus. The control device 28 controls the microscope 1 in different operating modes.
Das Steuergerät 28 erlaubt es somit am Mikroskop 1 klassische Mikroskopie, d. h. Weitfeldmikroskopie (WF), Laserscanningmikroskopie (LSM) und auch Fluoreszenzmikroskopie mit totaler interner Reflexion (TIRF) auszuführen. Das Mikroskop der Fig. 1 weist im wesentlichen zwei zum Laserscannerbeleuchten geeignete Module auf, nämlich das Laserscanningmodul 9 sowie das Manipulatormodul 22. Natürlich sind auch andere Kombinationen möglich. Diese Module sind über Tubuslinsen mit dem Objektiv 3 auf die Probe 2 gekoppelt. Das Manipulatormodul 22 beinhaltet lediglich den Anregungsteil eines Laserscanningmoduls, ohne Detektion . Dadurch kann die Probe punktförmig beleuchtet und der Beleuchtungsspot über die Probe 2 gerastert werden. Vorzugsweise befindet sich im Manipulatormodul 2 auch eine Umschalteinheit, z. B. eine Umschaltlinse oder Zylinderlinse, mit welcher eine Umschaltung zwischen einer punktförmigen und einer linienförmigen Beleuchtung erfolgt. Diese linienförmige Beleuchtung ist besonders dann vorteilhaft, wenn das Gitter 23, welches sich in einem Zwischenbild des Sammel-Beleuchtungsstrahlengangs 16 befindet, eingeschwenkt ist und senkrecht zur Linie der linienförmigen Beleuchtung liegt. The controller 28 thus allows the microscope 1 classical microscopy, d. H. Wide Field Microscopy (WF), Laser Scanning Microscopy (LSM) and also fluorescence microscopy with total internal reflection (TIRF). The microscope of FIG. 1 essentially has two modules suitable for laser scanner illumination, namely the laser scanning module 9 and the manipulator module 22. Of course, other combinations are also possible. These modules are coupled via tube lenses with the objective 3 to the sample 2. The manipulator module 22 only contains the excitation part of a laser scanning module, without detection. As a result, the sample can be spot-illuminated and the illumination spot scanned over the sample 2. Preferably located in the manipulator module 2 and a switching unit, for. As a switching lens or cylindrical lens with which a switch between a punctiform and a linear illumination. This line-shaped illumination is particularly advantageous when the grating 23, which is located in an intermediate image of the collection illumination beam path 16, is pivoted in and lies perpendicular to the line of the line-shaped illumination.
Alternativ zum Gitter 23 kann auch ein variabel einstellbarer Streifenmodulator oder ein DMD zur Erzeugung einer strukturierten Beleuchtung in der Probe 2 eingesetzt werden. Dann ist natürlich der Verschiebeantrieb 24 sowie die Ein-/Ausschwenkbarkeit des Gitters 23 nicht mehr erforderlich. As an alternative to the grating 23, a variably adjustable strip modulator or a DMD for producing a structured illumination in the sample 2 can also be used. Then, of course, the displacement drive 24 and the on / Ausschwenkbarkeit the grid 23 is no longer required.
Der Bildfeldrotator 25 erlaubt es, die strukturierte Beleuchtung, die durch das Gitter 23 (oder die dieses ersetzende Elemente) erzeugt werden, um die optische Achse des Sammel- Beleuchtungsstrahlenganges 16 zu drehen, so daß die strukturierte Beleuchtung in verschiedenen Winkeln in der Probe 2 liegt. The field rotator 25 allows the structured illumination generated by the grating 23 (or elements replacing it) to rotate about the optical axis of the collection illumination beam path 16 so that the structured illumination is at different angles in the sample 2 ,
Zur Umschaltung zwischen einzelnen Betriebsarten werden die Schaltspiegel 18 und 1 1 sowie der Strahlteiler 4 geeignet eingestellt. Hierzu können in der Realisierung Klapp- oder Einschenkspiegel verwendet werden, so daß eine Umschaltung zwischen den Betriebsarten sequentiell erfolgen kann. Alternativ sind auch dichroitische Spiegel möglich, welche einen gleichzeitigen Betrieb der verschiedenen Module ermöglichen. For switching between individual operating modes, the switching mirrors 18 and 11 and the beam splitter 4 are set appropriately. For this purpose, folding or Einschenkspiegel can be used in the realization, so that a switch between the modes can be done sequentially. Alternatively, dichroic mirrors are also possible which allow simultaneous operation of the various modules.
Der Strahlteiler 4 ist vorzugsweise als dichroitischer Strahlteiler ausgeführt, wobei die Spektraleigenschaften so einstellbar sind, daß Spektralanteile von Fluoreszenzemission von Markierungsmolekülen, die mit Hilfe des CCD-Detektors 6 detektiert werden sollen, in den Weitfeld-Detektionsstrahlengang 8 gelangen und die übrigen Spektralkomponenten möglichst transmittiert werden. Zur Erhöhung der Flexibilität bezüglich der Verwendbarkeit von Markierungsmolekülen mit verschiedenen Emissionscharakteristiken sind im Strahlteilermodul 12 mehrere verschiedene Strahlteiler 4 und Emissionsfilter 13 austauschbar angeordnet, z. B. auf einem Filterrad. The beam splitter 4 is preferably designed as a dichroic beam splitter, wherein the spectral properties are adjustable so that spectral components of fluorescence emission of Labeling molecules to be detected by means of the CCD detector 6, get into the wide-field detection beam path 8 and the remaining spectral components are transmitted as possible. In order to increase the flexibility with regard to the usability of marking molecules having different emission characteristics, a plurality of different beam splitters 4 and emission filters 13 are interchangeably arranged in the beam splitter module 12, e.g. B. on a filter wheel.
Das oben beschriebene Mikroskop dient nun dazu, ein hochaufgelöstes Mikroskopbild zu erzeugen. Dazu ist das Steuergerät 28 geeignet ausgebildet, beispielsweise durch eine geeignete Programmierung. Bevor mögliche Verfahrensabläufe anhand der Fig. 4 und 5 erläutert werden, seien zunächst anhand der Fig. 2 und 3 wesentliche Merkmale und Prinzipien erläutert, die Bestandteile der zu beschreibenden Mikroskopieverfahren sind. The microscope described above now serves to generate a high-resolution microscope image. For this purpose, the control unit 28 is suitably designed, for example by a suitable programming. Before discussing possible process sequences with reference to FIGS. 4 and 5, essential features and principles will first be explained with reference to FIGS. 2 and 3, which are components of the microscopy methods to be described.
Fig. 2 verdeutlicht exemplarisch das SIM-Konzept. Dazu wird die im Mikroskop 1 der Fig. 1 mikroskopierte Probe wiederholt weitfeld-abgebildet, wobei für jede Abbildung unterschiedliche Beleuchtungszustände eingestellt werden. Man erhält damit einen Satz 39 von einzelnen Bildern 40. Die Bilder 40 unterscheiden sich hinsichtlich einer Strukturierung 41 der Beleuchtung, die durch den Beleuchtungsstrahlengang 8 auf die Probe aufgebracht wird. Wie zu sehen ist, ist die Strukturierung 41 in verschiedenen Bildern 40 unterschiedlich. Insgesamt liegen, wie der in Fig. 2 in Draufsicht dargestellte Satz 39 zeigt, neun einzelne Bilder 40 vor; es gibt also neun unterschiedliche Orientierungen der Strukturierung 41 . Die unterschiedlichen Strukturierungen sind in der Darstellung der Fig. 2 durch eine Anfügung„.01 " bis„.09" an das Bezugszeichen 40 des jeweiligen Bildes verdeutlicht. Die Draufsicht auf die einzelnen Bilder 40 in Fig. 2 zeigt, daß sich die neun Orientierungen hinsichtlich einer Verschiebelage bzw. einer Drehlage der Strukturierung 40 unterscheiden. Die Anzahl von neun ist für die verwendeten Orientierungen exemplarisch. Es ist auch eine höhere Anzahl möglich, wie dies aus den im allgemeinen Teil der Beschreibung aufgelisteten Publikationen zum Prinzip SIM bekannt ist. Fig. 2 exemplifies the SIM concept. For this purpose, the sample microscopically microscoped in the microscope 1 of FIG. 1 is repeatedly field-imaged, wherein different illumination states are set for each image. A set 39 of individual images 40 is thus obtained. The images 40 differ with regard to a structuring 41 of the illumination which is applied to the sample by the illumination beam path 8. As can be seen, the structuring 41 is different in different images 40. Overall, as the set 39 shown in plan view in FIG. 2 shows, there are nine individual pictures 40; So there are nine different orientations of structuring 41. The different structuring are illustrated in the representation of FIG. 2 by an appendix ".01" to ".09" to the reference symbol 40 of the respective image. The plan view of the individual images 40 in FIG. 2 shows that the nine orientations differ with regard to a displacement position or a rotational position of the structuring 40. The number of nine is exemplary of the orientations used. It is also possible a higher number, as is known from the publications listed in the general part of the description of the principle SIM.
Die einzelnen Bilder 40 des Satzes 39 werden nacheinander aufgenommen, wobei zwischen der Aufnahme jedes Bildes 40 die Strukturierung 41 der Beleuchtung entsprechend verschoben bzw. gedreht wird. The individual images 40 of the sentence 39 are recorded successively, with the structuring 41 of the illumination being correspondingly displaced or rotated between the recording of each image 40.
Aus dem gesamten Satz 39 wird dann mittels einer Fourier-Transformation 42 ein hochaufgelöstes Bild 43 erzeugt. Dieses Bild 43 kann, wie nachfolgend anhand der Fig. 4 noch erläutert werden wird, als Rohbild für eine weitere hochauflösende Bearbeitung dienen. Fig. 2 veranschaulicht also Merkmale des SIM-Prinzipes. Die Strukturierung 41 ist jedoch rein exemplarisch zu verstehen. Insbesondere muß sie keine Linienstrukturierung sein. Auch können die schematisch eingezeichneten Linien längs der Linie noch weiter strukturiert sein. Gleichermaßen ist es möglich, anstelle der in den eingangs genannten SIM-Publikationen verwendeten linienartigen Beleuchtung auch eine gescannten konfokale Punkt-Beleuchtung mit konfokaler Detektion einzusetzen, wie dies aus der Veröffentlichung C. Müller und J. Enderlein, „Image scanning microscopy", Physical Review Letters, 104, 198101 (2010) bekannt ist. Dieses Prinzip wird als ISM bezeichnet. Natürlich liegen dann nicht neun Orientierungen einer strukturierten Beleuchtung vor, sondern eine geeignete Vielzahl an Einzelbildern, die aus dem Abscannen einer Probe gewonnen wurden. Jedes Bild 40 entspricht dann einer bestimmten Scan-Lage, d. h. einem bestimmten Rasterzustand beim Abrastern des Bildes. From the entire set 39, a high-resolution image 43 is then generated by means of a Fourier transformation 42. This image 43 can, as will be explained below with reference to FIG. 4, serve as a raw image for a further high-resolution processing. Fig. 2 thus illustrates features of the SIM principle. However, the structuring 41 is to be understood as purely exemplary. In particular, it does not have to be a line structure. The schematically drawn lines along the line can also be further structured. Similarly, it is possible to use a scanned confocal point illumination with confocal detection instead of the linear illumination used in the aforementioned SIM publications, as described in the publication C. Müller and J. Enderlein, "Image scanning microscopy", Physical Review Letters, 104, 198101 (2010) This principle is referred to as ISM Of course, then there are not nine orientations of structured illumination, but a suitable plurality of frames obtained from scanning a sample a particular scan position, ie a certain grid state when scanning the image.
Fig. 3 zeigt schematisch ein weiteres Prinzip, das zum hochauflösenden Mikroskopieren eingesetzt wird. Gemäß diesem Prinzip wird eine Folge 44 von Bildern 45 aufgenommen, wobei, wie eingangs mit Bezug auf das SOFI-Konzept erläutert, jedes Bild 45 einen anderen Blinkzustand der Fluorophore in der Probe 2 enthält. Daß die Folge 44 eine Zeitreihe ist, wird durch die Suffixe, welche an das Bezugszeichen 45 der Bilder angefügt sind, verdeutlicht. Die einzelnen Bilder tragen die Anfügung ,,.t1 " bis ,,.tn". Aus der Folge 44 wird mittels einer Bearbeitung, die eine Kumulantenfunktion 46 verwendet, wiederum ein hochaufgelöstes Rohbild 47 erzeugt. Die n Bilder 45 werden also zu einem einzigen Bild 47 umgesetzt. Fig. 3 shows schematically another principle which is used for high-resolution microscopy. According to this principle, a sequence 44 of images 45 is taken, and as explained above with reference to the SOFI concept, each image 45 contains a different flashing state of the fluorophores in the sample 2. That the sequence 44 is a time series is illustrated by the suffixes attached to the reference number 45 of the pictures. The individual pictures have the words ". T1" to ". Tn". From the sequence 44, a high-resolution raw image 47 is again generated by means of a processing which uses a cumulant function 46. The n images 45 are thus converted into a single image 47.
Dies vorausgeschickt soll nun anhand der Fig. 4 ein erstes Verfahren zur hochaufgelösten Mikroskopie erläutert werden. Dazu werden wiederholt Sätze 39 erzeugt, die jeweils aus Bildern 40. o1 bis 40. o9 bestehen. Durch diese Wiederholung liegen insgesamt n Sätze 39.t1 bis 39.tn vor. In jedem Satz sind die für das SIM-Konzept erforderlichen Orientierungen der Beleuchtungszustände vorhanden, was durch die Aufgreifung der Bezugszeichen der Fig. 2 in Fig. 4 verdeutlicht sein soll. Analoges gilt natürlich für den Fall, daß nicht das SIM-Prinzip, sondern das ISM-Prinzip eingesetzt wird. This being said, a first method for high-resolution microscopy will now be explained with reference to FIG. For this purpose, sentences 39 are generated repeatedly, each consisting of images 40. o1 to 40. o9. Through this repetition there are a total of n sentences 39.t1 to 39.tn. In each sentence, the necessary for the SIM concept orientations of the illumination states are present, which should be clarified by the reference of the reference numerals of Fig. 2 in Fig. 4. The same applies of course in the event that not the SIM principle, but the ISM principle is used.
Nun wird durch Einsatz der Fourierfilterung 42 aus jedem Satz 49.t1 bis 49.tn eine Folge 50 von Rohbildern 49. t1 bis 49.tn erzeugt. Diese Rohbilder 49 sind zeitlich beabstandet und enthalten aufgrund des Einsatzes des SIM-Prinzipes Bildinformation mit höherer Auflösung, als sie das Mikroskop a priori bereitstellt. Unter Einsatz der Kumulantenfunktion 46 wird die Folge 50 nun in ein hochaufgelöstes Bild 51 umgerechnet. Dessen Auflösung ist höher als die Auflösung in den Rohbildern 49. In einem zweiten Mikroskopieverfahren wird für jede Orientierung .o1 bis .o9 eine Folge 54 von Bildern 45 aufgenommen, so daß für jede Orientierung eine eigene Folge vorhanden ist. Jede Folge wird dann unter Einsatz der Kumulantenfunktion 46 in ein hochaufgelöstes Rohbild umgerechnet, so daß insgesamt ein Satz 54 von Rohbildern 53. o1 bis 53. o9 gegeben ist. Der Satz 54 enthält also Rohbilder 53 in den für das SIM-Prinzip erforderlichen unterschiedlichen Beleuchtungsstrukturen. Analoges gilt wiederum bei der Anwendung des ISM-Prinzipes. Der Satz 54 aus Rohbildern wird dann unter Verwendung der Fourierfilterung 42 in ein hochaufgelöstes Bild 55 umgerechnet, dessen Ortsauflösung höher ist, als die jedes Rohbildes 53, deren Auflösung jeweils wieder höher ist, als es die Optik des Mikroskops 1 aufgrund der physikalischen Begrenzungen eigentlich zuläßt. Now, by using Fourier filtering 42 from each set 49.t1 to 49.tn, a sequence 50 of raw pictures 49.t1 to 49.tn is generated. These raw images 49 are temporally spaced and, due to the use of the SIM principle, contain image information with a higher resolution than they provide the microscope a priori. Using the cumulant function 46, the sequence 50 is now converted into a high-resolution image 51. Its resolution is higher than the resolution in the raw images 49. In a second microscopy method, a sequence 54 of images 45 is recorded for each orientation .o1 to .o9, so that a separate sequence exists for each orientation. Each sequence is then converted using the cumulant function 46 into a high-resolution raw image, so that a total of 54 sets of raw images 53. o1 to 53. o9 is given. The set 54 thus contains raw images 53 in the different illumination structures required for the SIM principle. The same applies in turn to the application of the ISM principle. The set 54 of raw images is then converted using the Fourier filtering 42 into a high-resolution image 55 whose spatial resolution is higher than that of each raw image 53 whose resolution is higher again than the optics of the microscope 1 actually permits due to the physical limitations ,
Claims
Priority Applications (3)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| EP12722391.5A EP2718762B1 (en) | 2011-06-09 | 2012-05-22 | High-resolution luminescence microscopy |
| JP2014513978A JP6329896B2 (en) | 2011-06-09 | 2012-05-22 | High resolution luminescence microscopy |
| US14/124,462 US9651766B2 (en) | 2011-06-09 | 2012-05-22 | High-resolution luminescence microscopy |
Applications Claiming Priority (2)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| DE102011077269.3 | 2011-06-09 | ||
| DE102011077269A DE102011077269A1 (en) | 2011-06-09 | 2011-06-09 | High-resolution luminescence microscopy |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| WO2012168065A1 true WO2012168065A1 (en) | 2012-12-13 |
Family
ID=46146894
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| PCT/EP2012/059466 Ceased WO2012168065A1 (en) | 2011-06-09 | 2012-05-22 | High-resolution luminescence microscopy |
Country Status (5)
| Country | Link |
|---|---|
| US (1) | US9651766B2 (en) |
| EP (1) | EP2718762B1 (en) |
| JP (2) | JP6329896B2 (en) |
| DE (1) | DE102011077269A1 (en) |
| WO (1) | WO2012168065A1 (en) |
Cited By (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| WO2013053859A1 (en) * | 2011-10-12 | 2013-04-18 | Carl Zeiss Microscopy Gmbh | High-resolution luminescence microscopy |
| CN104516098A (en) * | 2013-09-30 | 2015-04-15 | 西门子公司 | Microscopy device and imaging method |
| US9435993B2 (en) | 2013-03-24 | 2016-09-06 | Bruker Nano, Inc. | Three dimensional microscopy imaging |
Families Citing this family (15)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| DE102011077269A1 (en) * | 2011-06-09 | 2012-12-13 | Carl Zeiss Microimaging Gmbh | High-resolution luminescence microscopy |
| DE102012020877A1 (en) | 2012-10-17 | 2014-04-17 | Carl Zeiss Microscopy Gmbh | Optics arrangement and light microscope |
| DE102012023024B4 (en) | 2012-11-07 | 2023-05-04 | Carl Zeiss Microscopy Gmbh | Light microscope and microscopy methods |
| EP2801854B1 (en) | 2013-05-10 | 2017-07-19 | Ruprecht-Karls-Universität Heidelberg | Method and apparatus for combination of localization microscopy and structured illumination microscopy |
| JP6269239B2 (en) * | 2013-05-28 | 2018-01-31 | 株式会社ニコン | Structured illumination device and structured illumination microscope device |
| DE102014107606A1 (en) * | 2014-05-28 | 2015-12-03 | Carl Zeiss Ag | Function-integrated laser scanning microscope |
| DE102015112628A1 (en) * | 2015-07-31 | 2017-02-02 | Carl Zeiss Microscopy Gmbh | Method for generating a digital fluorescence image |
| DE102015121920A1 (en) | 2015-12-16 | 2017-06-22 | Carl Zeiss Microscopy Gmbh | High-resolution short-term microscopy method and high-resolution short-term microscope |
| DE102016103182B4 (en) * | 2016-02-23 | 2018-04-12 | Leica Microsystems Cms Gmbh | Light sheet microscope and method for light microscopic imaging of a sample |
| DE102017115658A1 (en) * | 2017-07-12 | 2019-01-17 | Carl Zeiss Microscopy Gmbh | Flickering at angle-variable illumination |
| US11327018B2 (en) * | 2018-04-13 | 2022-05-10 | The Regents Of The University Of Michigan | Sub-diffraction imaging, coding and decoding of non-bleaching scatters |
| JP7099143B2 (en) * | 2018-07-31 | 2022-07-12 | 株式会社ニコン | Microscope, observation method, and control program |
| DE102018009056A1 (en) | 2018-11-12 | 2020-05-14 | Carl Zeiss Microscopy Gmbh | Accelerated methods and devices for three-dimensional microscopy with structured illumination |
| JP2022527827A (en) | 2019-04-02 | 2022-06-06 | サーモ エレクトロン サイエンティフィック インストルメンツ リミテッド ライアビリティ カンパニー | Advanced sample imaging using structured illumination microscopy |
| CN112444506B (en) * | 2019-09-04 | 2022-03-18 | 复旦大学 | Microscopic imaging method and device |
Citations (6)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| DE19908883A1 (en) | 1999-03-02 | 2000-09-07 | Rainer Heintzmann | Process for increasing the resolution of optical imaging |
| US20080088920A1 (en) | 2004-07-16 | 2008-04-17 | Ralf Wolleschensky | Optical scanning microscope |
| DE102008054317A1 (en) | 2008-11-03 | 2010-05-06 | Carl Zeiss Microlmaging Gmbh | combining microscopy |
| WO2010141608A1 (en) * | 2009-06-02 | 2010-12-09 | Imflux Llc | Superresolution optical fluctuation imaging (sofi) |
| DE212009000043U1 (en) * | 2008-03-19 | 2011-01-05 | Ruprecht-Karls-Universität Heidelberg | Device for the localization of individual dye molecules in fluorescence microscopy |
| WO2011135049A1 (en) * | 2010-04-28 | 2011-11-03 | Vib Vzw | Method and apparatus for the imaging of a labelled biological sample |
Family Cites Families (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP5206681B2 (en) * | 2007-09-05 | 2013-06-12 | 株式会社ニコン | Structured illumination microscope |
| DE102009043747A1 (en) * | 2009-09-30 | 2011-03-31 | Carl Zeiss Microlmaging Gmbh | Method for generating a microscope image and microscope |
| DE102011077269A1 (en) * | 2011-06-09 | 2012-12-13 | Carl Zeiss Microimaging Gmbh | High-resolution luminescence microscopy |
-
2011
- 2011-06-09 DE DE102011077269A patent/DE102011077269A1/en not_active Withdrawn
-
2012
- 2012-05-22 WO PCT/EP2012/059466 patent/WO2012168065A1/en not_active Ceased
- 2012-05-22 EP EP12722391.5A patent/EP2718762B1/en not_active Not-in-force
- 2012-05-22 JP JP2014513978A patent/JP6329896B2/en not_active Expired - Fee Related
- 2012-05-22 US US14/124,462 patent/US9651766B2/en not_active Expired - Fee Related
-
2018
- 2018-02-02 JP JP2018017035A patent/JP2018097382A/en active Pending
Patent Citations (7)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| DE19908883A1 (en) | 1999-03-02 | 2000-09-07 | Rainer Heintzmann | Process for increasing the resolution of optical imaging |
| EP1157297B1 (en) | 1999-03-02 | 2002-11-06 | Max-Planck-Gesellschaft zur Förderung der Wissenschaften e.V. | Method and device for representing an object |
| US20080088920A1 (en) | 2004-07-16 | 2008-04-17 | Ralf Wolleschensky | Optical scanning microscope |
| DE212009000043U1 (en) * | 2008-03-19 | 2011-01-05 | Ruprecht-Karls-Universität Heidelberg | Device for the localization of individual dye molecules in fluorescence microscopy |
| DE102008054317A1 (en) | 2008-11-03 | 2010-05-06 | Carl Zeiss Microlmaging Gmbh | combining microscopy |
| WO2010141608A1 (en) * | 2009-06-02 | 2010-12-09 | Imflux Llc | Superresolution optical fluctuation imaging (sofi) |
| WO2011135049A1 (en) * | 2010-04-28 | 2011-11-03 | Vib Vzw | Method and apparatus for the imaging of a labelled biological sample |
Non-Patent Citations (8)
| Title |
|---|
| "Achieving increased resolution and more pixels with Superresolution Optical Fluctuation Imaging (SOFI", OPT. EXPRESS, vol. 18, no. 18, 30 August 2010 (2010-08-30), pages 18875 - 85 |
| C. MÜLLER; J. ENDERLEIN: "Image scanning microscopy", PHYSICAL REVIEW LETTERS, vol. 104, 2010, pages 198101, XP055153448, DOI: doi:10.1103/PhysRevLett.104.198101 |
| M. GUSTAFSSON: "Nonlinear structured-illumination microscopy: wide-field fluorescence imaging with theoretically unlimited resolution", PROC NATL ACAD SCI USA, vol. 102, no. 37, 13 September 2005 (2005-09-13), pages 13081 - 6, XP007906251, DOI: doi:10.1073/pnas.0406877102 |
| R. HEINTZMANN; C. CREMER, PROC. SPIE INT. SOC. OPT. ENG., vol. 3568, 1998, pages 185 - 195 |
| S. GEISSBUEHLER ET AL.: "Comparison between SOFI and STORM", BIOMED. OPT. EXPRESS, vol. 2, 2011, pages 408 - 420 |
| STEFAN W HELL: "Microscopy and its focal switch", NATURE METHODS, vol. 6, no. 1, 1 January 2009 (2009-01-01), pages 24 - 32, XP055033770, ISSN: 1548-7091, DOI: 10.1038/nmeth.1291 * |
| T. DERTINGER ET AL.: "Fast, background-free, 3D super-resolution optical fluctuation imaging (SOFI", PNAS, 2009, pages 22287 - 22292, XP055268100, DOI: doi:10.1073/pnas.0907866106 |
| VERÖFFENTLICHUNG C. MÜLLER; J. ENDERLEIN: "Image scanning microscopy", PHYSICAL REVIEW LETTERS, vol. 104, 2010, pages 198101 |
Cited By (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| WO2013053859A1 (en) * | 2011-10-12 | 2013-04-18 | Carl Zeiss Microscopy Gmbh | High-resolution luminescence microscopy |
| US9726877B2 (en) | 2011-10-12 | 2017-08-08 | Carl Zeiss Microscopy Gmbh | High-resolution luminescence microscopy |
| US9435993B2 (en) | 2013-03-24 | 2016-09-06 | Bruker Nano, Inc. | Three dimensional microscopy imaging |
| CN104516098A (en) * | 2013-09-30 | 2015-04-15 | 西门子公司 | Microscopy device and imaging method |
Also Published As
| Publication number | Publication date |
|---|---|
| JP6329896B2 (en) | 2018-05-23 |
| JP2014517352A (en) | 2014-07-17 |
| US20140184777A1 (en) | 2014-07-03 |
| EP2718762B1 (en) | 2017-09-20 |
| JP2018097382A (en) | 2018-06-21 |
| DE102011077269A1 (en) | 2012-12-13 |
| US9651766B2 (en) | 2017-05-16 |
| EP2718762A1 (en) | 2014-04-16 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| EP2718762B1 (en) | High-resolution luminescence microscopy | |
| EP2350726B1 (en) | Combination microscopy | |
| EP2516993B1 (en) | High-resolution microscope and method for determining the two- or three-dimensional positions of objects | |
| EP2860566B1 (en) | High resolution scanning microscopy | |
| EP1617259B1 (en) | Microscope with increased resolution | |
| EP2641078B1 (en) | Microscopy with improved depth resolution | |
| EP4151988B1 (en) | Method and device for high-resolution optical scanning of a sample | |
| WO2013053859A1 (en) | High-resolution luminescence microscopy | |
| DE102008018476B4 (en) | microscopy device | |
| EP2483732B1 (en) | Method for generating a microscopic image and microscope | |
| EP1584918B1 (en) | Method and device for fluorescence lifetime imaging nanoscopy | |
| EP2317362A1 (en) | Microscopic method and microscope with improved resolution | |
| DE102013022538B3 (en) | Method for creating a microscope image and microscopy device | |
| EP2516992A1 (en) | Luminescence microscopy | |
| EP1862839A1 (en) | Microscope with improved resolution | |
| DE102013216124A1 (en) | High-resolution 3D fluorescence microscopy | |
| DE102015111702A1 (en) | High-resolution, spectrally selective scanning microscopy of a sample | |
| EP1617260B1 (en) | Scanning optical microscope with line shaped scan | |
| DE102015116598A1 (en) | Method and microscope for high-resolution imaging by means of SIM | |
| WO2022207322A1 (en) | Light sheet fluorescence microscope | |
| DE102012020242A1 (en) | Image pickup device and method for taking a picture sequence |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| 121 | Ep: the epo has been informed by wipo that ep was designated in this application |
Ref document number: 12722391 Country of ref document: EP Kind code of ref document: A1 |
|
| ENP | Entry into the national phase |
Ref document number: 2014513978 Country of ref document: JP Kind code of ref document: A |
|
| NENP | Non-entry into the national phase |
Ref country code: DE |
|
| REEP | Request for entry into the european phase |
Ref document number: 2012722391 Country of ref document: EP |
|
| WWE | Wipo information: entry into national phase |
Ref document number: 14124462 Country of ref document: US |