WO2007082690A1 - Kalibrierungsverfahren und kalibrierungssystem für projektionsvorrichtung - Google Patents

Kalibrierungsverfahren und kalibrierungssystem für projektionsvorrichtung Download PDF

Info

Publication number
WO2007082690A1
WO2007082690A1 PCT/EP2007/000258 EP2007000258W WO2007082690A1 WO 2007082690 A1 WO2007082690 A1 WO 2007082690A1 EP 2007000258 W EP2007000258 W EP 2007000258W WO 2007082690 A1 WO2007082690 A1 WO 2007082690A1
Authority
WO
WIPO (PCT)
Prior art keywords
calibration
projection
image
pattern
camera
Prior art date
Application number
PCT/EP2007/000258
Other languages
English (en)
French (fr)
Inventor
Manuel Schiewe
Stefan Klose
Original Assignee
Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V.
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. filed Critical Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V.
Priority to EP07702731A priority Critical patent/EP1972134B1/de
Priority to US12/160,289 priority patent/US8311366B2/en
Publication of WO2007082690A1 publication Critical patent/WO2007082690A1/de

Links

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00—Details of colour television systems
    • H04N9/12—Picture reproducers
    • H04N9/31—Projection devices for colour picture display, e.g. using electronic spatial light modulators [ESLM]
    • H04N9/3179—Video signal processing therefor
    • H04N9/3185—Geometric adjustment, e.g. keystone or convergence
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00—Details of colour television systems
    • H04N9/12—Picture reproducers
    • H04N9/31—Projection devices for colour picture display, e.g. using electronic spatial light modulators [ESLM]
    • H04N9/3141—Constructional details thereof
    • H04N9/3147—Multi-projection systems
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00—Details of colour television systems
    • H04N9/12—Picture reproducers
    • H04N9/31—Projection devices for colour picture display, e.g. using electronic spatial light modulators [ESLM]
    • H04N9/3191—Testing thereof
    • H04N9/3194—Testing thereof including sensor feedback

Definitions

  • the invention relates to a calibration method according to the preamble of claim 1 and a calibration system according to claim 19.
  • projection devices are now used to irradiate larger and complex projection surfaces with images, films or the like. Since the projection surfaces are usually not flat and the overall images are composed of partial images, there is the problem that distortions occur in the transition region of two partial images. Also, it is e.g. with dome-shaped projection surfaces, it is not possible to project with only one projector. With multiple projectors then the problem of overlapping occurs many times.
  • the present invention is based on the object
  • KaIibri für syerfahren and a calibration system to create, with the large and / or complex projection surfaces can be irradiated with a projection device as possible distortion free.
  • At least one projection device projects previously known calibration patterns onto at least one part of a projection surface, the calibration patterns having at least one overlapping area with one another.
  • the calibration patterns are recorded by at least one camera device as a calibration image and the data of the calibration image are transmitted to a computer unit, wherein automatically by means of the computer unit, the deviation between the recorded real calibration image and a ideal imaging result of the prior art calibration pattern on the projection surface is determined as a reference pattern.
  • the ideal imaging result determined on the basis of the previously known data thus serves as a reference for the actual projection recorded by the camera device.
  • a correction transformation is determined from the deviation between the real calibration image and the reference pattern so that the correlation of the correction transformation with a real projection of images by the at least one projection device, in particular in an overlapping region, corresponds to the reference pattern except for a small, in particular minimal deviation.
  • a certain threshold for the deviation which still gives an observer an acceptable distortion.
  • the correction transformation is a displacement of at least one point, in particular one
  • Base point of the real recorded calibration image has a point of the reference pattern.
  • a real-determined point e.g. shifted the intersection in a calibration pattern on the calculated reference location.
  • the transforms (e.g., shifts) for each point may also be different.
  • At least one marker is arranged in and / or on the projection surface for detection by the camera device.
  • the at least one marker is designed as a laser or LED.
  • An advantageous embodiment of the method according to the invention has a projection surface which at least partially has a spherical shell, a cylindrical shell and / or a flat surface. Such areas are particularly suitable for projections.
  • the camera device has at least one digital camera, at least one video camera, at least one fish-eye camera and / or at least one webcam. These cameras are individually and / or together well suited to quickly record a calibration pattern and to direct the corresponding data for further processing to the computer unit in the way.
  • At least one camera device for taking an image of the projection surface is rotatably mounted about at least one axis.
  • a correspondingly projected calibration pattern can be recorded efficiently.
  • At least one projection device has at least one projector, laser projector, LCD projector and / or DLP projector
  • the at least one calibration pattern is a striped pattern in which individual strips are arranged parallel to one another.
  • the strips can advantageously be curved
  • a further advantageous embodiment uses dot patterns, wherein a plurality of different pattern types (e.g., dot and stripe patterns) may be used in a calibration pattern.
  • the camera device records a black image.
  • a black image is a photo of a black projection through the projector device. This black image contains i.a. Glare lights, which can then be excluded in a subsequent processing.
  • a blending is carried out in the overlapping area for adapting the brightness values.
  • the correction transformation determines the necessary
  • the change in the projection can not only be done by calculation, but it can also be changed at least one spatial orientation of at least one projection device automatically in response to the correction transformation.
  • parameters of the camera device can be determined automatically by a recording of a previously known pattern, in particular a
  • Marker pattern is recorded on the projection surface, so that the computer unit can calculate the parameters from it.
  • the object is also achieved by a calibration system according to claim 19.
  • At least one projection device is used to project previously known calibration patterns onto at least part of the projection surface.
  • the calibration patterns may or may not overlap.
  • At least one camera device serves to record the calibration pattern as a calibration image, wherein the data of the calibration image can be transmitted to the computer unit and the computer unit is used for automatically determining the deviation between the recorded real calibration image and an ideal imaging result (reference pattern) of the previously known calibration pattern on the projection surface.
  • a correction means is used to determine a correction transformation from the deviation between real
  • Fig. 1 is a schematic representation of an embodiment of the calibration system according to the invention with two projection devices;
  • FIG. 2 shows a schematic representation of an embodiment of the calibration method according to the invention
  • FIG. Fig. 3 is a schematic representation of the determination of a
  • Fig. 4 is a schematic representation of the determination of a
  • Fig. 5 shows a recording of a structure with three Proj edictionsvortechniken
  • FIG. 8 shows a picture of the projection according to FIG. 7 with a brightness correction (blending) in FIG.
  • FIG. 9 is a photograph of a projection into a ball socket prior to the execution of the calibration procedure.
  • FIG. 10 is a photograph of the projection of FIG. 9 after the calibration process has been performed.
  • Fig. 11 is a photograph of a projection into a spherical shell using markers for use in an embodiment of the calibration method according to the invention.
  • Fig. 12 is a flowchart for comparing three embodiments;
  • Fig. 13 is a schematic representation of the real
  • FIG. 14 is a schematic diagram of the virtual beam path in the first embodiment
  • Fig. 15 is a schematic representation of the images of a point in the camera image space
  • Fig. 16 is a schematic representation of the image of a point in the projector image space.
  • Projections with a plurality of projection devices 11, 12 are used everywhere when 1 images are to be projected onto complex and / or large projection surfaces.
  • still pictures e.g.
  • Panoramic views, slides, etc. are panoramic views, slides, etc.), moving pictures (e.g., video pictures) or even 3D sequences.
  • the term images also includes combinations of these types of images.
  • Fig. 1 a basic situation for such a system is shown, wherein the projection surface 1 is formed here for the images here complex from differently curved segments.
  • geometries such as e.g. Plane, spherical shells, parts of spherical shells, cylinders, cylindrical shells or other concave and / or convex
  • Geometries for the projection surface 1 can be selected. It is also possible that the projection surface 1 is not made a piece exists, so that the projection devices 11, 12 project images onto a plurality of projection surfaces 1 distributed in space.
  • any geometry can be used for a projection surface 1 whose data can be described by parameters, tables and / or functional relationships. These geometrical data of the projection surface 1 must be known beforehand, since by means of this data a theoretically ideal imaging behavior (i.e.
  • Reference pattern which serves as a reference for a real image.
  • Projection devices 11, 12 are composed.
  • the partial images 21, 22 overlap in an overlapping area 2 in order to give a total picture in the sum.
  • the partial images 21, 22 must lie as perfectly as possible in the overlapping region 2, so that no "seams" between the partial images 21, 22 can be seen and the best possible overall image results.
  • FIG. 6 A real construction is shown in the figure of FIG.
  • three projection devices 11, 12, 13 are used, which cast pictures on a cylindrical shell-shaped projection surface 1.
  • the projection devices 11, 12, 13 are coupled to a computing unit 20.
  • the camera device 15 itself is not visible since the image of FIG. 5 is taken from the perspective of the camera device 15.
  • Fig. 6 the uncalibrated case is shown, in which the three fields analogous to FIG. 5 in the
  • Overlap areas 2 ', 2' ' are not yet adjusted. This is e.g. to recognize the double lines on the bottom of the illustration in Fig. 6.
  • the calibration method and calibration system described here recognizes with at least one camera device 15 by means of special calibration patterns 30 (see also FIGS. 3 and 4) the deviations (eg alignment errors) of the sub-images 21, 22 in the overlap area 2 and corrects for a later projection the projector images to the effect that the partial images 21, 22 in the overlap region 2 are as perfectly as possible on each other and thus a seamless overall image is ensured
  • the at least one camera device 15 can have at least one digital still camera, at least one video camera, at least one camera with a fisheye lens and / or a webcam, whereby combinations of these elements can also be used.
  • projection devices 11, 12 can be used. If the projector properties are known, both the outer (position, orientation) and the inner (aperture angle, aspect ratio), these can be taken into account in a mathematical equalization.
  • the necessary geometry equalization can be calculated, that is, the projector images are at least transformed so that on the projection surface 1 a correct overall image of the partial images 21, 22 results.
  • Soft edge blending makes the seams in the overlapping area 2 as invisible as possible, that is to say that in the course of the overlapping areas 2, one projection device 11 becomes slightly darker (fade-out), the next projection device 12 softens to the same extent (fade-in ), so that the same brightness is achieved in each pixel of the overlapping areas 2 in the sum of the projection devices 11, 12 as in the areas which are irradiated only by a single projection device 11, 12.
  • the areas to be blended in may be entered by the user (on a sphere with high and low degrees, for example, as "blending between projector 1 and projector 2 from latitude 5 to 10") or the entire overlap area 2 of two each
  • Projection devices 11, 12 is automatically determined and used as a blend area.
  • the user can also specify complicated blends over vertex definitions, which can then be used by e.g. Splines are laid.
  • FIG. 2 shows schematically an embodiment of the calibration method according to the invention, with which the as seamless as possible overlap between partial images 21, 22 described in connection with FIG. 1 is to be produced.
  • the automatic fine calibration throw the projection devices 11, 12 successively and / or simultaneously certain previously known stripe images as a calibration pattern 30 on the projection surface 1, the of at least one camera device 15 (see FIG. 1) are recorded. If, for example, the projection devices 11, 12 project the calibration patterns 30 one after the other, then an image is recorded for each calibration pattern 30, wherein, for example, in the computer unit 20, these images are combined to form a virtual overall image. The image recorded in this way is called a calibration image.
  • the calibration image shows the real distortions of the calibration pattern 30 in the overlap area 2.
  • the data of the calibration image are transmitted to the computer unit 20.
  • the computer unit 20 may be e.g. a processor, a PC, a cluster of PCs or a workstation.
  • the computing unit 20 may be e.g. be arranged in one of the other devices (projection device, camera device, projection screen) and / or the computer unit 20 is formed as a separate system.
  • the computer unit 20 automatically determines the deviation between the recorded real calibration image and an ideal imaging result of the previously known calibration pattern 30 on the projection surface 1. Since both the calibration pattern 30 and the geometry of the projection surface 1 are known, it can be calculated how ideally the image in the overlap region 2 must look. This ideal case is used as a reference pattern to which the real image result (i.e., the calibration image) is to be approximated.
  • the outer (e.g., position) and inner parameters (e.g., lens geometry) of the camera apparatus 15 must be known as accurately as possible. This is not required in the second embodiment.
  • the parameters of the camera device 15 must be known, and as exactly as possible. This determination of the parameters, also called camera calibration, can be done with one embodiment of the calibration method according to the invention.
  • markers are attached at certain locations on the projection surface 1 (e.g.
  • the camera device 1 to be calibrated records images on which the markers can be recognized.
  • the computer unit 20 analyzes the images and recognizes the locations of the markers in the camera image. Since the 3D positions of the markers are known, the
  • Camera parameters are calculated from this information (e.g., position and orientation of the camera).
  • the entire structure (projection surface 1, projection devices 11, 12,
  • At least one projection device casts defined calibration patterns 30 on the projection surface 1, which are recorded by the camera device 15
  • a calibration pattern 30 is shown in a simplified manner. This raises a first not shown here Projection device 11, a first calibration pattern 31 (dashed lines) with horizontal strips 31a and vertical strips 31b. Here only one strip 31a, 31b is shown in each case. It creates a first intersection 35.
  • a second projection device 12 likewise not shown here, casts a second calibration pattern 32 (dot-dashed lines) with horizontal strips 32a and vertical strips 32b. Again, only one strip 32a, 32b is shown in each case. This creates a second intersection 36.
  • Reference pattern 40 is defined by the camera apparatus 15 in this first embodiment because it is assumed that the camera position is accurately known.
  • the Kämera device defines where the lines of the projection devices 11, 12 should lie on the projection surface 1.
  • intersection points 35, 36 of the projected lines be drawn to the same target point determined by the camera-defined reference pattern 40.
  • the target point is shown in FIG. 3, the third intersection 42nd
  • FIG. 13 shows a projection surface 1 which is irradiated by the first projection device 11.
  • the camera device 15 looks at a part of the projection surface 1 irradiated by the first projection device 11.
  • the first projection device 11 spans a projection frustum (a type of projection "cone") 63 with its projected image (dashed line).
  • the image to be projected by the first projection device 11 is located in the associated projector image plane 65.
  • the camera device 15 spans a kind of sight cone 64 (solid line). The image photographed by her lies in the assigned camera plane 66.
  • the real structure and beam path shown in FIG. 13 (whose parameters are all known as accurately as possible) are reproduced in a virtual model. For this reason, the following describes which steps are performed in the real structure (see FIG. 13) and which steps are simulated in the virtual model (see FIG. 14).
  • the first projection device 11 casts a calibration pattern 30 having a large amount of support points (i.e., intersections between horizontal and vertical stripes (e.g., 31a, 31b, 32a, 32b in Fig. 3) on the projection surface 1 in the real world.
  • support points i.e., intersections between horizontal and vertical stripes (e.g., 31a, 31b, 32a, 32b in Fig. 3) on the projection surface 1 in the real world.
  • the beam path 61 (dot-dash line) of such a support point can be traced.
  • Support point is located in the projector image plane 65 at point 71.
  • the support point is located on the projection surface 1 at point 72.
  • the camera device 15 takes a picture. On the picture (in the camera-stabilizing plane 66) this point is found in place 73. Now, let's go into the virtual model of this setup as shown in Figure 14. If everything in the real world were perfectly positioned (which is not possible), the virtual model would be identical to the real structure, ie the intersections would be exactly on top of each other.
  • Point 82 is hit on the virtual projection surface 1 and finally found at point 81 instead of point 71 in the projector image plane 65. This means that the camera device 15 would have expected a support point from the projector image plane 81 in its image plane 66 at point 73 actual and not the projector image plane 71.
  • point 71 has been projected and it has been determined that the point 71 in the camera plane 66 arrives as point 73. In point 73, however, should (according to the perfect virtual model) the pixel 81 from the projector image plane.
  • the correction transformation 50 now consists (for this interpolation point) in that in the projector image plane 65 the image content (the interpolation point) is transformed from point 81 to point 71. Because at point 71 in the projector image space, we know that it arrives at point 73 in the real world in camera plane 66. Thus, the image content, which was actually at point 81, after applying the
  • Correction transformation 50 at point 71 projects and lands on the screen 1 at point 72, and finally lands in the camera device 15 at point 73 - exactly where it should be.
  • a computational relationship is formed as a correction transformation 50, which the support points 35,
  • the mathematical relationship can be formed as a function, table or parameter. It is particularly advantageous if a so-called mesh is used which does not require any analytical description of the transformation.
  • the mesh is a kind of grid structure that acts on the projector image, consisting of a certain number of vertices. The described necessary
  • Shifts of individual points in the projector image are hereby applied to the corresponding support points of the mesh, whereupon the projector image is distorted in the desired manner.
  • the correction transformation 50 is e.g. implemented in the form of a table. In FIG. 3, for the sake of clarity, the correction transformation 50 is only for a pair of
  • This process is performed for many different support points on the projector's image plane. These support points span a net covering the entire projector image plane, e.g. a network of 100 times 100 evenly distributed nodes. After shifting all the support points of this projection device 11 to the corrected positions, the entire projector image is shifted exactly to the position where it should be for the camera device.
  • Projection device 11 drawn exactly to the places where they should be based on the information determined by the camera device (according to the perfect virtual model). Since the image contents of two projectors are exactly on top of each other in the virtual model, they are now also in real terms after the calibration.
  • the parameters of the camera apparatus 15 are not used, that is, they need not be known in advance. But it is advantageous if the projection devices 11, 12, however, are adjusted manually well.
  • the operation of the second embodiment will be explained with reference to FIG. 4, wherein in principle the same calibration pattern 30 are used here as in the first embodiment (FIG. 3). Therefore, reference may be made to the corresponding description of the first embodiment.
  • the calibration patterns of the second embodiment are predistorted, so that they are adapted to the shape of the projection surface 1 (eg Spherical coordinate system for a spherical projection surface).
  • the parameters of the camera device 15 are unknown, that is, there is no camera device that can provide a reference for the projection device 11, 12.
  • the projection devices 11, 12 must be pre-adjusted by hand as well as possible.
  • the last remaining differences are to be reduced or corrected by forming a kind of compromise when "overlapping" the image contents of two projection devices 11, 12 in the overlapping area 2 and bringing the overlapping projector image contents into coincidence. This is illustrated by way of example in FIG. 4, whereby analogously to FIG. 3 only selected parts of a calibration pattern are shown.
  • a first projection device 11 casts a first calibration pattern 31 (dashed lines) with horizontal strips 31a and vertical strips 31b. Here only one strip 31a, 31b is shown in each case. It creates a first intersection 35.
  • a second projection device 12 likewise not shown here, casts a second calibration pattern 32 (dot-dashed lines) with horizontal strips 32a and vertical strips 32b. Again, only one strip 32a, 32b is shown in each case. This creates a second intersection 36.
  • Projection device 12 should actually be on top of each other. It will now be a target point 42 as a compromise defined, namely as an average between these two intersections 35, 36th
  • the first intersection 35 and the second intersection 36 are to be shifted to the target point 42.
  • FIG. 16 shows the associated projector image space.
  • the original point in the projector image plane is the second one
  • FIG. 15 shows the camera image space. Shown is a calibration pattern 30 of the first projection device 11 with horizontal and vertical stripes 31, the first interpolation point 35 and the target point 42 for the first interpolation point 35. Furthermore, the neighboring points A, B, C, D of the first interpolation point 35 are drawn.
  • FIG. 16 shows the same image as in FIG. 15, but in the projector image space of the first projection device 11.
  • the image in the camera image space (after projection, Figure 15) generally differs significantly from the same image (before projection, Figure 16): It is twisted, shifted, curved, distorted, etc.
  • This calculated target point 42 serves as a reference value. If the calculation is performed for many intersections, a reference pattern is obtained.
  • the target point 142 in the projector image space is calculated using the neighboring support points.
  • This calculation of the target point 42 from the support point 35 and its two neighbors A, B is transformed in the camera image space into the projector image space to calculate the target point 142.
  • the correction transformation 50 is composed here of the shifts symbolized by the arrows.
  • the "average” must be weighted advantageously, however, so that no cracks / kinks in the projector images arise.
  • a meaningful weighting would be for example: near the projector image center high weight. Near the projector edge: low weight.
  • the projection surface 1 is a spherical shell in which a plurality of partial images 21, 22, 23 are projected from above by means of a plurality of projection devices, not shown here. Due to the double lines in FIG. 9, it can be seen that here in the overlap regions 2 there is no good match. After the method according to the second embodiment has been carried out, the result according to FIG. 10 is achieved. The partial images 21, 22, 23 are now essentially correctly aligned with each other.
  • a virtual 3D model is known, which is stored in the arithmetic unit 20.
  • a concrete one Embodiment is shown in Fig. 11, wherein the projection surface 1 is a spherical shell, in which a plurality of partial images 21, 22, 23 are projected.
  • Laser pointer at well-defined points; two at the edge, one at the zenith.
  • the camera device 15 can not record the entire dome 1 with the markers from a view, the
  • the dome projection consists of six projection devices 11, 12 (five for the panorama and one for the zenith).
  • the markers 70 would in this case be arranged, for example, at the zenith and at the edge every 72 °.
  • Camera device 15 must be taken to ensure that two edge marker 70 and the zenith marker 70 are in the image of the camera so that an assignment is possible.
  • the markers 70 span a spherical triangle.
  • a 72 ° segment of the dome's 3-D model can be mapped into the photos of the real dome via geometric transformation (perspective transformation, rotation, translation, shear, lens distortion, ). Reference lines are included in this virtual segment (for example every 5 °).
  • calibration patterns 30 are projected, which are compared with these reference lines, so that the pixel shift can be determined for each sub-projector 11, 12. If all subprojectors are matched to these reference patterns by image warping, a subsegment is calibrated. This calibration is analogous to the remaining subsegments. Because these subsegments are based on the same 3-D reference model have the independently calibrated segments fit together seamlessly.
  • the crossfade area of the projectors be approximately in the middle of a subsegment, so that the segments do not collide in the crossfade area, as this would make blending between the projectors more difficult.
  • the distortion and the brightness correction (blending) takes place analogously to the method described in DE 102 51 217 for multiprojector calibration.
  • Installation In each embodiment, at least part of the information about the installation of the hardware is included: size and shape of the projection surface 1, position and orientation of the camera device 15 and / or position and orientation of the projection devices 11, 12.
  • the camera device 15 photographs these calibration patterns 30 and generates a calibration image for further computational processing.
  • the camera device may e.g. have a moving camera, which is converted or several fixed cameras.
  • a panoramic or fisheye camera can also be used. Possibly.
  • a black image is taken to remove interference light.
  • Matching reference pattern The information extracted from the images of the calibration images is compared with a reference pattern 40, a kind of "template” for the desired image as immaculate as possible 5.
  • Generation correction transformation From the comparison with the reference pattern 40, a distortion rule is calculated, a correction transformation 50. This distortion rule is applied to the projector image, whereupon the overall image is corrected and the observed errors disappear. The necessary transformations do not have to be describable with normal mathematical functions.
  • the "mesh" described above is used for the distortion.
  • Matching reference pattern The entire structure (projection surface 1, projection devices 11, 12, camera devices 15) in the computing unit 15 of the system is modeled in the virtual.
  • the projection devices throw defined calibration patterns 30 and the cameras take photos.
  • the arithmetic unit recognizes the calibration pattern 30 of the projector images in the images again and thus has a plurality of support points in the projector image space with clear assignment in the camera image space.
  • Predistorted patterns are projected with the projection devices 11, 12. This means that they are already adapted to the geometry of the projection surface 1. This is necessary so that there are support points that should lie in exactly the same place on the display surface in each case in two overlapping projector images. This is not the case with undistorted patterns symmetrically arranged in the projector's image space (e.g., horizontal / vertical stripes spaced apart from each other).
  • Calibration pattern 30 with the projection devices 11, 12 projected Since it may be that the calibration patterns 30 can not be completely detected by the camera device 15, the color-coded light-section technique or the projection of median strips can be used as a reference.
  • Matching with reference pattern The previously known 3-D model of the projection surface 1 is mapped into the recordings of the calibration patterns using the previously recognized markers as a reference pattern. This is done with known methods of computer graphics (perspective transformation, translation, rotation, shear, lens distortion, ). The uv coordinates of certain points or lines in this 3-D model are known (accuracy can be specified by the user) and are used to balance reference and projection. The filtered, projected calibration patterns 30 are now compared with these reference coordinates. For each point of the calibration pattern (eg in the raster 20 ⁇ 20 pixels), an associated uv coordinate is determined via the known reference coordinates (image warping, see DE 102 51 217 A1).
  • Embodiments are illustrated in FIG. 12, where the first embodiment is labeled A, the second is B, and the third is C.
  • the invention is not limited in its execution to the above-mentioned preferred embodiments. Rather, a number of variants are conceivable which make use of the calibration method and calibration system according to the invention even in fundamentally different embodiments.
  • A, B, C, D neighbor points in the camera image space (FIG. 15)

Abstract

Die Erfindung betrifft ein Kalibrierungsverfahren und ein - Kalibrierungssystem für mindestens eine Projektionsvorrichtung (11, 12, 13) für die Projektion von Bildern auf mindestens eine Projektionsfläche (1), wobei die geometrischen Daten der mindestens einen Projektionsfläche (1) in einer Rechnereinheit (20) vorab gespeichert sind oder werden, dadurch gekennze i chnet , das s a) die mindestens eine Projektionsvorrichtung (11, 12, 13) vorbekannte Kalibriermuster (30) auf mindestens einen Teil der Projektionsfläche (1) projiziert, wobei die Kalibriermuster (30) untereinander mindestens einen Überlappungsbereich (2, 2', 2' ') aufweisen, b) die Kalibriermuster (30) von mindestens einer Kameravorrichtung (15) als Kalibrierbild aufgenommen werden und die Daten des Kalibrierbildes an die Rechnereinheit (20) übertragen werden, wobei c) mittels der Rechnereinheit (20) automatisch die Abweichung zwischen dem aufgenommenen realen Kalibrierbild und einem idealen Abbildungsergebnis des vorbekannten Kalibriermusters (30) auf der Projektionsfläche (1) als Referenzmuster (40) ermittelt wird, wobei anschließend d) aus der Abweichung zwischen realem Kalibrierbild und dem Referenzmuster (40) eine Korrekturtransformation (50) ermittelt wird, so dass die Verknüpfung der Korrekturtransformation (50) mit einer realen Projektion von Bildern durch die mindestens eine Projektionsvorrichtung (11, 12, 13) insbesondere in einem Überlappungsbereich (2, 2', 2' ' ) bis auf eine kleine, insbesondere minimale Abweichung dem Referenzmuster (40) entspricht.

Description

Beschreibung
KΛLIBRIERUNGSVBRFAHREN UND KALIBRIERUNGSSYSTEM FÜR PROJEKTIONSVORRICHTUNG
Die Erfindung betrifft ein Kalibrierungsverfahren nach dem Oberbegriff des Anspruchs 1 und ein Kalibrierungssystem nach dem Anspruch 19.
In vielen Bereichen werden heute Projektionsvorrichtungen dazu verwendet, größere und komplexe Projektionsflächen mit Bildern, Filmen oder Ähnlichem zu bestrahlen. Da die Projektionsflächen in der Regel nicht eben sind und die Gesamtbilder aus Teilbildern zusammengesetzt sind, ergibt sich das Problem, dass im Übergangsbereich zweier Teilbilder, Verzerrungen auftreten. Auch ist es z.B. bei kuppeiförmigen Projektionsflächen nicht möglich, eine Projektion mit nur einem Projektor vorzunehmen. Bei mehreren Projektoren tritt dann das Problem der Überlappung vielfach auf.
Der vorliegenden Erfindung liegt die Aufgabe zugrunde, ein
KaIibrierungsyerfahren und ein Kalibrierungssystem zu schaffen, mit dem große und / oder komplexe Projektionsflächen mit einer Projektionsvorrichtung möglichst verzerrungsfrei bestrahlt werden können.
Diese Aufgabe wird erfindungsgemäß durch ein Verfahren mit den Merkmalen des Anspruchs 1 gelöst .
Mindestens eine Projektionsvorrichtung projiziert dabei vorbekannte Kalibriermuster auf mindestens einen Teil einer Projektionsfläche, wobei die Kalibriermuster untereinander mindestens einen Überlappungsbereich aufweisen. Die Kalibriermuster werden von mindestens einer Kameravorrichtung als Kalibrierbild aufgenommen und die Daten des Kalibrierbildes werden an eine Rechnereinheit übertragen, wobei mittels der Rechnereinheit automatisch die Abweichung zwischen dem aufgenommenen realen Kalibrierbild und einem idealen Abbildüngsergebnis des vorbekannten Kalibriermusters auf der Projektionsfläche als Referenzmuster ermittelt wird. Das anhand der vorbekannten Daten ermittelte ideale Abbildungsergebnis dient somit als Referenz für die tatsächliche Projektion, die von der Kameravorrichtung aufgenommen wurde .
Anschließend wird aus der Abweichung zwischen realem Kalibrierbild und dem Referenzmuster eine Korrekturtransformation ermittelt, so dass die Verknüpfung der Korrekturtransformation mit einer realen Projektion von Bildern durch die mindestens eine Projektionsvorrichtung insbesondere in einem Überlappungsbereich bis auf eine kleine, insbesondere minimale Abweichung dem Referenzmuster entspricht. Dabei kann z.B. ein bestimmter Schwellenwert für die Abweichung vorschrieben werden, der für einen Betrachter noch eine akzeptable Verzerrung ergibt .
Vorteilhaft ist es, wenn die Korrekturtransformation eine Verschiebung mindestens eines Punktes, insbesondere eines
Stützpunktes des real aufgenommenen Kalibrierbildes auf einen Punkt des Referenzmusters aufweist. Bei dieser ersten Ausführungsform wird ein real ermittelter Punkt, z.B. der Schnittpunkt in einem Kalibriermuster auf den rechnerisch ermittelten Referenzort verschoben. Bei mehreren Punkten können die Transformationen (z.B. Verschiebungen) für jeden Punkt auch unterschiedlich ausfallen.
Auch ist es vorteilhaft, wenn die Korrekturtransformation eine Verschiebung eines Punktes derart definiert, dass der
Abstand zwischen zwei Punkten des Kalibriermusters zur Ermittlung eines Zielpunktes gemittelt wird. Eine solche Korrekturtransformation ist einfach durchzuführen. Dabei ist es aber besonders vorteilhaft, wenn für die Mittelung des Abstandes eine Gewichtung, insbesondere in Abhängigkeit vom Ort des Punktes, im projizierten Bild erfolgt. So kann ein projizierter Punkt, der näher an der Projektorbildmitte angeordnet ist, eine höhere Gewichtung erhalten als ein Punkt, der am Rande des projizierten Bildes liegt .
Bei einer weiteren vorteilhaften Ausführungsform ist in und / oder an der Projektionsfläche mindestens ein Marker zur Erfassung durch die Kameravorrichtung angeordnet sind. Mit Vorteil, ist der mindestens eine Marker als Laser oder LED ausgebildet .
Eine vorteilhafte Ausgestaltung des erfindungsgemäßen Verfahren verfügt über eine Projektionsfläche, die mindestens teilweise eine Kugelschale, eine Zylinderschale und / oder eine ebene Fläche aufweist. Solche Flächen eigenen sich für Projektionen in besonderer Weise.
Auch ist es vorteilhaft, wenn die Kameravorrichtung mindestens eine Digitalkamera, mindestens eine Videokamera, mindestens eine Fish-Eye Kamera und / oder mindestens eine Webcam aufweist. Diese Kameras sind einzeln und / oder zusammen gut geeignet, schnell ein Kalibriermuster aufzunehmen und die entsprechenden Daten zur Weiterverarbeitung an die Rechnereinheit in die Wege zu leiten.
Gerade bei größeren Projektionsflächen oder gar 360° -Flächen ist es vorteilhaft, wenn mindestens eine Kameravorrichtung zur Aufnahme eines Bildes von der Projektionsfläche um mindestens eine Achse drehbar gelagert ist . Damit kann ein entsprechend projiziertes Kalibriermuster effizient aufgenommen werden .
Vorteilhaft ist, wenn mindestens eine Projektionsvorrichtung mindestens einen Beamer, Laserprojektor, LCD-Projektor und / oder DLP-Projektor aufweist Vorteilhafterweise ist das mindestens eine Kalibriermuster ein Streifenmuster, bei dem einzelne Streifen parallel zueinander angeordnet sind.
Auch können die Streifen vorteilhafterweise gekrümmt
(vorverzerrt) , einfarbig, mehrfarbig und oder farbcodiert ausgebildet sein. Eine weitere vorteilhafte Ausführungsform verwendet Punktmuster, wobei in einem Kalibriermuster auch mehrere verschiedene Musterarten (z.B. Punkt- und Streifenmuster) verwendet werden können.
Zur Unterdrückung von störenden Lichteinflüssen ist es vorteilhaft, wenn vor der Auswertung einer Aufnahme mindestens eines Kalibriermusters die Kameravorrichtung ein Schwarzbild aufnimmt. Ein Schwarzbild ist Foto einer schwarzen Projektion durch die Projektorvorrichtung. Dieses Schwarzbild enthält u.a. Blendlichter, die dann bei einer nachfolgenden Bearbeitung herausgerechnet werden können.
Bei einer weiteren vorteilhaften Ausgestaltung des erfindungsgemäßen Kalibrierungsverfahrens wird im Überlappungsbereich ein Blending zur Anpassung der Helligkeitswerte vorgenommen.
Die Korrekturtransformation ermittelt die notwendigen
Veränderungen in den Projektionen. Zusätzlich oder auch alternativ kann die Veränderung der Projektion nicht nur rechnerisch geschehen, sondern es kann auch mindestens eine räumliche Orientierung mindestens einer Projektionsvorrichtung automatisch in Abhängigkeit von der Korrekturtransformation verändert werden.
Ferner können vorteilhafterweise Parameter der Kameravorrichtung automatisch ermittelt werden, indem eine Aufnahme eines vorbekannten Musters, insbesondere eines
Markermusters auf der Projektionsfläche aufgenommen wird, so dass die Rechnereinheit daraus die Parameter berechnen kann. Die Aufgabe wird auch durch ein Kalibrierungssystem nach Anspruch 19 gelöst.
Mindestens eine Projektionsvorrichtung dient zur Projektion vorbekannter Kalibriermuster auf mindestens einen Teil der Projektionsfläche. Die Kalibriermuster können, müssen sich aber nicht überlappen.
Mindestens eine Kameravorrichtung dient der Aufnahme der Kalibriermuster als Kalibrierbild, wobei die Daten des Kalibrierbildes an die Rechnereinheit übertragbar sind und die Rechnereinheit zur automatischen Ermittlung der Abweichung zwischen dem aufgenommenen realen Kalibrierbild und einem idealen Abbildungsergebnis (Referenzmuster) des vorbekannten Kalibriermusters auf der Projektionsfläche eingesetzt wird.
Ein Korrekturmittel dient zur Ermittlung einer Korrekturtransformation aus der Abweichung zwischen realem
Kalibrierbild und dem Referenzmuster, so dass die Verknüpfung der Korrekturtransformation mit einer realen Projektion von Bildern durch die mindestens eine Projektionsvorrichtung insbesondere in einem Überlappungsbereich bis auf eine kleine, insbesondere minimale Abweichung dem Referenzmuster entspricht .
Die Erfindung wird nachfolgend unter Bezugnahme auf die Figuren der Zeichnungen an mehreren Ausführungsbeispielen näher erläutert. Es zeigen:
Fig. 1 eine schematische Darstellung einer Ausführungsform des erfindungsgemäßen Kalibrierungssystems mit zwei Projektionsvorrichtungen;
Fig. 2 eine schematische Darstellung einer Ausführungsform des erfindungsgemäßen Kalibrierungsverfahrens; Fig. 3 eine schematische Darstellung der Ermittlung einer
Korrekturtransformation gemäß einer ersten
Ausführungsform;
Fig. 4 eine schematische Darstellung der Ermittlung einer
Korrekturtransformation gemäß einer zweiten
Ausführungsform;
Fig. 5 eine Aufnahme eines Aufbaus mit drei Proj ektionsvorrichtungen;
Fig. 6 eine Aufnahme einer Projektion aus drei Teilbildern vor der Ausführung des Kalibrierungsverfahrens;
Fig. 7 eine Aufnahme einer Projektion aus drei Teilbildern nach der Ausführung des Kalibrierungsverfahrens;
Fig. 8 eine Aufnahme der Projektion nach Fig. 7 mit einer Helligkeitskorrektur (Blending) im
Überlappungsbereich;
Fig. 9 eine Aufnahme einer Projektion in eine Kugelschale vor der Ausführung des Kalibrierungsverfahrens;
Fig. 10 eine Aufnahme der Projektion nach Fig. 9 nach der Ausführung des Kalibrierungsverfahrens;
Fig. 11 eine Aufnahme einer Projektion in eine Kugelschale unter Verwendung von Markern für die Verwendung in einer Ausführungsform des erfindungsgemäßen Kalibrierungsverfahrens ;
Fig. 12 ein Flussdiagramm zum Vergleich dreier Ausführungsformen; Fig. 13 eine schematische Darstellung des realen
Strahlengangs bei der ersten Ausführungsform,-
Fig. 14 eine schematische Darstellung des virtuellen Strahlengangs bei der ersten Ausführungsform;
Fig. 15 eine schematische Darstellung der Abbildungen eines Punktes im Kamerabildraum;
Fig. 16 eine schematische Darstellung der Abbildung eines Punktes im Projektorbildraum.
In Fig. 1 wird aus Gründen der Einfachheit eine
Ausführungsform des erfindungsgemäßen Kalibrierungssystems und des erfindungsgemäßen Kalibrierungsverfahrens beschrieben, bei der zwei Projektionsvorrichtungen 11, 12 für die Projektion von Bildern auf eine Projektionsfläche 1 verwendet werden. Grundsätzlich ist es aber möglich, mehr als zwei Projektionsvorrichtungen 11, 12 zu verwenden.
Projektionen mit mehreren Projektionsvorrichtungen 11, 12 werden überall da eingesetzt, wenn auf komplexe und / oder große Projektionsflächen 1 Bilder projiziert werden sollen.
Unter Bildern werden hier Standbilder (z.B.
Panoramaansichten, Dias etc.), bewegte Bilder (z.B. Videobilder) oder auch 3D-Sequenzen verstanden. Der Begriff Bilder umfasst auch Kombinationen dieser Bildtypen.
In Fig. 1 ist eine Grundsituation für ein solches System dargestellt, wobei die Projektionsfläche 1 für die Bilder hier komplex aus unterschiedlich gekrümmten Segmenten geformt ist. Grundsätzlich können Geometrien, wie z.B. Ebene, Kugelschalen, Teile von Kugelschalen, Zylinder, Zylinderschalen oder andere konkave und / oder konvexe
Geometrien für die Projektionsfläche 1 gewählt werden. Es ist ferner auch möglich, dass die Projektionsfläche 1 nicht aus einem Stück, besteht, so dass die Projektionsvorrichtungen 11, 12 Bilder auf mehrere, im Raum verteilte Projektionsflächen 1 proj izieren.
Grundsätzlich ist für eine Projektionsfläche 1 jede Geometrie verwendbar, deren Daten sich durch Parameter, Tabellen und / oder funktionale Zusammenhänge beschreiben lässt. Diese geometrischen Daten der Projektionsfläche 1 müssen vorab bekannt sein, da mittels dieser Daten im Rahmen der Erfindung ein theoretisch, ideales Abbi1düngsverhalten (d.h. ein
Referenzmuster) ermittelt wird, das als Referenz für eine reale Abbildung dient.
Auf die Projektionsfläche 1 können Bilder projiziert werden, wobei diese Bilder aus Teilbildern 21, 22 der
Projektionsvorrichtungen 11, 12 zusammengesetzt sind. Die Teilbilder 21, 22 überlappen sich in einem Überlappungsbereich 2, um in der Summe ein Gesamtbild zu ergeben. Bei mehr als zwei Teilbildern 21, 22 ergeben sich auch mehrere Überlappungsbereiche 2.
Die Teilbilder 21, 22 müssen im Überlappungsbereich 2 möglichst perfekt aufeinander liegen, damit man keine "Nähte" zwischen den Teilbildern 21, 22 sehen kann und ein möglichst gutes Gesamtbild entsteht.
Ein realer Aufbau ist in der Abbildung der Fig. 5 dargestellt. Dabei werden drei Projektionsvorrichtungen 11, 12, 13 verwendet, die auf eine zylinderschalenförmige Projektionsfläche 1 Bilder werfen. Bei den hier vorliegenden geometrischen Verhältnissen liegen zwei Überlappungsbereiche 2', 2'' zwischen den projizierten Bildern vor. Die Projektionsvorrichtungen 11, 12, 13 sind mit einer Recheneinheit 20 gekoppelt. Die Kameravorrichtung 15 ist selbst nicht sichtbar, da die Aufnahme der Fig. 5 aus der Perspektive der Kameravorrichtung 15 erfolgt. In Fig. 6 ist der nicht kalibrierte Fall dargestellt, bei dem die drei Teilbilder analog Fig. 5 in den
Überlappungsbereichen 2', 2'' noch nicht angepasst sind. Dies ist z.B. an den doppelten Linien auf dem Boden der Darstellung in Fig. 6 zu erkennen.
Das hier beschriebene Kalibrierungsverfahren und Kalibrierungssystem erkennt mit mindestens einer Kameravorrichtungen 15 mittels spezieller Kalibriermuster 30 (siehe auch Fig. 3 und 4) die Abweichungen (z.B. Fehler in der Ausrichtung) der Teilbilder 21, 22 im Überlappbereich 2 und korrigiert für eine spätere Projektion die Projektorbilder dahingehend, dass die Teilbilder 21, 22 im Überlappbereich 2 möglichst perfekt aufeinander liegen und somit ein nahtloses Gesamtbild gewährleistet ist
(automatische Feinkalibrierung / Autokalibrierung) .
Die mindestens eine Kameravorrichtung 15 kann mindestens eine digitale Fotokamera, mindestens eine Videokamera, mindestens eine Kamera mit Fischaugenlinse und / oder eine Webcam aufweisen, wobei auch Kombinationen dieser Elemente verwendbar sind.
Es können beliebige Arten von Projektionsvorrichtungen 11, 12 verwendet werden. Wenn die Projektoreigenschaften bekannt sind, sowohl die äußeren (Position, Orientierung) als auch die inneren (Öffnungswinkel, Seitenverhältnis), können diese bei einer Geometrieentzerrung rechnerisch berücksichtigt werden.
Wenn die geometrischen Daten der Projektionsfläche 1 und ggf. der Projektionsvorrichtungen 11, 12 bekannt sind, kann die notwendige Geometrieentzerrung berechnet werden, das heißt, die Projektorbilder werden zumindest so transformiert, dass sich auf der Projektionsfläche 1 ein korrektes Gesamtbild aus den Teilbildern 21, 22 ergibt. Durch Softedge-Blending werden die Nähte im Überlappungsbereich 2 möglichst unsichtbar gemacht, das heißt, dass im Verlauf der Überlappungsbereiche 2 jeweils eine Projektionsvorrichtung 11 sanft dunkler wird (fade-out) , die nächste Projektionsvorrichtung 12 in gleichem Maße sanft heller wird (fade-in) , so dass in jedem Bildpunkt der Überlappungsbereiche 2 in der Summe der Projektionsvorrichtungen 11, 12 die gleiche Helligkeit erreicht wird wie in den Bereichen, die nur von einer einzelnen Projektionsvorrichtung 11, 12 bestrahlt werden.
Die Bereiche, in denen geblended werden soll, können vom Benutzer eingegeben werden (auf einer Kugel mit Höhen- und Breitengraden z.B. als "Blending zwischen Projektor 1 und Projektor 2 von Breitengrad 5 bis 10") oder der gesamte Überlappungsbereich 2 von jeweils zwei
Projektionsvorrichtungen 11, 12 wird automatisch bestimmt und als Blendbereich verwendet.
Im ersteren Fall (Eingabe durch Benutzer) kann der Benutzer auch komplizierte Blendverläufe über Stützpunktdefinitionen angeben, durch die dann z.B. Splines gelegt werden.
Die Funktion einer Kameravorrichtung 15 in Zusammenarbeit mit einer Recheneinheit 20 wird im Zusammenhang mit der Beschreibung der Fig. 2 beschrieben.
In Fig. 2 ist schematisch eine Ausführungsform des erfindungsgemäßen Kalibrierungsverfahrens dargestellt, mit dem die im Zusammenhang mit Fig. 1 beschriebene, möglichst nahtlose Überlappung zwischen Teilbildern 21, 22 hergestellt werden soll.
Bei der automatischen Feinkalibrierung werfen die Projektionsvorrichtungen 11, 12 nacheinander und / oder gleichzeitig bestimmte vorbekannte Streifenbilder als Kalibriermuster 30 auf die Projektionsfläche 1, die von mindestens einer Kameravorrichtung 15 (siehe Fig. 1) aufgenommen werden. Wenn z.B. die Projektionsvorrichtungen 11, 12 die Kalibriermuster 30 nacheinander projizieren, dann wird zu jedem Kalibriermuster 30 ein Bild aufgenommen, wobei z.B. in der Rechnereinheit 20 diese Bilder zu einem virtuelles Gesamtbild vereinigt werden. Das so aufgenommene Bild wird als Kalibrierbild bezeichnet.
Das Kalibrierbild zeigt die realen Verzerrungen des Kalibriermusters 30 im Überlappungsbereich 2. Die Daten des Kalibrierbildes werden an die Rechnereinheit 20 übertragen. Die Rechnreinheit 20 kann z.B. ein Prozessor, ein PC, ein Cluster von PCs oder eine Workstation aufweisen. Die Rechnereinheit 20 kann z.B. in einer der anderen Vorrichtungen angeordnet sein (Projektionsvorrichtung, Kameravorrichtung, Projektionsfläche) und / oder die Rechnereinheit 20 ist als separates System ausgebildet.
Durch die Rechnereinheit 20 wird automatisch die Abweichung zwischen dem aufgenommenen realen Kalibrierbild und einem idealen Abbildüngsergebnis des vorbekannten Kalibriermusters 30 auf der Projektionsfläche 1 ermittelt. Da sowohl das Kalibriermuster 30 als auch die Geometrie der Projektionsfläche 1 bekannt ist, kann berechnet werden, wie im Idealfall das Bild im Überlappungsbereich 2 aussehen muss. Dieser Idealfall wird als Referenzmuster verwendet, dem das reale Abbildungsergebnis (d.h. das Kalibrierbild) angenähert werden soll.
Aus der Abweichung zwischen dem realen Kalibrierbild und dem
Figure imgf000013_0001
automatisch eine Korrekturtransformation 50 ermittelt, so dass die Verknüpfung der Korrekturtransformation 50 mit einer realen Projektion von Bildern durch die mindestens zwei Projektionsvorrichtungen 11, 12 im Überlappungsbereich 2 bis auf eine kleine, insbesondere minimale Abweichung, dem idealen Abbildungsergebnis entspricht. Ausgehend von den Projektionen gemäß Fig. 6 ist das Ergebnis der Kalibrierung mit einer Ausführungsform des Verfahrens in Fig. 7 dargestellt. Ein Vergleich zeigt, dass die Linien am Boden im Überlappungsbereich 2', 2'' der Darstellung aufeinander liegen, so dass keine Doppellinien mehr sichtbar sind. Allerdings sind die Überlappungsbereiche 2', 2'' deutlich heller als der Rest der Darstellung. Durch das oben beschriebene Blending kann das Ergebnis gemäß Fig. 8 hergestellt werden, ein gleichmäßig ausgeleuchtetes Gesamtbild.
Zu diesem grundsätzlichen Ablauf werden im Folgenden drei Ausführungsformen beschrieben.
Bei der ersten Ausführungsform müssen die äußeren (z.B. die Position) und inneren Parameter (z.B. die Linsengeometrie) der Kameravorrichtung 15 möglichst genau bekannt sein. Bei der zweiten Ausführungsform ist dies nicht erforderlich.
Für beide Ausführungsformen ist es vorteilhaft, wenn die, Parameter des Aufbaus (Geometrie und Projektionsvorrichtungen 11, 12) bekannt sind und auch ungefähr so wie geplant aufgestellt worden sind. Die Teilbilder 21, 22 passen in diesem Fall bereits einigermaßen, zusammen. Nur die Fehler, die jetzt noch nicht ausgeglichen sind, sollen durch die automatische Feinkalibrierung entfernt werden.
Bei der dritten Ausführungsform sind weder die Parameter der Kameravorrichtung 15 bekannt, noch sind die Projektionsvorrichtungen 11, 12 vorjustiert.
Wie erwähnt, müssen bei der ersten Ausführungsform zusätzlich die Parameter der Kameravorrichtung 15 bekannt sein, und zwar möglichst exakt. Diese Bestimmung der Parameter, auch Kamerakalibrierung genannt, kann mit einer Ausführungsform des erfindungsgemäßen Kalibrierungsverfahrens durchgeführt werden.
Hierbei werden an bestimmten Stellen auf der Projektionsfläche 1 Marker befestigt (z.B. farbige
Papierkreise, LED-Leuchten, etc.). Die zu kalibrierende Kameravorrichtung 1 nimmt Bilder auf, auf der die Marker zu erkennen sind. Die Rechnereinheit 20 analysiert die Bilder und erkennt die Orte der Marker im Kamerabild. Da die 3D- Positionen der Marker bekannt sind, können nun die
Kameraparameter aus diesen Informationen berechnet werden (z.B. Position und Orientierung der Kamera) .
Im ersten Ausführungsbeispiel wird der gesamte Aufbau (Projektionsfläche 1, Projektionsvorrichtungen 11, 12,
Kameravorrichtungen 15) in der Recheneinheit 20 des Systems modelliert .
Im Folgenden wird anhand unterschiedlicher Ausführungsformen beschrieben, in welcher Weise Kalibriermuster 30 zur Korrektur der Verzerrung verwendet werden.
Mindestens eine Projektionsvorrichtung wirft dabei definierte Kalibriermuster 30 auf die Projektionsfläche 1, die von der Kameravorrichtung 15 aufgenommen werden
(Kalibrierbild im Kamerabildraum) . Das System erkennt die Muster der Projektorbilder in den Fotos wieder und hat dadurch eine Menge von Stützstellen im Projektorbildraum mit eindeutiger Zuordnung im Kamerabildraum. Die Zuordnung erfolgt mittels einer an sich bekannten Farbcodierung der
Streifen. Eine solche Farbcodierung ist z.B. dem Artikel „The Hiscore Camera - A real time three dimensional and color camera" von Forster et al . in Proceedings 2001 International Conferences Image Processing, Pages 598-601 Vol. 2.
In Fig. 3 ist in vereinfachter Weise ein Kalibriermuster 30 dargestellt. Dabei wirft eine hier nicht dargestellte erste Projektionsvorrichtung 11 ein erstes Kalibriermuster 31 (gestrichelte Linien) mit horizontalen Streifen 31a und vertikalen Streifen 31b. Hier ist jeweils nur ein Streifen 31a, 31b dargestellt. Es entsteht ein erster Schnittpunkt 35.
Eine hier ebenfalls nicht dargestellte zweite Projektionsvorrichtung 12 wirft ein zweites Kalibriermuster 32 (strichpunktierte Linien) mit horizontalen Streifen 32a und vertikalen Streifen 32b. Auch hier ist jeweils nur ein Streifen 32a, 32b dargestellt. Es entsteht ein zweiter Schnittpunkt 36.
Ferner existiert ein Referenzmuster 40 (durchgezogene Linien) , mit horizontalen Streifen 41a und vertikalen Streifen 41b. Es entsteht ein dritter Schnittpunkt 42. Das
Referenzmuster 40 wird in dieser ersten Ausführungsform durch die Kameravorrichtung 15 definiert, da vorausgesetzt wird, dass die Kameraposition genau bekannt ist. Die Kämeravorrichtung definiert, wo die Linien der Projektionsvorrichtungen 11, 12 auf der Projektionsfläche 1 liegen sollen.
In Fig. 3 ist anhand der Abstände der Schnittpunkte 35, 36 der Kalibriermuster 30 vom dritten Schnittpunkt 42 erkennbar, dass die erste Projektionsvorrichtung 11 zu weit rechts und zu weit oben, die zweite Projektionsvorrichtung 12 zu weit rechts und zu weit nach unten eingestellt ist.
Es ist das Ziel, dass die Schnittpunkte 35, 36 der projizierten Linien auf denselben Zielpunkt gezogen werden, der durch das kamerabestimmte Referenzmuster 40 bestimmt wird. Der Zielpunkt ist gemäß Fig. 3 der dritte Schnittpunkt 42.
Dieses Ziel wird in der ersten Ausführungsform wie folgt erreicht, wobei auf die Fig. 13 Bezug genommen wird. In Figur 13 ist eine Projektionsfläche 1 dargestellt, die von der ersten Projektionsvorrichtung 11 bestrahlt wird. Die Kameravorrichtung 15 betrachtet unter anderem einen Teil der von der ersten Projektionsvorrichtung 11 bestrahlten Projektionsfläche 1. Die erste Projektionsvorrichtung 11 spannt mit ihrem projizierten Bild ein Projektionsfrustum (eine Art Projektions- "Kegel ") 63 auf (gestrichelte Linie) . Das von der ersten Projektionsvorrichtung 11 zu projizierende Bild befindet sich in der zugeordneten Projektorbildebene 65.
Auch die Kameravorrichtung 15 spannt eine Art Sichtkegel 64 auf (durchgezogene Linie) . Das von ihr fotografierte Bild liegt in der zugeordneten Kamerabildebene 66.
Bei der ersten Ausführungsform wird der in Fig. 13 dargestellte reale Aufbau und Strahlengang (dessen Parameter alle möglichst genau bekannt sind) in einem virtuellen Modell nachgebaut. Deswegen wird im Folgenden beschreiben, welche Schritte im realen Aufbau (siehe Fig. 13) durchgeführt werden, und welche Schritte im virtuellen Modell (siehe Fig. 14) simuliert werden.
Die erste Projektionsvorrichtung 11 wirft ein Kalibriermuster 30 mit einer großen Menge an Stützstellen (d.h. Schnittpunkten zwischen horizontalen und vertikalen Streifen (z.B. 31a, 31b, 32a, 32b in Fig. 3) im Realen auf die Projektionsfläche 1.
Anhand von Fig. 13 kann der Strahlengang 61 (strichpunktierte Linie) einer solchen Stützstelle verfolgt werden. Die
Stützstelle liegt in der Projektorbildebene 65 im Punkt 71. Die Stützstelle befindet sich auf der Projektionsfläche 1 im Punkt 72. Die Kameravorrichtung 15 macht ein Bild. Auf dem Bild (in der Kamerabildebene 66) findet sich dieser Punkt an Stelle 73. Nun gehen wir in das virtuelle Modell dieses Aufbaus gemäß Fig. 14. Wenn alles im Realen perfekt aufgestellt wäre (was nicht möglich ist) , wäre das virtuelle Modell identisch mit dem realen Aufbau, d.h. die Schnittpunkte lägen genau übereinander.
Da der reale Aufbau aber nicht perfekt ist, gibt es leichte Unterschiede zwischen dem realen Aufbau und dem virtuellen Modell.
Es wird nun im Virtuellen aus der Kamera dieser Punkt 73 zurück „geschossen", d.h. rechnerisch ermittelt. Dies ist in Fig. 14 der Strahl 62 (strichpunktierte Linie) .
Wäre der reale Aufbau perfekt, so würde dieser Strahl den Punkt 72 im Realen (d.h. in Fig. 13) auf der
Projektionsfläche 1 treffen und schließlich wieder in Punkt 71 in der Projektorbildebene 65 ankommen.
Da aber der Aufbau nicht perfekt ist, wird statt Punkt 72 der
Punkt 82 auf der virtuellen Projektionsfläche 1 getroffen und findet sich schließlich in Punkt 81 statt Punkt 71 in der Projektorbildebene 65. Dies bedeutet, dass die Kameravorrichtung 15 in ihrer Bildebene 66 an der Stelle 73 eigentliche eine Stützstelle aus dem Projektorbildebenenpunkt 81 erwartet hätte und nicht aus dem Projektorbildebenenpunkt 71.
Nun werden die Stützstellen (und damit letztlich die zu projizierenden Bildinhalte) in der Projektorebene 65 so verschoben, dass das real von der Projektionsvorrichtung 11 geworfene Bild genau da auftrifft, wo die Kameravorrichtung 15 es verlangt.
Im Realen wurde Punkt 71 projiziert und es wurde ermittelt, dass der Punkt 71 in der Kamerabildebene 66 als Punkt 73 ankommt. In Punkt 73 allerdings soll aber (laut dem perfekten virtuellen Modell) den Bildpunkt 81 aus der Projektorbildebene liegen.
Die Korrekturtransformation 50 besteht nun (für diese Stützstelle) darin, dass in der Projektorbildebene 65 der Bildinhalt (die Stützstelle) von Punkt 81 auf Punkt 71 transformiert wird. Denn bei Punkt 71 im Projektorbildraum wissen wir, dass er im Realen in der Kamerabildebene 66 bei Punkt 73 ankommt. So wird also der Bildinhalt, der sich eigentlich bei Punkt 81 befand, nach Anwendung der
Korrekturtransformation 50 bei Punkt 71 projiziert und landet auf der Projektionsfläche 1 an Punkt 72, und landet schließlich in der Kameravorrichtung 15 an Punkt 73 - genau dort, wo er sein sollte.
In der Recheneinheit wird ein rechnerischer Zusammenhang als Korrekturtransformation 50 gebildet, die die Stützstellen 35,
36 des Kalibrierbildes in die Stützstellen des Referenzbildes
37 verschiebt. Der rechnerische Zusammenhang kann als Funktion, Tabelle oder Parameter ausgebildet sein. Besonders vorteilhaft ist es, wenn ein sogenanntes Mesh verwendet wird, das keine analytische Beschreibung der Transformation voraussetzt. Das Mesh ist eine Art Gitterstruktur, die auf das Projektorbild wirkt, bestehend aus einer bestimmten Anzahl von Stützpunkten. Die beschriebenen nötigen
Verschiebungen einzelner Punkte im Projektorbild werden hierbei auf die dazugehörigen Stützpunkte des Meshes angewendet, woraufhin das Projektorbild in gewünschter Weise verzerrt wird.
Durch diese Transformation kann im gesamten Überlappungsbereich 2 eine Korrektur erfolgen. Die Korrekturtransformation 50 ist z.B. in Form einer Tabelle implementiert. In Fig. 3 ist die Korrekturtransformation 50 aus Gründen der Übersichtlichkeit nur für ein Paar von
Stützstellen dargestellt. Grundsätzlich kann die Korrekturtransformation 50 aber auch auf beliebig viele Stützstellen angewandt werden.
Dieser Vorgang wird für viele verschiedene Stützstellen der Projektorbildebene durchgeführt. Diese Stützstellen spannen ein Netz auf, das die gesamte Projektorbildebene abdeckt, z.B. ein Netz aus 100 mal 100 gleichmäßig verteilten Stützstellen. Nach Verschiebung aller Stützstellen dieser Projektionsvorrichtung 11 an die korrigierten Positionen ist das gesamte Projektorbild genau an die Stelle verschoben, wo es für die Kameravorrichtung sein sollte.
Nun können noch eine zweite, dritte und ggf. noch weitere Projektionsvorrichtungen 11, 12, 13 hinzu kommen. Deren projizierte Bilder werden genauso wie das der ersten
Projektortionsvorrichtung 11 genau an die Stellen gezogen, wo diese auf Grund der von der Kameravorrichtung (laut dem perfekten virtuellen Modell) ermittelten Information liegen sollten. Da im virtuellen Modell die Bildinhalte zweier Projektoren exakt aufeinander liegen, liegen sie nach der Kalibrierung nun auch im Realen aufeinander.
Nicht in den Fotos erkannte Stützstellen des Projektorbildraums werden interpoliert bzw. extrapoliert.
Bei der zweiten Ausführungsform werden die Parameter der Kameravorrichtung 15 nicht verwendet, d.h. sie müssen vorab auch nicht bekannt sein. Es ist dann aber vorteilhaft, wenn die Projektionsvorrichtungen 11, 12 allerdings manuell gut justiert sind. Die Wirkungsweise der zweiten Ausführungsform wird anhand der Fig. 4 erläutert, wobei hier grundsätzlich die gleichen Kalibriermuster 30 verwendet werden, wie bei der ersten Ausführungsform (Fig. 3) . Daher kann auf die entsprechende Beschreibung der ersten Ausführungsform Bezug genommen werden. Allerdings werden die Kalibriermuster der zweiten Ausführungsform vorverzerrt, so dass sie an die Form der Projektionsfläche 1 angepasst sind (z.B. ein Kugelkoordinatensystem für eine kugelförmige Projektionsfläche) .
In der zweiten Ausführungsform sind die Parameter der Kameravorrichtung 15 unbekannt, das heißt, hier gibt es keine Kameravorrichtung, die eine Referenz für die Projektionsvorrichtung 11, 12 geben kann.
Stattdessen müssen die Projektionsvorrichtungen 11, 12 per Hand möglichst gut vorjustiert werden. Mittels der zweiten - Ausführungsform des erfindungsgemäßen Verfahrens sollen die letzten verbleibenden Unterschiede reduziert oder korrigiert werden, indem sie bei "Nicht-Aufeinanderliegen" der Bildinhalte zweier Projektionsvorrichtungen 11, 12 im Überlappungsbereich 2 eine Art Kompromiss bildet und die überlappenden Projektorbildinhalte zur Deckung bringen. Dies ist beispielhaft in Fig. 4 dargestellt, wobei analog zur Fig. 3 nur ausgewählte Teile eines Kalibriermusters dargestellt sind.
Dabei wirft eine hier nicht dargestellte erste Projektionsvorrichtung 11 ein erstes Kalibriermuster 31 (gestrichelte Linien) mit horizontalen Streifen 31a und vertikalen Streifen 31b. Hier ist jeweils nur ein Streifen 31a, 31b dargestellt. Es entsteht ein erster Schnittpunkt 35.
Eine hier ebenfalls nicht dargestellte zweite Projektionsvorrichtung 12 wirft ein zweites Kalibriermuster 32 (strichpunktierte Linien) mit horizontalen Streifen 32a und vertikalen Streifen 32b. Auch hier ist jeweils nur ein Streifen 32a, 32b dargestellt. Es entsteht ein zweiter Schnittpunkt 36.
Der erste Schnittpunkt 35 der ersten Projektionsvorrichtung 11 und der zweite Schnittpunkt 36 der zweiten
Projektionsvorrichtung 12 sollten eigentlich aufeinander liegen. Es wird nun ein Zielpunkt 42 als Kompromiss definiert, nämlich als Mittelwert zwischen diesen beiden Schnittpunkten 35, 36.
Damit die Stützstellen im Projektorbildraum auch tatsächlich diese Mittelwerte erreichen, muss aus den Punktverschiebungen im Kamerabildraum auf die Punktverschiebungen im Projektorbildraum geschlossen werden. Dies ist möglich über die Nachbar-Stützstellen der jeweiligen Stützstelle im Projektorbildraum, für die ja auch die zugehörigen Punkte im Kamerabildraum zur Verfügung stehen.
Der erste Schnittpunkt 35 und der zweite Schnittpunkt 36 sollen auf den Zielpunkt 42 verschoben werden.
All diese Punkte befinden sich in der Kamerabildebene (siehe Fig. 15 für eine Darstellung des Kamerabildraumes) . In Fig. 16 ist der dazugehörige Projektorbildraum dargestellt.
Für den ersten Schnittpunkt 35 der Kamerabildebene (siehe Fig. 15) ist der ursprünglichen Punkt 135 in der
Projektorbildebene des ersten Projektionsvorrichtung 11 (siehe auch Figur 16) bekannt.
Auch für den zweiten Schnittpunkt 36 der Kamerabildebene ist der ursprüngliche Punkt in der Projektorbildebene der zweiten
Projektionsvorrichtung 12 bekannt.
Zunächst nicht bekannt ist der zum Zielpunkt 42 gehörige, im Kamerabildraum liegende ursprüngliche Punkt im Projektorbildraum (Punkt 142 für die erste
Projektionsvorrichtung 11) .
Diesen gilt es für jede Projektionsvorrichtung 11, 12 und für jede Stützstelle zu ermitteln. Wir betrachten im Folgenden die Berechnung für die erste Projektionsvorrichtung 11. Die Berechnung für die zweite Projektionsvorrichtung 12 erfolgt analog . Die Figur 15 zeigt den Kamerabildraum. Dargestellt ist ein Kalibiermuster 30 der ersten Projektionsvorrichtung 11 mit horizontalen und vertikalen Streifen 31, der ersten Stützstelle 35 und dem Zielpunkt 42 für die erste Stützstelle 35. Des Weiteren sind die Nachbarpunkte A, B, C, D der ersten Stützstelle 35 eingezeichnet.
Die Fig. 16 zeigt dasselbe Bild wie in Fig. 15, allerdings im Projektorbildraum der ersten Projektionsvorrichtung 11.
Dargestellt sind die horizontale und vertikale Streifen, die Stützstelle 135 und der Zielpunkt 142 für die Stützstelle 135. Des Weiteren sind die Nachbarn A', B', C, D' der Stützstelle 135 eingezeichnet.
Da das Projektorbild im Allgemeinen schief auf gekrümmte Projektionsfläche 1 geworfen wird und aus einem unbekannten Winkel aufgenommen wird, unterscheidet sich im Allgemeinen das Bild im Kamerabildraum (Nach der Projektion, Figur 15) deutlich von dem selbem Bild (vor der Projektion, Figur 16) : Es ist verdreht, verschoben, gekrümmt, verzerrt, etc..
Nun gilt es, die Position von 142 (im Projektorbildraum) zu bestimmen. Diese wird benötigt, damit man nach der Projektion an dieser Stelle den (Ziel-) Punkt 42 im
Kamerabildraum trifft. Denn wenn die Korrekturtransformation im Projektorbildraum die Stützstelle 135 genau an die Stelle 142 verschiebt, so wird anschließend im Kamerabildraum diese Stützstelle auf der 42 zu liegen kommen. Dies ist genau das Ziel.
Im Folgenden wird die Bestimmung der Pixelkoordinaten von Punkt 142 beschrieben.
Die Positionen der Stützstellen im Projektorbildraum 135, A' , B', C, D' sind bekannt, da diese in den Kalibriermustern 30 selbst festgelegt sind. Auch Schnittpunkte 35, A, B, C, D im Katnerabildraum sind bekannt, da diese Stützstellen im Foto wieder erkannt wurden (z.B. durch die farbkodierte Lichtschnitttechnik) . Der Zielpunkt 42 im Kamerabildraum ist bekannt, da er als
Mittelwert der Punkte mehrerer Projektoren berechnet wurde. Dieser berechnete Zielpunkt 42 dient als Referenzwert. Wird die Berechnung für viele Schnittpunkte durchgeführt, erhält man ein Referenzmuster.
Nun wird der Zielpunkt 142 im Projektorbildraum berechnet mit Hilfe der Nachbarstützstellen.
Im Beispiel der Fig. 15 ist dargestellt, dass man von Punkt 35 ausgehend zum Punkt 42 gelangen kann, wenn wir 70% des
Weges in Richtung des Punktes A gehen (das ist der Pfeil 96) und dann 50% des Weges von Punkt 35 zu Punkt B gehen (das ist der Pfeil 97, bzw. die gestrichelte parallel verschobene Kopie des Pfeils 97) .
Diese Berechnung des Zielpunktes 42 aus der Stützstelle 35 und seinen zwei Nachbarn A, B wird im Kamerabildraum in den Projektorbildraum transformiert, um den Zielpunkt 142 zu berechnen.
Auch geht man von der Stützstelle 135 aus, geht dann (in gleichem Maße wie im Kamerabildraum) ein Stück in Richtung Punkt A' (nämlich 70% des Weges in diesem Beispiel, Pfeil 196) und legt dann (in gleichem Maße wie im Kamerabildraum) ein Stück des Weges von Punkt 135 zu Punkt B' zurück (nämlich 50% des Weges in diesem Beispiel, Pfeil 197) . Damit gelangt man zu den Koordinaten des Zielpunktes 142. Damit kann dann die Stützstelle 135 in den Zielpunkt 142 verschoben werden, woraufhin - wie gewünscht - der Bildinhalt, der sich im Projektorbild an Stützstelle 135 befunden hatte, im
Kamerabildraum an Stelle 42 erscheinen wird und nicht mehr an Stelle 35. Die Korrekturtransformation 50 setzt sich hier aus den durch die Pfeile symbolisierten Verschiebungen zusammen.
Diese Berechnung wird, wie bei Variante A, für ein Gitternetz aus Stützpunkten, das das Projektorbild abdeckt, ausgeführt. Anschließend liegt das gesamte Bild dieses Projektors im Kamerabildraum mit seinen Stützpunkten auf den "Kompromiss" - Stützpunkt -Positionen. Da diese Kalibrierung für jeden Projektor durchgeführt wird, liegen die Projektoren anschließend im Überlappbereich aufeinander.
Der "Mittelwert" muss vorteilhafterweise allerdings gewichtet werden, damit keine Sprünge / Knicke in den Projektorbildern entstehen. Eine sinnvolle Gewichtung wäre z.B.: in der Nähe der Projektorbildmitte hohes Gewicht. In der Nähe des Projektorrandes: niedriges Gewicht.
Die zweite Ausführungsform wird auch im Zusammenhang mit den Fig. 9 und 10 beschrieben. Dabei ist die Projektionsfläche 1 eine Kugelschale, in die von oben mittels mehrerer, hier nicht dargestellter Projektionsvorrichtungen mehrere Teilbilder 21, 22, 23 projiziert werden. Auf Grund der doppelten Linien in Fig. 9 ist ersichtlich, dass hier in den Überlappungsbereichen 2 keine gute Abstimmung vorliegt. Nachdem das Verfahren gemäß der zweiten Ausführungsform durchgeführt wurde, wird das Ergebnis gemäß Fig. 10 erreicht. Die Teilbilder 21, 22, 23 liegen nun im Wesentlichen korrekt aufeinander.
Bei der dritten Ausführungsform sind weder die Parameter der Kameravorrichtung 15 bekannt, noch sind die Projektionsvorrichtungen 11, 12 vorjustiert.
Von der Projektionsfläche 1 (z.B. eine Kuppel wie in Fig. 5) ist ein virtuelles 3 -D-Modell bekannt, das in der Recheneinheit 20 gespeichert ist. Ein konkretes Ausführungsbeispiel ist in Fig. 11 dargestellt, wobei die Projektionsfläche 1 eine Kugelschale ist, in die mehrere Teilbilder 21, 22, 23 projiziert werden.
An der Projektionsfläche 1 sind mehrere Marker 70 (LEDs,
Laserpointer) an wohldefinierten Punkten angebracht; zwei am Rand, einer im Zenit.
Da die Kameravorrichtung 15 nicht die gesamte Kuppel 1 mit den Markern aus einer Ansicht aufnehmen kann, wird die
Kalibrierung segmentweise durchgeführt. Nehmen wir an, die Kuppelprojektion besteht aus sechs Projektionsvorrichtungen 11, 12 (fünf für das Panorama und einer für den Zenit) . Die Marker 70 wären in diesem Fall beispielsweise im Zenit und am Rand alle 72° angeordnet. Bei der Aufnahme durch die
Kameravorrichtung 15 muss darauf geachtet werden, dass jeweils zwei Randmarker 70 und der Zenitmarker 70 im Bild der Kamera sind, damit eine Zuordnung möglich ist. Im Fall der Kuppel spannen die Marker 70 ein sphärisches Dreieck auf.
Damit kann ein 72° -Segment des 3-D-Modells der Kuppel über geometrische Transformation (perspektivische Transformation, Rotation, Translation, Scherung, Linsenverzerrung,...) in die Fotos der echten Kuppel gemappt werden. In diesem virtuellen Segment sind Referenzlinien enthalten (beispielsweise alle 5°) .
Anschließend werden für jede Projektionsvorrichtung 11, 12 des aktuell betrachteten Segments Kalibriermuster 30 projiziert, welche mit diesen Referenzlinien verglichen werden, so dass für jeden Teilprojektor 11, 12 die Pixelverschiebung bestimmt werden kann. Werden alle Teilprojektoren per Imagewarping auf diese Referenzmuster abgeglichen, ist ein Teilsegment kalibriert. Diese Kalibrierung erfolgt analog für die restlichen Teilsegmente. Da diese Teilsegmente dasselbe 3 -D-Referenzmodell zur Basis haben, passen die unabhängig voneinander kalibrierten Segmente nahtlos aneinander.
Es empfiehlt sich, dass der Überblendbereich der Projektoren in etwa mittig eines Teilsegmentes ist, so dass die Segmente nicht im Überblendbereich aneinander stoßen, da dies ein Blending zwischen den Projektoren erschweren würde. Die Verzerrung und die Helligkeitskorrektur (Blending) erfolgt analog des in der DE 102 51 217 beschriebenen Verfahrens zur Multiprojektorkalibrierung .
Im Folgenden werden nochmals die Gemeinsamkeiten aller drei Ausführungsformen beschrieben.
1. Aufstellung: In jeder Ausführungsform geht mindestens ein Teil der Informationen über die Aufstellung der Hardware mit ein: Größe und Form der Projektionsfläche 1, Position und Ausrichtung der Kameravorrichtung 15 und/oder Position und Ausrichtung der Projektionsvorrichtungen 11, 12.
2. Kalibriermuster: Die Projektionsvorrichtungen 11, 12 werfen Kalibrierungsmuster 30 auf die Projektionsfläche 1.
3. Aufnahme Kalibrierbild: Die Kameravorrichtung 15 fotografiert diese Kalibrierungsmuster 30 und Generierung eines Kalibrierbildes zur rechnerischen Weiterverarbeitung. Die Kameravorrichtung kann z.B. eine bewegliche Kamera aufweisen, die umgestellt wird oder mehrere feste Kameras. Auch eine Panoramakamera oder Fisheye-Kamera kann verwendet werden. Ggf. wird zur Entfernung von Störungslicht ein Schwarzbild aufgenommen.
4. Abgleich Referenzmuster: Die aus den Aufnahmen der Kalibrierbilder extrahierten Informationen werden abgeglichen mit einem Referenzmuster 40, einer Art "Vorlage" für das gewünschte, möglichst makellose Bild 5. Erzeugung Korrekturtransformation: Aus dem Abgleich mit dem Referenzmuster 40 wird eine Verzerrungsvorschrift berechnet, eine Korrekturtransformation 50. Diese Verzerrungsvorschrift wird auf das Projektorbild angewendet, woraufhin das Gesamtbild korrigiert wird und die beobachteten Fehler verschwinden. Die hierbei nötigen Transformationen müssen nicht mit normalen mathematischen Funktionen beschreibbar sein. Vorteilhafterweise wird das oben beschriebene "Mesh" für die Verzerrung verwendet.
Im Folgenden werden die jeweiligen Unterschiede der drei Ausführungsbeispiele zum allgemeinen Vorgehen erläutert, wobei auf die fünf zuvor genannten Kategorien Bezug genommen wird.
Erste Ausführungsform
1. Aufstellung
• Geometrie der Darstellungsfläche muss bekannt sein
• Geometrie der Projektoren muss bekannt sein
• Geometrie der Kamera muss bekannt sein
2. Kalibriermuster
• Es werden "normale", unverzerrte Muster mit den Projektoren projiziert
4. Abgleich Referenzmuster: Es wird der gesamte Aufbau (Projektionsfläche 1, Projektionsvorrichtungen 11, 12, Kameravorrichtungen 15) in der Recheneinheit 15 des Systems im Virtuellen nachmodelliert. Die Projektionsvorrichtungen werfen definierte Kalibriermuster 30 und die Kameras nehmen Fotos auf. Die Recheneinheit erkennt die Kalibriermuster 30 der Projektorbilder in den Aufnahmen wieder und hat dadurch eine Vielzahl von Stützstellen im Projektorbildraum mit eindeutiger Zuordnung im Kamerabildraum.
Zweite Ausführungsform
1. Aufstellung:
• Geometrie der Darstellungsfläche muss bekannt sein • Geometrie der Projektoren muss bekannt sein. Die
Projektoren sollten schon möglichst gut manuell justiert sein.
• Geometrie der Kamera muss nicht bekannt sein
2. Kalibrierungsmuster: Es werden vorverzerrte Muster mit den Projektionsvorrichtungen 11, 12 projiziert. Das heißt, sie sind bereits an die Geometrie der Projektionsfläche 1 angepasst . Dies ist nötig, damit es Stützpunkte gibt, die in jeweils zwei überlappenden Projektorbildern an exakt derselben Stelle auf der Darstellungsfläche liegen sollen. Dies ist nicht gegeben bei unverzerrten Mustern, die im Projektorbildraum symmetrisch angeordnet sind (z.B. horizontale / vertikale Streifen mit festem Abstand zueinander) .
4. Abgleich mit Referenzmuster: Für bestimmte Stützstellen werden Punkte / Linien im Überlappbereich projiziert, deren Projektion der einzelnen Projektoren aufeinander liegen sollten.
Dritte Ausführungsform 1. Aufstellung
• Geometrie der Darstellungsfläche muss bekannt sein
• Auf der Projektionsfläche sind n Marker in wohldefinierten Abständen angebracht (LEDs, Laserpointer o.a.)
• Parameter der Projektoren müssen NICHT bekannt sein.
• Parameter der Kamera müssen NICHT bekannt sein
2. Kalibrierungsmuster: Es werden "normale", unverzerrte
Kalibriermuster 30 mit den Projektionsvorrichtungen 11, 12 projiziert. Da es sein kann, dass die Kalibriermuster 30 nicht vollständig von der Kameravorrichtung 15 erfasst werden können, kann die farbkodierte Lichtschnitttechnik bzw. die Projektion von Mittelstreifen als Referenz verwendet werden.
3. Aufnahme Kalibrierbild: Aufnahme eines Markerbildes zur späteren Zuordnung der uv-Koordinaten.
4. Abgleich mit Referenzmuster: Das vorbekannte 3-D-Modell der Projektionsfläche 1 wird mithilfe der zuvor erkannten Marker als Referenzmuster in die Aufnahmen der Kalibriermuster gemappt . Dies geschieht mit bekannten Verfahren der Computergrafik (perspektivische Transformation, Translation, Rotation, Scherung, Linsenverzerrung,...). Die uv-Koordinaten bestimmter Punkte oder Linien in diesem 3 -D- Modell sind bekannt (die Genauigkeit kann vom Benutzer festgelegt werden) und werden zum Abgleich zwischen Referenz und Projektion verwendet. Die gefilterten, projizierten Kalibriermuster 30 werden nun mit diesen Referenzkoordinaten verglichen. Für jeden Punkt des Kalibriermusters (z.B. im Raster 20 x 20 Pixel) wird über die bekannten Referenzkoordinaten eine dazugehörige uv-Koordinate bestimmt (Imagewarping, siehe DE 102 51 217 Al) . Diese uv-Koordinaten mit dazugehörigen Positionen im Framebuffer werden für die Echtzeitverzerrung der Projektion benötigt und zur weiteren Echtzeitverarbeitung gespeichert. Aus sich überlappenden Kalibriermustern ist das Blending zwischen einzelnen Projektoren berechenbar. Diese Daten werden ebenfalls für die spätere Echtzeitentzerrung gespeichert. Die Kalibrierung wird - insbesondere bei einer Kuppel - pro Segment (z.B. 72° /90°) durchgeführt. Da jedes Segment dasselbe 3 -D-Referenzmodell zur Grundlage hat, ist das Ergebnis eine in sich stimmende globale Kalibrierung, welche aus mehreren lokal kalibrierten Segmenten zusammengesetzt ist.
Die Unterschiede und Gemeinsamkeiten der drei
Ausführungsformen sind in Fig. 12 dargestellt, wobei die erste Ausführungsform mit A, die zweite mit B und die dritte mit C bezeichnet wird.
Es sei angemerkt, dass die drei Ausführungsformen untereinander kombinierbar sind, d.h. für unterschiedliche Punkte in einem Überlappungsbereich oder für unterschiedliche Überlappungsbereiche wird jeweils eine andere Ausführungsform verwendet . Damit sind die Stärken der einzelnen Verfahren miteinander kombinierbar.
Die Erfindung beschränkt sich in ihrer Ausführung nicht auf die vorstehend angegebenen bevorzugten Ausführungsbeispiele. Vielmehr ist eine Anzahl von Varianten denkbar, die von dem erfindungsgemäßen Kalibrierverfahren und Kalibriersystem auch bei grundsätzlich anders gearteten Ausführungen Gebrauch machen.
Bezugszeichenliste
1 Projektionsfläche
2 Überlappungsbereich
11 erste Projektionsvorrichtung
12 zweite Projektionsvorrichtung
13 dritte Projektionsvorrichtung
15 Kameravorrichtung
20 Rechnereinheit
21 erstes Teilbild
22 zweites Teilbild 23 drittes Teilbild
30 Kalibriermuster
31, 31a, 31b erstes Kalibriermuster
32, 32a, 32b zweites Kalibriermuster
35 erster Schnittpunkt
36 zweiter Schnittpunkt
40 Referenzmuster 41a, 41b Referenzlinien
42 dritter Schnittpunkt (Fig. 3) ,
Zielpunkt (Fig.4)
50 Korrekturtransformation
62 Strahl im virtuellen Modell
63 Projektionskegel
64 Sichtkegel
65 Projektorbildebene 66 Kamerabildebene
70 Marker 71, 72, 73 Punkte im realen Strahlengang (Fig. 13)
81, 82 Punkte im virtuellen Strahlengang (Fig. 14)
96, 97 Verschiebungen im Kamerabildraum (Fig. 15)
135 Schnittpunkt im Projektorbildraum (Fig. 16)
142 Zielpunkt im Projektorbildraum (Fig. 16)
196, 197 Verschiebungen im Projektorbildraum (Fig. 16)
A, B, C, D Nachbarpunkte im Kamerabildraum (Fig. 15)
A', B', C, D' Nachbarpunkte im Projektorbildraum (Fig. 16)

Claims

Patentansprüche
1. Kalibrierungsverfahren für mindestens eine Projektionsvorrichtung (11, 12, 13) für die Projektion von Bildern auf mindestens eine Projektionsfläche (1), wobei die geometrischen Daten der mindestens einen Projektionsfläche (1) in einer Rechnereinheit (20) vorab gespeichert sind oder werden,
dadurch gekennzeichnet, dass
a) die mindestens eine Projektionsvorrichtung (11, 12, 13) vorbekannte Kalibriermuster (30) auf mindestens einen Teil der Projektionsfläche (1) projiziert,
b) die Kalibriermuster (30) von mindestens einer Kameravorrichtung (15) als Kalibrierbild aufgenommen werden und die Daten des Kalibrierbildes an die Rechnereinheit (20) übertragen werden, wobei
c) mittels der Rechnereinheit (20) automatisch die Abweichung zwischen dem aufgenommenen realen Kalibrierbild und einem idealen Abbildungsergebnis des vorbekannten Kalibriermusters (30) auf der Projektionsfläche (1) als Referenzmuster (40) ermittelt wird, wobei anschließend
d) die Rechnereinheit (20) aus der Abweichung zwischen realem Kalibrierbild und dem Referenzmuster (40) eine Korrekturtransformation (50) ermittelt, so dass die
Verknüpfung der Korrekturtransformation (50) mit einer realen Projektion von Bildern durch die mindestens eine Projektionsvorrichtung (11, 12, 13) insbesondere in einem Überlappungsbereich (2, 2', 2'') bis auf eine kleine, insbesondere minimale Abweichung dem Referenzmuster (40) entspricht .
2. Kalibrierungsverfahren nach Anspruch 1, dadurch gekennzeichnet, dass überlappenden Projektionen mindestens zweier Projektionsvorrichtungen (11, 12, 13) durch die Minimierung der Abweichung zum Referenzmuter (40) so ausgerichtet werden, dass keine Diskontinuitäten im Überlappungsbereich (2, 2', 2'') sichtbar sind.
3. Kalibrierungsverfahren nach Anspruch 1 oder 2, dadurch gekennzeichnet, dass die Korrekturtransformation (50) eine Verschiebung mindestens eines Punktes, insbesondere eines Stützpunktes (31, 32, 33, 34) des real aufgenommenen Kalibrierbildes auf einen Punkt (41, 42, 43, 44) des Referenzmusters (40), aufweist.
4. Kalibrierungsverfahren nach mindestens einem der vorhergehenden Ansprüche , da durch gekennzeichnet, dass die Korrekturtransformation (50) eine Verschiebung eines Punktes derart definiert, dass der Abstand zwischen zwei Punkten (35, 36) des Kalibriermusters (30) zur Ermittlung eines Zielpunktes (42) gemittelt wird.
5. Kalibrierungsverfahren nach Anspruch 4, dadurch gekennzeichnet, dass für die Mittelung des Abstandes eine Gewichtung, insbesondere in Abhängigkeit des Ortes des Punktes im projizierten Bild erfolgt.
6. Kalibrierungsverfahren nach mindestens einem der vorhergehenden Ansprüche , dadurch gekennzeichnet, dass in und / oder an der Projektionsfläche (1) mindestens ein Marker (70) zur Erfassung durch die Kameravorrichtung (15) angeordnet ist.
7. Kalibrierungsverfahren nach Anspruch 6, dadurch gekennzeichnet, dass der mindestens eine Marker (70) als Laser oder LED ausgebildet ist.
8. Kalibrierungsverfahren nach mindestens einem der vorhergehenden Ansprüche , da durch gekennzeichnet, dass die Projektionsfläche (1) mindestens teilweise eine Kugelschale, eine Zylinderschale und / oder eine ebene Fläche aufweist .
9. Kalibrierungsverfahren nach mindestens einem der vorhergehenden Ansprüche , dadurch gekennzeichnet, dass die Kameravorrichtung (15) mindestens eine Digitalkamera, mindestens eine Videokamera, mindestens eine Fish-Eye Kamera und / oder mindestens eine Webcam aufweist.
10. Kalibrierverfahren nach mindestens einem der vorhergehenden Ansprüche , dadurch gekennzeichnet, dass mindestens eine Kameravorrichtung (15) zur Aufnahme eines Bildes von der Projektionsfläche (1) um mindestens eine Achse drehbar gelagert ist .
11. Kalibriervorrichtung nach mindestens einem der vorhergehenden Ansprüche , dadurch gekennzeichnet, dass mindestens eine Projektionsvorrichtung (11, 12) mindestens einen Beamer, Laserprojektor, LCD-Projektor und / oder DLP-Projektor aufweist.
12. Kalibrierungsverfahren nach mindestens einem der vorhergehenden Ansprüche , dadurch gekennzeichnet, dass mindestens ein Kalibriermuster (30) ein Streifenmuster ist, bei dem einzelne Streifen parallel zueinander angeordnet sind.
13. Kalibrierungsverfahren nach mindestens einem der vorhergehenden Ansprüche , dadurch gekennzeichnet, dass mindestens ein Kalibriermuster (30) gekrümmte, vorverzerrte, einfarbige, mehrfarbige und / oder farbcodierte Streifen aufweist
14 . Kalibrierungsverfahren nach mindestens einem der vorhergehenden Ansprüche , d a d u r c h g e k e n n z e i c h n e t , dass mindestens eine Kalibriermuster ein Punktmuster aufweist .
15. Kalibrierverfahren nach mindestens einem der vorhergehenden Ansprüche , dadurch gekennzeichnet, dass vor der Auswertung einer Aufnahme mindestens eines Kalibriermusters (30) die Kameravorrichtung (15) ein Schwarzbild aufnimmt.
16. Kalibrierverfahren nach mindestens einem der vorhergehenden Ansprüche , dadurch gekennzeichnet, dass im Überlappungsbereich (2, 2', 2'') ein Blending zur Anpassung der Helligkeitswerte vorgenommen wird.
17. Kalibrierungsverfahren nach mindestens einem der vorhergehenden Ansprüche, dadurch gekennzeichnet, dass in Abhängigkeit von der Korrekturtransformation (50) mindestens eine räumliche Orientierung mindestens einer Projektionsvorrichtung (11, 12, 13) automatisch verändert wird.
18. Kalibrierungsverfahren nach mindestens einem der vorhergehenden Ansprüche , dadurch gekennzeichnet, dass Parameter der Kameravorrichtung (15) automatisch ermittelt werden, indem eine Aufnahme eines vorbekannten Musters, insbesondere eines Markermusters auf der Projektionsfläche (1) aufgenommen wird und das Rechenmittel (20) daraus die Parameter berechnet.
19. Kalibrierungssystem mit mindestens einer
Projektionsvorrichtung (11, 12, 13) für die Projektion von Bildern auf mindestens eine Projektionsfläche (1), wobei die geometrischen Daten der mindestens einen Projektionsfläche (1) in einer Rechnereinheit (20) vorab gespeichert sind oder werden,
gekennzeichnet durch a) die mindestens eine Projektionsvorrichtung (11, 12, 13) zur Projektion vorbekannter Kalibriermuster (30) auf mindestens einen Teil der Projektionsfläche (1) ,
b) mindestens einer Kameravorrichtung (15) zur Aufnahme der Kalibriermuster (30) als Kalibrierbild, wobei die Daten des Kalibrierbildes an die Rechnereinheit (20) übertragbar sind und
c) die Rechnereinheit (20) zur automatischen Ermittlung der Abweichung zwischen dem aufgenommenen realen Kalibrierbild und einem idealen Abbildungsergebnis des vorbekannten Kalibriermusters (30) auf der Projektionsfläche (1) als Referenzmuster (40) und
d) einem Korrekturmittel zur Ermittlung einer Korrekturtransformation (50) aus der Abweichung zwischen realem Kalibrierbild und dem Referenzmuster (40) , so dass die Verknüpfung der Korrekturtransformation (50) mit einer realen Projektion von Bildern durch die mindestens eine Projektionsvorrichtung (11, 12, 13) insbesondere in einem Überlappungsbereich (2, 2', 2'') bis auf eine kleine, insbesondere minimale Abweichung dem Referenzmuster (40) entspricht.
PCT/EP2007/000258 2006-01-13 2007-01-12 Kalibrierungsverfahren und kalibrierungssystem für projektionsvorrichtung WO2007082690A1 (de)

Priority Applications (2)

Application Number Priority Date Filing Date Title
EP07702731A EP1972134B1 (de) 2006-01-13 2007-01-12 Kalibrierungsverfahren und kalibrierungssystem für projektionsvorrichtung
US12/160,289 US8311366B2 (en) 2006-01-13 2007-01-12 System and method for calibrating and adjusting a projected image of a projection apparatus

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
DE102006002602A DE102006002602A1 (de) 2006-01-13 2006-01-13 Kalibrierungsverfahren und Kalibrierungssystem
DE102006002602.0 2006-01-13

Publications (1)

Publication Number Publication Date
WO2007082690A1 true WO2007082690A1 (de) 2007-07-26

Family

ID=38190144

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/EP2007/000258 WO2007082690A1 (de) 2006-01-13 2007-01-12 Kalibrierungsverfahren und kalibrierungssystem für projektionsvorrichtung

Country Status (4)

Country Link
US (1) US8311366B2 (de)
EP (1) EP1972134B1 (de)
DE (1) DE102006002602A1 (de)
WO (1) WO2007082690A1 (de)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2017153284A1 (de) * 2016-03-08 2017-09-14 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Bildverarbeitungsverfahren, bildverarbeitungsmittel und bildverarbeitungsvorrichtung zur erzeugung von abbildungen eines teils eines dreidimensionalen raums

Families Citing this family (33)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9241143B2 (en) 2008-01-29 2016-01-19 At&T Intellectual Property I, L.P. Output correction for visual projection devices
JP5091902B2 (ja) * 2009-03-31 2012-12-05 アイシン精機株式会社 車載カメラの校正に用いられる校正指標と、当該校正指標を用いた車載カメラの校正方法と、システムと、当該システムのためのプログラム
DE102009034629A1 (de) * 2009-07-24 2011-01-27 Dr. Ing. H.C. F. Porsche Aktiengesellschaft Projektionsverfahren
DE102009046114B4 (de) * 2009-10-28 2011-09-01 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Verfahren und Vorrichtung zum Erzeugen einer kalibrierten Projektion
KR20110069958A (ko) * 2009-12-18 2011-06-24 삼성전자주식회사 프로젝터 기능의 휴대 단말기의 데이터 생성 방법 및 장치
DE102010022735B4 (de) * 2010-06-04 2022-07-07 Volkswagen Ag Verfahren zur Projektion einer Grafik auf eine Projektionsoberfläche, inbesondere auf eine Oberfläche eines Kraftfahrzeuges und Verfahren zur Herstellung eines Kraftfahrzeuges
TWI492627B (zh) * 2012-01-06 2015-07-11 醒吾學校財團法人醒吾科技大學 一種以攝影定位的投影系統及方法
WO2013148308A1 (en) * 2012-03-28 2013-10-03 Intel Corporation Systems, methods, and computer program products for low-latency warping of a depth map
WO2014059374A1 (en) * 2012-10-11 2014-04-17 Imsi Design, Llc Method for fine-tuning the physical position and orientation on an electronic device
WO2014059377A1 (en) * 2012-10-11 2014-04-17 Imsi Design, Llc Method for calibrrating the physical position and orientation of an electronic device using device sensors
WO2014059386A1 (en) * 2012-10-11 2014-04-17 Imsi Design, Llc Method for calibrating the physical position and orientation of an electronic device
TWI591584B (zh) * 2012-12-26 2017-07-11 財團法人工業技術研究院 三維感測方法與三維感測裝置
TWI502985B (zh) * 2013-04-08 2015-10-01 Omnivision Tech Inc 一種校準３６０度照相機系統之系統及方法
US20150015422A1 (en) * 2013-07-12 2015-01-15 Gulfstream Aerospace Corporation Standby flight display system
JP6421445B2 (ja) * 2014-01-24 2018-11-14 株式会社リコー 投影システム、画像処理装置、校正方法、システムおよびプログラム
US10643343B2 (en) * 2014-02-05 2020-05-05 Creaform Inc. Structured light matching of a set of curves from three cameras
JP6510213B2 (ja) 2014-02-18 2019-05-08 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカＰａｎａｓｏｎｉｃ Ｉｎｔｅｌｌｅｃｔｕａｌ Ｐｒｏｐｅｒｔｙ Ｃｏｒｐｏｒａｔｉｏｎ ｏｆ Ａｍｅｒｉｃａ 投影システム、半導体集積回路、および画像補正方法
DE102014113389A1 (de) * 2014-09-17 2016-03-17 Pilz Gmbh & Co. Kg Verfahren und Vorrichtung zum Identifizieren von Strukturelementen eines projizierten Strukturmusters in Kamerabildern
US10574956B2 (en) * 2015-08-07 2020-02-25 Christie Digital Systems Usa, Inc. System and method for automatic alignment and projection mapping
US10089778B2 (en) * 2015-08-07 2018-10-02 Christie Digital Systems Usa, Inc. System and method for automatic alignment and projection mapping
US9489735B1 (en) * 2015-09-17 2016-11-08 Qualcomm Incorporated Multiplexed temporal calibration for event-based cameras
TWI555378B (zh) * 2015-10-28 2016-10-21 輿圖行動股份有限公司 一種全景魚眼相機影像校正、合成與景深重建方法與其系統
TWI555379B (zh) * 2015-11-06 2016-10-21 輿圖行動股份有限公司 一種全景魚眼相機影像校正、合成與景深重建方法與其系統
US20170195561A1 (en) * 2016-01-05 2017-07-06 360fly, Inc. Automated processing of panoramic video content using machine learning techniques
WO2017122500A1 (ja) 2016-01-13 2017-07-20 株式会社リコー 投影システム、画像処理装置、投影方法およびプログラム
US10395389B2 (en) 2016-04-11 2019-08-27 Hewlett-Packard Development Company, L.P. Calibration based on intrinsic parameter selection and a projected calibration target
CN107340982A (zh) * 2016-04-29 2017-11-10 致伸科技股份有限公司 具有投影功能的输入装置
US9992464B1 (en) * 2016-11-11 2018-06-05 Christie Digital Systems Usa, Inc. Method and system for screen correction
WO2018094513A1 (en) * 2016-11-23 2018-05-31 Réalisations Inc. Montréal Automatic calibration projection system and method
CN107220925B (zh) * 2017-05-05 2018-10-30 珠海全志科技股份有限公司 一种实时虚拟现实加速方法及装置
EP3707464A4 (de) * 2017-11-06 2021-08-04 Usnr, Llc Virtuelle autokalibrierung von sensoren
DE102017010683B4 (de) * 2017-11-17 2019-08-14 domeprojection.com GmbH Verfahren zur automatischen Wiederherstellung eines eingemessenen Zustands eines Projektionssystems
US10832377B2 (en) * 2019-01-04 2020-11-10 Aspeed Technology Inc. Spherical coordinates calibration method for linking spherical coordinates to texture coordinates

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20020024640A1 (en) 2000-08-29 2002-02-28 Olympus Optical Co., Ltd. Image projection display apparatus using plural projectors and projected image compensation apparatus
US20040184011A1 (en) * 2003-03-21 2004-09-23 Ramesh Raskar Self-configurable ad-hoc projector cluster
US20040184013A1 (en) * 2003-03-21 2004-09-23 Ramesh Raskar Projecting warped images onto curved surfaces
US20040257540A1 (en) * 2003-04-16 2004-12-23 Sebastien Roy Single or multi-projector for arbitrary surfaces without calibration nor reconstruction
US20060001839A1 (en) * 2004-07-01 2006-01-05 Beardsley Paul A Projector-camera system with laser pointers

Family Cites Families (84)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US3715888A (en) * 1969-11-26 1973-02-13 Universal Oil Prod Co Hybrid rocket
US4680579A (en) 1983-09-08 1987-07-14 Texas Instruments Incorporated Optical system for projection display using spatial light modulator device
JPS60230682A (ja) * 1984-04-30 1985-11-16 ミノルタ株式会社 プラネタリウム
NO164946C (no) 1988-04-12 1990-11-28 Metronor As Opto-elektronisk system for punktvis oppmaaling av en flates geometri.
WO1990013847A1 (en) 1989-05-04 1990-11-15 Silhouette Technology, Incorporated Film printing/reading system and method and apparatus for forming a recording on a recording medium
US5245451A (en) * 1991-09-27 1993-09-14 Hughes Aircraft Company Liquid crystal display method and apparatus with tuneable phase compensation
DK0725939T3 (da) * 1992-03-13 1999-11-15 Kopin Corp Skærmsystem til anbringelse på hovedet
US6498620B2 (en) 1993-02-26 2002-12-24 Donnelly Corporation Vision system for a vehicle including an image capture device and a display system having a long focal length
US6020931A (en) * 1996-04-25 2000-02-01 George S. Sheng Video composition and position system and media signal communication system
US6115022A (en) * 1996-12-10 2000-09-05 Metavision Corporation Method and apparatus for adjusting multiple projected raster images
JPH10301202A (ja) 1997-02-28 1998-11-13 R D S Kk マルチプロジェクションシステム
US6483537B1 (en) * 1997-05-21 2002-11-19 Metavision Corporation Apparatus and method for analyzing projected images, singly and for array projection applications
EP1039749A4 (de) * 1997-12-12 2002-06-26 Hitachi Ltd Vielfachprojektionsbildanzeigevorrichtung
US6911969B1 (en) * 1998-05-01 2005-06-28 Honeywell International Inc. Handheld computer apparatus
EP1073943B1 (de) 1998-05-01 2003-01-02 Honeywell Inc. Tragbares rechnergerät mit dreitastenschnittstelle und darauf abgestimmte verfahren
EP1021263B1 (de) 1998-07-21 2004-11-03 Dofasco Inc. Auf einem multivariablen statistischen modell basierendes system zur darstellung des betriebs einer stranggiessanlage und detektion bevorstehender durchbrüche
US6924832B1 (en) * 1998-08-07 2005-08-02 Be Here Corporation Method, apparatus & computer program product for tracking objects in a warped video image
US6310650B1 (en) 1998-09-23 2001-10-30 Honeywell International Inc. Method and apparatus for calibrating a tiled display
US6219099B1 (en) * 1998-09-23 2001-04-17 Honeywell International Inc. Method and apparatus for calibrating a display using an array of cameras
US6377306B1 (en) * 1998-09-23 2002-04-23 Honeywell International Inc. Method and apparatus for providing a seamless tiled display
US6056405A (en) * 1998-10-15 2000-05-02 In Focus Systems, Inc. Lamp module with kinematic mount
US6411302B1 (en) 1999-01-06 2002-06-25 Concise Multimedia And Communications Inc. Method and apparatus for addressing multiple frame buffers
US6498592B1 (en) * 1999-02-16 2002-12-24 Sarnoff Corp. Display tile structure using organic light emitting materials
US6278546B1 (en) 1999-04-01 2001-08-21 Honeywell International Inc. Display screen and method of manufacture therefor
US6362797B1 (en) * 1999-05-14 2002-03-26 Rockwell Collins, Inc. Apparatus for aligning multiple projected images in cockpit displays
US6570623B1 (en) * 1999-05-21 2003-05-27 Princeton University Optical blending for multi-projector display wall systems
US6480175B1 (en) * 1999-09-17 2002-11-12 International Business Machines Corporation Method and system for eliminating artifacts in overlapped projections
US6753907B1 (en) * 1999-12-23 2004-06-22 Justsystem Corporation Method and apparatus for automatic keystone correction
US6975361B2 (en) * 2000-02-22 2005-12-13 Minolta Co., Ltd. Imaging system, two-dimensional photographing device and three-dimensional measuring device
US6636205B1 (en) * 2000-04-10 2003-10-21 Infocus Corporation Method and apparatus for determining a clock tracking frequency in a single vertical sync period
US6553168B2 (en) * 2000-05-23 2003-04-22 Honeywell International Inc. Projection system utilizing fiber optic illumination
US20030067587A1 (en) * 2000-06-09 2003-04-10 Masami Yamasaki Multi-projection image display device
US6760075B2 (en) * 2000-06-13 2004-07-06 Panoram Technologies, Inc. Method and apparatus for seamless integration of multiple video projectors
JP5241986B2 (ja) * 2000-07-03 2013-07-17 アイマックス コーポレイション 複数の投影ディスプレイの目に見えない継ぎ目合わせ用機器及び技術
US6727864B1 (en) * 2000-07-13 2004-04-27 Honeywell International Inc. Method and apparatus for an optical function generator for seamless tiled displays
US6804406B1 (en) * 2000-08-30 2004-10-12 Honeywell International Inc. Electronic calibration for seamless tiled display using optical function generator
US6568816B2 (en) * 2000-10-04 2003-05-27 Panoram Technologies, Inc. Projection system and method for using a single light source to generate multiple images to be edge blended for arrayed or tiled display
US6950109B2 (en) * 2000-10-23 2005-09-27 Sun Microsystems, Inc. Multi-spectral color correction
US20020158877A1 (en) * 2000-11-22 2002-10-31 Guckenberger Ronald James Shadow buffer control module method and software construct for adjusting per pixel raster images attributes to screen space and projector features for digital wrap, intensity transforms, color matching, soft-edge blending and filtering for multiple projectors and laser projectors
US7145611B2 (en) * 2000-12-22 2006-12-05 Honeywell International, Inc. Seamless tiled display system
US7475356B2 (en) * 2001-05-11 2009-01-06 Xerox Corporation System utilizing mixed resolution displays
US7259747B2 (en) 2001-06-05 2007-08-21 Reactrix Systems, Inc. Interactive video display system
US20030038822A1 (en) * 2001-08-14 2003-02-27 Mitsubishi Electric Research Laboratories, Inc. Method for determining image intensities of projected images to change the appearance of three-dimensional objects
US6930681B2 (en) * 2001-08-14 2005-08-16 Mitsubishi Electric Research Labs, Inc. System and method for registering multiple images with three-dimensional objects
US6733138B2 (en) * 2001-08-15 2004-05-11 Mitsubishi Electric Research Laboratories, Inc. Multi-projector mosaic with automatic registration
US6677956B2 (en) * 2001-08-15 2004-01-13 Mitsubishi Electric Research Laboratories, Inc. Method for cross-fading intensities of multiple images of a scene for seamless reconstruction
US7068274B2 (en) * 2001-08-15 2006-06-27 Mitsubishi Electric Research Laboratories, Inc. System and method for animating real objects with projected images
US7019748B2 (en) * 2001-08-15 2006-03-28 Mitsubishi Electric Research Laboratories, Inc. Simulating motion of static objects in scenes
US7006055B2 (en) * 2001-11-29 2006-02-28 Hewlett-Packard Development Company, L.P. Wireless multi-user multi-projector presentation system
GB2384128A (en) 2001-12-13 2003-07-16 Invideo Ltd Schematic mapping of surveillance area
JP2003219324A (ja) * 2002-01-17 2003-07-31 Olympus Optical Co Ltd 画像補正データ算出方法、画像補正データ算出装置及びマルチプロジェクションシステム
JP3766672B2 (ja) 2002-02-19 2006-04-12 オリンパス株式会社 画像補正データ算出方法
US7113169B2 (en) 2002-03-18 2006-09-26 The United States Of America As Represented By The Secretary Of The Air Force Apparatus and method for a multiple-user interface to interactive information displays
DE10215893C1 (de) * 2002-04-11 2003-10-23 Daimler Chrysler Ag Projektionseinrichtung und Projektionsverfahren
JP3575473B2 (ja) 2002-04-25 2004-10-13 株式会社日立製作所 マルチプロジェクションシステム及びその画面調整方法
KR20050006201A (ko) * 2002-04-29 2005-01-15 브리스톨-마이어스 스큅 컴퍼니 아토마이징을 이용하는 결정화 시스템
WO2003103298A1 (ja) * 2002-05-31 2003-12-11 オリンパス株式会社 マルチプロジェクションシステム及びマルチプロジェクションシステムにおける補正データ取得方法
US7038727B2 (en) 2002-10-30 2006-05-02 The University Of Chicago Method to smooth photometric variations across multi-projector displays
US7019713B2 (en) 2002-10-30 2006-03-28 The University Of Chicago Methods and measurement engine for aligning multi-projector display systems
DE10251217B3 (de) 2002-10-31 2004-06-24 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Autokalibierung von Multiprojektorsystemen
US7215362B2 (en) 2002-10-31 2007-05-08 Fraunhofer-Gesellschaft Zur Foerderung Der Angewandten Forschung E.V. Auto-calibration of multi-projector systems
EP1434434A1 (de) * 2002-10-31 2004-06-30 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Autokalibrierung von Multiprojektorsystemen
EP1424672A1 (de) 2002-11-29 2004-06-02 Barco N.V. Verfahren und Vorrichtung zur Korrektur von Ungleichmässigkeiten von Pixeln einer Matrixanzeige
US7119833B2 (en) 2002-12-03 2006-10-10 University Of Kentucky Research Foundation Monitoring and correction of geometric distortion in projected displays
JP2004208022A (ja) 2002-12-25 2004-07-22 Olympus Corp マルチプロジェクションシステム、およびマルチプロジェクションシステムにおける画像補正データ取得方法
US7364313B2 (en) 2002-12-27 2008-04-29 Barco N.V. Multiple image projection system and method for projecting multiple selected images adjacent each other
AU2003296527A1 (en) 2002-12-30 2004-07-29 Ulrich Hofker Synchronization methods for digital multi-projection systems
US6755537B1 (en) * 2003-03-21 2004-06-29 Mitsubishi Electric Research Laboratories, Inc. Method for globally aligning multiple projected images
US6709116B1 (en) * 2003-03-21 2004-03-23 Mitsubishi Electric Research Laboratories, Inc. Shape-adaptive projector system
US6715888B1 (en) * 2003-03-21 2004-04-06 Mitsubishi Electric Research Labs, Inc Method and system for displaying images on curved surfaces
US6729733B1 (en) * 2003-03-21 2004-05-04 Mitsubishi Electric Research Laboratories, Inc. Method for determining a largest inscribed rectangular image within a union of projected quadrilateral images
JP2004304596A (ja) * 2003-03-31 2004-10-28 Olympus Corp マルチプロジェクションシステム
US7097311B2 (en) 2003-04-19 2006-08-29 University Of Kentucky Research Foundation Super-resolution overlay in multi-projector displays
US7193608B2 (en) 2003-05-27 2007-03-20 York University Collaborative pointing devices
TWI226797B (en) * 2003-07-11 2005-01-11 Via Tech Inc Multimedia player having the function of varying displayed contents in suspending mode
CN100490512C (zh) * 2003-10-15 2009-05-20 精工爱普生株式会社 多投影显示器
US7410263B2 (en) * 2003-11-06 2008-08-12 Seiko Epson Corporation Rear projection type multi-projection display
US7338175B2 (en) * 2003-12-01 2008-03-04 Seiko Epson Corporation Front projection type multi-projection display
KR20060117979A (ko) 2003-12-30 2006-11-17 톰슨 라이센싱 타일링된 디스플레이에서 이음매를 매끄럽게 하는 시스템및 방법
JP2005204165A (ja) * 2004-01-16 2005-07-28 Olympus Corp 画像投影装置及びキャリブレーションデータの算出方法
US7705877B2 (en) 2004-01-28 2010-04-27 Hewlett-Packard Development Company, L.P. Method and system for display of facial features on nonplanar surfaces
JP4501481B2 (ja) * 2004-03-22 2010-07-14 セイコーエプソン株式会社 マルチプロジェクションシステムのための画像補正方法
US7144115B2 (en) * 2004-04-14 2006-12-05 Sharp Laboratories Of America, Inc. Projection system
DE102004045280A1 (de) * 2004-09-16 2006-04-06 Harold Larivière Kalibrierungsvorrichtung für projizierte Bilder

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20020024640A1 (en) 2000-08-29 2002-02-28 Olympus Optical Co., Ltd. Image projection display apparatus using plural projectors and projected image compensation apparatus
US20040184011A1 (en) * 2003-03-21 2004-09-23 Ramesh Raskar Self-configurable ad-hoc projector cluster
US20040184013A1 (en) * 2003-03-21 2004-09-23 Ramesh Raskar Projecting warped images onto curved surfaces
US20040257540A1 (en) * 2003-04-16 2004-12-23 Sebastien Roy Single or multi-projector for arbitrary surfaces without calibration nor reconstruction
US20060001839A1 (en) * 2004-07-01 2006-01-05 Beardsley Paul A Projector-camera system with laser pointers

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2017153284A1 (de) * 2016-03-08 2017-09-14 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Bildverarbeitungsverfahren, bildverarbeitungsmittel und bildverarbeitungsvorrichtung zur erzeugung von abbildungen eines teils eines dreidimensionalen raums

Also Published As

Publication number Publication date
EP1972134A1 (de) 2008-09-24
DE102006002602A1 (de) 2007-07-19
EP1972134B1 (de) 2012-06-13
US8311366B2 (en) 2012-11-13
US20090067749A1 (en) 2009-03-12

Similar Documents

Publication Publication Date Title
EP1972134B1 (de) Kalibrierungsverfahren und kalibrierungssystem für projektionsvorrichtung
EP2494784B1 (de) Verfahren und vorrichtung zum erzeugen einer kalibrierten projektion
EP1784978B1 (de) Verfahren und vorrichtung zur darstellung eines digitalen bildes auf einer geometrisch und photometrisch nicht-trivialen oberfläche
DE102016203709B4 (de) Bildverarbeitungsverfahren, Bildverarbeitungsmittel und Bildverarbeitungsvorrichtung zur Erzeugung von Abbildungen eines Teils eines dreidimensionalen Raums
DE60303316T2 (de) Für einen zuschauer mit zwei blickpunkten optimierter werbedruck
WO2000028378A1 (de) Projektionsanordnung mit einem projektor und einem ablenkspiegel
DE102012107153A1 (de) Vorrichtung und Verfahren zur Bestimmung der Eigenlage einer bildaufnehmenden Kamera
DE102018118187A1 (de) Verfahren und Datenverarbeitungssystem zur Synthese von Bildern
EP3711289B1 (de) Verfahren zur automatischen wiederherstellung eines eingemessenen zustands eines projektionssystems
EP1434434A1 (de) Autokalibrierung von Multiprojektorsystemen
EP4020973A1 (de) Hintergrund-wiedergabeeinrichtung, hintergrundwiedergabesystem, aufnahmesystem, kamerasystem, digitale kamera und verfahren zum steuern einer hintergrund-wiedergabeeinrichtung
DE112013004072T5 (de) Verfahren zur automatischen Korrektur der Videoprojektion mit Hilfe von inversen Transformation
DE102011082881A1 (de) Darstellung der Umgebung eines Kraftfahrzeugs in einer bestimmten Ansicht unter Verwendung räumlicher Information
DE19742931C2 (de) Verfahren und Vorrichtung zur Bildsynthese
DE102012010814A1 (de) Verfahren zur automatischen Abbildungskorrektur eines Projektors
EP4163906A1 (de) Hintergrund-wiedergabeeinrichtung
WO2018133996A1 (de) Verfahren zum kombinieren einer vielzahl von kamerabildern
DE102019104397A1 (de) Bildsynthesevorrichtung und Steuerverfahren
DE102013219462A1 (de) Fahrwerksvermessung bei Umgebungslicht
DE102017101524A1 (de) Projektionsmapping-Verfahren
EP1502145B1 (de) Verfahren und vorrichtung zur konsistenten darstellung von realen und virtuellen objekten
DE102007038817A1 (de) Verfahren und Einrichtung zur Projektion virtueller stehender oder bewegter Bilder und / oder Raumobjekte auf eine reale Projektionsfläche
EP1189171A2 (de) Verfahren zum Erzeugen eines Bildes in einem virtuellen Studio
DE102008008707A1 (de) Resampling von digitalen Bildern
AT520909A1 (de) Kalibrierträger mit asymmetrischem geometrischem Kalibriermuster

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application
WWE Wipo information: entry into national phase

Ref document number: 2007702731

Country of ref document: EP

NENP Non-entry into the national phase

Ref country code: DE

WWP Wipo information: published in national office

Ref document number: 2007702731

Country of ref document: EP

WWE Wipo information: entry into national phase

Ref document number: 12160289

Country of ref document: US