WO2012115293A1 - Method for converting a 2d image into a 3d image - Google Patents

Method for converting a 2d image into a 3d image Download PDF

Info

Publication number
WO2012115293A1
WO2012115293A1 PCT/KR2011/001297 KR2011001297W WO2012115293A1 WO 2012115293 A1 WO2012115293 A1 WO 2012115293A1 KR 2011001297 W KR2011001297 W KR 2011001297W WO 2012115293 A1 WO2012115293 A1 WO 2012115293A1
Authority
WO
WIPO (PCT)
Prior art keywords
image
white
black
images
effect
Prior art date
Application number
PCT/KR2011/001297
Other languages
French (fr)
Korean (ko)
Inventor
홍순호
김광욱
이대희
최광식
Original Assignee
(주)스튜디오 로프트
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by (주)스튜디오 로프트 filed Critical (주)스튜디오 로프트
Priority to PCT/KR2011/001297 priority Critical patent/WO2012115293A1/en
Publication of WO2012115293A1 publication Critical patent/WO2012115293A1/en

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/261Image signal generators with monoscopic-to-stereoscopic image conversion
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/122Improving the 3D impression of stereoscopic images by modifying image signal contents, e.g. by filtering or adding monoscopic depth cues

Definitions

  • the present invention relates to a method of converting a 2D animation into a 3D image by a 3D stereoscopic conversion method, and a method of stereoscopically working a 2D animation into a 3D animation.
  • a stereoscopic image is artificially displayed by displaying two images, which are taken separately from the left and right eye visual positions, respectively.
  • the present invention has been invented to solve the above problems, and its object is to convert a general two-dimensional image material, preferably a 2D animation into a 3D animation.
  • a depth map refers to a contrast image showing a depth value of an object on a 2D image. It is a map of the reference image to indicate the part far from the viewer.
  • the portions near the viewing side are white, the far portions are black, and each position is expressed in a gradient manner of white and black according to the perspective from the viewing side. 1 and 9 are exemplarily referred to.
  • the depth map of the original lamp, etc. is shown in white because the convex part of the original lamp, etc. corresponds to the closest part when looking at the original lamp, and is based on the most blocked part of the original lamp.
  • a method of converting a 2D image into a 3D stereoscopic image in which a highlight portion that receives the most light is white and a portion that does not receive light is displayed in white and a black gradation method in the 2D image.
  • Forming a lighting layer Forming a depth map layer in which the portion closest to the viewing side is displayed in white, and the portion furthest from the viewing side is in black, displayed in a gradient manner of white and black; Based on the white and black gradation values of the depth map, the pixel of the image for the right eye image is shifted to the left, and the pixels of the image for the left eye image are shifted to the right. It relates to a method of converting a 2D image into a 3D stereoscopic image, which is moved to the largest range of the predetermined range, and the black portion is moved to the smallest range of the predetermined range.
  • the present invention may provide a minimum blur effect to a portion closest to a focal length to the left and right eye images, and include a maximum blur effect to a portion farthest from the focal length.
  • 1 is a magnified depth map image of a 2D image of a circular shape.
  • FIG. 2 is a light effect applied to a 2D image of a circular shape, which is divided into pixels.
  • FIG. 3 is an image divided before the lighting effect is applied to a cylindrical 2D image, and is divided into pixels.
  • FIG. 4 is an image in which the image of FIG. 2 is arranged side by side.
  • FIG. 5 is an image in which a displacement map effect is applied and pixels of an image are shifted based on the depth map of FIG. 1.
  • 6 to 9 are images showing a depth map generation process by a mask.
  • FIG. 10 is a view for explaining the principle that a stereoscopic image is projected onto a flat film to form a 2D image.
  • 11 is a view showing a state of seeing an object with both eyes.
  • 12 is a view for explaining the principle of making the right eye and left eye images.
  • 13 is a flowchart showing a method of converting a 2D animation of the present invention into a 3D animation.
  • the method for converting the schematic 2D animation of the present invention to 3D animation is as follows. Extract the target images from the original image, increase the size only larger than HD (e.g. 3840 x 2160), leaving the resolution of the old film (e.g. 640 x 480) (resize). Print the extracted and resized image directly on the drawing paper, and correct the pencil lines and color parts on the printed image. Scan the corrected image at high resolution using a scanner, FULL HE ) for 3D TV. Therefore, scan at the appropriate resolution, eg 1920 x 1080. Scanned image files can be loaded from a computer image editing program such as Photoshop or After Effects.Nuke.Cinema 4D to insert image lighting effects using separate layers. This will be explained in detail below.
  • a computer image editing program such as Photoshop or After Effects.Nuke.Cinema 4D to insert image lighting effects using separate layers. This will be explained in detail below.
  • a depth script and a depth map are generated based on the image file scanned at the high resolution.
  • the depth map will be described in detail below.
  • a displacement map effect is generated to generate left and right eye images, which will be described in detail below.
  • the left and right eye images are corrected and subsequently a stereoscopic image is generated and stored as a 3D animation image.
  • an illumination layer of the present invention Depth map layer; And a representative example of implementing pixel movement as an example.
  • a feature of the present invention is to add a lighting effect using a gradation to implement a three-dimensional effect on a 2D image.
  • a lighting effect using a gradation to implement a three-dimensional effect on a 2D image.
  • I could not think of inserting lighting effects, but simply shadowed them.
  • the inventors of the present invention have found that the insertion of the lighting effect enables proper implementation of the three-dimensional effect. Accordingly, the inventors have applied the effect of the lighting to further increase the three-dimensional effect in the 2D animation.
  • the method of applying this lighting effect was implemented by the method introduced in detail below. Thus, the lighting effect was applied to the solid surface, which is a characteristic of 2D animation, to create a change in color.
  • Such addition of the lighting effect of the method using the gradation of the present invention allows the three-dimensional (volume) to be properly alive. However, if the effect of the lighting is too strong there is a risk of changing the original slow, it is preferably taking the way to maximize the feeling of the original by giving a lighting effect of less than 50%.
  • 2 is an exemplary diagram to add a lighting effect of the method using a gradient.
  • FIG. 2 reference may be made to an example in which a lighting effect is added.
  • Image overlays that have finished layer separation or finished resolution enhancement, create one or more layers in Photoshop, and highlight the highlights with a brush to apply a white overlay effect.
  • the darker shadows ("shadows" in this specification do not mean the shadows of the actual image, but the darker areas that are opposite to the direction the light is coming from).
  • the highlight and darkening shadows are selected by considering the direction of illumination from the target image.
  • the boundary between the highlight and the shadow portion gives a feather effect, making the gradation smooth and natural. Wherein the feather value is preferably 4-6. Transparency was applied to the layer so that this effect was applied quietly.
  • the transparency value is 50%. Referring to FIG.
  • FIG. 2 expresses the lighting effect on the 2D image of the energy lamp by utilizing the gradation.
  • the brush effect described above was created using a mask and a pentle, which are basic functions of a video effects program (After effects. This method works even if the layers of the original source are not separated. I created a solid layer on top of the original source image and masked the highlights or shadows with a pen. At this point, the mask line is precisely cut with a knife, but the edge outline is smoothed and made natural as described above. For example, it was a feather value of 4-6. 6 to 9 may be referred to.
  • FIG. 6 is an example of a depth map made in this manner. 1 shows a depth map with respect to an original light etc. as already demonstrated.
  • a 2D picture is not seen in three dimensions because it reflects the three-dimensional surface on the two-dimensional plane (film in FIG. 10) as shown in FIG.
  • the reason why a person feels things three-dimensionally is because they observe things with the eyes of two people (FIG. 11). Therefore, to express a picture in three dimensions requires two pictures viewed from two viewpoints such as the human eye. If there is an original image, as shown in FIG. 12, creating a left eye image is an image of turning the original to the right, and a right eye image of an image of turning the original to the left. But because you can't actually turn it, you have to move the pixels left and right.
  • the movement distance should be the largest when viewed only with the left and right eyes, respectively, and the part of the object farthest from both eyes will have the smallest movement distance. Therefore, when making an image of the right eye viewed from the right eye and the left eye viewed from the left eye, move the part closest to the eye more and move the part farthest farther away. Since the close part is black and the dark part is far from the eyes, when creating the right and left eye images using the depth map, the degree of pixel movement is increased by moving the white part by using the created depth map and by moving the dark part by less. By the three-dimensional effect can be implemented (applied with the display map effect), the generation of these left and right eye images is described further below.
  • the original images to which the lighting effect is applied are arranged side by side.
  • the left eye image was placed on the right side and the right eye image on the left side.
  • a depth map of the corresponding image (depth map of FIG. 1) is placed under the image, and then a displacement map effect is applied to the original images arranged left and right.
  • the displacement map affected by the depth map moved the original pixels.
  • the bright pixels in the depth map were shifted to the left by giving a positive value to the left eye image.
  • Bright pixels in the depth map were shifted to the right by giving a negative value to the original to be the left eye image on the right. That is, as shown in FIG. 5, the pixels of the right eye image move to the left and the pixels of the left eye image move to the right.
  • the direction in which light colors move and the direction in which dark colors do not differ is different, but the distance moved is a lot of light colors and dark colors move slightly.
  • Lens Blur In order to maximize the sense of distance (depth), the present invention considers the addition of lens blur. The closer to the focal length, the sharper the distance from the focal point and the greater the blurring value, and the pixel movement caused by the depth map. The added three-dimensional effect is further maximized by blurring.
  • the lens blur is applied to the left eye and right eye images, the bright part receives the most blur and the dark part receives the less blur due to the influence of Thamesblind. If you check Invert in the option of the lens blur, The blurring value is the smallest, and the blurring value of the dark part becomes larger.
  • the air (atmosphere) expression can also maximize the sense of distance (depth). In general, the distance between objects is expressed simply by spreading them from side to side.
  • One of the methods used to draw animated backgrounds is to express organisms affected by light in the air. For example, there is sunlight that leaks through a window. You can add a layer of organisms affected by light to maximize the distance (depth). The expression of the layer is invisible, but the difference in depth with and without the layer is visible.

Abstract

The present invention relates to a method for converting a 2D image into a 3D image in order to enable the viewing of a stereoscopic image, and more particularly, to a method for creating left-eye and right-eye images through a lighting effect and displacement effect using a depth map in addition to a lens-blur effect.

Description

【명세서】  【Specification】
【발명의 명칭】  [Name of invention]
2D 이미지를 3D 입체 이미지로 전환시키는 방법  How to convert 2D images into 3D stereoscopic images
【기술분야】 Technical Field
본 발명은, 2D 애니메이션을 3D 입체 변환 방식에 의해 3D 이미지로 전환 (converting)하는 방법, 및 2D 애니메이션을 3D 애니메이션으로 입체 작업하는 방법에 관한 것이다.  The present invention relates to a method of converting a 2D animation into a 3D image by a 3D stereoscopic conversion method, and a method of stereoscopically working a 2D animation into a 3D animation.
【배경기술】 Background Art
사람은 왼쪽 눈과 오른쪽 눈에서 서로 다른 각도로 물체를 바라봄으로써 입 체감을 느끼게 된다. 이와 같은 원리에 기초하여 3D 입체 영상을 구현하고 제공하 기 위해서는, 왼쪽 눈과 오른쪽 눈의 시각 위치에서 따로 촬영한 2개의 영상을 왼 쪽 눈과 오른쪽 눈에 각각 보여주는 방식에 의해, 인공적으로 입체 영상을 구현한 다.  A person feels the body by looking at an object from different angles in his left and right eyes. In order to realize and provide a 3D stereoscopic image based on this principle, a stereoscopic image is artificially displayed by displaying two images, which are taken separately from the left and right eye visual positions, respectively. Implement
그러나, 이와 같은 종래의 기술이 효과를 발휘하기 위해서는 상기와 같이 왼 쪽 눈에 보여질 영상과 오른쪽 눈에 보여질 영상이 각각 존재해야 하므로 입체 영 상을 만들기 위해서는 2대의 카메라를 이용하여 새로이 영상을 제작해야 하는 어려 움이 있었다. 이는 기존에 존재하던 수많은 2차원 영상 (애니메이션을 포함)을 입체 영상 구현시스템에서는 활용할 수가 없다는 것을 말해준다.  However, in order for the conventional technology to be effective, the image to be seen by the left eye and the image to be seen by the right eye must be present as described above. There was a difficulty to produce. This means that many existing two-dimensional images (including animation) cannot be used in stereoscopic image implementation system.
특히, 2D 애니메이션을 3D 이미지로의 입체 변환 시 그림이라는 특성 때문에 볼륨감 (입체감)을 만들어내지 못하고 카드와 같은 판의 효과만을 내고 있는 상태이 다. 이렇듯, 애니메이션과 같은 2차원 영상은 일반적인 영상에 비해 3D 이미자로의 전환시키는데 있어서 어려움이 많다. 왜냐하면 종래의 2D 애니메이션의 경우에는 일반적으로 조명효과뿐만 아니라 입체효과를 포함하지 않기 때문이다. 또한, 조명 효과 및 입체효과를 예상하는 것은 쉽지 않기 때문이다.  In particular, when converting 2D animation into a 3D image, it is a picture that does not create a sense of volume (three-dimensional feeling) due to the characteristics of a picture. As such, two-dimensional images such as animation have more difficulty in converting to a 3D imager than a general image. This is because conventional 2D animation does not generally include not only lighting effects but also stereoscopic effects. In addition, it is because it is not easy to predict lighting effects and stereoscopic effects.
따라서, 본 발명은 상기 문제점을 해결하기 위하여 발명된 것으로, 그 목적 으로 하는 바는 일반 2차원 영상 자료, 바람직하게는 2D 애니메이션을 3D 애니메이 션으로 전환하는 방법에 관한 것이다.'  Accordingly, the present invention has been invented to solve the above problems, and its object is to convert a general two-dimensional image material, preferably a 2D animation into a 3D animation. '
【발명의 내용】 [Content of invention]
대체용지 (규칙제 26조) 본원에서 사용되는 뎁스맵 (Depth Map)이란, 2D 이미지 상의 사물의 깊이 값 을 보여주는 대조 이미지를 칭한다. 보는 쪽에서 먼 부분과 가까운 부분을 나타내 기 위한 기준 이미지의 맵이다. 예를 들어, 본 발명에서는ᅳ 보는 쪽에 가까운 부분 은 흰색, 먼 부분은 검정색으로, 그리고 보는 쪽에서의 원근감에 따라 각각의 위치 를 흰색과 검은색의 그라데이션 방식으로, 표현하였다. 도 1 및 도 9가 예시적으로 참조된다. 예를 들어 도 1의 경우 원기등에 대한 뎁스맵을 나타낸 것으로서, 원기 등의 가운데 볼록한 부분이 원기등을 바라볼 때 가장 가까운 부분에 해당하므로 흰 색으로 나타낸 것이고, 원기등의 가장 블록한 부분을 기준으로 하여 바라볼 때 좌 우로 점점 멀어지므로 그라데이션 방식으로 점점 어두운 색으로 나타낸 것이다. 이 는, 원본 이미지의 픽셀의 이동, 예를 들어, 디스플레이스먼트 맵 (Displacement Map) 효과의 적용의 기준으로 사용되며, 이는 이하에서 자세하게 설명될 것이다. 본원에서 사용되는 "흰색과 검은색의 그라데이션 방식으로" 의 의미는, 흰색과 검 은색 사이의 색으로, 이미지의 각 픽셀의, 높이의 차이 (보는 쪽에서의 원근 차이), 즉, 카메라로부터 멀어지는 거리의 차이를 표현하였음을 의미한다. Alternative Paper (Article 26) As used herein, a depth map refers to a contrast image showing a depth value of an object on a 2D image. It is a map of the reference image to indicate the part far from the viewer. For example, in the present invention, the portions near the viewing side are white, the far portions are black, and each position is expressed in a gradient manner of white and black according to the perspective from the viewing side. 1 and 9 are exemplarily referred to. For example, in FIG. 1, the depth map of the original lamp, etc., is shown in white because the convex part of the original lamp, etc. corresponds to the closest part when looking at the original lamp, and is based on the most blocked part of the original lamp. When you look at it as the left and right gradually get darker in a gradient way. This is used as a basis for the movement of the pixels of the original image, for example, the application of the displacement map effect, which will be described in detail below. As used herein, "in the manner of white and black gradation" means the difference in height (perspective difference on the viewing side) of each pixel in the image, the color between white and black, ie the distance away from the camera. It means that the difference is expressed.
본원 발명은, 2D 이미지를 3D 입체 이미지로 전환시키는 방법으로서, 2D 이 미지에서, 빛을 가장 많이 받는 하이라이트 부분은 흰색, 빛을 받지 못하는 부분은 검은색으로, 흰색과 검은색의 그라데이션 방식으로 표시되는 조명 레이어를 형성하 고; 보는 쪽에서 가장 가까운 부분은 흰색으로 표시하고 보는 쪽에서 가장 먼 부분 은 검은색으로, 흰색과 검은색의 그라데이션 방식으로 표시되는, 뎁스맵 레이어를 형성하며; 상기 뎁스맵의 흰색과 검은색의 그라데이션 값에 기초하여, 우안 영상을 위한 이미지의 픽샐을 좌로 이동되고, 좌안 영상을 위한 이미지의 픽셀은 우로 이 동하며, 여기서, 상기 이동에 있어서, 흰색 부분은 미리 정한 범위 중 가장 큰 범 위로 이동되고, 검은색 부분은 미리 정한 범위 중 가장 작은 범위로 이동되는, 2D 이미지를 3D 입체 이미지로 전환시키는 방법에 관한 것이다.  According to the present invention, a method of converting a 2D image into a 3D stereoscopic image, in which a highlight portion that receives the most light is white and a portion that does not receive light is displayed in white and a black gradation method in the 2D image. Forming a lighting layer; Forming a depth map layer in which the portion closest to the viewing side is displayed in white, and the portion furthest from the viewing side is in black, displayed in a gradient manner of white and black; Based on the white and black gradation values of the depth map, the pixel of the image for the right eye image is shifted to the left, and the pixels of the image for the left eye image are shifted to the right. It relates to a method of converting a 2D image into a 3D stereoscopic image, which is moved to the largest range of the predetermined range, and the black portion is moved to the smallest range of the predetermined range.
추가로, 입체감을 더욱 높이기 위해, 본 발명은 상기 좌안 및 우안 영상에, 초점거리에 가장 가까운 부분에 최소 블러 (blur)효과를 주고, 초점거리에서 가장 먼 부분에 최대 블러 효과를 포함할 수 있다.  In addition, in order to further increase the stereoscopic effect, the present invention may provide a minimum blur effect to a portion closest to a focal length to the left and right eye images, and include a maximum blur effect to a portion farthest from the focal length. .
【도면의 간단한 설명】 [Brief Description of Drawings]
도 1은 원기등 모양의 2D 이미지에 대웅한 뎁스맵 이미지이다.  1 is a magnified depth map image of a 2D image of a circular shape.
도 2는 원기등 모양의 2D 이미지에 조명 효과 적용된 이미지로서, 픽셀 단위 로 나눠져 있는 이미지이다. 도 3은 원기둥 모양의 2D 이미지에 조명 효과가 적용되지 전의 이미지로서, 픽셀 단위로 나눠져 있는 이미지이다. 2 is a light effect applied to a 2D image of a circular shape, which is divided into pixels. FIG. 3 is an image divided before the lighting effect is applied to a cylindrical 2D image, and is divided into pixels.
도 4는 상기 도 2의 이미지를 좌우로 나란히 배치한 이미지이다.  4 is an image in which the image of FIG. 2 is arranged side by side.
도 5는 도 1의 뎁스맵에 기초하여, 디스플레이스만트 맵 (Displacement Map) 효과가 부여되어, 이미지의 픽셀이 이동된 이미지이다ᅳ  FIG. 5 is an image in which a displacement map effect is applied and pixels of an image are shifted based on the depth map of FIG. 1. FIG.
도 6 내지 도 9는 마스크에 의한 뎁스맵 생성 과정을 보여주는 이미지들이 다.  6 to 9 are images showing a depth map generation process by a mask.
도 10은 입체 이미지가 평면 필름에 투영되어 2D 이미지가 형성되는 원리를 설명하는 도면이다.  10 is a view for explaining the principle that a stereoscopic image is projected onto a flat film to form a 2D image.
도 11은 두 눈으로 사물을 보는 모습을 나타내는 도면이다.  11 is a view showing a state of seeing an object with both eyes.
도 12는 우안 및 좌안 영상이 만들어지는 원리를 설명하기 위한 도면이다. 도 13은 본 발명의 2D 애니메이션을 3D 애니메이션으로 바꾸는 방법을 보여 주는 순서도이다.  12 is a view for explaining the principle of making the right eye and left eye images. 13 is a flowchart showing a method of converting a 2D animation of the present invention into a 3D animation.
【발명을 실시하기 위한 구체적인 내용】 [Specific contents to carry out invention]
도 13에서 참조돠는 바와 같이, 본 발명의 개략적인 2D 애니메이션의 3D 애 니메이션으로의 전환 방법은 다음과 같다. 원본 영상으로부터 대상 이미지들을 추 출한다, 과거 필름의 해상도 (예를 들어, 640 X 480)를 그대로 둔 채 사이즈만 HD 보다 더 크게 (예를 들어, 3840 X 2160) 키운다 (사이즈 조정). 추출되어 사이즈가 조정된 이미지를 직접 작화지에 프린트하고, 상기 프린트된 이미지 상의 연필선과 색 부분을 보정한다, 이렇게 보정된 이미지를 스캐너를 이용하여 고해상도로 스캔 한다, 3D TV의 경우 FULL HE)를 기본으로 하기 때문에 이에 맞는 해상도, 예를 들어 1920 X 1080으로 스캔 한다. 스캔 된 이미지 파일을 Photoshop 또는 영상 효과 프 로그램 (After effects. Nuke. Cinema 4D)과 같은 컴퓨터용 이미지 편집 프로그램에 서 로딩하여 별도의 레이어를 이용하여 이미지 조명 효과를 삽입한다. 이는 아래에 서 자세히 설명될 것이다, As referred to in FIG. 13, the method for converting the schematic 2D animation of the present invention to 3D animation is as follows. Extract the target images from the original image, increase the size only larger than HD (e.g. 3840 x 2160), leaving the resolution of the old film (e.g. 640 x 480) (resize). Print the extracted and resized image directly on the drawing paper, and correct the pencil lines and color parts on the printed image. Scan the corrected image at high resolution using a scanner, FULL HE ) for 3D TV. Therefore, scan at the appropriate resolution, eg 1920 x 1080. Scanned image files can be loaded from a computer image editing program such as Photoshop or After Effects.Nuke.Cinema 4D to insert image lighting effects using separate layers. This will be explained in detail below.
한편, 상기 고해상도로 스캔 된 이미지 파일에 기초하여, 뎁스 (depth) 스크 립트 및 뎁스맵을 만든다. 상기 뎁스맵에 대해서 아래에서 자세히 설명될 것이다, 상기 만들어진 뎁스맵을 기초로, 디스플레이스먼트 맵 (Displacement map) 효과를 주어 좌안과 우안 이미지를 생성하며, 이는 아래에서 자세히 설명될 것이다. 상기 생성된 좌안과 우안 이미지를 보정하고 후속하여 입체 영상을 생성하여 3D 애니메 이션 영상으로 저장한다, 아래에서는 본 발명의 조명 레이어; 뎁스맵 레이어; 및 픽셀의 이동을 구현 하는 대표적인 예를 예시적으로 설명한다. Meanwhile, a depth script and a depth map are generated based on the image file scanned at the high resolution. The depth map will be described in detail below. Based on the created depth map, a displacement map effect is generated to generate left and right eye images, which will be described in detail below. The left and right eye images are corrected and subsequently a stereoscopic image is generated and stored as a 3D animation image. Below is an illumination layer of the present invention; Depth map layer; And a representative example of implementing pixel movement as an example.
1. 조명효과 삽입 (조명 레이어 생성) 1. Insert lighting effects (create lighting layers)
본 발명의 특징은, 그라데이션을 이용한 조명 효과를 부가해서, 2D 이미지에 입체감을 구현한다는 점이다. 종래의 2D 애니메이션의 3D 애니메이션의 전환에는 이러한 조명효과 삽입에 대해 생각하지 못했고, 단순히 그림자 처리를 하는 정도였 다. 본원 발명자들은 조명효과의 삽입이 입체감의 제대로 된 구현이 가능함을 알아 낸 것이다。 이에, 본 발명자들은, 2D 애니메이션에 입체감을 더 높이기 위해, 조명 의 효과를 적용시켰다. 이 조명효과의 적용 방법은 아래에서 자세히 소개 되는 방 법에 의해 구현하였다, 이처럼 2D 애니메이션의 특징인 단색 면에 조명 효과를 주 어 색의 변화를 만들어 주었다. 이와 같은 본 발명의 그라데이션을 이용한 방식의 조명효과의 첨가는 입체감 (볼륨감)이 제대로 살아나게 하였다. 다만, 조명에 의한 효과가 너무 강하게 나타나면 원본 느¾이 변할 우려가 있으므로, 바람직하게는 50% 이하의 조명 효과를 주어 원본의 느낌을 최대한 살리는 방식을 취하고 있다. 도 2는 그라데이션을 이용한 방식의 조명 효과를 추가한 예시적인 도면이다.  A feature of the present invention is to add a lighting effect using a gradation to implement a three-dimensional effect on a 2D image. In the conversion of 3D animations from conventional 2D animations, I could not think of inserting lighting effects, but simply shadowed them. The inventors of the present invention have found that the insertion of the lighting effect enables proper implementation of the three-dimensional effect. Accordingly, the inventors have applied the effect of the lighting to further increase the three-dimensional effect in the 2D animation. The method of applying this lighting effect was implemented by the method introduced in detail below. Thus, the lighting effect was applied to the solid surface, which is a characteristic of 2D animation, to create a change in color. Such addition of the lighting effect of the method using the gradation of the present invention allows the three-dimensional (volume) to be properly alive. However, if the effect of the lighting is too strong there is a risk of changing the original slow, it is preferably taking the way to maximize the feeling of the original by giving a lighting effect of less than 50%. 2 is an exemplary diagram to add a lighting effect of the method using a gradient.
1.1. 조명효과 넣는 방법 (브러시에 의한조명 생성) 1.1. How to put lighting effects (Brush lighting)
도 2를 참고하면, 조명 효과가 추가된 예를 참고할 수 있다. 레이어 분리 작 업이 모두 끝난 또는 해상도 보완작업이 모두 끝난 이미지 소스를, 포토샵에서 레 이어 1개 또는 2개 이상을 생성시켜 브러시 를로 빛을 받는 하이라이트 부분은 흰 색 오버레이 (overlay) 효과를 적용하였고, 어두워지는 그림자 부분 (본 명세서에서 "그림자 부분" 이라 함은 실제 이미지의 그림자를 의미하는 것이 아니고 빛이 들 어오는 방향의 반대편에 위치한 부분을 어둡게 나타낸 부분임)은 검은색 오버레이 (overlay) 효과를 적용하였으며, 하이라이트 부분과 어두워지는 그림자 부분은 대 상 이미지에서 조명이 들어오는 방향을 고려하여 선택된다. 상기 하이라이트와 그 림자 부분의 경계는 페더 (feather) 효과를 주어, 그라데이션을 최대한 살려 부드럽 고 자연스럽게 한다. 여기서 상기 페더 값은 바람직하게 4-6이었다. 이러한 효과가 은근히 적용되도록 하기 위해서 상기 레이어에 투명도 효과를 주었다. 바람직하게 는 상기 투명도 값은 50% 였다. 도 2를 참고하면, 좌측이 밝은 하이라이트 부분이 고 우측으로 갈수록 점점 어두워지는 그림자 부분을 나타내 I 있음을 알 수 있다, 즉, 원래 이미지인 원기등에 조명이 좌측에서 들어오고 있으며 따라서 원기등의 좌 측 부분은 밝은 부분 (하이라이트 부분)에 해당하고 우측 부분은 어두운 부분 (그림 자 부분)에 해당하며, 도 2는 그라데이션을 살려서 원기등 2D 이미지에 조명 효과 를 표현한 것이다。 Referring to FIG. 2, reference may be made to an example in which a lighting effect is added. Image overlays that have finished layer separation or finished resolution enhancement, create one or more layers in Photoshop, and highlight the highlights with a brush to apply a white overlay effect. The darker shadows ("shadows" in this specification do not mean the shadows of the actual image, but the darker areas that are opposite to the direction the light is coming from). The highlight and darkening shadows are selected by considering the direction of illumination from the target image. The boundary between the highlight and the shadow portion gives a feather effect, making the gradation smooth and natural. Wherein the feather value is preferably 4-6. Transparency was applied to the layer so that this effect was applied quietly. Preferably the transparency value is 50%. Referring to FIG. 2, it can be seen that the left side shows the bright highlight part and the shadow part I becomes darker toward the right side. That is, the original image of the main lamp has a light coming from the left, and thus the left of the main lamp. The side part corresponds to the bright part (highlight part), and the right part corresponds to the dark part (shadow part), and FIG. 2 expresses the lighting effect on the 2D image of the energy lamp by utilizing the gradation.
1.2. 조명효과 넣는 방법 (마스크에 의한 조명 생성) 1.2. How to put lighting effects (lighting by mask)
영상 효과 프로그램 (After effects. Nuke. Cinema 4D등)의 기본기능인 마스 크와 펜틀을 이용해 위에서 설명한 브러시 효과를 생성하였다. 이 방법은, 원본 소 스의 레이어가 분리되지 않아도 작업이 가능하다. 원본 소스 이미지 위에 단색 (solid) 레이어를 만들고 하이라이트 부분이나 그림자 부분을 펜틀을 이용해 마스 크를 만들어 주었다. 이 때 마스크 선이 칼로 자른 듯 정확한데 가장자리 외곽선을 상기 설명한 바와 같이, 페더 효과를 주어 부드럽고 자연스럽게 한다. 예를 들어, 페더 값 4-6이었다. 도 6 내지 9가 참조될 수 있다.  The brush effect described above was created using a mask and a pentle, which are basic functions of a video effects program (After effects. This method works even if the layers of the original source are not separated. I created a solid layer on top of the original source image and masked the highlights or shadows with a pen. At this point, the mask line is precisely cut with a knife, but the edge outline is smoothed and made natural as described above. For example, it was a feather value of 4-6. 6 to 9 may be referred to.
2. 뎁스맵 만들기 2. Create the depth map
뎁스맵 작업은 도 6 내지 도 9가 참조된다. 본 발명에서는, 보는 쪽에 가까 운 부분을 흰색, 먼 부분을 검정색으로 표현하였다. 이를 구현하기 위해, 별도의 검정색 레이어를 만들었다 (도 6). 그 위에 사물의 가까운 부분에 흰색 레이어를 만 들었다 (도 7). 상기 흰색의 레이어를 만든 후 깊이감을 나타내는 등고선을 펜틀을 이용하여 프레임 단위로 모양을 만들었다. 이후 위에서 설명한 바와 같이, 마스크 의 페더 값을 조절 (페더값 4-6)하여 자연스럽고 부드러운 그라데이션을 만들어주었 다 (도 8 및 도 9), 도 1은 이러한 방식으로 만들어진 뎁스맵의 예시이고ᅳ 도 1은 이미 설명한 바와 같이 원기등에 대한 뎁스맵을 나타낸다.  6 to 9 are referred to for the depth map operation. In the present invention, the portion near the viewing side is expressed in white and the portion farther in black. To implement this, a separate black layer was created (FIG. 6). On top of that I made a white layer on the closest part of the object (Figure 7). After the white layer was made, contours representing depth were made in frame units using a pentle. As described above, by adjusting the feather value of the mask (feather value 4-6), a natural and smooth gradation was created (FIGS. 8 and 9). FIG. 1 is an example of a depth map made in this manner. 1 shows a depth map with respect to an original light etc. as already demonstrated.
3。 뎁스맵을 이용한 입체감 생성 방법 3。 Depth generation method using depth map
통상 2D 그림은 도 10에서 보는 바와 같이 입체를 2차원 평면 (도 10에서는 필름)에 반영하기 때문에, 입체로 보이지 않는다. 사람이 사물을 입체감 있게 느끼 는 것은, 두 개의 사람의 눈으로 사물을 관찰하기 때문이다 (도 11). 그렇기 때문에 그림을 입체로 표현하려면 사람의 눈과 같은 두 개의 시점으로 바라본 두 개의 그 림이 필요한 것이다. 원본 영상이 있으면 도 12에서 보는 바와 같이, 좌안 영상을 만드는 것은 원본을 오른쪽으로 돌리는 것을 본 영상이고, 우안 영상은 원본을 왼 쪽으로 돌린 것을 본 영상이다. 하지만 실제로 돌릴 수 없기 때문에 픽셀을 좌측과 우측으로 이동시켜야 한다. 이때 사물을 바라보는 쪽에서 두 눈과 가장 가까운 사 물의 돌출 부분이 눈과 가깝기 때문에 좌안과 우안으로만 각각 봤을 때 이동 간격 이 가장 커야 할 것이고, 두 눈으로부터 가장 먼 사물의 부분은 이동 간격이 가장 작을 것이다. 그러므로, 사물을 우안으로 본 우안 영상과 좌안으로 본 좌안 영상을 만들 때 , 눈과 가장 가까운 부분은 많이 이동시키고 , 가장 먼 부분은 적게 이동시 켜야 한다。 이미 설명한 바와 같이 뎁스맵의 흰 부분은 눈에서 가까운 부분이고, 검은 부분은 눈에서 먼 부분이므로, 뎁스맵을 이용해 우안 및 좌안 영상을 만들 때 , 픽셀의 이동 정도는 만들어진 뎁스맵을 이용하여 흰 부분은 많이 이동시키고, 어 두운 부분은 적게 이동시킴에 의해 입체감이 구현될 수 있는 것이다 (디스플레이스 먼트 맵 효과 적용), 이러한 좌안 및 우안 영상을 생성하는 것은 이하에서 추가적 으로 설명된다, Usually, a 2D picture is not seen in three dimensions because it reflects the three-dimensional surface on the two-dimensional plane (film in FIG. 10) as shown in FIG. The reason why a person feels things three-dimensionally is because they observe things with the eyes of two people (FIG. 11). Therefore, to express a picture in three dimensions requires two pictures viewed from two viewpoints such as the human eye. If there is an original image, as shown in FIG. 12, creating a left eye image is an image of turning the original to the right, and a right eye image of an image of turning the original to the left. But because you can't actually turn it, you have to move the pixels left and right. At this time, the person who looks close to the eyes Since the protruding part of the water is close to the eye, the movement distance should be the largest when viewed only with the left and right eyes, respectively, and the part of the object farthest from both eyes will have the smallest movement distance. Therefore, when making an image of the right eye viewed from the right eye and the left eye viewed from the left eye, move the part closest to the eye more and move the part farthest farther away. Since the close part is black and the dark part is far from the eyes, when creating the right and left eye images using the depth map, the degree of pixel movement is increased by moving the white part by using the created depth map and by moving the dark part by less. By the three-dimensional effect can be implemented (applied with the display map effect), the generation of these left and right eye images is described further below.
이와 같은 방식으로 원본 이미지의 픽셀을 이동시키기 위해, Photoshop또는 영상 효과 프로그램을 사용하였다. 상기 생성된 뎁스맵을 이용하여 이펙트 를인 디 스플레이스먼트 맵 (Displacement Map) 효과를 주었다. 이처럼 디스플레이스먼트 맵 (Displacement Map)의 효과를 이용하여 흰색 내지 검정색의 그라데이션 색 데이터 를 이용해, 픽셀들의 위치를 > 뎁스맵을 이용해 적절히 이동시켜 입체 효과를 주었 다. To move the pixels of the original image in this way, Photoshop or a video effects program was used. Using the generated depth map, the effect was given a displacement map effect. Such displacement map using the white color to a black gradation data of using the effect of (Displacement Map), by appropriately moving the position of the pixels using the> depth map is given a three-dimensional effect.
4. 좌우 영상 만들기 4. Create left and right video
도 4를 참고하면 조명 효과가 가해진 원본 영상을 좌 우로 나란히 배치하였 다. 교차 방식을 위해 좌안 영상을 오른쪽에 , 그리고 우안 영상을 왼쪽에 배치하였 다. 이러한 영상 밑에 해당 이미지의 뎁스맵 (도 1의 뎁스맵)을 놓는다, 이후 상기 좌우로 배치한 원본 영상에 각각 디스플레이스먼트 맵 (Displacement Map) 효과를 주었다. 뎁스맵에 영향을 받은 디스플레이스먼트 맵 (Displacement Map)은 원본의 픽셀을 이동시켰다. 좌측에 있는 우안 영상이 될 원본에 (+) 값을 주어 뎁스맵에서 밝은 부분의 픽셀들이 좌측으로 이동하였다. 우측에 있는 좌안 영상이 될 원본에 (-) 값을 주어 뎁스맵에서 밝은 부분의 픽셀들이 우측으로 이동하였다. 즉 도 5에 서 보는 바와 같이 우안 영상의 픽셀들은 좌측으로 이동하고, 좌안 영상의 픽셀들 은 우측으로 이동한다. 앞서 설명한 바와 같이, 우안 영상 및 좌안 영상 각각에서 밝은 색이 이동하는 방향과 어두운 색이 이동하는 방향은 다르지 않지만, 다만 이 동되는 거리가 밝은 색은 많이 이동하고 어두운 색은 조금 이동하게 되는 것이다.  Referring to FIG. 4, the original images to which the lighting effect is applied are arranged side by side. The left eye image was placed on the right side and the right eye image on the left side. A depth map of the corresponding image (depth map of FIG. 1) is placed under the image, and then a displacement map effect is applied to the original images arranged left and right. The displacement map affected by the depth map moved the original pixels. The bright pixels in the depth map were shifted to the left by giving a positive value to the left eye image. Bright pixels in the depth map were shifted to the right by giving a negative value to the original to be the left eye image on the right. That is, as shown in FIG. 5, the pixels of the right eye image move to the left and the pixels of the left eye image move to the right. As described above, in the right eye image and the left eye image, the direction in which light colors move and the direction in which dark colors do not differ is different, but the distance moved is a lot of light colors and dark colors move slightly.
5. 렌즈 블러 (Lenz Blur) 거리감 (깊이감)을 극대화 하기 위한 방법으로 본 발명은 렌즈 블러를 추가로 주는 것을 고려하였다。 초점거리에 가까운 것은 선명하고 초점에서 멀어질수록 블 러 값이 커지며, 뎁스맵에 의한 픽셀 이동으로 생성된 입체감이 블러를 주는 것으 로 더욱 극대화 된다. 5. Lens Blur In order to maximize the sense of distance (depth), the present invention considers the addition of lens blur. The closer to the focal length, the sharper the distance from the focal point and the greater the blurring value, and the pixel movement caused by the depth map. The added three-dimensional effect is further maximized by blurring.
좌안과 우안 영상에 렌즈 블러를 주면 템스맹의 영향을 받아 밝은 부분이 블 러값을 가장 많이 받고 어두운 부분이 블러값을 적게 받는다, 렌즈 블러의 옵션에 서 인버트 (invert)를 체크해주면 반대로 밝은 부분의 블러값이 가장 작고, 어두운 부분의 블러값이 커지게 된다。 상기에서 설명한 입체감을 나타내기 위한 효과들에 부가하여 추가적으로 공 기 (대기)표현으로 거리감 (깊이감)을 극대화 할 수도 있다. 일반적으로 단순히 좌우 로 벌리는 방법으로 사물간의 거리감을 나타내는데 애니메이션 배경을 그릴 때 쓰 는 방법 중 하나로 공기 중에 있는 빛의 영향을 받은 유기체를 표현하는 방법이 있 다. 예를 들어 창문 틈으로 새어 들어 오는 햇살 같은 것이 있다. 빛의 영향을 받 은 유기체 레이어를 추가하여 거리 (깊이)감을 극대화 할 수 있다. 레이어의 표현이 눈에 보이진 않지만, 그 레이어가 있을 때와 없을 때의 깊이 감의 차이는 눈으로 느껴진다.  If the lens blur is applied to the left eye and right eye images, the bright part receives the most blur and the dark part receives the less blur due to the influence of Thamesblind.If you check Invert in the option of the lens blur, The blurring value is the smallest, and the blurring value of the dark part becomes larger. In addition to the effects for representing the three-dimensional effect described above, the air (atmosphere) expression can also maximize the sense of distance (depth). In general, the distance between objects is expressed simply by spreading them from side to side. One of the methods used to draw animated backgrounds is to express organisms affected by light in the air. For example, there is sunlight that leaks through a window. You can add a layer of organisms affected by light to maximize the distance (depth). The expression of the layer is invisible, but the difference in depth with and without the layer is visible.
이상에서는 예시적으로 참조하여 설명하였지만, 해당 기술 분야의 당업자는 하기의 청구의 범위에 기재된 본 발명의 사상 및 취지로부터 벗어나지 않는 범위 내에서 본 발명을 다양하게 수정 및 변경시킬 수 있음을 이해할수 있을 것이다.  Although described above by way of example only, it will be understood by those skilled in the art that the present invention may be variously modified and changed without departing from the spirit and spirit of the present invention as set forth in the claims below. will be.

Claims

【특허청구범위】 [Patent Claims]
【청구항 1】  [Claim 1]
2D 이미지를 3D 입체 이미지로 전환시키는 방법으로서 ,  As a method of converting 2D images into 3D stereoscopic images,
2D 이미지에서, 빛을 가장 많이 받는 하이라이트 부분은 흰색, 빛을 받지 못 하는 부분은 검은색으로, 흰색과 검은색의 그라데이션 방식으로 표시되는 조명 레 이어를 형성하고,  In the 2D image, the highlights that receive the most light are white, the areas that do not receive light are black, forming an illumination layer that is displayed in a white and black gradient.
보는 쪽에서 가장 가까운 부분은 흰색으로 표시하고 보는 쪽에서 가장 먼 부 분은 검은색으로, 흰색과 검은색의 그라데이션 방식으로 표시되는 뎁스맵 레이어를 형성하며,  The depth closest to the viewing side is shown in white, and the farthest away from the viewing side is in black, forming a depth map layer that is displayed in a gradient between white and black.
상기 뎁스맵의 흰색과 검은색의 그라데이션 값에 기초하예 우안 영상을 위 한 이미지는 좌로 이동되고 좌안 영상을 위한 이미지는 우로 이동하며, 여기서, 상기 이동에 있어세 흰색 부분은 미리 정한 범위 중 가장 큰 범위로 이동되고, 검 은색 부분은 미리 정한 범위 중 가장 작은 범위로 이동되는,  Based on the white and black gradation values of the depth map, the image for the right eye image is shifted to the left and the image for the left eye image is shifted to the right, wherein the white part in the movement is the largest of the predetermined ranges. Moved to a range, and the black portion moves to the smallest of the predefined ranges,
2D 이미지를 3D 입체 이미지로 전환시키는 방법,  How to convert 2D images into 3D stereoscopic images,
【청구항 2】 [Claim 2]
제 1항에 있어서,  The method of claim 1,
상기 좌안 및 우안 영상에, 초점거리에 가장 가까운 부분에 최소 블러 (blur) 효과를주고, 초점거리에서 가장 먼 부분에 최대 블러 효과를 준,  In the left eye and right eye images, a minimum blur effect is given to a portion closest to a focal length, and a maximum blur effect is given to a portion farthest from a focal length
2D 이미지를 3D 입체 이미지로 전환시키는 방법.  How to convert 2D image into 3D stereoscopic image.
PCT/KR2011/001297 2011-02-24 2011-02-24 Method for converting a 2d image into a 3d image WO2012115293A1 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
PCT/KR2011/001297 WO2012115293A1 (en) 2011-02-24 2011-02-24 Method for converting a 2d image into a 3d image

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/KR2011/001297 WO2012115293A1 (en) 2011-02-24 2011-02-24 Method for converting a 2d image into a 3d image

Publications (1)

Publication Number Publication Date
WO2012115293A1 true WO2012115293A1 (en) 2012-08-30

Family

ID=46721054

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/KR2011/001297 WO2012115293A1 (en) 2011-02-24 2011-02-24 Method for converting a 2d image into a 3d image

Country Status (1)

Country Link
WO (1) WO2012115293A1 (en)

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20050063582A1 (en) * 2003-08-29 2005-03-24 Samsung Electronics Co., Ltd. Method and apparatus for image-based photorealistic 3D face modeling
US20070216765A1 (en) * 2006-03-16 2007-09-20 Wong Earl Q Simple method for calculating camera defocus from an image scene
US20100197395A1 (en) * 2009-01-30 2010-08-05 Microsoft Corporation Visual target tracking

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20050063582A1 (en) * 2003-08-29 2005-03-24 Samsung Electronics Co., Ltd. Method and apparatus for image-based photorealistic 3D face modeling
US20070216765A1 (en) * 2006-03-16 2007-09-20 Wong Earl Q Simple method for calculating camera defocus from an image scene
US20100197395A1 (en) * 2009-01-30 2010-08-05 Microsoft Corporation Visual target tracking

Similar Documents

Publication Publication Date Title
KR20120095059A (en) Method of converting 2d images to 3d images
JP2010154422A (en) Image processor
JP4707368B2 (en) Stereoscopic image creation method and apparatus
CN103426163B (en) System and method for rendering affected pixels
EP2306744B1 (en) Method and system for utilizing pre-existing image layers of a two-dimensional image to create a stereoscopic image
US8351689B2 (en) Apparatus and method for removing ink lines and segmentation of color regions of a 2-D image for converting 2-D images into stereoscopic 3-D images
EP2306745B1 (en) Method and system for creating depth and volume in a 2-D planar image
US20090219383A1 (en) Image depth augmentation system and method
JP2018078660A (en) Video presentation device, method thereof, data structure, program
KR20110015452A (en) Blur enhancement of stereoscopic images
KR20030029649A (en) Image conversion and encoding technique
EP2437220A1 (en) Method and arrangement for censoring content in three-dimensional images
JP2016511888A (en) Improvements in and on image formation
US8094148B2 (en) Texture processing apparatus, method and program
US11398007B2 (en) Video generation device, video generation method, program, and data structure
JP2012079291A (en) Program, information storage medium and image generation system
CN109510975B (en) Video image extraction method, device and system
KR20200129657A (en) Method for gaining 3D model video sequence
JP2007086716A (en) Image display system, image display method, encoding method, and printed matter for stereoscopic display
EP3057316B1 (en) Generation of three-dimensional imagery to supplement existing content
US8786681B1 (en) Stereoscopic conversion
JP7387029B2 (en) Single-image 3D photography technology using soft layering and depth-aware inpainting
US9118902B1 (en) Stereoscopic conversion
WO2012115293A1 (en) Method for converting a 2d image into a 3d image
CN105282534B (en) For being embedded in the system and method for stereo-picture

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 11859082

Country of ref document: EP

Kind code of ref document: A1

NENP Non-entry into the national phase

Ref country code: DE

32PN Ep: public notification in the ep bulletin as address of the adressee cannot be established

Free format text: NOTING OF LOSS OF RIGHTS PURSUANT TO RULE 112(1) EPC (EPO FORM 1205A DATED 17-12-2013)

122 Ep: pct application non-entry in european phase

Ref document number: 11859082

Country of ref document: EP

Kind code of ref document: A1