CN101278552A - 图像处理系统、图像处理程序 - Google Patents

图像处理系统、图像处理程序 Download PDF

Info

Publication number
CN101278552A
CN101278552A CNA2006800363297A CN200680036329A CN101278552A CN 101278552 A CN101278552 A CN 101278552A CN A2006800363297 A CNA2006800363297 A CN A2006800363297A CN 200680036329 A CN200680036329 A CN 200680036329A CN 101278552 A CN101278552 A CN 101278552A
Authority
CN
China
Prior art keywords
edge
unit
signal
noise
image processing
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CNA2006800363297A
Other languages
English (en)
Inventor
鹤冈建夫
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Olympus Corp
Original Assignee
Olympus Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Olympus Corp filed Critical Olympus Corp
Publication of CN101278552A publication Critical patent/CN101278552A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/14Picture signal circuitry for video frequency region
    • H04N5/20Circuitry for controlling amplitude response
    • H04N5/205Circuitry for controlling amplitude response for correcting amplitude versus frequency characteristic
    • H04N5/208Circuitry for controlling amplitude response for correcting amplitude versus frequency characteristic for compensating for attenuation of high frequency components, e.g. crispening, aperture distortion correction
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/70Denoising; Smoothing
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/73Deblurring; Sharpening
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/13Edge detection
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/44Local feature extraction by analysis of parts of the pattern, e.g. by detecting edges, contours, loops, corners, strokes or intersections; Connectivity analysis, e.g. of connected components
    • G06V10/443Local feature extraction by analysis of parts of the pattern, e.g. by detecting edges, contours, loops, corners, strokes or intersections; Connectivity analysis, e.g. of connected components by matching or filtering
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/84Camera processing pipelines; Components thereof for processing colour signals
    • H04N23/843Demosaicing, e.g. interpolating colour pixel values
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/10Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
    • H04N25/11Arrangement of colour filter arrays [CFA]; Filter mosaics
    • H04N25/13Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
    • H04N25/134Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements based on three different wavelength filter elements
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/10Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
    • H04N25/11Arrangement of colour filter arrays [CFA]; Filter mosaics
    • H04N25/13Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
    • H04N25/135Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements based on four or more different wavelength filter elements
    • H04N25/136Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements based on four or more different wavelength filter elements using complementary colours
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/60Noise processing, e.g. detecting, correcting, reducing or removing noise
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/14Picture signal circuitry for video frequency region
    • H04N5/142Edging; Contouring
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10024Color image
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20172Image enhancement details
    • G06T2207/20192Edge enhancement; Edge preservation

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Physics & Mathematics (AREA)
  • Signal Processing (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Spectroscopy & Molecular Physics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Image Processing (AREA)
  • Studio Devices (AREA)
  • Picture Signal Circuits (AREA)
  • Facsimile Image Signal Circuits (AREA)

Abstract

一种图像处理系统,包括:CCD(102),其输出图像信号;边缘提取部(109),其从图像信号中提取边缘信号;无效边缘推定部(110),其根据图像信号推定由噪声成分引起的边缘信号;边缘修正部(111);其根据由噪声成分引起的边缘信号核化处理边缘信号以进行修正;以及边缘强调部(112),其根据修正后的边缘信号对图像信号进行强调处理。

Description

图像处理系统、图像处理程序
技术领域
本发明涉及从来自摄像元件的图像信号中提取边缘信号的图像处理系统、图像处理程序。
背景技术
数字照相机和数字摄像机等数字摄像装置通常构成为具有:摄像元件;对从该摄像元件输出的模拟信号进行各种模拟处理的模拟电路;以及将该模拟电路的信号转换成数字信号的A/D转换器。
在从这样的数字摄像装置的A/D转换器得到的数字信号中,通常包含多种噪声成分。在从这样的包含噪声成分的图像信号中提取边缘信号的情况下,一直以来是通过进行被称为核化(coring)的处理来抑制噪声成分的影响。
作为这样的技术,例如日本特开平8-107565号公报记载了如下技术:对每个R、G、B信号提取边缘成分,根据规定的噪声识别基准值进行核化处理。由此,能够降低热噪声的影响,更高精度地进行边缘成分的提取。
并且,在日本特开平9-121366号公报中记载了如下技术:根据R、G、B信号之间的相关性和边缘信号的振幅,识别是否为噪声,在识别出是噪声的情况下进行核化处理。由此,能够抑制各颜色信号之间的噪声的影响,更高精度地进行边缘成分的提取。
另外,在日本特开2005-130297号公报中记载了如下技术:从图像信号动态地推定噪声成分,并动态地控制核化处理。由此,能够伴随动态变化的噪声成分进行高精度的边缘成分的提取。
并且,在日本特开2005-175718号公报中记载了如下技术:动态地推定关于亮度信号以及色差信号的噪声量,并进行高品位的降噪处理。
如上所述的日本特开平8-107565号公报所记载的技术是静态地赋予噪声识别基准值。但是,由摄像元件引起的噪声根据图像信号的电平、增益、摄像时摄像元件的温度等因素而动态地变化。因此,该公报所记载的技术不能进行与各因素的动态变化相对应的最佳的噪声推定,存在核化处理的精度可能降低的问题。并且,该公报所记载的技术是通过噪声成分来修正边缘信号,但是,因为噪声成分和边缘信号性质不同,所以存在未必能高精度地进行修正的问题。
并且,上述日本特开平9-121366号公报所记载的技术是根据颜色信号之间的相关性来进行噪声的识别,所以在颜色信号之间的相关性小的被摄体、例如接近于单一颜色的被摄体等中,存在核化处理的精度降低、进而边缘成分的提取精度降低的问题。另外,该公报所记载的技术是通过噪声成分来修正边缘信号,所以基于上述理由,存在修正的精度降低的问题。
并且,上述日本特开2005-130297号公报所记载的技术也是通过噪声成分来修正边缘信号,所以基于上述理由,存在修正的精度降低的问题。
另外,上述日本特开2005-175718号公报所记载的技术并不是以高精度地进行边缘成分的提取为目的,而是独立地进行降噪处理和边缘提取处理。因此,存在不能相互地有效利用降噪处理和边缘提取处理的问题。
发明内容
鉴于上述情况,本发明的目的在于提供一种对混合有多种噪声的图像信号也能够稳定地进行高精度的边缘成分的提取的图像处理系统、图像处理程序。
而且,本发明的目的还在于提供一种能够得到高品位的图像信号的低成本的图像处理系统、图像处理程序。
为达成上述目的,第一发明的图像处理系统,用于处理来自摄像元件的图像信号,其包括:边缘提取单元,其从所述图像信号中提取边缘信号;无效边缘推定单元,其根据所述图像信号来推定由噪声成分引起的边缘信号;以及边缘修正单元,其根据所述由噪声成分引起的边缘信号来修正所述边缘信号。
并且,本发明的图像处理程序,用于使计算机处理来自摄像元件的图像信号,该图像处理程序用于使计算机执行如下步骤:边缘提取步骤,从所述图像信号中提取边缘信号;无效边缘推定步骤,根据所述图像信号推定由噪声成分引起的边缘信号;以及边缘修正步骤,根据所述由噪声成分引起的边缘信号修正所述边缘信号。
附图说明
图1是示出本发明实施方式1中的图像处理系统的结构的框图。
图2是示出上述实施方式1中、用于边缘提取处理的由3×3像素构成的注目区域的结构的图。
图3是示出上述实施方式1中、能应用于3×3像素的注目区域上的各向同性边缘提取滤色器的结构的图。
图4是示出上述实施方式1中、能应用于3×3像素的注目区域上的水平边缘提取滤色器和垂直边缘提取滤色器的结构的图。
图5是示出上述实施方式1中的无效边缘推定部的结构的框图。
图6是示出上述实施方式1中、噪声量相对信号电平的关系的曲线图。
图7是示出上述实施方式1中、无效边缘信号相对噪声量的关系的曲线图。
图8是示出上述实施方式1中的边缘模型的曲线图。
图9是用于说明上述实施方式1中、基于边缘模型的无效边缘信号的计算方法的曲线图。
图10是示出上述实施方式1中的边缘修正部的结构的框图。
图11是示出上述实施方式1中、边缘修正部中的核化处理的响应的曲线图。
图12是示出上述实施方式1中的无效边缘推定部的另一个结构例的框图。
图13是示出上述实施方式1中的图像处理系统的另一个结构例的框图。
图14是示出上述实施方式1中、图像处理程序进行的信号处理整体的流程的流程图。
图15是示出图14的步骤S4中的无效边缘推定处理的详细情况的流程图。
图16是示出本发明的实施方式2中的图像处理系统的结构的框图。
图17是示出上述实施方式2中的噪声处理部的结构的框图。
图18是示出上述实施方式2中的无效边缘推定部的一个结构例的框图。
图19是示出上述实施方式2中的无效边缘推定部的另一个结构例的框图。
图20是示出上述实施方式2中的边缘修正部的结构的框图。
图21是示出上述实施方式2中、边缘修正部中的核化处理的响应的曲线图。
图22是示出上述实施方式2中、图像处理程序进行的信号处理整体的流程的流程图。
图23是示出图22的步骤S30中的噪声处理的详细情况的流程图。
图24是示出图22的步骤S31中的无效边缘推定处理的详细情况的流程图。
图25是示出本发明的实施方式3中的图像处理系统的结构的框图。
图26是示出上述实施方式3中、拜尔(Bayer)型原色滤色器的结构的图。
图27是示出上述实施方式3中、色差线顺序型补色滤色器的结构的图。
图28是示出上述实施方式3中的无效边缘推定部的一个结构例的框图。
图29是示出上述实施方式3中的无效边缘推定部的另一个结构例的框图。
图30是示出上述实施方式3中的边缘修正部的结构的框图。
图31是示出上述实施方式3中、核化处理中的响应的各实例的曲线图。
图32是示出上述实施方式3中、图像处理程序进行的信号处理整体的流程的流程图。
图33是示出图32的步骤S62中的无效边缘推定处理的详细情况的流程图。
图34是示出本发明的实施方式4中的图像处理系统的结构的框图。
图35是示出上述实施方式4中、图像处理程序进行的信号处理整体的流程的流程图。
图36是示出本发明的实施方式5中的图像处理系统的结构的框图。
图37是示出上述实施方式5中、对从前面配置有拜尔(Bayer)型原色滤色器的摄像元件得到的图像信号进行Y/C分离的方法的一例的图。
图38是示出上述实施方式5中、与注目像素的颜色成分对应的水平边缘提取滤色器和垂直边缘提取滤色器的结构的图。
具体实施方式
以下,参照附图说明本发明的实施方式。
[实施方式1]
图1至图15示出本发明的实施方式1,图1是示出图像处理系统的结构的框图,图2是示出用于边缘提取处理的由3×3像素构成的注目区域的结构的图,图3是示出能应用于3×3像素的注目区域上的各向同性边缘提取滤色器的结构的图,图4是示出能应用于3×3像素的注目区域上的水平边缘提取滤色器和垂直边缘提取滤色器的结构的图,图5是示出无效边缘推定部的结构的框图,图6是示出噪声量相对信号电平的关系的曲线图,图7是示出无效边缘信号相对噪声量的关系的曲线图,图8是示出边缘模型的曲线图,图9是用于说明根据边缘模型的无效边缘信号的计算方法的曲线图,图10是示出边缘修正部的结构的框图,图11是示出边缘修正部中的核化处理的响应的曲线图,图12是示出无效边缘推定部的另一个结构例的框图,图13是示出图像处理系统的另一个结构例的框图,图14是示出图像处理程序进行的信号处理整体的流程的流程图,图15是示出图14的步骤S4中的无效边缘推定处理的详细情况的流程图。
首先,参照图1对该图像处理系统的结构进行说明。图1所示的图像处理系统为在数字照相机上应用本发明的图像处理系统的实例。
该图像处理系统包括:透镜系统100、光圈101、CCD 102、温度传感器117、放大器103、A/D转换器104、缓冲器105、测光评价部106、对焦点检测部107、AF电机108、边缘提取部109、无效边缘推定部110、边缘修正部111、边缘强调部112、信号处理部113、输出部114、控制部115、以及外部I/F部116。
透镜系统100用于使被摄体的光学像在CCD 102的摄像面上成像。
光圈101用于规定通过透镜系统100成像的被摄体光束的透射范围,从而改变在CCD 102的摄像面上成像的光学像的亮度。
CCD 102是用于对成像的光学像进行光电转换、并作为模拟图像信号而输出的摄像元件。另外,在本实施方式中,作为CCD 102,假设是黑白用单片CCD。并且,摄像元件也并不限定于CCD,当然也可以使用CMOS或其他的摄像元件。
温度传感器117是收集单元和噪声推定单元,其实际测量该CCD 102的温度并向控制部115输出。
放大器103用于放大从CCD 102输出的图像信号。该放大器103的放大量是根据控制部115的控制而由测光评价部106来设定的。
A/D转换器104用于根据控制部115的控制,将从CCD 102输出并通过放大器103放大后的模拟图像信号转换成数字图像信号。
缓冲器105用于暂时存储从A/D转换器104输出的数字图像信号。
在为预摄像模式时,测光评价部106根据控制部115的控制,求出存储在缓冲器105内的图像信号中的亮度电平,并考虑所设定的ISO灵敏度和抖动极限的快门速度等,对用于形成合适曝光的光圈101的光圈值、CCD 102的电子快门速度和放大器103的放大率等进行控制。
在为预摄像模式时,对焦点检测部107根据控制部115的控制,检测存储在缓冲器105内的图像信号中的边缘强度,并控制AF电机108使得该边缘强度为最大,从而得到对焦信号。
AF电机108是被对焦点检测部107控制,用于驱动透镜系统100所包含的AF透镜的驱动源。
边缘提取部109是如下边缘提取单元:在为主摄像时,其根据控制部115的控制,从存储在缓冲器105内的图像信号中依次提取图2所示的3×3像素尺寸的注目区域,使用例如图3所示的边缘提取滤色器来提取注目像素中的边缘信号E。
无效边缘推定部110是如下无效边缘推定单元:在为主摄像时,其根据控制部115的控制,从存储在缓冲器105内的图像信号中依次提取与边缘提取部109相同的3×3像素尺寸的注目区域,推定注目像素P11中的由噪声成分引起的无效边缘信号IE。
边缘修正部111是如下边缘修正单元:其根据控制部115的控制,使用来自无效边缘推定部110的无效边缘信号IE,对来自边缘提取部109的边缘信号E进行核化处理。
边缘强调部112是如下边缘强调单元:其根据控制部115的控制,依次提取与边缘提取部109相同的3×3像素尺寸内的注目像素P11,使用来自边缘修正部111的完成了核化处理的边缘信号E’进行边缘强调处理。
信号处理部113根据控制部115的控制,对从边缘强调部112输出的边缘强调后的图像信号进行公知的压缩处理等,并将处理后的信号向输出部114传送。
输出部114将从信号处理部113输出的图像信号记录并保存到存储卡等记录介质中。
控制部115由例如微型电子计算机等构成,是与放大器103、A/D转换器104、测光评价部106、对焦点检测部107、边缘提取部109、无效边缘推定部110、边缘修正部111、边缘强调部112、信号处理部113、输出部114、以及外部I/F部116双向连接,用于控制包括它们在内的该数字照相机整体的控制单元。另外,还向该控制部115输入来自配置在CCD
102附近的温度传感器117的信号。并且,该控制部115兼作收集单元、噪声推定单元和增益计算单元。
外部I/F部116是用于由用户向应用了图像处理系统的该数字照相机进行输入等的接口,其构成为包括:用于进行电源的接通/断开的电源开关、用于开始摄像操作的快门按钮、以及用于切换摄像模式或其他各种模式的模式切换按钮等。用户能够通过该外部I/F部116进行:利用两段式快门按钮的第1段按压而进行预摄像的开始输入;以及利用该快门按钮的第2段按压而进行主摄像的开始输入。另外,用户还能够通过该外部I/F部116进行ISO灵敏度的设定等。并且,该外部I/F部116将输入后的信息向控制部115输出。
接着,按照图像信号的流动来说明图1所示的数字照相机的作用。
用户在进行摄像前,通过外部I/F部116预先设定ISO灵敏度等摄像条件。
然后,用户半按压外部I/F部116的由两段式开关构成的开门按钮,该数字照相机进入预摄像模式。
于是,通过透镜系统100和光圈101而成像的被摄体像由CCD 102进行光电转换,并作为模拟图像信号输出。
该模拟图像信号通过放大器103进行考虑了ISO灵敏度的放大后,通过A/D转换器104转换成数字图像信号,并存储在缓冲器105内。
存储在该缓冲器105内的图像信号分别向测光评价部106和对焦点检测部107传送。
测光评价部106根据图像信号,按照上述那样控制光圈101的光圈值、CCD 102的电子快门速度和放大器103的放大率等,以便形成合适曝光。
对焦点检测部107根据图像信号,按照上述那样检测边缘强度,并控制AF电机108使得该边缘强度为最大,从而得到对焦信号。
这样,在进行了焦点调节、曝光调节等后,当用户全按压外部I/F部116的由两段式开关构成的快门按钮时,该数字照相机进入主摄像模式。
于是,与预摄像同样,图像信号向缓冲器105传送。该主摄像根据通过测光评价部106求得的曝光条件、以及通过对焦点检测部107求得的对焦条件而进行,这些摄像时的条件向控制部115传送。
通过主摄像得到的缓冲器105内的图像信号分别向边缘提取部109、无效边缘推定部110和边缘强调部112传送。
边缘提取部109根据控制部115的控制,依次提取图2所示的、包含注目像素P11的3×3像素尺寸的注目区域Pij(i=0~2,j=0~2),使用图3所示的边缘提取滤色器提取注目区域P11中的边缘信号E。该图3所示的边缘提取滤色器是各向同性的边缘提取滤色器的一例。另外,边缘提取滤色器并不限定于图3所示的各向同性的边缘提取滤色器。例如也可以构成为:分别单独地使用图4(A)所示的水平方向的边缘提取滤色器Eh和图4(B)所示的垂直方向的边缘提取滤色器Ev,如后所述,按照如下数学式1所示求取边缘信号E。
[数学式1]
E = E h 2 + E v 2
另外,不限定于这些边缘提取滤色器,当然也可以构成为使用其他公知的边缘提取法。并且,边缘提取部109将提取出的边缘信号E向边缘修正部111传送。
无效边缘推定部110根据控制部115的控制,依次提取与边缘提取部109相同的3×3像素尺寸的注目区域Pij,推定注目像素P11中的由噪声成分引起的无效边缘信号IE。并且,无效边缘推定部110将推定得到的由噪声成分引起的无效边缘信号IE向边缘修正部111传送。
边缘修正部111根据控制部115的控制,使用来自无效边缘推定部110的无效边缘信号IE,对来自边缘提取部109的边缘信号E进行核化处理。边缘修正部111将进行了核化处理的边缘信号E’向边缘强调部112传送。
边缘强调部112根据控制部115的控制,依次提取与边缘提取部109相同的3×3像素尺寸内的注目像素P11,使用来自边缘修正部111的完成了核化处理的边缘信号E’,进行如下数学式2所示的边缘强调处理。
[数学式2]
P11’=P11+g·E’
另外,该数学式2中的g表示规定的增益值,例如取0.5~4.0左右的值。并且,边缘强调部112将进行了边缘强调处理的图像信号向信号处理部113传送。
在此,上述的边缘提取部109、无效边缘推定部110、边缘修正部111、边缘强调部112的各处理是根据控制部115的控制,以3×3像素尺寸的注目区域Pij为单位同步地进行。并且,为了对全部的图像信号进行处理(以全部的像素为注目像素进行处理),图2所示的3×3像素尺寸的注目区域相对邻接的注目区域各重复2行或2列地(即,以每隔1行或1列错开的方式)设定。
信号处理部113根据控制部115的控制,对从边缘强调部112输出的边缘强调处理后的图像信号,按照上述那样进行公知的压缩处理等,并将处理后的信号向输出部114传送。
输出部114将从信号处理部113输出的图像信号记录并保存到存储卡等记录介质中。
接着,参照图5对无效边缘推定部110的结构的一例进行说明。
该无效边缘推定部110包括:平均计算部200;是收集单元且是增益计算单元的增益计算部201;作为赋予单元的标准值赋予部202;作为记录单元的参数用ROM 203;作为参数选择单元的参数选择部204;作为插值单元的插值部205;以及作为插值单元的修正部206。
在此,缓冲器105连接到平均计算部200。并且,平均计算部200连接到参数选择部204。增益计算部201、标准值赋予部202和参数用ROM203分别连接到参数选择部204。参数选择部204分别连接到插值部205和修正部206。插值部205通过修正部206连接到边缘修正部111。
并且,控制部115与平均计算部200、增益计算部201、标准值赋予部202、参数选择部204、插值部205、以及修正部206双向连接,从而对它们进行控制。
接着,对这样的无效边缘推定部110的作用进行说明。
平均计算部200根据控制部115的控制,从缓冲器105读取图2所示的注目区域Pij的图像信号,按照如下数学式3所示计算该注目区域Pij的图像信号的平均值AV。
[数学式3]
AV = 1 9 Σ i = 0,2 Σ j = 0,2 P i , j
并且,平均计算部200将计算出的平均值AV向参数选择部204传送。
并且,增益计算部201根据从控制部115传送的ISO灵敏度和关于曝光条件的信息中的至少一个来求取放大器103的放大量,并将求得的放大量向参数选择部204传送。
另一方面,控制部115从温度传感器117取得CCD 102的温度信息,并将取得的温度信息向参数选择部204传送。
参数选择部204、插值部205、以及修正部206根据来自平均计算部200的注目区域的平均值、来自增益计算部201的增益的信息、和来自控制部115的温度信息,推定由噪声成分引起的无效边缘信号IE。
在此,参照图6~图9对无效边缘信号IE的推定进行说明。
首先,图6绘出了信号电平L和噪声量N之间的关系的曲线。如图所示,噪声量N显示出随着信号电平L增加而增加的倾向,此时的增加相对信号电平L呈二次曲线性增加。因此,当按照日本特开2005-175718号公报所公开的那样,使用二次函数将该图6所示的增加的状态模型化时,则如以下数学式4所示。
[数学式4]
N=αL2+βL+γ
在此,α、β、γ是常数项。
但是,噪声量N不是只根据信号电平L的变化而变化,也根据摄像元件的温度或相对图像信号的增益而变化。例如,图6绘出了在某温度t下噪声量N相对关于增益的3种ISO灵敏度100(增益×1)、200(增益×2)、400(增益×4)的曲线。
图6所示的各条曲线形成数学式4所示的形状,但是其系数根据关于增益的ISO灵敏度而不同。并且,虽未图示,但噪声量N也根据摄像元件的温度而变化,通常显示出随着摄像元件的温度升高而增加的倾向(另外,图中是以20℃、50℃、80℃的温度为例)。
这样,设增益为g、温度为t,以考虑了如上所述的噪声量N对增益g或温度t的依赖性的形式进行噪声模型的定式化时,则如以下数学式5所示。
[数学式5]
N=αgtL2gtL+γgt
在此,αgt、βgt、γgt是依赖于增益g和温度t而确定的常数项。
接着,图7绘出了对平坦区域的图像信号施加噪声量N并对其应用图3或图4所示的边缘提取滤色器而得到的、由噪声成分引起的无效边缘信号IE的曲线。
如图所示,无效边缘信号IE显示出随着噪声量N增加而增加的倾向,此时的增加相对噪声量N呈三次曲线性增加。因此,当使用三次函数将该图7所示的增加的状态模型化时,则如以下数学式6所示。
[数学式6]
IE=δN3+εN2+ζN+η
在此,δ、ε、ζ、η是常数项,如果边缘提取滤色器固定,则可唯一确定。
通过组合如上所述的数学式5和数学式6,能够使信号电平L和由噪声成分引起的无效边缘信号IE之间的关系形成为边缘模型而稳定化。
但是,由于多次记录边缘模型的函数,每次都进行运算,使得计算无效边缘信号在处理上负荷大。为此,进行图8所示的边缘模型的简化。即,在图8所示的简化后的模型中,作为基准边缘模型而选择提供最大的无效边缘信号的函数,另外,用具有规定数量的拐点的折线近似该基准边缘模型。在此,折线的拐点通过由信号电平L和无效边缘信号IE构成的坐标数据(Ln,IEn)来表示。其中,n表示拐点的编号。并且,准备用于从上述基准边缘模型导出其他的边缘模型的修正系数kgt。该修正系数kgt使用各边缘模型和基准边缘模型通过最小二乘法来计算。通过使基准边缘模型乘以这样计算出的修正系数kgt,从而导出其他的边缘模型。
参照图9说明从图8所示的简化后的边缘模型计算无效边缘信号的方法。
例如,假设求取与给出的信号电平l、增益g、温度t对应的无效边缘信号IE。首先,检索信号电平l属于基准边缘模型的哪个区间。在此假设信号电平l属于(Ln,IEn)和(Ln+1,IEn+1)之间的区间。此时,利用如下数学式7所示的线性插值来求取基准边缘模型中的基准无效边缘信号IE1
[数学式7]
IE 1 = IE n + 1 - IE n L n + 1 - L n ( l - L n ) + IE n
接着,如以下数学式8所示,通过使求得的基准无效边缘信号IE1乘以修正系数kgt,从而求取无效边缘信号IE。
[数学式8]
IE=kgt·IE1
返回按照图5的说明,如上所述的基准边缘模型的拐点的坐标数据(Ln、IEn)和修正系数kgt记录在参数用ROM 203中。
参数选择部204分别根据来自平均计算部200的注目区域的平均值AV设定信号电平l,根据来自增益计算部201的增益的信息设定增益g,根据来自控制部115的温度信息设定温度t。
接着,参数选择部204从参数用ROM 203中检索信号电平l所属区间的坐标数据(Ln,IEn)和(Ln+1,IEn+1),并将其向插值部205传送。并且,参数选择部204从参数用ROM 203中检索修正系数kgt,并将其向修正部206传送。
插值部205根据控制部115的控制,使用来自参数选择部204的信号电平l以及区间的坐标数据(Ln,IEn)和(Ln+1,IEn+1),根据数学式7计算基准边缘模型中的基准无效边缘信号IE1,并向修正部206传送。
修正部206根据控制部115的控制,使用来自参数选择部204的修正系数kgt、和来自插值部205的基准无效边缘信号IE1,根据数学式8计算无效边缘信号IE,并将其作为注目像素P11的无效边缘信号IE。修正部206将推定出的无效边缘信号IE向边缘修正部111传送。
另外,在如上所述的计算无效边缘信号的过程中,不必每次摄像时都求取温度t、增益g等信息。即,也可以构成为:预先在标准值赋予部202中记录任意的信息,省略计算过程。由此,能够实现处理的高速化和节电化等。
接着,参照图10对边缘修正部111的结构的一例进行说明。
该边缘修正部111包括切换部300、作为核化单元的加法部301、作为核化单元的减法部302、以及作为核化单元的置换部303。
边缘提取部109连接到切换部300。切换部300分别连接到加法部301、减法部302和置换部303。加法部301、减法部302和置换部303分别连接到边缘强调部112。并且,无效边缘推定部110分别连接到切换部300、加法部301和减法部302。
控制部115与切换部300、加法部301、减法部302以及置换部303双向连接,从而对它们进行控制。
接着,对这样的边缘修正部111的作用进行说明。
切换部300根据控制部115的控制,分别从边缘提取部109读入相对注目像素P11的边缘信号E,从无效边缘推定部110读入相对注目像素P11的无效边缘信号IE。
接着,切换部300在-IE>E的情况下,将边缘信号E向加法部301传送,在E>IE的情况下,将边缘信号E向减法部302传送,在IE≥E≥-IE的情况下,将边缘信号E向置换部303传送。
加法部301根据控制部115的控制,在从切换部300传送来边缘信号E的情况下,从无效边缘推定部110读入无效边缘信号IE,进行在边缘信号E中加上无效边缘信号IE的修正,并将修正后的边缘信号E’向边缘强调部112传送。
并且,减法部302根据控制部115的控制,在从切换部300传送来边缘信号E的情况下,从无效边缘推定部110读入无效边缘信号IE,进行从边缘信号E中减去无效边缘信号IE的修正,并将修正后的边缘信号E’向边缘强调部112传送。
并且,置换部303根据控制部115的控制,在从切换部300传送来边缘信号E的情况下,进行将边缘信号E置换为0的修正,并将修正后的边缘信号E’向边缘强调部112传送。
上述三种处理通过如下数学式9来表示。
[数学式9]
E ′ = E + IE ( - IE > E ) E - IE ( E > IE ) 0 ( IE ≥ E ≥ - IE )
图11示出了该数学式9的特性,在输入边缘信号E的绝对值小于等于无效边缘信号IE的情况下,成为输出边缘信号E’为0的核化处理。
另外,在上述说明中,由噪声成分引起的边缘信号的推定使用了摄像元件的温度、ISO灵敏度、曝光信息等相关信息,但是不必限定于这样的结构。例如,如图12所示,也可以构成为:仅根据信号电平来推定由噪声成分引起的边缘信号。
图12形成为如下结构:从图5所示的结构中省略增益计算部201、标准值赋予部202和修正部206,通过注目像素提取部400和作为记录单元的参数用ROM 401来置换平均计算部200和参数用ROM 203。该图12所示的无效边缘推定部110中的其他基本结构与图5所示的相同,所以对相同的结构赋予相同的名称和符号,适当省略说明,主要仅对不同的部分进行说明。
缓冲器105连接到注目像素提取部400。注目像素提取部400连接到参数选择部204。参数用ROM 401连接到参数选择部204。参数选择部204连接到插值部205。插值部205连接到边缘修正部111。
并且,控制部115也双向连接到注目像素提取部400,从而对其进行控制。
注目像素提取部400根据控制部115的控制,从缓冲器105读入图2所示的注目像素P11,并向参数选择部204传送。
参数选择部204和插值部205根据来自注目像素提取部400的注目像素P11的信号电平,推定由噪声成分引起的无效边缘信号IE。
即,在参数用ROM 401中仅记录有图8所示的与规定温度和规定增益值相对应的单一边缘模型的拐点的坐标数据(Ln,IEn)。另外,以下将所记录的边缘模型作为基准边缘模型处理。
参数选择部204从参数用ROM 401中检索注目像素P11的信号电平l所属区间的坐标数据(Ln,IEn)和(Ln+1,IEn+1),并将其向插值部205传送。
插值部205根据控制部115的控制,使用来自参数选择部204的信号电平l以及区间的坐标数据(Ln,IEn)和(Ln+1,IEn+1),根据数学式7计算基准边缘模型中的基准无效边缘信号IE1。插值部205将计算出的基准无效边缘信号IE1作为无效边缘信号IE并传送给边缘修正部111。
采用该图12所示的结构,能够简化推定由噪声成分引起的边缘信号所需的结构,所以能够实现图像处理系统的低成本化。
并且,在上述说明中,作为图像处理系统列举了数字照相机,所以如图1所示,图像处理系统一体地构成了包括透镜系统100、光圈101、CCD 102、温度传感器117、放大器103、A/D转换器104、测光评价部106、对焦点检测部107、AF电机108的摄像部。
但是,作为图像处理系统不必限定于这样的结构。例如,如图13所示,摄像部也可以是独立体。即,图13所示的图像处理系统构成为:其通过独立的摄像部进行摄像,将以未处理的Raw数据格式记录在存储卡等记录介质中的图像信号从该记录介质中读出并处理。但是,此时图像信号所涉及的摄像条件等附带信息作为头部等记录在记录介质中。另外,从独立的摄像部向图像处理系统传送各种信息不限定于通过记录介质来进行,也可以通过通信线路等来进行。
图13所示的图像处理系统为如下结构:从图1所示的图像处理系统中省略透镜系统100、光圈101、CCD 102、温度传感器117、放大器103、A/D转换器104、测光评价部106、对焦点检测部107以及AF电机108,并追加了输入部500、头部信息解析部501。该图13所示的图像处理系统中的其他的基本结构与图1所示的相同,所以对相同的结构赋予相同的名称和符号,适当省略说明,主要仅对不同的部分进行说明。
输入部500分别连接到缓冲器105和头部信息解析部501。并且,控制部115还与输入部500以及头部信息解析部501双向连接,从而对它们进行控制。
接着,该图13所示的图像处理系统中不同的作用如下所述。
在通过例如鼠标或键盘等外部I/F部116开始进行处理操作后,保存在存储卡等记录介质中的图像信号和头部信息通过输入部500读入。
从输入部500读入的信息中的图像信号传送给缓冲器105,头部信息传送给头部信息解析部501。
头部信息解析部501根据从输入部500传送来的头部信息,提取摄像时的信息(即,如上所述的曝光条件、ISO灵敏度、摄像元件的温度等)并传送给控制部115。
此后的处理与图1所示的图像处理系统相同。
另外,在上述说明中,以利用硬件进行处理为前提,但是并不限定于这样的结构。例如,也可以将来自CCD 102的图像信号作为未处理状态的Raw数据记录在存储卡等记录介质中,并将摄像条件等附带信息(例如,来自控制部115的摄像时摄像元件的温度和增益等)作为头部信息预先记录在记录介质中。并且,使计算机执行其他的软件即图像处理程序,使计算机读取记录介质中的信息并处理。另外,从摄像部向计算机传送各种信息不限定于通过记录介质来进行,也可以通过通信线路等来进行。
参照图14对图像处理程序进行的处理的主程序进行说明。
当开始进行该处理时,首先,读取图像信号,并读取摄像元件的温度和增益等头部信息(步骤S1)。
接着,提取图2所示的、包含注目像素的3×3像素尺寸的注目区域(步骤S2)。
并且,使用例如图3所示的各向同性的边缘提取滤色器,提取注目像素中的边缘信号(步骤S3)。
接着,如后面参照图15所作的说明那样,推定注目像素中的由噪声成分引起的无效边缘信号(步骤S4)。
然后,判定边缘信号的绝对值是否小于等于无效边缘信号(步骤S5)。
在此,在边缘信号的绝对值大于无效边缘信号的情况下,再判定边缘信号是否大于无效边缘信号(步骤S6)。
在该步骤S6中,在边缘信号小于等于无效边缘信号的情况下(-IE>E的情况下),在边缘信号中加上无效边缘信号(步骤S9)。
并且,在步骤S6中,在边缘信号大于无效边缘信号的情况下(E>IE的情况下),从边缘信号中减去无效边缘信号(步骤S8)。
另一方面,在步骤S5中,边缘信号的绝对值小于等于无效边缘信号的情况下(IE≥E≥-IE的情况下),将边缘信号置换为0(步骤S7)。
在步骤S7~S9中的任一步骤的处理结束后,使用按照数学式2所示修正后的边缘信号,对图像信号进行边缘强调处理(步骤S10)。
接着,判定是否对全部注目区域完成了处理(步骤S11),在未完成的情况下,返回上述步骤S2,对下一个注目区域重复进行如上所述的处理。
并且,在判定出对全部注目区域完成了处理的情况下,进行公知的压缩处理等信号处理(步骤S12),并输出处理后的图像信号(步骤S13),结束该一系列处理。
接着,参照图15,对上述图14的步骤S4中的无效边缘推定处理进行说明。
当在图14的步骤S4中开始进行该处理时,首先,按照数学式3所示计算注目区域的平均值(步骤S20)。
接着,根据读入的头部信息来设定温度和增益等相关信息(步骤S21)。但是,在头部信息内不存在必需的参数的情况下,进行分配规定的标准值的处理。
接着,读入基准边缘模型的坐标数据和修正系数(步骤S22)。
并且,选择注目区域的平均值所属区间的坐标数据和对应的修正系数(步骤S23)。
然后,通过数学式7所示的插值处理来求取基准无效边缘信号(步骤S24)。
接着,通过数学式8所示的修正处理来求取无效边缘信号(步骤S25)。
接着,输出计算出的无效边缘信号(步骤S26),从该处理返回图14所示的处理。
根据这样的实施方式1,能够构成如下图像处理系统:其在每次摄像时动态地求取由噪声成分引起的边缘信号所涉及的各种信息,对不能求取的信息设定标准值,根据这些信息、图像信号和基准边缘模型进行插值处理,从而求取由噪声成分引起的无效边缘信号,并根据求得的无效边缘信号对边缘信号进行修正处理。
这样的图像处理系统是通过性质相同的边缘信号来修正边缘信号,所以对混合有各种噪声的图像信号也能够稳定地进行高精度的边缘成分的提取。
并且,因为每次摄像时动态地适应不同的条件,所以能够高精度地进行由噪声成分引起的边缘信号的推定。
另外,在不能得到必需的信息的情况下也设定标准值,所以能够推定由噪声成分引起的边缘信号,能够得到稳定的处理结果。
并且,因为计算由噪声成分引起的边缘信号是使用模型,所以能够高精度地进行边缘信号的推定。
此时,在采用简化后的模型时,基于简化后的模型的插值处理容易安装,所以能够构筑低成本的系统。
[实施方式2]
图16至图24示出本发明的实施方式2,图16是示出图像处理系统的结构的框图,图17是示出噪声处理部的结构的框图,图18是示出无效边缘推定部的一个结构例的框图,图19是示出无效边缘推定部的另一个结构例的框图,图20是示出边缘修正部的结构的框图,图21是示出边缘修正部中的核化处理的响应的曲线图,图22是示出图像处理程序进行的信号处理整体的流程的流程图,图23是示出图22的步骤S30中的噪声处理的详细情况的流程图,图24是示出图22的步骤S31中的无效边缘推定处理的详细情况的流程图。
在该实施方式2中,对与上述实施方式1相同的部分赋予相同的符号并省略说明,主要仅对不同点进行说明。
首先,参照图16对该图像处理系统的结构进行说明。图16所示的图像处理系统为在数字照相机上应用本发明的图像处理系统的实例。
该图16所示的图像处理系统对上述实施方式1的图1所示的图像处理系统作了部分变更。即,该图像处理系统构成为:将图1所示的无效边缘推定部110和边缘修正部111置换成作为无效边缘推定单元的无效边缘推定部601和作为边缘修正单元的边缘修正部602,还追加了作为噪声处理单元的噪声处理部600。其他的基本结构与实施方式1相同,对相同的结构赋予相同的名称和符号。
以下主要仅对不同的部分进行说明。
缓冲器105连接到测光评价部106、对焦点检测部107、噪声处理部600和边缘提取部109。噪声处理部600分别连接到边缘强调部112和无效边缘推定部601。边缘提取部109和无效边缘推定部601分别连接到边缘修正部602。边缘修正部602连接到边缘强调部112。
并且,控制部115与噪声处理部600、无效边缘推定部601、边缘修正部602双向连接,从而对它们进行控制。
接着,按照图像信号的流动对该图16所示的图像处理系统的作用进行说明。该实施方式2的图像处理系统的作用基本上与上述实施方式1相同,所以主要仅对不同的部分进行说明。
噪声处理部600根据控制部115的控制,依次提取图2所示的、包含注目像素P11的3×3像素尺寸的注目区域Pij。并且,按照日本特开2005-175718号公报所公开的那样,噪声处理部600根据噪声的模型来推定关于注目像素P11的噪声量N,进行平滑化处理。噪声处理部600分别将推定出的噪声量N向无效边缘推定部601传送,将进行了平滑化处理的注目像素NR_P11向边缘强调部112传送。
无效边缘推定部601根据控制部115的控制,从噪声处理部600读入相对注目像素P11的噪声量N,推定注目像素P11中的由噪声成分引起的无效边缘信号IE。无效边缘推定部601将推定出的由噪声成分引起的无效边缘信号IE向边缘修正部602传送。
边缘修正部602根据控制部115的控制,使用来自无效边缘推定部601的无效边缘信号IE和规定的函数,对来自边缘提取部109的边缘信号E进行变换处理。边缘修正部602将进行了变换处理的边缘信号E’向边缘强调部112传送。
边缘强调部112根据控制部115的控制,使用来自边缘修正部602的变换处理边缘信号E’,对来自噪声处理部600的完成了平滑化处理的注目像素NR_P11进行如下数学式10所示的边缘强调处理。
[数学式10]
P11’=NR_P11+g·E’
另外,该数学式10中的g表示规定的增益值,例如取0.5~4.0左右的值。并且,边缘强调部112将进行了边缘强调处理的图像信号向信号处理部113传送。
在此,上述的边缘提取部109、噪声处理部600、无效边缘推定部601、边缘修正部602以及边缘强调部112的各处理是根据控制部115的控制,以3×3像素尺寸的注目区域Pij为单位同步地进行。
信号处理部113根据控制部115的控制,对从边缘强调部112输出的边缘强调处理后的图像信号进行公知的压缩处理等,并将处理后的信号向输出部114传送。
输出部114将从信号处理部113输出的图像信号记录并保存到存储卡等记录介质中。
接着,参照图17对噪声处理部600的结构的一例进行说明。
该噪声处理部600包括:平均计算部700、作为噪声推定单元的增益计算部701、作为噪声推定单元的标准值赋予部702、作为噪声推定单元的噪声表部703、选择部704、作为降噪单元的第1平滑部705、以及作为降噪单元的第2平滑部706。
缓冲器105分别连接到平均计算部700和选择部704。平均计算部700、增益计算部701和标准值赋予部702分别连接到噪声表部703。噪声表部703分别连接到选择部704、第1平滑部705、第2平滑部706和无效边缘推定部601。选择部704分别连接到第1平滑部705和第2平滑部706。第1平滑部705和第2平滑部706分别连接到边缘强调部112。
控制部115与平均计算部700、增益计算部701、标准值赋予部702、噪声表部703、选择部704、第1平滑部705以及第2平滑部706双向连接,从而对它们进行控制。
接着,对这种噪声处理部600的作用进行说明。
平均计算部700根据控制部115的控制,从缓冲器105中依次提取图2所示的、包含注目像素P11的3×3像素尺寸的注目区域Pij,计算数学式3所示的平均值AV。平均计算部700将计算出的平均值AV向噪声表部703传送。
增益计算部701根据从控制部115传送来的ISO灵敏度和关于曝光条件的信息中的至少一个来求取放大器103的放大量,将求得的放大量向噪声表部703传送。
并且,控制部115从温度传感器117取得CCD 102的温度信息,将取得的温度信息向噪声表部703传送。
噪声表部703根据来自平均计算部700的平均值、来自增益计算部701的增益的信息、以及来自控制部115的温度信息来推定噪声量。该噪声表部703是记录了温度、信号值电平、增益、噪声量之间的关系的检查表,通过例如日本特开2005-175718号公报所公开的方式构筑。噪声表部703将推定出的噪声量N和来自平均计算部700的平均值AV分别向选择部704、第1平滑部705和第2平滑部706传送。并且,噪声表部703将推定出的噪声量N也传送给无效边缘推定部601。
选择部704根据控制部115的控制,读入来自噪声表部703的平均值AV和噪声量N。然后,选择部704按照如下数学式11所示设定作为关于噪声量的容许范围的上限Noise_Up和下限Noise_Low。
[数学式11]
Noise _ Up = AV + N 2
Noise _ Low = AV - N 2
并且,选择部704根据控制部115的控制,从缓冲器105读入注目像素P11,判定是否属于上述容许范围。该判定分为以下三种:“属于噪声范围(Noise_Up≥P11≥Noise_Low)”、“高于噪声范围(P11>Noise_Up)”、以及“低于噪声范围(Noise_Low>P11)”。
选择部704在判定出“属于噪声范围”的情况下向第1平滑部705传送注目像素P11,除此以外的情况下向第2平滑部706传送注目像素P11
作为完成了平滑化处理的注目像素NR_P11,第1平滑部705按照如下数学式12所示,原样地使用来自噪声表部703的平均值AV并输出。
[数学式12]
NR_P11=AV
另一方面,作为完成了平滑化处理的注目像素NR_P11,第2平滑部706进行如下处理:即,使用来自噪声表部703的平均值AV和噪声量N,对来自选择部704的注目像素P11进行修正。首先,第2平滑部706在“高于噪声范围”的情况下按照如下数学式13所示进行修正。
[数学式13]
NR _ P 11 = P 11 - N 2
并且,第2平滑部706在“低于噪声范围”的情况下按照如下数学式14所示进行修正。
[数学式14]
NR _ P 11 = P 11 + N 2
这样,完成了第1平滑部705或第2平滑部706的平滑化处理的注目像素NR_P11向边缘强调部112传送。
接着,参照图18对无效边缘推定部601的结构的一例进行说明。
该无效边缘推定部601包括:作为参数选择单元的参数选择部800、作为记录单元的参数用ROM 801、以及作为插值单元的插值部802。
噪声处理部600和参数用ROM 801分别连接到参数选择部800。参数选择部800连接到插值部802。插值部802连接到边缘修正部602。
并且,控制部115与参数选择部800、插值部802双向连接,从而对它们进行控制。
对这样的无效边缘推定部601的作用进行说明。
参数选择部800和插值部802根据来自噪声处理部600的关于注目像素P11的噪声量N,推定由噪声成分引起的无效边缘信号IE。以下参照本发明的实施方式1的图7,对推定无效边缘信号IE的方法进行说明。
如图7所示,无效边缘信号IE相对噪声量N的关系形成为使用了三次函数的边缘模型而被模型化。另外,用具有规定数量的拐点的折线近似该三次函数。在此,折线的拐点通过由噪声量N和无效边缘信号IE构成的坐标数据(Nn,IEn)来表示。其中,n表示拐点的编号。
并且,为了求取与所给出的噪声量N对应的无效边缘信号IE,首先检索噪声量N属于边缘模型的哪个区间。在此,假设噪声量N属于(Nn,IEn)和(Nn+1,IEn+1)之间的区间。此时,通过如下数学式15所示的线性插值来求取边缘模型中的无效边缘信号IE。
[数学式15]
IE = IE n + 1 - IE n N n + 1 - N n ( N - N n ) + IE n
返回按照图18的说明,如上所述的边缘模型的拐点的坐标数据(Nn,IEn)记录在参数用ROM 801中。
参数选择部800根据控制部115的控制,读入来自噪声处理部600的关于注目像素P11的噪声量N。接着,参数选择部800从参数用ROM 801中检索噪声量N所属区间的坐标数据(Nn,IEn)和(Nn+1,IEn+1),并将其向插值部802传送。
插值部802根据控制部115的控制,使用来自参数选择部800的噪声量N以及区间的坐标数据(Nn,IEn)和(Nn+1,IEn+1),根据数学式15计算无效边缘信号IE,并将计算出的无效边缘信号IE向边缘修正部602传送。另外,在上述说明中是通过基于模型的插值运算来推定由噪声成分引起的边缘信号,但是不必限定于这样的结构。例如,如图19所示,也可以构成为使用表来推定由噪声成分引起的边缘信号。
在此,参照图19对无效边缘推定部601的结构的另一个实例进行说明。
该无效边缘推定部601包括作为记录单元的无效边缘表部803。
噪声处理部600连接到无效边缘表部803。无效边缘表部803连接到边缘修正部602。
并且,控制部115与无效边缘表部803双向连接,从而对其进行控制。
在此,无效边缘表部803是记录了图7所示的、无效边缘信号IE相对噪声量N的关系的表。
无效边缘表部803根据控制部115的控制,从噪声处理部600读入相对注目像素P11的噪声量N,将对应的无效边缘信号IE向边缘修正部602传送。
参照图20,对边缘修正部602的结构的一例进行说明。
该边缘修正部602包括切换部900、作为常数计算单元的常数计算部901、以及作为函数变换单元的变换部902。
边缘提取部109连接到切换部900。切换部900分别连接到变换部902和边缘强调部112。变换部902连接到边缘强调部112。无效边缘推定部601分别连接到切换部900和常数计算部901。常数计算部901连接到变换部902。
并且,控制部115与切换部900、常数计算部901、变换部902双向连接,从而对它们进行控制。
接着,对这样的边缘修正部602的作用进行说明。
常数计算部901根据控制部115的控制,从无效边缘推定部601读入相对注目像素P11的无效边缘信号IE。并且,常数计算部901计算图21所示的具有响应特性的函数的常数项。在此,图21示出输入边缘信号E、输出变换后的边缘信号E’的函数的形状,该函数组合2个一次函数和1个三次函数而构成。
[数学式16]
E ′ = E ( E > IE ) 2 3 IE 2 E 3 + 1 3 E ( IE ≥ E ≥ - IE ) E ( - IE > E )
常数计算部901仅计算数学式16所示的函数的常数项、实质上为三次函数的三次项的系数即2/(3·IE2)这一项,并向变换部902传送。
切换部900根据控制部115的控制,分别从边缘提取部109读入相对注目像素P11的边缘信号E,从无效边缘推定部601读入相对注目像素P11的无效边缘信号IE。并且,切换部900比较边缘信号E和无效边缘信号IE,在IE≥E≥-IE的情况下向变换部902传送边缘信号E,在除此以外的情况下向边缘强调部112传送边缘信号E。
变换部902根据控制部115的控制,在从切换部900传送来边缘信号E的情况下,使用来自常数计算部901的常数项,通过数学式16中的三次函数变换边缘信号E,将变换后的边缘信号E’向边缘强调部112传送。
另外,在上述说明中列举了摄像部被一体化的图像处理系统,但是并不限定于这样的结构,与上述实施方式1同样,也可以是与摄像部分离的结构的图像处理系统。
并且,在上述说明中,以利用硬件进行处理为前提,但是并不限定于这样的结构,例如,也可以将来自CCD 102的图像信号作为未处理状态的Raw数据记录在存储卡等记录介质中,并且将摄像条件等附带信息(例如,来自控制部115的摄像时摄像元件的温度和增益等)作为头部信息预先记录在记录介质中。并且,使计算机执行其他的软件即图像处理程序,使计算机读取存储介质中的信息并处理。另外,从摄像部向计算机传送各种信息并限定于通过记录介质来进行,也可以通过通信线路等来进行。
参照图22对图像处理程序进行的处理的主程序进行说明。另外,对该图22所示的处理中的、与上述实施方式1的图14所示的处理大致相同的处理赋予相同符号。
当开始进行该处理时,首先,读入图像信号,并且读入摄像元件的温度、增益等头部信息(步骤S1)。
接着,提取图2所示的、包含注目像素的3×3像素尺寸的注目区域(步骤S2)。
并且,例如使用图3所示的各向同性的边缘提取滤色器提取注目像素中的边缘信号(步骤S3)。
另一方面,如后面参照图23所作的说明那样,对注目像素进行噪声处理(步骤S30)。
在步骤S3的处理和步骤S30的处理结束后,如后面参照图24所作的说明那样,推定注目像素中的由噪声成分引起的无效边缘信号(步骤S31)。
接着,判定边缘信号的绝对值是否小于等于无效边缘信号(步骤S5)。
在此,在边缘信号小于等于无效边缘信号的情况下,使用数学式16所示的三次函数来变换边缘信号(步骤S32)。
在步骤S30的处理结束后,在进行该步骤S32的处理的情况下,使用变换后的边缘信号,对完成了噪声处理的图像信号按照数学式10所示进行边缘强调处理。并且,在步骤S30的处理结束后,在步骤S5中判定出边缘信号的绝对值大于无效边缘信号的情况下,将此时的边缘信号作为变换后的边缘信号使用,对完成了噪声处理的图像信号按照数学式10所示进行边缘强调处理(步骤S10)。
接着,判定是否对全部注目区域完成了处理(步骤S11),在未完成的情况下,返回上述步骤S2,对下一个注目区域反复进行如上所述的处理。
并且,在判定出对全部注目区域完成了处理的情况下,进行公知的压缩处理等信号处理(步骤S12),输出处理后的图像信号(步骤S13),结束该一系列处理。
接着,参照图23,对上述图22的步骤S30中的噪声处理进行说明。
当在图22的步骤S30中开始进行该处理时,首先根据所读入的头部信息来设定温度和增益等相关信息(步骤S40)。但是,在头部信息内不存在必需的参数的情况下,进行分配规定的标准值的处理。
接着,读入噪声表(步骤S41),使用所读入的噪声表,求取相对注目像素的噪声量(步骤S42)。
并且,根据数学式11所示的容许范围,判定噪声量是否属于容许范围内(步骤S43)。
在此,在判定出噪声量属于容许范围内的情况下,进行数学式12所示的平滑化处理(步骤S44)。
并且,在判定出噪声量不属于容许范围内的情况下,进行数学式13或数学式14所示的平滑化处理(步骤S45)。
在步骤S44或步骤S45的处理结束后,将完成了噪声处理的图像信号输出(步骤S46),从该处理返回图22所示的处理。
接着,参照图24对上述图22的步骤S31中的无效边缘推定处理进行说明。
当开始进行该处理时,首先,读入注目像素的噪声量(步骤S50),并且读入边缘模型的坐标数据(步骤S51)。
接着,选择注目区域的噪声量所属区间的坐标数据(步骤S52)。
接着,通过数学式15所示的插值处理来求取基准无效边缘信号(步骤S53)。
然后,输出计算出的无效边缘信号(步骤S54),从该处理返回图22所示的处理。
根据这样的实施方式2,可以构成如下图像处理系统:其通过推定噪声成分来进行降噪处理,根据所推定的噪声成分,动态地推定由噪声成分引起的边缘信号,根据由噪声成分引起的边缘信号对来自原信号的边缘信号进行修正处理。
这样的图像处理系统是通过性质相同的边缘信号来修正边缘信号,所以对混合有多种噪声的图像信号也能够稳定地进行高精度的边缘成分的提取。
并且,在通过降噪处理来抑制噪声影响的同时,能够得到保存了微小信号的高品位的边缘成分。
另外,因为组合使用了降噪处理和边缘信号的修正处理,所以能够缩小系统的规模,能够实现低成本化。
并且,因为计算由噪声成分引起的边缘信号是使用模型,所以能够在实现低成本的同时进行高精度的边缘信号的推定。
另一方面,在使用表计算由噪声成分引起的边缘信号的情况下,能够高速地进行高精度的边缘信号的推定。
并且,因为使用将多个函数组合而得到的连续的单调递增函数来进行边缘信号的变换,所以能够确保边缘信号的连续性,能够得到高品位的边缘信号。
[实施方式3]
图25至图33示出本发明的实施方式3,图25是示出图像处理系统的结构的框图,图26是示出拜尔(Bayer)型原色滤色器的结构的图,图27是示出色差线顺序型补色滤色器的结构的图,图28是示出无效边缘推定部的一个结构例的框图,图29是示出无效边缘推定部的另一个结构例的框图,图30是示出边缘修正部的结构的框图,图31是示出核化处理中的响应的各实例的曲线图,图32是示出图像处理程序进行的信号处理整体的流程的流程图,图33是示出图32的步骤S62中的无效边缘推定处理的详细情况的流程图。
在该实施方式3中,对与上述实施方式1、2相同的部分赋予相同的符号并省略说明,主要仅对不同点进行说明。
首先,参照图25对该图像处理系统的结构进行说明。图25所示的图像处理系统为在数字照相机上应用本发明的图像处理系统的实例。
该图25所示的图像处理系统对上述实施方式1的图1所示的图像处理系统作了部分变更。即,该图像处理系统构成为:将图1所示的CCD102、无效边缘推定部110和边缘修正部111置换成彩色CCD 1000、作为无效边缘推定单元的无效边缘推定部1005和作为边缘修正单元的边缘修正部1006,还追加了预设白平衡部1001、插值部1002、作为Y/C分离单元的Y/C分离部1003、缓冲器1004和Y/C合成部1007。其他的基本结构与实施方式1相同,对相同的结构赋予相同的名称和符号。
以下主要仅对不同的部分进行说明。
通过透镜系统100、光圈101、彩色CCD 1000拍摄到的图像信号向放大器103传送。
缓冲器105分别连接到预设白平衡部1001、插值部1002、测光评价部106和对焦点检测部107。预设白平衡部1001连接到放大器103。插值部1002连接到Y/C分离部1003。Y/C分离部1003连接到缓冲器1004。缓冲器1004分别连接到边缘提取部109、边缘强调部112和无效边缘推定部1005。边缘提取部109和无效边缘推定部1005分别连接到边缘修正部1006。边缘修正部1006连接到边缘强调部112。边缘强调部112连接到Y/C合成部1007。Y/C合成部1007连接到信号处理部113。
并且,来自配置在彩色CCD 1000附近的温度传感器117的信号连接到控制部115。
并且,控制部115与预设白平衡部1001、插值部1002、Y/C分离部1003、无效边缘推定部1005、边缘修正部1006、以及Y/C合成部1007双向连接,从而对它们进行控制。
接着,沿着图像信号的流动对该图25所示的图像处理系统的作用进行说明。该实施方式3的图像处理系统的作用基本上与上述实施方式1相同,所以主要仅对不同的部分进行说明。
用户半按压外部I/F部116的由两段式开关构成的快门按钮后,该数字照相机进入预摄像模式。
于是,通过透镜系统100和光圈101而成像的被摄体像由彩色CCD1000进行光电转换,并作为模拟图像信号输出。
该模拟图像信号通过放大器103进行考虑了ISO灵敏度或白平衡的放大后,通过A/D转换器104转换成数字图像信号,并存储在缓冲器105内。
另外,在本实施方式中,作为彩色CCD 1000,假设是在前面配置有图26所示的拜尔(Bayer)型原色滤色器的单片摄像元件。并且,与上述实施方式1同样,摄像元件并不限定于CCD,也可以使用CMOS或其他的摄像元件。
在此,参照图26对拜尔(Bayer)型原色滤色器的结构进行说明。
图26所示的拜尔(Bayer)型原色滤色器以2×2像素为基本单位,在该基本单位内的对角的像素位置上配置各一个红色(R)、蓝色(B)滤色器,在剩余的对角的像素位置上配置绿色(G)滤色器。
接着,缓冲器105内的图像信号分别向测光评价部106、对焦点检测部107、预设白平衡部1001传送。
其中的预设白平衡部1001按照每个颜色信号累加(即,累计地进行加法运算)存储在缓冲器105内的图像信号中的规定电平范围内的信号,从而计算简化白平衡系数。预设白平衡部1001将计算出的系数向放大器103传送,通过对每个颜色信号乘以不同的增益,从而使其进行白平衡。
这样,在进行了焦点调节、曝光调节和简化白平衡调节等后,当用户全按压外部I/F部116的由两段式开关构成的快门按钮时,该数字照相机进入主摄像模式。
于是,与预摄像同样,图像信号向缓冲器105传送。该主摄像根据通过预设白平衡部1001求得的简化白平衡系数、通过测光评价部106求得的曝光条件、以及通过对焦点检测部107求得的对焦条件而进行,且这些摄像时的条件向控制部115传送。
通过主摄像得到的缓冲器105内的图像信号首先向插值部1002传送。
该插值部1002根据控制部115的控制,通过公知的插值处理来生成由R、G、B三片构成的图像信号,并向Y/C分离部1003传送。
Y/C分离部1003根据控制部115的控制,按照如下数学式17所示将R、G、B信号分离为亮度信号Y和色差信号Cb、Cr。
[数学式17]
Y=0.29900R+0.58700G+0.11400B
Cb=-0.16874R-0.33126G+0.50000B
Cr=0.50000R-0.41869G-0.08131B
通过Y/C分离部1003计算出的亮度信号和色差信号向缓冲器1004传送并保存。
边缘提取部109根据控制部115的控制,从缓冲器1004内的亮度信号Y中依次提取图2所示的、包含注目像素P11的3×3像素尺寸的注目区域Pij,并使用图3所示的边缘提取滤色器来提取注目像素P11中的边缘信号E。边缘提取部109将提取出的边缘信号E向边缘修正部1006传送。
无效边缘推定部1005根据控制部115的控制,从缓冲器1004内的亮度信号Y中依次提取与所述边缘提取部109相同的3×3像素尺寸的注目区域Pij,推定注目像素P11中的由噪声成分引起的无效边缘信号IE。无效边缘推定部1005将推定出的由噪声成分引起的无效边缘信号IE向边缘修正部1006传送。
边缘修正部1006根据控制部115的控制,使用来自无效边缘推定部1005的无效边缘信号IE,对来自边缘提取部109的边缘信号E进行核化处理。边缘修正部1006将进行了核化处理的边缘信号E’向边缘强调部112传送。
边缘强调部112根据控制部115的控制,从缓冲器1004内的亮度信号Y中依次提取与边缘提取部109相同的、对应于注目像素P11的亮度信号Y,使用来自边缘修正部111的完成了核化处理的边缘信号E’进行如下数学式18所示的边缘强调处理。
[数学式18]
Y’=Y+g·E’
另外,该数学式18中的g表示规定的增益值,例如取0.5~4.0左右的值。
并且,边缘强调部112从缓冲器1004内的色差信号Cb、Cr中提取与边缘提取部109相同的、与注目像素P11对应的色差信号Cb、Cr。并且,边缘强调部112将提取出的色差信号Cb、Cr和边缘强调处理后的亮度信号Y’向Y/C合成部1007传送。
Y/C合成部1007根据控制部115的控制,按照如下数学式19所示,由边缘强调处理后的亮度信号Y’和色差信号Cb、Cr合成RGB三种信号(R’、G’、B’)。
[数学式19]
R’=Y’+1.40200Cr
G’=Y’-0.34414Cb-0.71414Cr
B’=Y’+1.77200Cb
Y/C合成部1007将合成后的R’、G’、B’信号向信号处理部113传送。
另外,如上所述的边缘提取部109、无效边缘推定部1005、边缘修正部1006、边缘强调部112、Y/C合成部1007的各处理是根据控制部115的控制,以3×3像素尺寸的注目区域Pij为单位同步地进行的。
信号处理部113根据控制部115的控制,对从边缘强调部112输出的边缘强调处理后的图像信号进行公知的色度强调处理和压缩处理等,并将处理后的信号向输出部114传送。
输出部114将从信号处理部113输出的图像信号记录并保存到存储卡等记录介质中。
接着,参照图28对无效边缘推定部1005的结构的一例进行说明。
该无效边缘推定部1005与上述实施方式1的图5所示的无效边缘推定部110基本上相同,追加了作为表变换单元的无效边缘表部1100,并且省略了参数用ROM 203、参数选择部204、插值部205和修正部206。其他的结构相同,所以赋予相同的名称和符号,以下主要仅对不同的部分进行说明。
平均计算部200、增益计算部201和标准值赋予部202分别连接到无效边缘表部1100。无效边缘表部1100连接到边缘修正部1006。
控制部115与无效边缘表部1100双向连接,从而对其进行控制。
接着,对这样的无效边缘推定部1005的作用进行说明。
平均计算部200根据控制部115的控制,由缓冲器105内的亮度信号Y计算图2所示的注目区域Pij的平均值AV,并向无效边缘表部1100传送。
增益计算部201根据从控制部115传送来的ISO灵敏度、关于曝光条件的信息、以及白平衡系数中的至少一个来求出放大器103的放大量,并将求得的放大量向无效边缘表部1100传送。
并且,控制部115从温度传感器117取得彩色CCD 1000的温度信息,将取得的温度信息向无效边缘表部1100传送。
无效边缘表部1100根据来自平均计算部200的注目区域的平均值、来自增益计算部201的增益的信息、和来自控制部115的温度信息,输出由噪声成分引起的无效边缘信号IE。
在此,无效边缘表部1100是记录了信号值电平、增益、温度、以及由噪声成分引起的无效边缘信号之间的关系的检查表,根据上述实施方式1的数学式5和数学式6而构筑。无效边缘表部1100将求得的无效边缘信号IE向边缘修正部1006传送。
另外,在如上所述的计算无效边缘信号的过程中,不必在每次摄像时都求取温度t和增益g等信息。即,也可以构成为:预先在标准值赋予部202中记录任意的信息,从而省略计算过程。由此,能够实现处理的高速化和节电化等。
并且,在上述说明中,为了推定由噪声成分引起的边缘信号,使用了摄像元件的温度、ISO灵敏度、曝光信息、白平衡信息等相关信息,但是并不限定于这样的结构。例如,如图29所示,也可以构成为:仅根据亮度信号的电平来推定由噪声成分引起的边缘信号。
在此,参照图29对无效边缘推定部1005的结构的另一个实例进行说明。
该图29所示的无效边缘推定部1005构成为:从图28所示的结构中省略了增益计算部201和标准值赋予部202,利用作为表变换单元的无效边缘表部1101来置换无效边缘表部1100。该图29所示的无效边缘推定部1005中的其他基本结构与图28所示的相同,所以对相同的结构赋予相同的名称和符号,以下主要仅对不同的部分进行说明。
平均计算部200连接到无效边缘表部1101。无效边缘表部1101连接到边缘修正部1006。
控制部115与无效边缘表部1101双向连接,从而对其进行控制。
接着,对这样的无效边缘推定部1005的作用进行说明。
平均计算部200根据控制部115的控制,由缓冲器105内的亮度信号Y计算图2所示的注目区域Pij的平均值AV,并向无效边缘表部1101传送。
无效边缘表部1101根据来自平均计算部200的注目区域Pij的平均值AV,输出由噪声成分引起的无效边缘信号IE。在此,无效边缘表部1101是记录了规定增益、规定温度下的信号值电平、以及由噪声成分引起的无效边缘信号之间的关系的检查表,其根据上述实施方式1的数学式5和数学式6而构筑。无效边缘表部1101将求得的无效边缘信号IE向边缘修正部1006传送。
接着,参照图30对边缘修正部1006的结构的一例进行说明。
该边缘修正部1006含有作为表修正单元的边缘修正表部1200。
边缘提取部109和无效边缘推定部1005分别连接到边缘修正表部1200。边缘修正表部1200连接到边缘强调部112。
另外,控制部115与边缘修正表部1200双向连接,从而对其进行控制。
接着,对这样的边缘修正部1006的作用进行说明。
边缘修正表部1200根据控制部115的控制,分别从边缘提取部109读入相对注目像素P11的边缘信号E,从无效边缘推定部1005读入相对注目像素P11的无效边缘信号IE。
在此,边缘修正表部1200是记录与多种、在此例如图31所示的3种有代表性的无效边缘信号IEk(k=1~3)的大小相对应的变换关系的表。
并且,边缘修正表部1200根据来自无效边缘推定部1005的无效边缘信号IE,选择与所记录的有代表性的无效边缘信号IEk最接近的变换关系,根据所选择的关系,从来自边缘提取部109的边缘信号E求取修正后的边缘信号E’并输出。然后,边缘修正表部1200将修正后的边缘信号E’向边缘强调部112传送。
另外,在上述说明中列举了摄像部被一体化的图像处理系统,但是并不限定于这样的结构,与上述实施方式1同样,也可以是与摄像部分离的结构的图像处理系统。
并且,在上述说明中,作为彩色摄像元件,假设是在前面配置有拜尔(Bayer)型原色滤色器的单片CCD,但是并不限定于这样的结构的摄像元件。例如,也可以应用在前面配置有色差线顺序型补色滤色器的单片摄像元件、二片或三片摄像元件。例如,图27示出了色差线顺序型的补色滤色器的结构。
该色差线顺序方式的补色滤色器以2×2像素为基本单位,分别在2×2像素的同一行上配置青色(Cy)和黄色(Ye),在2×2像素的另一个同一行上配置品红色(Mg)和绿色(G)。但是,品红色(Mg)和绿色(G)的位置构成为按照每行而颠倒。
在使用这样的在前面配置有色差线顺序型补色滤色器的单片摄像元件的情况下,Y/C分离部103中的亮度信号Y和色差信号Cb、Cr的分离按照如下数学式20所示来进行。
[数学式20]
Y=Cy+Ye+G+Mg
Cb=(Cy+Mg)-(Ye+G)
Cr=(Ye+Mg)-(Cy+G)
另外,在上述说明中,以利用硬件进行处理为前提,但是并不限定于这样的结构。例如,也可以将来自彩色CCD 1000的图像信号作为未处理状态的Raw数据记录在存储卡等记录介质中,并且将摄像条件等附带信息(例如来自控制部115的摄像时摄像元件的温度、增益和白平衡系数等)作为头部信息预先记录在记录介质中。并且,使计算机执行其他软件即图像处理程序,使计算机读取记录介质中的信息并处理。另外,从摄像部向计算机传送各种信息不限定于通过记录介质来进行,也可以通过通信线路等来进行。
参照图32对图像处理程序进行的处理的主程序进行说明。另外,对该图32所示的处理中的、与上述实施方式1的图14所示的处理大致相同的处理赋予相同的符号。
当开始进行该处理时,首先,读入图像信号,并且读入摄像元件的温度、增益和白平衡系数等头部信息(步骤S1)。
接着,进行公知的插值处理,生成三片的图像信号(步骤S60)。
接着,如数学式17所示,提取亮度信号和色差信号(步骤S61)。
并且,按照每个亮度信号和色差信号提取图2所示的、包含注目像素的3×3像素尺寸的注目区域(步骤S2)。
然后,使用例如图3所示的各向同性的边缘提取滤色器,提取注目像素中的亮度信号的边缘信号(步骤S3)。
另外,如后面参照图33所作的说明那样,推定注目像素中的由噪声成分引起的无效边缘信号(步骤S62)。
接着,读入图31所示的由多种变换关系构成的表,并输出修正后的边缘信号(步骤S63)。
接着,使用修正后的边缘信号,按照数学式18所示对亮度信号进行边缘强调处理(步骤S10)。
并且,判定是否对全部注目区域完成了处理(步骤S11)。在未完成的情况下,返回上述步骤S2,对下一个注目区域重复进行如上所述的处理。
并且,在判定为对全部注目区域完成了处理的情况下,按照数学式19所示合成R’、G’、B’三种信号(步骤S64)。
然后,进行公知的色度强调处理和压缩处理等信号处理(步骤S12),并输出处理后的图像信号(步骤S13),结束该一系列处理。
接着,参照图33对上述图32的步骤S62中的无效边缘推定处理进行说明。
当在图33的步骤S62中开始进行该处理时,首先,计算注目区域的亮度信号的平均值(步骤S70)。
接着,根据读入的头部信息,设定温度、增益等相关信息(步骤S71)。但是,在头部信息内不存在必需的参数的情况下,进行分配规定的标准值的处理。
接着,使用无效边缘表求取无效边缘信号(步骤S72)。
然后,输出计算出的无效边缘信号(步骤S73),从该处理返回图32所示的处理。
根据这样的实施方式3,可以构成如下图像处理系统:其从来自彩色摄像元件的图像信号中分离亮度信号,每当摄像时动态地求取由噪声成分引起的边缘信号所涉及的各种信息,对不能求得的信息设定标准值,根据这些信息和亮度信号来求取由噪声成分引起的无效边缘信号,通过求得的无效边缘信号对边缘信号进行修正处理。
这样的图像处理系统是通过性质相同的边缘信号来修正边缘信号,所以对混合有多种噪声的图像信号也能够稳定地进行高精度的边缘成分的提取。
并且,因为与来自彩色摄像元件的信号对应,所以能够在多种摄像系统上利用。
另外,因为每当摄像时动态地适应不同的条件,所以能够高精度地进行由噪声成分引起的边缘信号的推定。
并且,即使在不能得到必需的信息的情况下也设定标准值,所以能够进行由噪声成分引起的边缘信号的推定,能够得到稳定的处理结果。
并且,因为计算由噪声成分引起的边缘信号是使用变换表,所以能够高速地进行高精度的边缘信号的推定。
[实施方式4]
图34和图35示出了本发明的实施方式4,图34是示出图像处理系统的结构的框图,图35是示出图像处理程序进行的信号处理整体的流程的流程图。
在该实施方式4中,对与上述实施方式1~3相同的部分赋予相同的符号并省略说明,主要仅对不同点进行说明。
首先,参照图34对该图像处理系统的结构进行说明。图34所示的图像处理系统是在数字照相机上应用本发明的图像处理系统的实例。
该图34所示的图像处理系统对上述实施方式2的图16所示的图像处理系统作了部分变更。即,该图像处理系统构成为:将图16所示的CCD 102置换为彩色CCD 1300,并追加了预设白平衡部1301、插值部1302、作为Y/C分离单元的Y/C分离部1303、缓冲器1304和Y/C合成部1305。其他的基本结构与实施方式2相同,对相同的结构赋予相同的名称和符号。
以下主要仅对不同的部分进行说明。
通过透镜系统100、光圈101、彩色CCD 1300拍摄到的图像信号向放大器103传送。
缓冲器105分别连接到预设白平衡部1301、插值部1302、测光评价部106和对焦点检测部107。预设白平衡部1301连接到放大器103。插值部1302连接到Y/C分离部1003。Y/C分离部1303连接到缓冲器1304。缓冲器1304分别连接到边缘提取部109和噪声处理部600。边缘强调部112连接到Y/C合成部1305。Y/C合成部1305连接到信号处理部113。
并且,来自配置在彩色CCD 1300附近的温度传感器117的信号连接到控制部115。
并且,控制部115与预设白平衡部1301、插值部1302、Y/C分离部1303、Y/C合成部1305双向连接,从而对它们进行控制。
接着,按照图像信号的流动对该图34所示的图像处理系统的作用进行说明。该实施方式4的图像处理系统的作用基本上与上述实施方式2相同,所以主要仅对不同的部分进行说明。
在用户半按压外部I/F部116的由两段式开关构成的快门按钮后,该数字照相机进入预摄像模式。
于是,通过透镜系统100和光圈101而成像的被摄体像由彩色CCD1300进行光电转换,并作为模拟图像信号输出。
该模拟图像信号通过放大器103进行考虑了ISO灵敏度或白平衡的放大后,通过A/D转换器104转换成数字图像信号,并存储在缓冲器105内。
另外,在本实施方式中,作为彩色CCD 1300,假设是在前面配置有拜尔(Bayer)型原色滤色器的单片摄像元件。并且,与上述各实施方式同样,摄像元件并不限定于CCD,也可以使用CMOS或其他的摄像元件。
接着,缓冲器105内的图像信号分别向测光评价部106、对焦点检测部107、预设白平衡部1301传送。
其中的预设白平衡部1301按照每个颜色信号累加(即,累计地进行加法运算)存储在缓冲器105内的图像信号中的规定电平范围内的信号,从而计算简化白平衡系数。预设白平衡部1301将计算出的系数向放大器103传送,通过对每个颜色信号乘以不同的增益,从而使其进行白平衡。
这样,在进行了焦点调节、曝光调节和简化白平衡调节等后,当用户全按压外部I/F部116的由两段式开关构成的快门按钮时,该数字照相机进入主摄像模式。
于是,与预摄像同样,图像信号向缓冲器105传送。该主摄像根据通过预设白平衡部1301求得的简化白平衡系数、通过测光评价部106求得的曝光条件、以及通过对焦点检测部107求得的对焦条件而进行,且这些摄像时的条件向控制部115传送。
通过主摄像得到的缓冲器105内的图像信号首先向插值部1302传送。
该插值部1302根据控制部115的控制,通过公知的插值处理而生成由R、G、B三片构成的图像信号,并向Y/C分离部1303传送。
Y/C分离部1303根据控制部115的控制,按照数学式17所示将R、G、B信号分离为亮度信号Y和色差信号Cb、Cr。
通过Y/C分离部1303计算出的亮度信号和色差信号向缓冲器1304传送并保存。
噪声处理部600根据控制部115的控制,按照每个亮度信号和色差信号分别地依次提取图2所示的、包含注目像素P11的3×3像素尺寸的注目区域Pij。并且,按照日本特开2005-175718号公报所公开的那样,噪声处理部600根据噪声的模型来推定关于注目像素P11的噪声量,并进行平滑化处理。另外,以后分别用NY表示推定出的亮度信号的噪声量,用NR_Y表示完成了平滑化的亮度信号,用NR_Cb和NR_Cr表示完成了平滑化的色差信号。噪声处理部600分别将推定出的关于亮度信号的噪声量NY向无效边缘推定部601传送,将进行了平滑化处理的亮度信号NR_Y和色差信号NR_Cb和NR_Cr向边缘强调部112传送。
边缘提取部109根据控制部115的控制,从缓冲器1304内的亮度信号Y中依次提取图2所示的、包含注目像素P11的3×3像素尺寸的注目区域Pij,使用图3所示的边缘提取滤色器提取注目像素P11中的边缘信号E。边缘提取部109将提取出的边缘信号E向边缘修正部602传送。
无效边缘推定部601根据控制部115的控制,从噪声处理部600读入关于亮度信号的噪声量NY,推定注目像素P11中的由噪声成分引起的无效边缘信号IE。无效边缘推定部601将推定出的由噪声成分引起的无效边缘信号IE向边缘修正部602传送。
边缘修正部602根据控制部115的控制,使用来自无效边缘推定部601的无效边缘信号IE和规定的函数(例如,数学式16所示的三次函数),对来自边缘提取部109的边缘信号E进行变换处理。边缘修正部602将进行了变换处理的边缘信号E’向边缘强调部112传送。
边缘强调部112根据控制部115的控制,使用来自边缘修正部602的完成了变换处理的边缘信号E’,对来自噪声处理部600的完成了平滑化处理的亮度信号NR_Y进行如下数学式21所示的边缘强调处理。
[数学式21]
NR_Y’=NR_Y+g·E’
另外,该数学式21中的g表示规定的增益值,例如取0.5~4.0左右的值。
并且,边缘强调部112将进行了边缘强调处理的亮度信号NR_Y’连同完成了平滑化处理的色差信号NR_Cb、NR_Cr一起向Y/C合成部1007传送。
Y/C合成部1007根据控制部115的控制,按照如下数学式22所示,由平滑化处理和边缘强调处理后的亮度信号Y’、以及平滑化处理后的色差信号NR_Cb、NR_Cr合成RGB三种信号(R’、G’、B’)。
[数学式22]
R’=NR_Y’+1.40200NR_Cr
G’=NR_Y’-0.34414NR_Cb-0.71414NR_Cr
B’=NR_Y’+1.7720NR_Cb
Y/C合成部1007将合成的R’、G’、B’信号向信号处理部113传送。
另外,如上所述的噪声处理部600、边缘提取部109、无效边缘推定部601、边缘修正部602、边缘强调部112、Y/C合成部1305的各处理是根据控制部115的控制,以3×3像素尺寸的注目区域Pij为单位同步地进行的。
信号处理部113根据控制部115的控制,对从边缘强调部112输出的边缘强调处理后的图像信号进行公知的色度强调处理和压缩处理等,并将处理后的信号向输出部114传送。
输出部114将从信号处理部113输出的图像信号记录并保存在存储卡等记录介质中。
另外,在上述说明中列举了摄像部被一体化的图像处理系统,但是并不限定于这样的结构,与上述实施方式1同样,也可以是与摄像部分离的结构的图像处理系统。
并且,在上述说明中,作为彩色摄像元件,假设是在前面配置有拜尔(Bayer)型原色滤色器的单片CCD,但是并不限定于这样的结构的摄像元件。例如,也可以应用在前面配置有色差线顺序型补色滤色器的单片摄像元件、二片或三片摄像元件。
另外,在上述说明中,以利用硬件进行处理为前提,但是并不限定于这样的结构。例如,也可以将来自彩色CCD 1300的图像信号作为未处理状态的Raw数据记录在存储卡等记录介质中,并且将摄像条件等附带信息(例如,来自控制部115的摄像时摄像元件的温度、增益和白平衡系数等)作为头部信息预先记录在记录介质中。并且,使计算机执行其他软件即图像处理程序,使计算机读取记录介质中的信息并处理。另外,从摄像部向计算机传送各种信息不限定于通过记录介质来进行,也可以通过通信线路等来进行。
参照图35对图像处理程序进行的处理的主程序进行说明。另外,对该图35所示的处理中的、与上述实施方式2的图22所示的处理大致相同的处理赋予相同的符号。
当开始进行该处理时,首先,读入图像信号,并且读入摄像元件的温度、增益和白平衡系数等头部信息(步骤S1)。
接着,进行公知的插值处理,生成三片的图像信号(步骤S80)。
接着,按照数学式17所示提取亮度信号和色差信号(步骤S81)。
并且,针对每个亮度信号和色差信号提取图2所示的、包含注目像素的3×3像素尺寸的注目区域(步骤S2)。
然后,使用例如图3所示的各向同性的边缘提取滤色器,提取注目像素中的亮度信号的边缘信号(步骤S3)。
另外,按照图23所示,按照每个亮度信号和色差信号进行相对注目像素的噪声处理(步骤S30)。
并且,按照图24所示,推定注目像素中的亮度信号的由噪声成分引起的无效边缘信号(步骤S31)。
接着,判定边缘信号的绝对值是否小于等于无效边缘信号(步骤S5)。
在此,在边缘信号小于等于无效边缘信号的情况下,使用数学式16所示的三次函数变换边缘信号(步骤S32)。
在步骤S30的处理结束后,在进行该步骤S32的处理的情况下,使用变换后的边缘信号,按照数学式21所示对完成了噪声处理的亮度信号进行边缘强调处理。并且,在步骤S30的处理结束后,在步骤S5中判定出边缘信号的绝对值大于无效边缘信号的情况下,将此状态的边缘信号作为变换后的边缘信号使用,按照数学式21所示对完成了噪声处理的亮度信号进行边缘强调处理(步骤S10)。
接着,判定是否对全部注目区域完成了处理(步骤S11),在未完成的情况下,返回所述步骤S2,对下一个注目区域重复进行如上所述的处理。
并且,在判定出完成了对全部注目区域的处理的情况下,按照数学式22所示合成R’、G’、B’三种信号(步骤S82)。
然后,进行公知的色度强调处理和压缩处理等信号处理(步骤S12),并输出处理后的图像信号(步骤S13),结束该一系列处理。
根据这样的实施方式4,可以构成如下图像处理系统:其从来自彩色摄像元件的图像信号中分离亮度信号,推定噪声成分,从而进行降噪处理,根据推定出的噪声成分,动态地推定由噪声成分引起的无效边缘信号,通过推定出的无效边缘信号对边缘信号进行修正处理。
这样的图像处理系统因为通过性质相同的边缘信号来修正边缘信号,所以对混合有多种噪声的图像信号也能够稳定地进行高精度的边缘成分的提取。
并且,能够通过降噪处理来抑制噪声的影响,并且能够得到保存了微小信号的高品位的边缘成分。
另外,因为与来自彩色摄像元件的信号相对应,所以能够在多种摄像系统上利用。
并且,因为在进行插值处理后进行噪声处理和边缘提取处理,所以能够应用于多种摄像系统,形成为通用性高的图像处理系统。
[实施方式5]
图36至图38示出本发明的实施方式5,图36是示出图像处理系统的结构的框图,图37是示出对从前面配置有拜尔(Bayer)型原色滤色器的摄像元件得到的图像信号进行Y/C分离的方法的一例的图,图38是示出与注目像素的颜色成分对应的水平边缘提取滤色器和垂直边缘提取滤色器的结构的图。
在该实施方式5中,对与上述实施方式1~4相同的部分赋予相同的符号并省略说明,主要仅对不同点进行说明。
首先,参照图36对该图像处理系统的结构进行说明。图36所示的图像处理系统是在数字照相机上应用本发明的图像处理系统的实例。
该图36所示的图像处理系统对上述实施方式2的图16所示的图像处理系统作了部分变更。即,该图像处理系统构成为:将图16所示的CCD 102置换为彩色CCD 1400,并追加了预设白平衡部1401、作为Y/C分离单元的Y/C分离部1402、缓冲器1403和插值部1404。其他的基本结构与实施方式2相同,对相同的结构赋予相同的名称和符号。
以下主要仅对不同的部分进行说明。
通过透镜系统100、光圈101、彩色CCD 1400拍摄到的图像信号向放大器103传送。
缓冲器105分别连接到预设白平衡部1401、Y/C分离部1402、测光评价部106和对焦点检测部107。预设白平衡部1401连接到放大器103。Y/C分离部1402连接到缓冲器1403。缓冲器1403分别连接到边缘提取部109和噪声处理部600。噪声处理部600分别连接到无效边缘推定部601和插值部1404。插值部1404连接到边缘强调部112。
并且,来自配置在彩色CCD 1400附近的温度传感器117的信号连接到控制部115。
并且,控制部115与预设白平衡部1401、Y/C分离部1402、插值部1404双向连接,从而对它们进行控制。
接着,按照图像信号的流动对该图36所示的图像处理系统的作用进行说明。该实施方式5的图像处理系统的作用基本上与上述实施方式2相同,所以主要仅对不同的部分进行说明。
用户半按压外部I/F部116的由两段式开关构成的快门按钮后,该数字照相机进入预摄像模式。
于是,通过透镜系统100和光圈101而成像的被摄体像由彩色CCD1400进行光电转换,并作为模拟图像信号输出。
该模拟图像信号通过放大器103进行考虑了ISO灵敏度或白平衡的放大后,通过A/D转换器104转换成数字图像信号,并存储在缓冲器105内。
另外,在本实施方式中,作为彩色CCD 1400,假设是在前面配置有图37(A)所示的拜尔(Bayer)型原色滤色器的单片CCD。并且,与上述各实施方式同样,摄像元件并不限定于CCD,也可以使用CMOS或其他的摄像元件。
接着,缓冲器105内的图像信号分别向测光评价部106、对焦点检测部107和预设白平衡部1401传送。
其中的预设白平衡部1401按照每个颜色信号累加(即,累计地进行加法运算)存储在缓冲器105内的图像信号中的规定电平范围内的信号,从而计算简化白平衡系数。预设白平衡部1401将计算出的系数向放大器103传送,通过对每个颜色信号乘以不同的增益,从而使其进行白平衡。
这样,在进行了焦点调节、曝光调节和简化白平衡调节等后,当用户全按压外部I/F部116的由两段式开关构成的快门按钮时,该数字照相机进入主摄像模式。
于是,与预摄像同样,图像信号向缓冲器105传送。该主摄像根据通过预设白平衡部1401求得的简化白平衡系数、通过测光评价部106求得的曝光条件、以及通过对焦点检测部107求得的对焦条件而进行,且这些摄像时的条件向控制部115传送。
通过主摄像得到的缓冲器105内的单片状态的图像信号向Y/C分离部1402传送。该Y/C分离部1402分离出亮度信号Y和色差信号Cb、Cr。另外,在本实施方式中,分别将单片状态的G信号用作亮度信号Y,将单片状态的R、B信号用作色差信号Cb、Cr。
通过Y/C分离部1402这样地分离出的亮度信号和色差信号向缓冲器1403传送并保存。
噪声处理部600根据控制部115的控制,分别地依次提取图37(B)、图37(E)、图37(H)、图37(K)所示的5×5像素尺寸的亮度信号的注目区域和图37(C)、图37(D)、图37(F)、图37(G)、图37(I)、图37(J)、图37(L)、图37(M)所示的5×5像素尺寸的色差信号的注目区域。
因此,通过噪声处理部600提取的注目区域的亮度信号Y和色差信号Cb、Cr根据注目像素的种类而生成如下4种模式:即,图37(B)、图37(C)、图37(D)所示的模式,图37(E)、图37(F)、图37(G)所示的模式,图37(H)、图37(I)、图37(J)所示的模式,以及图37(K)、图37(L)、图37(M)所示的模式。
并且,如日本特开2005-175718号公报所公开的那样,噪声处理部600根据噪声的模型推定关于注目像素的噪声量,并进行平滑化处理。另外,后面分别用NY表示推定出的亮度信号的噪声量,用NR_Y表示完成了平滑化处理的亮度信号,用NR_Cb、NR_Cr表示完成了平滑化处理的色差信号。噪声处理部600分别将推定出的关于亮度信号的噪声量NY向无效边缘推定部601传送,将进行了平滑化处理的亮度信号NR_Y以及色差信号NR_Cb和NR_Cr向插值部1404传送。
边缘提取部109根据控制部115的控制,从缓冲器1403内的亮度信号Y依次提取图37(B)、图37(E)、图37(H)、图37(K)所示的5×5像素尺寸的注目区域,使用图38(A)~图38(D)所示的边缘提取滤色器提取注目像素中的边缘信号E。在此,图38(A)示出注目像素为R或B时的水平方向的边缘提取滤色器Eh,图38(B)示出注目像素为G时的水平方向的边缘提取滤色器Eh,图38(C)示出注目像素为R或B时的垂直方向的边缘提取滤色器Ev,图38(D)示出注目像素为G时的垂直方向的边缘提取滤色器Ev。
边缘提取部109在使用图38(A)或图38(B)所示的边缘提取滤色器Eh来提取水平方向的边缘,使用图38(C)或图38(D)所示的边缘提取滤色器Ev来提取垂直方向的边缘后,按照数学式1所示求取边缘信号E。边缘提取部109将这样提取出的边缘信号E向边缘修正部602传送。
无效边缘推定部601根据控制部115的控制,从噪声处理部600读入关于亮度信号的噪声量NY,推定注目像素中的由噪声成分引起的无效边缘信号IE。无效边缘推定部601将推定出的由噪声成分引起的无效边缘信号IE向边缘修正部602传送。
边缘修正部602根据控制部115的控制,使用来自无效边缘推定部601的无效边缘信号IE和规定的函数(例如,数学式16所示的三次函数),对来自边缘提取部109的边缘信号E进行变换处理。边缘修正部602将进行了变换处理的边缘信号E’向边缘强调部112传送。
插值部1404根据控制部115的控制,从噪声处理部600读入完成了噪声处理的亮度信号NR_Y和色差信号NR_Cb、NR_Cr,进行公知的插值处理,生成由三片构成的亮度信号和色差信号。并且,插值部1404将生成的由三片构成的亮度信号和色差信号向边缘强调部112传送。
边缘强调部112根据控制部115的控制,使用来自边缘修正部602的完成了变换处理的边缘信号E’,对来自插值部1404的完成了插值处理的亮度信号NR_Y进行数学式21所示的边缘强调处理。并且,边缘强调部112将进行了边缘强调处理的亮度信号NR_Y’连同完成了插值处理的色差信号NR_Cb、NR_Cr一起向信号处理部113传送。另外,在本实施方式中,如上所述,分别使用G信号作为亮度信号Y,使用R、B信号作为色差信号Cb、Cr,所以不必进行Y/C合成处理,能够直接通过信号处理部113进行处理。
此外,如上所述的噪声处理部600、边缘提取部109、无效边缘推定部601、边缘修正部602、插值部1404、边缘强调部112的各处理是根据控制部115的控制,以5×5像素尺寸的注目区域为单位同步地进行的。
信号处理部113根据控制部115的控制,对从边缘强调部112输出的边缘强调处理后的图像信号进行公知的色度强调处理和压缩处理等,将处理后的信号向输出部114传送。
输出部114将从信号处理部113输出的图像信号记录并保存到存储卡等记录介质中。
另外,在上述说明中列举了摄像部被一体化的图像处理系统,但是并不限定于这样的结构,与上述实施方式1同样,也可以是与摄像部分离的结构的图像处理系统。
并且,在上述说明中,以利用硬件进行处理为前提,但是并不限定于这样的结构。例如,也可以将来自彩色CCD 1400的图像信号作为未处理状态的Raw数据记录在存储卡等记录介质中,并且将摄像条件等附带信息(例如,来自控制部115的摄像时摄像元件的温度、增益和白平衡系数等)作为头部信息预先记录在记录介质中。并且,使计算机执行其他软件即图像处理程序,使计算机读取记录介质中的信息并处理。另外,从摄像部向计算机传送各种信息不限定于通过记录介质来进行,也可以通过通信线路等来进行。
根据这样的实施方式5,可以构成如下图像处理系统:其从来自彩色摄像元件的图像信号中分离亮度信号,推定噪声成分,从而进行降噪处理,根据推定出的噪声成分,动态地推定由噪声成分引起的无效边缘信号,通过推定出的无效边缘信号对边缘信号进行修正处理。
这样的图像处理系统是通过性质相同的边缘信号来修正边缘信号,所以对混合有多种噪声的图像信号也能够稳定地进行高精度的边缘成分的提取。
并且,能够通过降噪处理来抑制噪声的影响,并且能够得到保存了微小信号的高品位的边缘成分。
另外,因为组合使用了降噪处理和边缘信号的修正处理,所以能够缩小系统的规模,从而实现低成本化。
另外,因为与来自彩色摄像元件的信号相对应,所以能够在多种摄像系统上利用。
再者,因为对插值前的单片状态的图像信号进行噪声处理和边缘提取处理,所以能够得到更高品位的图像信号。
另外,本发明并不限定于上述实施方式,在不脱离发明宗旨的范围内,当然可以进行各种变形和应用。
[附记]
根据以上详细描述的本发明的上述实施方式,能够得到如下的结构。
[附记1]
一种图像处理系统,用于处理来自摄像元件的图像信号,其特征在于,该图像处理系统包括:
边缘提取单元,其从所述图像信号中提取边缘信号;
无效边缘推定单元,其根据所述图像信号来推定由噪声成分引起的边缘信号;以及
边缘修正单元,其根据所述由噪声成分引起的边缘信号来修正所述边缘信号。
(对应的发明实施方式和优选应用例)
该附记对应实施方式1、实施方式2、实施方式3、实施方式4、以及实施方式5。边缘提取单元相当于图1、图13、图16、图25、图34、或者图36所示的边缘提取部109;无效边缘推定单元相当于图1、图5、图12、图13所示的无效边缘推定部110,或者相当于图16、图18、图19或者图34、图36所示的无效边缘推定部601,或者相当于图25、图28、图29所示的无效边缘推定部1005;边缘修正单元相当于图1、图10、图13所示的边缘修正部111,或者相当于图16、图20或者图34、图36所示的边缘修正部602,或者相当于图25、图30所示的边缘修正部1006。
本发明的优选应用例是如下图像处理系统:其通过边缘提取部109提取边缘信号,通过无效边缘推定部110、无效边缘推定部601或者无效边缘推定部1005来推定由噪声成分引起的边缘信号,通过边缘修正部111、边缘修正部602、或者边缘修正部1006根据所述由噪声成分引起的边缘信号来修正边缘信号。
(作用)
动态地推定由噪声成分引起的边缘信号,根据由噪声成分引起的边缘信号来修正来自原信号的边缘信号
(效果)
因为通过性质相同的边缘信号来修正边缘信号,所以对混合有多种噪声的图像信号也能够稳定地进行高精度的噪声成分的提取。
[附记2]
根据附记1所记载的图像处理系统,其特征在于,
该图像处理系统还包括Y/C分离单元,该Y/C分离单元从所述图像信号中分离亮度信号;
所述边缘提取单元从所述亮度信号中提取边缘信号;
所述无效边缘推定单元根据所述亮度信号来推定由噪声成分引起的边缘信号。
(对应的发明实施方式和优选应用例)
该附记对应实施方式3。Y/C分离单元相当于图25所示的Y/C分离部1003,边缘提取单元相当于图25所示的边缘提取部109,无效边缘推定单元相当于图25、图28、图29所示的无效边缘推定部1005。
本发明的优选应用例是如下图像处理系统:其通过Y/C分离部1003从图像信号中分离亮度信号,通过边缘提取部109从亮度信号中提取边缘信号,通过无效边缘推定部1005推定亮度信号的由噪声成分引起的边缘信号。
(作用)
从来自摄像元件的图像信号中分离亮度信号,动态地推定由噪声成分引起的边缘信号,根据由噪声成分引起的边缘信号来修正来自亮度信号的边缘信号。
(效果)
因为通过性质相同的边缘信号来修正边缘信号,所以对混合有多种噪声的图像信号也能够稳定地进行高精度的边缘成分的提取。并且,因为也能够与来自彩色摄像元件的信号对应,所以能够在多种摄像系统上利用。
[附记3]
根据附记1所记载的图像处理系统,其特征在于,
该图像处理系统还包括对所述图像信号进行降噪处理的噪声处理单元;
所述无效边缘推定单元根据来自所述噪声处理单元的规定信息来推定由噪声成分引起的边缘信号。
(对应的发明实施方式和优选应用例)
该附记对应实施方式2。噪声处理单元相当于图16、图17所示的噪声处理部600,无效边缘推定单元相当于图16、图18、图19所示的无效边缘推定部601。
本发明的优选应用例是如下图像处理系统:其通过由噪声处理部600推定图像信号的噪声成分,从而进行降噪处理,根据由无效边缘推定部601推定出的噪声成分来推定由噪声成分引起的边缘信号。
(作用)
通过推定噪声成分来进行降噪处理,根据推定出的噪声成分,动态地推定由噪声成分引起的边缘信号。
(效果)
因为通过性质相同的边缘信号来修正边缘信号,所以对混合有多种噪声的图像信号也能够稳定地进行高精度的边缘成分的提取。而且,能够通过降噪处理来抑制噪声的影响,并能够得到保存了微小信号的高品位的边缘成分。另外,因为组合使用降噪处理和边缘信号的修正处理,所以能够缩小系统的规模,从而实现低成本化。
[附记4]
根据附记1所记载的图像处理系统,其特征在于,
该图像处理系统还包括:
噪声处理单元,其对所述图像信号进行降噪处理;以及
Y/C分离单元,其从所述图像信号中分离亮度信号,
所述边缘提取单元从所述亮度信号中提取边缘信号,
所述无效边缘推定单元根据来自所述噪声处理单元的规定信息来推定由噪声成分引起的边缘信号。
(对应的发明实施方式和优选应用例)
该附记对应实施方式4和实施方式5。噪声处理单元相当于图34、图36所示的噪声处理部600,Y/C分离单元相当于图34所示的Y/C分离部1303和图36所示的Y/C分离部1402,边缘提取单元相当于图34、图36所示的边缘提取部109,无效边缘推定单元相当于图34、图36所示的无效边缘推定部601。
本发明的优选应用例是如下图像处理系统:其通过由噪声处理部600推定图像信号的噪声成分,从而进行降噪处理,通过Y/C分离部1303或Y/C分离部1402从图像信号中分离亮度信号,通过边缘提取部109从未进行降噪处理的原信号中提取边缘信号,根据由无效边缘推定部601推定出的噪声成分来推定由噪声成分引起的边缘信号。
(作用)
通过推定噪声成分而进行降噪处理,从来自摄像元件的图像信号中分离亮度信号,根据推定出的噪声成分动态地推定由噪声成分引起的边缘信号。
(效果)
因为通过性质相同的边缘信号来修正边缘信号,所以对混合有多种噪声的图像信号也能够稳定地进行高精度的边缘成分的提取。而且,能够通过降噪处理来抑制噪声的影响,并能够得到保存了微小信号的高品位的边缘成分。另外,因为组合使用降噪处理和边缘信号的修正处理,所以能够缩小系统的规模,从而实现低成本化。并且,因为也能够与来自彩色摄像元件的信号对应,所以能够在多种摄像系统上利用。
[附记5]
根据附记1所记载的图像处理系统,其特征在于,该图像处理系统还包括边缘强调单元,该边缘强调单元根据所述修正后的边缘信号对所述图像信号进行强调处理。
(对应的发明实施方式和优选应用例)
该附记对应实施方式1和实施方式3。边缘强调单元相当于图1、图13、图25所示的边缘强调部112。
本发明的优选应用例是如下图像处理系统:其通过边缘强调部112对来自摄像元件的图像信号进行边缘强调处理。
(作用)
使用根据由噪声成分引起的边缘信号修正后的边缘信号,对图像信号进行边缘强调。
(效果)
对混合有多种噪声的图像信号也能够稳定地进行高精度的边缘强调处理,能够实现高品位的图像制作处理。
[附记6]
根据附记3或4所记载的图像处理系统,其特征在于,该图像处理系统还包括边缘强调单元,该边缘强调单元根据所述修正后的边缘信号对完成了所述降噪处理的图像信号进行强调处理。
(对应的发明实施方式和优选应用例)
该附记对应实施方式2、实施方式4以及实施方式5。边缘强调单元相当于图16、图34、图36所示的边缘强调部112。
本发明的优选应用例是如下图像处理系统:其通过边缘强调部112对完成了降噪处理的图像信号进行边缘强调处理。
(作用)
使用根据由噪声成分引起的边缘信号修正后的边缘信号,对完成了降噪处理的图像信号进行边缘强调。
(效果)
对混合有多种噪声的图像信号也能够稳定地进行高精度的边缘强调处理,能够实现高品位的图像制作处理。并且,能够生成抑制了噪声影响的高品位的图像信号。
[附记7]
根据附记1所记载的图像处理系统,其特征在于,
所述无效边缘推定单元具有:
记录单元,其记录与基准边缘模型相关的参数组;
参数选择单元,其根据所述图像信号从所述参数组中选择必需的参数;以及
插值单元,其根据所述图像信号和所述选择出的参数,通过插值运算来求取由噪声成分引起的边缘信号。
(对应的发明实施方式和优选应用例)
该附记对应实施方式1。记录单元相当于图12所示的参数用ROM401,参数选择单元相当于图12所示的参数选择部204,插值单元相当于图12所示的插值部205。
本发明的优选应用例是如下图像处理系统:其在参数用ROM 401中记录预先测定的、为了推定由噪声成分引起的边缘信号而使用的基准边缘模型的系数,通过参数选择部204来选择基准边缘模型的系数,通过插值部205根据图像信号和基准边缘模型来求取由噪声成分引起的边缘信号。
(作用)
根据图像信号和基准边缘模型来进行插值处理,从而求取由噪声成分引起的边缘信号。
(效果)
因为计算由噪声成分引起的边缘信号是使用模型,所以能够高精度地进行边缘信号的推定。并且,因为插值处理容易安装,所以能够低成本地构成系统。
[附记8]
根据附记1所记载的图像处理系统,其特征在于,所述无效边缘推定单元具有表变换单元,该表变换单元将所述图像信号作为输入,输出由噪声成分引起的边缘信号。
(对应的发明实施方式和优选应用例)
该附记对应实施方式3。表变换单元相当于图29所示的无效边缘表部1101。
本发明的优选应用例是如下图像处理系统:其通过无效边缘表部1101根据图像信号来求取由噪声成分引起的边缘信号。
(作用)
使用图像信号和变换表来求取由噪声成分引起的边缘信号。
(效果)
因为计算由噪声成分引起的边缘信号是使用变换表,所以能够高速地进行高精度的边缘信号的推定。
[附记9]
根据附记1所记载的图像处理系统,其特征在于,
所述无效边缘推定单元具有:
记录单元,其记录与基准边缘模型相关的参数组;
收集单元,其收集与所述摄像元件的温度值和相对所述图像信号的增益值相关的信息;
赋予单元,其对无法通过所述收集单元得到的信息赋予标准值;
参数选择单元,其根据所述图像信号和来自所述收集单元或所述赋予单元的信息,从所述参数组中选择必需的参数;以及
插值单元,其根据所述图像信号和所述选择出的参数,通过插值运算来求取由噪声成分引起的边缘信号。
(对应的发明实施方式和优选应用例)
该附记对应实施方式1。记录单元相当于图5所示的参数用ROM203,收集单元相当于图1所示的温度传感器117、控制部115和图5所示的增益计算部201,赋予单元相当于图5所示的标准值赋予部202,参数选择单元相当于图5所示的参数选择部204,插值单元相当于图5所示的插值部205、插值部206。
本发明的优选应用例是如下图像处理系统:其通过温度传感器117、控制部115和增益计算部201来收集在推定由噪声成分引起的边缘信号中使用的信息,在不能从温度传感器117、控制部115和增益计算部201得到信息的情况下通过标准值赋予部202设定标准值,在参数用ROM203中记录预先测定的、为了推定由噪声成分引起的边缘信号而使用的基准边缘模型的系数和修正系数,通过参数选择部204选择基准边缘模型的系数和修正系数,通过插值部205、插值部206根据图像信号和基准边缘模型来求取由噪声成分引起的边缘信号。
(作用)
每当摄像时动态地求取与由噪声成分引起的边缘信号相关的各种信息,对不能求得的信息设定标准值,根据这些信息、图像信号和基准边缘模型来进行插值处理,从而求取由噪声成分引起的边缘信号。
(效果)
每当摄像时动态地适应不同的条件,能够高精度地进行由噪声成分引起的边缘信号的推定。并且,即使在不能得到必需信息的情况下,也能够进行由噪声成分引起的边缘信号的推定,能够得到稳定的处理结果。另外,因为计算由噪声成分引起的边缘信号是使用模型,所以能够高精度地进行边缘信号的推定。并且,因为插值处理容易安装,所以能够构成低成本的系统。
[附记10]
根据附记1所记载的图像处理系统,其特征在于,
所述无效边缘推定单元具有:
收集单元,其收集与所述摄像元件的温度值和相对所述图像信号的增益值相关的信息;
赋予单元,其对无法通过所述收集单元得到的信息赋予标准值;以及
表变换单元,其将所述图像信号和来自所述收集单元或所述赋予单元的信息作为输入,输出由噪声成分引起的边缘信号。
(对应的发明实施方式和优选应用例)
该附记对应实施方式3。收集单元相当于图25所示的温度传感器117、控制部115和图28所示的增益计算部201,赋予单元相当于图28所示的标准值赋予部202,表变换单元相当于图28所示的无效边缘表部1100。
本发明的优选应用例是如下图像处理系统:其通过温度传感器117、控制部115和增益计算部201来收集在推定由噪声成分引起的边缘信号中使用的信息,在不能从温度传感器117、控制部115和增益计算部201得到信息的情况下通过标准值赋予部202设定标准值,通过无效边缘表部1100根据图像信号来求取由噪声成分引起的边缘信号。
(作用)
每当摄像时动态地求取与由噪声成分引起的边缘信号相关的各种信息,对不能求得的信息设定标准值,使用这些信息、图像信号和变换表来求取由噪声成分引起的边缘信号。
(效果)
每当摄像时动态地适应不同的条件,能够高精度地进行由噪声成分引起的边缘信号的推定。并且,即使在不能得到必需信息的情况下,也能够进行由噪声成分引起的边缘信号的推定,能够得到稳定的处理结果。另外,计算由噪声成分引起的边缘信号是使用变换表,所以能够高速地进行高精度的边缘信号的推定。
[附记11]
根据附记3或4所记载的图像处理系统,其特征在于,
所述噪声处理单元具有:
噪声推定单元,其由所述图像信号推定噪声量;以及
降噪单元,其根据所述噪声量对所述图像信号进行平滑化。
(对应的发明实施方式和优选应用例)
该附记对应实施方式2。噪声推定单元相当于图16所示的温度传感器117、控制部115和图17所示的增益计算部701、标准值赋予部702、噪声表部703,降噪单元相当于图17所示的第1平滑部705、第2平滑部706。
本发明的优选应用例是如下图像处理系统:其通过温度传感器117、控制部115和增益计算部701收集用于推定噪声量的信息,在不能从温度传感器117、控制部115和增益计算部701得到信息的情况下通过标准值赋予部702设定标准值,通过噪声表部703推定噪声量,通过第1平滑部705对判定为属于噪声范围的图像信号进行平滑化,通过第2平滑部706对判定为不属于噪声范围的图像信号进行修正。
(作用)
每当摄像时动态地求取与噪声量相关的各种信息,对不能求取的信息设定标准值,使用表从这些信息中推定噪声量,对判定为属于噪声范围的图像信号进行平滑化处理,对判定为不属于噪声范围的图像信号进行修正处理。
(效果)
每当摄像时动态地适应不同的条件,能够高精度地进行噪声量的推定。并且,即使在不能得到必需信息的情况下,也能够进行噪声量的推定,能够得到稳定的降噪效果。另外,因为计算噪声量是使用表,所以能够高速地进行处理。并且,因为组合使用平滑化处理和修正处理,所以能够防止随着降噪处理而产生不连续性,从而得到高品位的信号。
[附记12]
根据附记11所记载的图像处理系统,其特征在于,
所述无效边缘推定单元具有:
记录单元,其记录与基准边缘模型相关的参数组;
参数选择单元,其根据来自所述噪声处理单元的噪声量,从所述参数组中选择必需的参数;以及
插值单元,其根据来自所述噪声处理单元的噪声量和所述选择出的参数,通过插值运算来求取由噪声成分引起的边缘信号。
(对应的发明实施方式和优选应用例)
该记对应实施方式2。记录单元相当于图18所示的参数用ROM 801,参数选择单元相当于图18所示的参数选择部800,插值单元相当于图18所示的插值部802。
本发明的优选应用例是如下图像处理系统:其在参数用ROM 801中记录预先测定的、为了推定由噪声成分引起的边缘信号而使用的基准噪声模型的系数,通过参数选择部800选择基准边缘模型的系数,通过插值部802根据噪声量和基准边缘模型来求取由噪声成分引起的边缘信号。
(作用)
根据噪声量和基准边缘模型来进行插值处理,从而求取由噪声成分引起的边缘信号。
(效果)
因为计算由噪声成分引起的边缘信号是使用模型,所以能够高精度地进行边缘信号的推定。并且,因为插值处理容易安装,所以能够构成低成本的系统。
[附记13]
根据附记11所记载的图像处理系统,其特征在于,所述无效边缘推定单元具有表变换单元,该表变换单元将来自所述噪声处理单元的噪声量作为输入,输出由噪声成分引起的边缘信号。
(对应的发明实施方式和优选应用例)
该附记对应实施方式2。记录单元相当于图19所示的无效边缘表部803。
本发明的优选应用例是如下图像处理系统:其通过无效边缘表部803从噪声量求取由噪声成分引起的边缘信号。
(作用)
使用噪声量和变换表求取由噪声成分引起的边缘信号。
(效果)
因为计算由噪声成分引起的边缘信号是使用变换表,所以能够高速地进行高精度的边缘信号的推定。
[附记14]
根据附记9或10所记载的图像处理系统,其特征在于,所述收集单元具有用于测定所述摄像元件的温度值的温度传感器。
(对应的发明实施方式和优选应用例)
该附记对应实施方式1和实施方式3。温度传感器相当于图1、图25所示的温度传感器117。
本发明的优选应用例是由温度传感器117实时测定CCD 102或彩色CCD 1000的温度的图像处理系统。
(作用)
测量摄像时的摄像元件的温度,作为用于推定由噪声成分引起的边缘信号的信息。
(效果)
动态地适应摄像时的温度变化,能够高精度地进行由噪声成分引起的边缘信号的推定。
[附记15]
根据附记9或10所记载的图像处理系统,其特征在于,所述收集单元具有增益计算单元,该增益计算单元根据ISO灵敏度、曝光信息和白平衡信息中的至少一个信息来求取所述增益值。
(对应的发明实施方式和优选应用例)
该附记对应实施方式1和实施方式3。增益计算单元相当于图5、图28所示的增益计算部201、控制部115。
本发明的优选应用例是如下图像处理系统:其通过控制部115传送ISO灵敏度、曝光信息、白平衡信息等,通过增益计算部201求取摄像时的总增益量。
(作用)
由ISO灵敏度、曝光信息、白平衡信息等求取摄像时的增益量,作为用于推定由噪声成分引起的边缘信号的信息。
(效果)
动态地适应摄像时的增益变化,能够高精度地进行由噪声成分引起的边缘信号的推定。
[附记16]
根据附记1所记载的图像处理系统,其特征在于,所述边缘修正单元具有核化单元,该核化单元根据所述由噪声成分引起的边缘信号,对所述边缘信号进行核化处理。
(对应的发明实施方式和优选应用例)
该附记对应实施方式1。核化单元相当于图10所示的加法部301、减法部302、置换部303。
本发明的优选应用例是如下图像处理系统:其通过加法部301、减法部302、置换部303,根据推定出的由噪声成分引起的边缘信号对边缘信号进行核化处理。
(作用)
根据由噪声成分引起的边缘信号,对边缘信号进行核化处理。
(效果)
因为根据性质相同的边缘信号对边缘信号进行核化处理,所以对混合有多种噪声的图像信号也能够稳定且高精度地得到边缘成分。
[附记17]
根据附记1所记载的图像处理系统,其特征在于,
所述边缘修正单元具有:
常数计算单元,其根据所述由噪声成分引起的边缘信号,计算在所述边缘信号的修正中使用的函数的常数项;以及
函数变换单元,其根据设定了所述常数项的函数来变换所述边缘信号。
(对应的发明实施方式和优选应用例)
该附记对应实施方式2。常数计算单元相当于图20所示的常数计算部901,函数变换单元相当于图20所示的变换部902。
本发明的优选应用例是如下图像处理系统:其通过常数计算部901,根据由噪声成分引起的边缘信号计算在边缘信号的修正中使用的函数的常数项,通过变换部902,根据设定了常数项的函数来变换边缘信号。
(作用)
根据由噪声成分引起的边缘信号,计算在边缘信号的修正中使用的函数的常数项,根据设定了常数项的函数变换边缘信号。
(效果)
因为适当地伴随由噪声成分引起的边缘信号来实施最佳的变换处理,所以对混合有多种噪声的图像信号也能够稳定且高精度地得到边缘成分。
[附记18]
根据附记17所记载的图像处理系统,其特征在于,所述函数变换单元在所述边缘信号的绝对值大于所述由噪声成分引起的边缘信号时使用一次函数作为所述函数,在该边缘信号的绝对值小于等于该由噪声成分引起的边缘信号时使用三次函数作为所述函数。
(对应的发明实施方式和优选应用例)
该附记对应实施方式2。
本发明的优选应用例是如下图像处理系统:其组合图21所示的一次函数和三次函数来进行边缘信号的变换。
(作用)
组合一次函数和三次函数来进行边缘信号的变换。
(效果)
通过组合一次函数和三次函数,常数项的计算变得简单,能够实现处理的高速化和低成本化。并且,因为能够确保修正后的边缘信号的连续性,所以能够得到高品位的边缘信号。
[附记19]
根据附记1所记载的图像处理系统,其特征在于,所述边缘修正单元具有表修正单元,该表修正单元将所述边缘信号和所述由噪声成分引起的边缘信号作为输入,输出修正后的边缘信号。
(对应的发明实施方式和优选应用例)
该附记对应实施方式3。表修正单元相当于图30所示的边缘修正表部1200。
本发明的优选应用例是如下图像处理系统:其通过边缘修正表部1200,根据由噪声成分引起的边缘信号来修正边缘信号。
(作用)
使用由噪声成分引起的边缘信号和变换表来修正边缘信号。
(效果)
因为边缘信号的修正是使用变换表,所以能够高速地进行高精度的边缘信号的修正。
[附记20]
根据附记2或附记4所记载的图像处理系统,其特征在于,所述摄像元件是在前面配置有R(红色)、G(绿色)、B(蓝色)的拜尔型原色滤色器的单片摄像元件,或者是在前面配置有Cy(青色)、Mg(品红)、Ye(黄色)、G(绿色)色差线顺序型补色滤色器的单片摄像元件。
(对应的发明实施方式和优选应用例)
该附记对应实施方式3和实施方式5。
本发明的优选应用例是如下图像处理系统:其在单片摄像元件的前面配置有图26、图37(A)所示的拜尔(Bayer)型原色滤色器、或者图27所示的色差线顺序型补色滤色器。
(作用)
使用在前面配置有拜尔(Bayer)型原色滤色器或者色差线顺序型补色滤色器的单片摄像元件。
(效果)
因为与现有的摄像部的结合性高,所以能够应用到很多图像处理系统上。
[附记21]
一种图像处理程序,用于使计算机处理来自摄像元件的图像信号,其特征在于,该图像处理程序用于使计算机执行如下步骤:
边缘提取步骤,从所述图像信号中提取边缘信号;
无效边缘推定步骤,根据所述图像信号来推定由噪声成分引起的边缘信号;以及
边缘修正步骤,根据所述由噪声成分引起的边缘信号来修正所述边缘信号。
(对应的发明实施方式和优选应用例)
与附记1大致相同。其中,各步骤对应图14、图15、或者图22、图23、图24、或者图32、图33、或者图35所示的步骤。
[附记22]
根据附记21所记载的图像处理程序,其特征在于,
该图像处理程序还包含从所述图像信号中分离亮度信号的Y/C分离步骤;
所述边缘提取步骤是从所述亮度信号中提取边缘信号的步骤;
所述无效边缘推定步骤是根据所述亮度信号来推定由噪声成分引起的边缘信号的步骤。
(对应的发明实施方式和效果)
与附记2大致相同。其中,各步骤对应图32、图33所示的步骤。
[附记23]
根据附记21所记载的图像处理程序,其特征在于,
该图像处理程序还包含对所述图像信号进行降噪处理的噪声处理步骤;
所述无效边缘推定步骤是根据通过所述噪声处理步骤得到的规定信息来推定由噪声成分引起的边缘信号的步骤。
(对应的发明实施方式和优选应用例)
与附记3大致相同。其中,各步骤对应图22、图23、图24所示的步骤。
[附记24]
根据附记21所记载的图像处理程序,其特征在于,
该图像处理程序还包括如下步骤:
噪声处理步骤,对所述图像信号进行降噪处理;以及
Y/C分离步骤,从所述图像信号中分离亮度信号,
所述边缘提取步骤是从所述亮度信号中提取边缘信号的步骤,
所述无效边缘推定步骤是根据通过所述噪声处理步骤得到的规定信息来推定由噪声成分引起的边缘信号的步骤。
(对应的发明实施方式和优选应用例)
与附记4大致相同。其中,各步骤对应图35所示的步骤。
[附记25]
根据附记21所记载的图像处理程序,其特征在于,
所述无效边缘推定步骤包含如下步骤:
参数选择步骤,根据所述图像信号从与基准边缘模型相关的参数组中选择必需的参数;以及
插值步骤,根据所述图像信号和所述选择出的参数,通过插值运算求取由噪声成分引起的边缘信号。
(对应的发明实施方式和效果)
与附记7大致相同。其中,各步骤对应图14、图15、或者图22、图23、图24、或者图32、图33、或者对应图35所示的步骤。
[附记26]
根据附记21所记载的图像处理程序,其特征在于,所示无效边缘推定步骤包括表变换步骤,在该表变换步骤中,将所述图像信号作为输入,输出由噪声成分引起的边缘信号。
(对应的发明实施方式和效果)
与附记8大致相同。其中,各步骤对应图32、图33所示的步骤。
[附记27]
根据附记21所记载的图像处理程序,其特征在于,
所述无效边缘推定步骤包括如下步骤:
收集步骤,收集与所述摄像元件的温度值和相对所述图像信号的增益值相关的信息;
赋予步骤,对无法通过所述收集步骤得到的信息赋予标准值;
参数选择步骤,根据所述图像信号和通过所述收集步骤或所述赋予步骤得到的信息,从与基准边缘模型相关的参数组中选择必需的参数;以及
插值步骤,根据所述图像信号和所述选择出的参数,通过插值运算来求取由噪声成分引起的边缘信号。
(对应的发明实施方式和效果)
与附记9大致相同。其中,各步骤对应图14、图15、或者图22、图23、图24、或者图32、图33、或者图35所示的步骤。
[附记28]
根据附记21所记载的图像处理程序,其特征在于,
所述无效边缘推定步骤包括如下步骤:
收集步骤,收集与所述摄像元件的温度值和相对所述图像信号的增益值相关的信息;
赋予步骤,对无法通过所述收集步骤得到的信息赋予标准值;以及
表变换步骤,将所述图像信息和通过所述收集步骤或所述赋予步骤得到的信息作为输入,输出由噪声成分引起的边缘信号。
(对应的发明实施方式和效果)
与附记10大致相同。其中,各步骤对应图32、图33所示的步骤。
[附记29]
根据附记23或24所记载的图像处理程序,其特征在于,
所述噪声处理步骤包括如下步骤:
噪声推定步骤,由所述图像信号推定噪声量;以及
降噪步骤,根据所述噪声量对所述图像信号进行平滑化。
(对应的发明实施方式和效果)
与附记11大致相同。其中,各步骤对应图22、图23、图24所示的步骤。
[附记30]
根据附记29所记载的图像处理程序,其特征在于,
所述无效边缘推定步骤包括如下步骤:
参数选择步骤,根据通过所述噪声处理步骤得到的噪声量,从与基准边缘模型相关的参数组中选择必需的参数;以及
插值步骤,根据通过所述噪声处理步骤得到的噪声量和所述选择出的参数,通过插值运算来求取由噪声成分引起的边缘信号。
(对应的实施方式和效果)
与附记12大致相同。其中,各步骤对应图22、图23、图24所示的步骤。
[附记31]
根据附记29所记载的图像处理程序,其特征在于,所述无效边缘推定步骤包括表变换步骤,在该表变换步骤中,将通过所述噪声处理步骤得到的噪声量作为输入,输出由噪声成分引起的边缘信号。
(对应的发明实施方式和效果)
与附记13大致相同。其中,各步骤对应图22、图23、图24所示的步骤。
[附记32]
根据附记21所记载的图像处理程序,其特征在于,所述边缘修正步骤包括核化步骤,在该核化步骤中,根据所述由噪声成分引起的边缘信号,对所述边缘信号进行核化处理。
(对应的发明实施方式和效果)
与附记16大致相同。其中,各步骤对应图14、图15、或者图22、图23、图24、或者图32、图33、或者图35所示的步骤。
[附记33]
根据附记21所记载的图像处理程序,其特征在于,
所述边缘修正步骤包括如下步骤:
常数计算步骤,根据所述由噪声成分引起的边缘信号,计算在所述边缘信号的修正中使用的函数的常数项;以及
函数变换步骤,根据设定了所述常数项的函数来变换所述边缘信号。
(对应的发明实施方式和效果)
与附记17大致相同。其中,各步骤对应图22、图23、图24所示的步骤。
[附记34]
根据附记33所记载的图像处理程序,其特征在于,所述函数变换步骤在所述边缘信号的绝对值大于所述由噪声成分引起的边缘信号时使用一次函数作为所述函数,在该边缘信号的绝对值小于等于该由噪声成分引起的边缘信号时使用三次函数作为所述函数。
(对应的发明实施方式和效果)
与附记18大致相同。其中,各步骤对应图22、图23、图24所示的步骤。
[附记35]
根据附记21所记载的图像处理程序,其特征在于,所述边缘修正步骤包括表修正步骤,在该表修正步骤中,将所述边缘信号和所述由噪声成分引起的边缘信号作为输入,输出修正后的边缘信号。
(对应的发明实施方式和效果)
与附记19大致相同。其中,各步骤对应图32、图33所示的步骤。
本申请是以2005年10月26日向日本申请的特愿2005-311704号为优先权主张的基础而提出的,在本申请的说明书、权利要求书、附图中引用了其公开内容。

Claims (35)

1.一种图像处理系统,用于处理来自摄像元件的图像信号,其特征在于,该图像处理系统包括:
边缘提取单元,其从所述图像信号中提取边缘信号;
无效边缘推定单元,其根据所述图像信号来推定由噪声成分引起的边缘信号;以及
边缘修正单元,其根据所述由噪声成分引起的边缘信号来修正所述边缘信号。
2.根据权利要求1所述的图像处理系统,其特征在于,
该图像处理系统还包括从所述图像信号中分离亮度信号的Y/C分离单元;
所述边缘提取单元从所述亮度信号中提取边缘信号;
所述无效边缘推定单元根据所述亮度信号来推定由噪声成分引起的边缘信号。
3.根据权利要求1所述的图像处理系统,其特征在于,
该图像处理系统还包括对所述图像信号进行降噪处理的噪声处理单元;
所述无效边缘推定单元根据来自所述噪声处理单元的规定信息来推定由噪声成分引起的边缘信号。
4.根据权利要求1所述的图像处理系统,其特征在于,
该图像处理系统还包括:
噪声处理单元,其对所述图像信号进行降噪处理;以及
Y/C分离单元,其从所述图像信号中分离亮度信号,
所述边缘提取单元从所述亮度信号中提取边缘信号,
所述无效边缘推定单元根据来自所述噪声处理单元的规定信息来推定由噪声成分引起的边缘信号。
5.根据权利要求1所述的图像处理系统,其特征在于,该图像处理系统还包括根据所述修正后的边缘信号对所述图像信号进行强调处理的边缘强调单元。
6.根据权利要求3或4所述的图像处理系统,其特征在于,该图像处理系统还包括边缘强调单元,该边缘强调单元根据所述修正后的边缘信号对完成了所述降噪处理的图像信号进行强调处理。
7.根据权利要求1所述的图像处理系统,其特征在于,
所述无效边缘推定单元具有:
记录单元,其记录与基准边缘模型相关的参数组;
参数选择单元,其根据所述图像信号从所述参数组中选择必需的参数;以及
插值单元,其根据所述图像信号和所述选择出的参数,通过插值运算来求取由噪声成分引起的边缘信号。
8.根据权利要求1所述的图像处理系统,其特征在于,所述无效边缘推定单元具有表变换单元,该表变换单元将所述图像信号作为输入,输出由噪声成分引起的边缘信号。
9.根据权利要求1所述的图像处理系统,其特征在于,
所述无效边缘推定单元具有:
记录单元,其记录与基准边缘模型相关的参数组;
收集单元,其收集与所述摄像元件的温度值和相对所述图像信号的增益值相关的信息;
赋予单元,其对无法通过所述收集单元得到的信息赋予标准值;
参数选择单元,其根据所述图像信号和来自所述收集单元或所述赋予单元的信息,从所述参数组中选择必需的参数;以及
插值单元,其根据所述图像信号和所述选择出的参数,通过插值运算来求取由噪声成分引起的边缘信号。
10.根据权利要求1所述的图像处理系统,其特征在于,
所述无效边缘推定单元具有:
收集单元,其收集与所述摄像元件的温度值和相对所述图像信号的增益值相关的信息;
赋予单元,其对无法通过所述收集单元得到的信息赋予标准值;以及
表变换单元,其将所述图像信号和来自所述收集单元或所述赋予单元的信息作为输入,输出由噪声成分引起的边缘信号。
11.根据权利要求3或4所述的图像处理系统,其特征在于,
所述噪声处理单元具有:
噪声推定单元,其由所述图像信号推定噪声量;以及
降噪单元,其根据所述噪声量对所述图像信号进行平滑化。
12.根据权利要求11所述的图像处理系统,其特征在于,
所述无效边缘推定单元具有:
记录单元,其记录与基准边缘模型相关的参数组;
参数选择单元,其根据来自所述噪声处理单元的噪声量,从所述参数组中选择必需的参数;以及
插值单元,其根据来自所述噪声处理单元的噪声量和所述选择出的参数,通过插值运算来求取由噪声成分引起的边缘信号。
13.根据权利要求11所述的图像处理系统,其特征在于,所述无效边缘推定单元具有表变换单元,该表变换单元将来自所述噪声处理单元的噪声量作为输入,输出由噪声成分引起的边缘信号。
14.根据权利要求9或10所述的图像处理系统,其特征在于,所述收集单元具有测定所述摄像元件的温度值的温度传感器。
15.根据权利要求9或10所述的图像处理系统,其特征在于,所述收集单元具有增益计算单元,该增益计算单元根据ISO灵敏度、曝光信息和白平衡信息中的至少一个信息来求取所述增益值。
16.根据权利要求1所述的图像处理系统,其特征在于,所述边缘修正单元具有核化单元,该核化单元根据所述由噪声成分引起的边缘信号对所述边缘信号进行核化处理。
17.根据权利要求1所述的图像处理系统,其特征在于,
所述边缘修正单元具有:
常数计算单元,其根据所述由噪声成分引起的边缘信号,计算在所述边缘信号的修正中使用的函数的常数项;以及
函数变换单元,其根据设定了所述常数项的函数来变换所述边缘信号。
18.根据权利要求17所述的图像处理系统,其特征在于,所述函数变换单元在所述边缘信号的绝对值大于所述由噪声成分引起的边缘信号时使用一次函数作为所述函数,在该边缘信号的绝对值小于等于该由噪声成分引起的边缘信号时使用三次函数作为所述函数。
19.根据权利要求1所述的图像处理系统,其特征在于,所述边缘修正单元具有表修正单元,该表修正单元将所述边缘信号和所述由噪声成分引起的边缘信号作为输入,输出修正后的边缘信号。
20.根据权利要求2或4所述的图像处理系统,其特征在于,所述摄像元件是在前面配置有R(红色)、G(绿色)、B(蓝色)的拜尔型原色滤色器的单片摄像元件,或者是在前面配置有Cy(青色)、Mg(品红)、黄色(Ye)、G(绿色)色差线顺序型补色滤色器的单片摄像元件。
21.一种图像处理程序,用于使计算机处理来自摄像元件的图像信号,其特征在于,该图像处理程序用于使计算机执行如下步骤:
边缘提取步骤,从所述图像信号中提取边缘信号;
无效边缘推定步骤,根据所述图像信号推定由噪声成分引起的边缘信号;以及
边缘修正步骤,根据所述由噪声成分引起的边缘信号修正所述边缘信号。
22.根据权利要求21所述的图像处理程序,其特征在于,
该图像处理程序还包含从所述图像信号中分离亮度信号的Y/C分离步骤;
所述边缘提取步骤是从所述亮度信号中提取边缘信号的步骤;
所述无效边缘推定步骤是根据所述亮度信号来推定由噪声成分引起的边缘信号的步骤。
23.根据权利要求21所述的图像处理程序,其特征在于,
该图像处理程序还包含对所述图像信号进行降噪处理的噪声处理步骤;
所述无效边缘推定步骤是根据通过所述噪声处理步骤得到的规定信息来推定由噪声成分引起的边缘信号的步骤。
24.根据权利要求21所述的图像处理程序,其特征在于,
该图像处理程序还包括如下步骤:
噪声处理步骤,对所述图像信号进行降噪处理;以及
Y/C分离步骤,从所述图像信号中分离亮度信号,
所述边缘提取步骤是从所述亮度信号中提取边缘信号的步骤;
所述无效边缘推定步骤是根据通过所述噪声处理步骤得到的规定信息来推定由噪声成分引起的边缘信号的步骤。
25.根据权利要求21所述的图像处理程序,其特征在于,
所述无效边缘推定步骤包括如下步骤:
参数选择步骤,根据所述图像信号从与基准边缘模型相关的参数组中选择必需的参数;以及
插值步骤,根据所述图像信号和所述选择出的参数,通过插值运算来求取由噪声成分引起的边缘信号。
26.根据权利要求21所述的图像处理程序,其特征在于,所示无效边缘推定步骤包括表变换步骤,在该表变换步骤中,将所述图像信号作为输入,输出由噪声成分引起的边缘信号。
27.根据权利要求21所述的图像处理程序,其特征在于,
所述无效边缘推定步骤包括如下步骤:
收集步骤,收集与所述摄像元件的温度值和相对所述图像信号的增益值相关的信息;
赋予步骤,对无法通过所述收集步骤得到的信息赋予标准值;
参数选择步骤,根据所述图像信号和通过所述收集步骤或所述赋予步骤得到的信息,从与基准边缘模型相关的参数组中选择必需的参数;以及
插值步骤,根据所述图像信号和所述选择出的参数,通过插值运算来求取由噪声成分引起的边缘信号。
28.根据权利要求21所述的图像处理程序,其特征在于,
所述无效边缘推定步骤包括如下步骤:
收集步骤,收集与所述摄像元件的温度值和相对所述图像信号的增益值相关的信息;
赋予步骤,对无法通过所述收集步骤得到的信息赋予标准值;以及
表变换步骤,将所述图像信号和通过所述收集步骤或所述赋予步骤得到的信息作为输入,输出由噪声成分引起的边缘信号。
29.根据权利要求23或24所述的图像处理程序,其特征在于,
所述噪声处理步骤包括如下步骤:
噪声推定步骤,由所述图像信号推定噪声量;以及
降噪步骤,根据所述噪声量对所述图像信号进行平滑化。
30.根据权利要求29所述的图像处理程序,其特征在于,
所述无效边缘推定步骤包括如下步骤:
参数选择步骤,根据通过所述噪声处理步骤得到的噪声量,从与基准边缘模型相关的参数组中选择必需的参数;以及
插值步骤,根据通过所述噪声处理步骤得到的噪声量和所述选择出的参数,通过插值运算来求取由噪声成分引起的边缘信号。
31.根据权利要求29所述的图像处理程序,其特征在于,所述无效边缘推定步骤包括表变换步骤,在该表变换步骤中,将通过所述噪声处理步骤得到的噪声量作为输入,输出由噪声成分引起的边缘信号。
32.根据权利要求21所述的图像处理程序,其特征在于,所述边缘修正步骤包括核化步骤,在该核化步骤中,根据所述由噪声成分引起的边缘信号对所述边缘信号进行核化处理。
33.根据权利要求21所述的图像处理程序,其特征在于,
所述边缘修正步骤包括如下步骤:
常数计算步骤,根据所述由噪声成分引起的边缘信号,计算在所述边缘信号的修正中使用的函数的常数项;以及
函数变换步骤,根据设定了所述常数项的函数来变换所述边缘信号。
34.根据权利要求33所述的图像处理程序,其特征在于,所述函数变换步骤在所述边缘信号的绝对值大于所述由噪声成分引起的边缘信号时使用一次函数作为所述函数,在该边缘信号的绝对值小于等于该由噪声成分引起的边缘信号时使用三次函数作为所述函数。
35.根据权利要求21所述的图像处理程序,其特征在于,所述边缘修正步骤包括表修正步骤,在该表修正步骤中,将所述边缘信号和所述由噪声成分引起的边缘信号作为输入,输出修正后的边缘信号。
CNA2006800363297A 2005-10-26 2006-09-25 图像处理系统、图像处理程序 Pending CN101278552A (zh)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2005311704 2005-10-26
JP311704/2005 2005-10-26

Publications (1)

Publication Number Publication Date
CN101278552A true CN101278552A (zh) 2008-10-01

Family

ID=37967540

Family Applications (1)

Application Number Title Priority Date Filing Date
CNA2006800363297A Pending CN101278552A (zh) 2005-10-26 2006-09-25 图像处理系统、图像处理程序

Country Status (5)

Country Link
US (1) US8035705B2 (zh)
EP (1) EP1947840A4 (zh)
JP (1) JPWO2007049418A1 (zh)
CN (1) CN101278552A (zh)
WO (1) WO2007049418A1 (zh)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102547122A (zh) * 2010-12-28 2012-07-04 索尼公司 控制设备、控制方法和控制程序
CN102729824A (zh) * 2011-03-31 2012-10-17 本田技研工业株式会社 图像处理判定装置
CN105721759A (zh) * 2014-12-01 2016-06-29 深圳富泰宏精密工业有限公司 影像拍摄方法及系统

Families Citing this family (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPWO2007049418A1 (ja) * 2005-10-26 2009-04-30 オリンパス株式会社 画像処理システム、画像処理プログラム
JP4979595B2 (ja) * 2005-12-28 2012-07-18 オリンパス株式会社 撮像システム、画像処理方法、画像処理プログラム
JP5009004B2 (ja) 2006-07-31 2012-08-22 株式会社リコー 画像処理装置、撮像装置、画像処理方法、および画像処理プログラム
JP5147597B2 (ja) * 2008-08-13 2013-02-20 キヤノン株式会社 画像形成装置、画像形成方法およびプログラム
US8374457B1 (en) 2008-12-08 2013-02-12 Adobe Systems Incorporated System and method for interactive image-noise separation
JP5197423B2 (ja) * 2009-02-18 2013-05-15 オリンパス株式会社 画像処理装置
JP2010288150A (ja) * 2009-06-12 2010-12-24 Toshiba Corp 固体撮像装置
KR101361804B1 (ko) * 2009-06-25 2014-02-11 삼성테크윈 주식회사 디지털 영상 처리기에서 노이즈 제거 장치 및 방법
JP5701640B2 (ja) * 2011-02-18 2015-04-15 株式会社東芝 画像処理装置
KR20130032457A (ko) * 2011-09-23 2013-04-02 에스케이하이닉스 주식회사 이미지 센서 및 그를 이용한 데이터 처리 방법
KR102025184B1 (ko) * 2013-07-31 2019-09-25 엘지디스플레이 주식회사 데이터 변환 장치 및 이를 이용한 디스플레이 장치
KR102087986B1 (ko) * 2013-10-04 2020-03-11 삼성전자주식회사 이미지 데이터를 처리하는 방법 및 장치
JP2015097382A (ja) 2013-10-08 2015-05-21 キヤノン株式会社 情報処理装置、撮像システム、情報処理方法、及びプログラム
CN109462728B (zh) * 2017-09-06 2020-01-14 浙江宇视科技有限公司 码率控制方法、装置、图像采集设备及可读存储介质
CN107592472B (zh) * 2017-10-20 2019-12-20 思特威(上海)电子科技有限公司 多段曝光图像传感器的成像校正方法
US11120529B2 (en) * 2017-11-06 2021-09-14 Canon Kabushiki Kaisha Image processing apparatus, imaging apparatus, lens apparatus, image processing method, and recording medium

Family Cites Families (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR0170657B1 (ko) * 1994-08-31 1999-03-30 김광호 색신호에 있는 윤곽을 보정하는 방법 및 이를 칼라 비디오기기에서 구현하기 위한 회로
KR0160718B1 (ko) 1995-08-29 1999-01-15 김광호 색신호에 포함된 윤곽을 보정하는 방법 및 이를 칼라 비디오기기에서 구현하기 위한 회로
JP4053185B2 (ja) * 1999-06-22 2008-02-27 富士フイルム株式会社 画像処理方法および装置
JP4614548B2 (ja) * 2001-01-31 2011-01-19 パナソニック株式会社 超音波診断装置
US7130484B2 (en) * 2001-10-15 2006-10-31 Jonas August Biased curve indicator random field filters for enhancement of contours in images
JP2003130297A (ja) * 2001-10-24 2003-05-08 Neriki:Kk ガスボンベ用バルブ装置
JP2003304549A (ja) * 2002-04-11 2003-10-24 Olympus Optical Co Ltd カメラ及び画像信号処理システム
JP3934506B2 (ja) * 2002-08-06 2007-06-20 オリンパス株式会社 撮像システムおよび画像処理プログラム
JP3762725B2 (ja) 2002-08-22 2006-04-05 オリンパス株式会社 撮像システムおよび画像処理プログラム
JP2004318356A (ja) * 2003-04-15 2004-11-11 Olympus Corp 画像処理装置、画像処理方法及びそのプログラム
JP2005130297A (ja) * 2003-10-24 2005-05-19 Olympus Corp 信号処理システム、信号処理方法、信号処理プログラム
JP3934597B2 (ja) * 2003-12-09 2007-06-20 オリンパス株式会社 撮像システムおよび画像処理プログラム
JPWO2007049418A1 (ja) * 2005-10-26 2009-04-30 オリンパス株式会社 画像処理システム、画像処理プログラム

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102547122A (zh) * 2010-12-28 2012-07-04 索尼公司 控制设备、控制方法和控制程序
CN102729824A (zh) * 2011-03-31 2012-10-17 本田技研工业株式会社 图像处理判定装置
CN102729824B (zh) * 2011-03-31 2015-05-13 本田技研工业株式会社 图像处理判定装置
CN105721759A (zh) * 2014-12-01 2016-06-29 深圳富泰宏精密工业有限公司 影像拍摄方法及系统

Also Published As

Publication number Publication date
EP1947840A4 (en) 2010-04-21
US20080204577A1 (en) 2008-08-28
EP1947840A1 (en) 2008-07-23
WO2007049418A1 (ja) 2007-05-03
JPWO2007049418A1 (ja) 2009-04-30
US8035705B2 (en) 2011-10-11

Similar Documents

Publication Publication Date Title
US8035705B2 (en) Image processing system, image processing method, and image processing program product
JP4837503B2 (ja) 画像処理システム、画像処理プログラム
JP4547223B2 (ja) 撮像システム、ノイズ低減処理装置及び撮像処理プログラム
JP4837365B2 (ja) 画像処理システム、画像処理プログラム
JP3934597B2 (ja) 撮像システムおよび画像処理プログラム
US8184924B2 (en) Image processing apparatus and image processing program
JP4465002B2 (ja) ノイズ低減システム、ノイズ低減プログラム及び撮像システム。
US8223226B2 (en) Image processing apparatus and storage medium storing image processing program
JP2006023959A (ja) 信号処理システム及び信号処理プログラム
WO2005081543A1 (ja) 撮像システム、画像処理プログラム
JP5052189B2 (ja) 映像処理装置及び映像処理プログラム
JP4979595B2 (ja) 撮像システム、画像処理方法、画像処理プログラム
CN101283603B (zh) 图像处理系统、图像处理方法
CN101273623B (zh) 摄像装置、图像处理装置以及图像处理方法
JP4916341B2 (ja) 画像処理装置及び画像処理プログラム
JP5259616B2 (ja) 画像処理システムおよび画像処理プログラム
WO2005099356A2 (ja) 撮像装置
JP2009100207A (ja) ノイズ低減システム、ノイズ低減プログラム及び撮像システム
JP5586031B2 (ja) 画像処理システム、画像処理方法および画像処理プログラム
JP2008271101A (ja) 映像処理装置及び映像処理プログラム
JP2009027615A (ja) 映像処理装置および映像処理プログラム

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
C02 Deemed withdrawal of patent application after publication (patent law 2001)
WD01 Invention patent application deemed withdrawn after publication

Open date: 20081001