专利名称:优先对象决定装置、电子设备、方法及程序以及记录媒体的制作方法
技术领域:
本发明涉及比对被拍摄的面部图像的数据从而决定是否为优先的对象的 优先对象决定装置、电子设备、优先对象决定方法、程序以及记录媒体。
背景技术:
以往,在数字照相机等的拍摄设备中,根据被摄体而识别面部,自动进 行自动调焦、自动光圈、自动成帧等用于拍摄的照相机的各种设定或控制处
理等的调试。
此外,近年来,对识别被摄体,对所识别的特定的被摄体进行特定的设 定以及控制处理从而辅助拍摄的功能进行着研究。
在专利文献l中,公开了一种照相机装置以及程序,其从过去拍摄的拍 摄帧中确定拍摄频度多的被摄体作为本次拍摄的拍摄对象者候选。
此外,在专利文献2中,公开了一种对象决定装置、拍摄装置以及监视 装置,其根据检测出的面部的检测历史计算检测频度,注册检测频度最高的 面部,并选择作为焦点等的拍摄控制的对象的面部。
专利文献1(日本)特开2005 - 3410n号公报U00S年U月8日
公开)
专利文献2(日本)特开2007 _ 006033号公报(2007年1月11日
公开)
但在上述以往的结构中,计算频度的被摄体位于拍摄帧(frame)的哪个 位置也用相同的加权进行计算,对在帧的边缘较小地拍才聂的面部和在中间较 大地拍摄的面部进行同样地处理,从而产生用户没有试图的人物被自动地注 册的问题。
在上述以往的结构中,由于基于被摄体出现的频度而决定选择对象,所 以即使在拍摄图像中多次出现本来想要设为选择对象的被摄体以外的情况 下,也作为拍摄对象候选计上,导致选择不相应的对象作为选择对象。
发明内容
本发明是鉴于上述的问题点而完成的,实现一种优先对象决定装置、电 子设备、优先对象决定方法、程序以及记录媒体,其能够识别用户所期望的 合适的拍摄对象,并决定作为优先的对象。
本发明的优先对象决定装置,是从在多个源图像中包含的多个面部图
像中决定优先的面部图像的优先对象决定装置,其特征在于,包括面部检 测部件,从所述多个源图像中检测出面部图像和其位置信息;面部比对部件, 将所述面部检测部件检测出的面部图像的特征与过去检测出的面部图像的特 征进行比对;以及决定部件,在该面部比对部件比对的结果为特征一致的面 部图像的数达到规定数的情况下,将这些面部图像决定作为优先的面部图像, 在所述面部检测部件检测出的面部图像的位置处于在所述图像中设定的区域 外的情况下,所述面部检测部件不发送该面部图像或者所述面部比对部件不 执行与该面部图像有关的所述比对,或者所述决定部件从所述面部图像的数 中除去该面部图像的数。
此外,本发明的优先对象决定方法,是从在多个源图像中包含的多个面 部图像中决定优先的面部图像的优先对象决定方法,其特征在于,包括面 部检测步骤,从所述多个源图像中检测出面部图像和其位置信息;面部比对 步骤,将在所述面部检测步骤中检测出的面部图像的特征与过去检测出的面 部图像的特征进行比对;以及决定步骤,在通过该面部比对步骤比对的结果 为特征一致的面部图像的数达到规定数的情况下,将这些面部图像决定作为 优先的面部图像,在所述面部检测步骤中检测出的面部图像的位置处于在所 述图像中设定的区域外的情况下,在所述面部检测步骤、所述面部比对步骤 或者所述决定步骤中,不作为处理对象。
根据上述的结构,由于基于位置信息来决定对象的面部图像是否为优先 的对象,所以能够避免以下情况将例如虽然在画面边缘较小地拍摄但以高 频度地进入拍摄范围的、虽不是优先对象但却将被拍摄的面部图像判断为优 先的对象,从而起到能够更正确地注册用户期望的优先对象的效果。
若考虑通常的数字照相机、数字摄相机的使用状况,则用户想按家人、 亲戚等、对用户来说想要优先地进行自动调焦等处理的人物放到帧的中心附 近。因此,通过使用在帧的中心附近拍摄的人物的面部识别的相似度结果, 计算人物的出现频度,从而能够自动地推定用户想要将哪个人物优先。通过自动地注册该出现频度高的人物的面部,从而能够自动进行在对特 定人物的自动调焦等中所需的注册处理。这样,即使是对不擅于设备的操作 的用户也无需强迫特殊的操作,能够实现对于特定人物的自动调焦等的拍摄控制。
另外,对于上述的面部图像的位置信息,也可以基于面部的中心坐标进 行判断,也可以将包围面部的矩形的任一顶点作为基准。此外,也可以将面 部的轮廓线或边界线、眼睛或鼻子或口等部分的位置作为基准。只要能够掌 握面部相对图像区域存在的位置,则可使用任何基准。
在上述的优先对象决定装置中,在特征一致的面部图像的数达到规定数, 并且该面部图像的尺寸信息或者频度信息中的至少一个没有达到规定值的情 况下,所述决定部件从优先的面部图像中除去该面部图像。
根据上述结构,由于除了在规定的范围内存在面部图像的位置信息之外, 还基于面部图像的大小或出现频度而判断是否为优先对象,所以起到以下效
果降低将用户不希望作为优先对象的小的面部图像或出现频度低的面部图 像、从注册之后经过了时间的面部图像等判断作为优先对象的可能性,从而 能够更正确地判断是否为优先对象。
另外,"面部尺寸,,是用于判断是否将具有规定值以上的尺寸的面部图 像注册作为优先的对象的信息,例如可以是像素单位的距离信息,也可以使 用矢量或数据尺寸。频度信息是从表示该记录注册的时刻的数据算出的信息, 例如可以从时刻信息计算并算出在规定的期间内面部信息注册为该分类的频 度。
在上述的优先对象决定装置中,还包括面部图像注册部件,将所述面 部图像或者表示该面部图像的特征的特征量与该面部图像的位置信息相关联 地注册,所述决定部件基于在所述面部图像注册部件中注册的位置信息,决 定是否从优先的面部图像中除去。
根据上述的结构,由于将位置信息注册到面部信息数据库中,在注册到 优先信息数据库时基于位置信息而判断是否为优先对象,所以即使没有实时 地进行位置信息的计算,也能够基于注册的面部信息数据库而取得位置信息, 所以起到能够更高速地判断是否为优先对象的效果。
在上述的优先对象决定装置中,还包括相似度检测部件,从面部图像 的特征量计算相似度,在所述面部检测部件检测出的面部图像和所述优先的面部图像的相似度高的情况下,所述决定部件将所述规定数,即用于决定将 该检测出的面部图像作为优先的面部图像的所述规定数设定得'J、。
根据上述的结构,由于对相似度高的面部图像的对象,将用于决定作为 优先的对象的规定数设定得小,所以将相似度高的对象、例如父母子女或家 人等判断为优先对象的可能性高,将作为优先对象的注册条件设定得低,从 而能够起到在更短期间进行优先对象的判断的效果。另外,上述的处理是对 所述面部比对部件将对象的面部图像识别为不是同 一人物的对象进行。
通过包括上述的优先对象决定装置,从而能够构成起到相同的效果的电 子设备。
此外,可以包括拍摄部件,拍摄被摄体;优先信息存储单元,存储用 于表示所述优先的面部图像的特征的特征量;面部认证部件,认证在所述优 先信息存储单元中存储的优先的面部图像和所述面部检测部件检测出的面部 图像;以及拍摄条件设定部件,基于所述面部认证部件的认证结果,判断通 过所述拍摄部件拍摄的被摄体是否为优先对象,并设定所述拍摄部件的拍摄 条件。
根据上述结构,由于能够基于更正确地注册的优先对象识别被摄体,变 更拍摄条件,所以能够起到更正确地判断优先对象,设定合适的拍摄条件的效果。
另外,上述优先对象决定装置以及电子设备可以通过计算机实现,此时, 通过使计算机作为上述各部件动作,从而通过计算机实现上述优先对象决定 装置以及电子设备的优先对象决定装置的控制程序以及记录了它的计算机可 读取的记录媒体也属于本发明的范围。
本发明的优先对象决定装置,是从在多个源图像中包含的多个面部图像 中决定优先的面部图像的优先对象决定装置,其特征在于,包括面部检测 部件,从所述多个源图像中检测出面部图像和其位置信息;面部比对部件, 将所述面部检测部件检测出的面部图像的特征与过去检测出的面部图像的特 征进行比对;以及决定部件,在该面部比对部件比对的结果为特征一致的面 部图像的数达到规定数的情况下,将这些面部图像决定作为优先的面部图像, 在所述面部检测部件检测出的面部图像的位置处于设定的区域外的情况下, 所述面部4全测部件不发送该面部图像或者所述面部比对部件不^丸^亍与该面部 图像有关的所述比对,或者所述决定部件从所述面部图像的数中除去该面部图像的数。
此外,本发明的优先对象决定方法,是从在多个源图像中包含的多个面 部图像中决定优先的面部图像的方法,其特征在于,包括面部检测步骤,
从所述多个源图像中检测出面部图像和其位置信息;面部比对步骤,将所述 面部检测步骤中检测出的面部图像的特征与过去检测出的面部图像的特征进 行比对;以及决定步骤,在通过该面部比对步骤比对的结果为特征一致的面 部图像的数达到规定数的情况下,将这些面部图像决定作为优先的面部图像, 在所述面部检测步骤中检测出的面部图像的位置处于设定的区域外的情况 下,在所述面部检测步骤中不发送该面部图像或者在所述面部比对步骤中不 执行与该面部图像有关的所述比对,或者在所述决定步骤中从所述面部图像 的数中除去该面部图像的数。
根据上述的结构,由于基于位置信息而决定成为优先的对象的面部图像, 所以能够起到降低错误的优先对象的决定,而更正确地决定优先对象的效果。
图1是表示本发明的一实施方式的图,是表示包含注册处理单元、识别 处理单元以及拍摄处理单元的拍摄装置的主要部分结构的方框图。
图2是表示在上述的拍摄设备中,识别面部图像并注册到数据库时的处 理的流程的流程图。
图3是表示在上述的拍摄设备中,参照注册的数据库,改变拍摄条件的 处理的流程的流程图。
图4是表示在上述识别装置中使用的面部信息数据库的数据结构的一例 的图。
图5是表示在上述识别装置中使用的优先信息数据库的数据结构的一例的图。
图6是表示本发明的其他实施方式的图,是表示包含注册处理单元、识 别处理单元以及拍摄处理单元的拍摄设备的主要部分结构的方框图。 标号i兌明
1、 2拍摄设备(优先对象决定装置、电子设备) 10注册处理单元(优先对象决定装置) 12面部注册单元(面部图^f象注册部件)14优先对象注册单元(决定部件、相似度冲企测部件) 16配置信息参照单元
20识别处理单元
22面部检测单元(面部检测部件)
24面部识别单元(面部比对部件、面部认证部件)
30拍摄处理单元
32拍摄条件变更单元(拍摄条件设定部件)
34拍摄单元(拍摄部件)
36图像记录单元
38图像数据
40面部信息数据库
41分类信息
42配置信息
43识别信息
44尺寸信息
45时间信息
50优先信息数据库(优先信息存储单元) 51分类信息 52识别信息
具体实施例方式
基于图l至图5说明本发明的一实施方式,则如下所述。 图1是表示本实施方式中的包含注册处理单元、识别处理单元以及拍摄 处理单元的拍摄装置的主要部分结构的方框图。另外,在本实施方式中,作 为包含了拍摄单元的拍摄装置进行说明,但并不限定于此。也可以是记录所 输入的图像数据的记录装置,也可以是打印所输入的面部图像的打印装置。 也可以是发送所输入的面部图像的通信装置,也可以是编辑所输入的面部图 像的图像处理装置。
拍摄设备(电子设备)1包括注册处理单元IO、识别处理单元20、拍 摄处理单元30、面部信息数据库40以及优先信息数据库50。注册处理单元 10包括面部注册单元12 (面部图像注册部件)、优先信息注册单元(决定部件)14以及配置信息参照单元16。识别处理单元20包括面部4企测单元 22 (面部4全测部件)以及面部识别单元(面部比对部件、面部认j正部件)24。 拍摄处理单元30包括拍摄条件变更单元(拍摄条件设定部件)32、拍摄单 元(拍摄部件)34以及图像记录单元36。
在图像记录单元36中,记录了通过拍摄单元34拍摄后存储在帧存储器 中的图像数据。图像记录单元36使用闪存存储器等的非易失性存储器或硬盘 等的磁盘构成。
面部信息数据库40相关联地存储分类信息(ID) 41、配置信息42、识 别信息43、尺寸信息44以及时间信息45。优先信息数据库50相关联地存储 分类信息(ID) 51以及识别信息52。另外,面部信息数据库40以及优先信 息数据库50也可以在相同的存储装置中作为不同的数据库而记录,也可以记 录在不同的存储装置中。此外,也可以使用图像记录单元36的存储区域的一 部分保存各个数据库。
依次说明在通过用户进行拍摄时的各个部分的动作。首先,在通过用户 进行拍摄的情况下,从拍摄单元34输入包含面部图像的任意的拍摄图像。这 里,作为所输入的图像实时地输出到显示单元(未图示),显示被更新的活动 图像(liveview)来说明,但并不限定于此。也可以将在图像记录单元36中 记录的拍摄图像作为对象进行数据处理。
拍摄单元34由拍摄透镜、拍摄元件、帧存储器、机械机构、电动机等构 成。拍摄透镜例如包含用于实现缩放功能的缩放透镜或用于将焦点对准任意 的被摄体的焦点透镜等。电动机包含缩放透镜电动机或焦距电动机或快门电 动机等。作为拍摄元件,使用CCD (光电耦合器件Charge Coupled Device ) 或 CMOS (互补金属氧化物半导体Complementary Metal Oxide Semiconductor)等的光电專l^灸元寸牛。
从拍摄单元34输入的拍摄图像输出到识别处理单元20,在面部检测单 元22进行在拍摄图像中包含的面部区域的检测。面部检测单元22从输入的 图像中检测出人的面部,并输出检测出的面部的数和位置等。面部检测单元 22通过规定的方法从拍摄图像分割出面部区域,并为了判别拍摄对象是谁而 将分割出的面部图像输出到面部识别单元24。此外,面部检测单元22将分 割出的面部图像输出到注册处理单元10的面部注册单元12,使得将分类信 息41、面部图像的配置信息(位置信息)42以及分割出的面部图像的尺寸信息44注册到面部信息数据库40。
另外,面部图像的位置信息可以基于面部的中心坐标来判断,也可以将 包围面部的矩形的任一顶点作为基准。此外,也可以将面部的轮廓线或边界 线、眼睛或鼻子或口等部分的位置作为基准。只要可相对掌握面部相对图像
区域存在的位置,则可使用任何基准。此外,面部图像的尺寸信息44可以是 像素单位的距离信息,也可以是矢量或数据尺寸。这里,作为在配置信息42 中使用面部的中心坐标,在尺寸信息44中使用面部图像的宽度的像素数的信 息来i兌明。
面部识别单元24从自面部4企测单元22输出的面部图像计算规定的特征 量,并与在面部信息数据库40中注册的各个面部信息、尤其是识别信息43 进行比对,判断面部图像的对象是谁,从而作为识别信息43输出到注册处理 单元10的面部注册单元12。此外,面部识别单元24参照优先信息数据库50, 进行检测出的面部图像的人物的比对,并将比对结果对拍摄条件变更单元32 输出。
具体地说,面部识别单元24提取检测出的面部的特征信息,通过面部识 别单元24比较检测出的面部的特征信息和在面部信息数据库40中记录的面 部的特征信息,并将检测出的面部的检测历史(目视确认用的缩略(thumbnail) 图像、检测出的日期时间、面部尺寸、面部位置、面部认证用注册数据等) 注册到面部信息数据库40中。
注册处理单元10的面部注册单元12将从面部检测单元22输入的面部图 像、配置信息42及尺寸信息44以及从面部识别单元24输出的识别信息43 相关联地与当前的时间信息45 —同注册到面部信息数据库40中。面部信息 数据库40保持检测出的日期时间、面部尺寸、面部位置、面部认证用注册数 据作为在面部识别单元24中识别的面部的;f全测历史。
若在面部信息数据库40中记录的检测历史中,在帧内的中央附近以特定 的尺寸以上拍摄的人物的频度为一定的阈值以上,则优先信息注册单元14在 优先信息数据库50中注册用于面部认证的注册数据(分类信息51、识别信 息52)。即,优先信息注册单元14在每次面部信息数据库40更新时,通过 配置信息参照单元16判断该面部信息的配置信息42是否包含在规定的范围 中。
另外,以下,将配置信息参照单元16参照的配置信息42的规定的范围作为拍摄图像的中央附近的范围(例如,从拍摄图像的上下左右的两端起20 %以上的内侧)的区域进行说明,但并不限定于此。只要是包含较多对用户 来说优先的对象的区域,规定的范围可以是任何范围。
在面部信息数据库40中注册的数据中,通过配置信息参照单元16判断 为配置信息42包含在规定的范围的分类信息41超过规定数的情况下,优先 信息注册单元14决定该分类信息41是作为优先的对象的人物的面部图像, 进行对优先信息数据库50注册分类信息51以及识别信息52的处理。
面部识别单元24根据在优先信息数据库50中注册的分类信息51以及识 别信息52,比对在从拍摄单元34输入的图像中包含的面部图像是否为优先 的对象。拍摄条件变更单元32基于在面部识别单元24中比对的优先对象的 信息,变更拍摄条件。具体地说,拍摄条件变更单元控制拍摄单元,并对拍 摄单元34进行将焦点对准特定的被摄体的控制,即控制快门速度或光圈来配 合曝光或者控制缩放透镜来改变画面角度等的控制。
接着,参照图2说明在面部信息数据库40中注册各种信息的处理的流程。 图2是表示在上述的拍摄设备中,识别面部图像并进行对数据库的注册时的 处理的流程的流程图。
若开始处理,则首先在S101中,用户将拍摄设备1的拍摄单元34对准 被摄体,开始拍摄。被拍摄的图像作为预览图像以活动图像实时显示在未图 示的显示单元(取景画面)。
接着,在S102中,通过拍摄单元34拍摄的图像在识别处理单元20的面 部检测单元22进行处理,分割出包含面部图像的区域,并且取得表示拍摄了 包含面部图像的区域的图像中的位置的位置信息。分割出的面部图像以及取 得的位置信息输出到面部识别单元24以及注册处理单元10的面部注册单元 12。
接着,在S103中,从通过S102的处理而分割出的面部图像计算特征量 作为识别信息,识别对象的面部图像是哪个人物。在S105中,比对计算了特 征量的面部图像的对象的识别信息和在优先信息数据库50中注册的面部图 像,从而判断是否为优先的对象。
由于在比对的对象为已经注册的情况下(在S105中"是"),其面部图像 的对象已经注册为优先的对象,所以进行变更拍摄条件的处理(S106),之后, 处理返回到SlOl。在比对的对象没有注册的情况下(在S105中"否,,),为了判断是否将其面部图像的对象注册为优先的对象,与在面部信息数据库40
中注册的数据进行比对(S107)。
在面部信息数据库40中注册了在S107中进行比对的对象的面部图像的 情况下(在S108中"是,,),处理进至S109。在面部信息数据库40中没有注 册在S107中进行比对的对象的面部图像的情况下(在S108中"否,,),处理 进至SllO。
在S109中,面部注册单元12进行在面部信息数据库40中已经识别、分 类地注册的比对对象的面部图像的注册,处理进至Slll。此外,在S110中, 面部注册单元12对面部信息数据库40生成新的分类,进行面部图像的注册, 处理进至Slll。
另外,在S109以及S110的注册处理中,除了注册在S102的处理中分 割出、取得的面部图像、该面部图像的配置信息42之外,还注册该面部图像 的识别信息43、尺寸信息44和表示注册的时间的时间^"息45。这些各个信 息用于判断是否为在优先信息数据库50中注册的优先对象。
在Slll中,优先信息注册单元14判断在面部信息数据库40中注册的对 象是否为优先的对象。具体地说,选择处于画面的中央的、在规定的期间内 注册的数超过规定数的对象。
另外,在本实施方式中,对于是否处于画面的中央是通过配置信息参照 单元16参照在面部信息数据库40中注册的配置信息42来判断,但并不限定 于此。可以是如下结构,即面部检测单元22只将在规定的区域中包含的面部 图像输出到面部识别单元24,面部注册单元12只将与在规定的区域中包含 的面部图像有关的信息注册到面部信息数据库40中。
此外,在这里,将处于图像的中央附近的面部图像用于是否为优先的对 象的判断,但可以使用中央以外的范围作为规定的范围内。若在特定的区域 中存在的面部图像选择为优先对象的情况多,则可以是任何区域。但是,一 般优先的对象多位于拍摄区域的中央,所以若使用中央作为规定的区域,则 能够更正确地选择优先对象。
此外,可以将在面部信息数据库40中注册的分类信息41以及识别信息 43原样注册在优先信息数据库50中作为分类信息51以及识别信息52,但也 可以是仅将从面部信息计算的特征量注册到各个数据库的结构。
最后,在S112中,优先信息注册单元14将在Slll中选择的对象的面部图像以及识别信息相关联地注册到优先信息数据库50中,处理返回到SlOl。 通过重复以上的处理步骤,进行对面部信息数据库40分类注册新的对 象,并将在规定的区域中包含的注册对象的数超过一定数的对象决定作为优 先对象的处理。接着,参照图3说明在拍摄条件变更单元32中,拍摄条件变更的处理的 流程。图3是表示了在拍摄设备1中参照注册了优先对象的信息的优先信息 数据库50,拍摄条件变更单元32变更拍摄条件的处理的流程的流程图。首先在初始状态中,用户将拍摄设备l的拍摄单元34对准被摄体,想要 进行拍摄。此时,拍摄到的图像作为预览图像以活动图像实时显示在未图示 的显示单元(取景画面)。用户通过进行将拍摄设备1的未图示的拍摄按钮(快 门)半压的动作,进行将焦点对准拍摄对象的操作。在S201中,拍摄设备1的拍摄处理单元30判断拍摄按钮是否被半压。 在拍摄按钮被半压的情况下(在S201中"是"),处理进至S202。在拍摄按 钮没有被半压的情况下(在S201中"否,,),处理结束。在S202中,面部识别单元24从拍摄单元34拍摄的图像取得包含在优先 信息数据库50中作为优先对象注册的对象的分类信息51或者识别信息52的 面部图像的区域的坐标。另外,面部图像的坐标可以是面部检测单元22计算 而转给面部识别单元24,也可以是通过在识别处理单元20中包括配置信息 参照单元16,从而通过配置信息参照单元16取得位置信息的结构。接着,在S203中,进行拍摄条件的设定,使得对通过S加2取得坐标的 面部图像对准焦点,将亮度调整最佳化。之后,若检测到拍摄按钮被完全按 压的情况(在S204中"是,,),则拍摄处理单元30使用通过SW3设定的拍摄 条件进行拍摄,在图像记录单元36记录所拍摄的图像(S205 ),结束拍摄条 件的变更处理。若拍摄按钮没有被完全按压的情况下(在S204中"否"),则 处理原样结束而不进行拍摄条件的变更。通过进行以上的一系列的处理,可使用在优先信息数据库50中注册的优 先对象的信息,变更拍摄条件并进行拍摄。接着,使用图4以及图5表示在本实施方式的拍摄设备1中使用的面部 信息数据库40以及优先信息数据库50的数据结构的具体例子。图4是表示面部信息数据库40的数据结构的一例的表。图5是表示优先 信息数据库的数据结构的 一例的表。在图4中,作为要识别的对象,分为A和B这样两个人的人物注册了 分类信息41。在A的面部信息中,用于识别A这个人物的一张缩略图像与 分类信息41相关联地记录。在该A的分类中,注册了多个将包含时间信息 45的多个面部信息和表示A的分类信息41相关联的记录。此外,在B的面 部信息中,记录了用于用户确认B这个人物的一张缩略图像,多个面部信息 与分类信息41以及缩略图像相关联地注册。首先,在分类A的第l行,作为记录(record)注册了表示时刻信息45 为"2007/10/12 10:22"、尺寸信息44为"32像素"、配置信息42为"(128、 125)"的分类信息41的注册数据"A,"。此外,在分类A的第2行,作为记 录注册了 "2007/10/14 18:19"、 "20像素"、"(132、 95)"、 "A2",在分类A 的第3行,作为各个对应记录注册了 "2007/11/16 17:45"、 "80像素"、"(204、 150),,、 "A3"。"日期时间,,是表示注册该记录的时刻的数据,在计算对该分类注册了 面部信息的频度时使用。"面部尺寸"是用于判断是否将具有规定值以上的尺 寸的面部图像注册作为优先的对象。"面部位置"是用于判断是否将位于规定 的区域例如中央附近的面部图像注册作为优先的对象。"注册数据"是用于判 断输入的面部图像属于哪个分类的数据,可以将从面部图像计算的特征量使 用作为识别信息43 ,也可以是分割出的面部图像数据本身。在分类B的第1行,作为记录(record)注册了表示时刻信息45为 "2007/11/13 18:52"、尺寸信息44为"24像素"、配置信息42为"(32、 92)" 的分类信息41的注册数据"B,"。此外,在分类B的第2行,作为记录注册 了 "2008/1/30 9:34"、 "30像素"、"(100、 98),,、 "B2",在分类B的第3行, 作为记录注册了 "2008/2/14 13:38"、 "60像素"、"(120、 110)"、 "B3"。相对于此,在图5中,决定作为优先的对象的人物的识别信息52按每个 人物分类注册。在图5中,作为与图4相同的识别的对象,分为A和B这样 的两个人的人物注册了分类信息51。在A的面部信息中,记录了用于用户确认A这个人物的一张缩略图像。 在该A的分类中,注册了将多个分类信息51和识别信息52相关联的多个记 录。首先,在分类A的第l行中,表示识別信息52的注册数据"A,"注册 作为记录。此外,在分类A的第2行中,"A2"注册作为记录,在分类A的 第3行中,"A3,,注册作为记录,在分类A的第4行中,"A4,,注册作为记在B的面部信息中,记录了用于用户确认B这个人物的一张缩略图像。 在该B的分类中,注册了将多个分类信息51和识别信息52相关联的多个记 录。首先,在分类B的第l行中,表示识别信息52的注册数据"B,"注册 作为记录。此外,在分类B的第2行中,"B2,,注册作为记录,在分类B的 第3行中,"B/,注册作为记录,在分类B的第4行中,"B/,注册作为记录。作为用于识别上述的优先对象的注册数据的"A,"、 "A2"……"B,"、 "B2,,……可以原样利用在图4所示的注册数据,也可以使用与在图4所 示的注册数据对应的面部图像等新计算特征量,并作为识别信息52使用。如上所述,本实施方式的拍摄设备1是从在多个源图像中包含的多个面 部图像中决定优先的面部图像的拍摄设备1,其包括面部检测单元22,从 多个图像中检测出面部图像和作为其位置信息的配置信息42;面部识别单元 24,将作为面部检测部件22检测出的面部图像的特征的识别信息52与作为 在过去检测出的面部图像的特征的识别信息52进行比对;以及优先信息注册 单元14,在面部识别单元24比对的结果为特征一致的面部图像的数达到规 定数的情况下,将这些面部图像决定作为优先的面部图像,并注册到优先信 息数据库50,在面部检测单元22检测出的面部图像的位置处于在所述源图 像中设定的中央区域外的情况下,优先信息注册单元14从所述面部图像的数 中除去该面部图像的数。根据上述的结构,由于基于位置信息,决定对象的面部图像是否为优先 的对象,所以能够避免以下情况将虽然在画面边缘较小地拍摄但以高频度 地进入拍摄范围的、虽不是优先对象但却将被拍摄的面部图像判断为优先的 对象,能够更正确地注册用户期望的优先对象。另外,在本实施方式中,对上述的面部图像的位置信息,可以基于面部 的中心坐标进行判断,也可以将包围面部的矩形的任一顶点作为基准。此外, 也可以将面部的轮廓线或边界线、眼睛或鼻子或口等部分的位置作为基准。 只要能够相对地掌握面部相对图像区域存在的位置,则可使用任何基准。在本实施方式的拍摄设备1中,在特征一致的面部图像的数达到规定数, 并且该面部图像的尺寸信息44或者从时刻信息45求出的频度信息中的至少 一个达到规定值以上的情况下,优先信息注册单元14从优先的面部图像中除 去该面部图像。根据上述结构,由于除了在规定的范围内存在面部图像的位置信息之外, 还基于面部图像的大小或出现频度而判断是否为优先对象,所以能够降低将 用户不希望作为优先对象的小的面部图像或出现频度低的面部图像、从注册 之后经过了时间的面部图像等判断作为优先对象的可能性,能够更正确地判 断是否为优先对象。图像注册作为优先的对象的信息,例如可以是像素单位的距离信息,也可以 使用矢量或数据尺寸。频度信息是从表示该记录被注册的时刻的数据算出的 信息,例如可以从时刻信息计算并算出在规定的期间内面部信息注册到该分 类的频度。在本实施方式的拍摄设备1中,还包括面部注册单元12,将所述面部 图像和该面部图像的位置信息相关联地注册,所述决定部件基于在所述面部 图像注册部件中注册的面部图像以及位置信息,决定是否从优先的面部图像 中除去。根据上述的结构,由于将配置信息42注册到面部信息数据库中,在注册 到优先信息数据库时基于位置信息而判断是否为优先对象,所以即使没有实 时地进行位置信息的计算,也能够基于注册的面部信息数据库而取得位置信 息,所以能够更高速地判断是否为优先对象。在本实施方式的拍摄设备1中,面部识别单元24还包括从面部图像的特 征量计算相似度的相似度检测单元,在所述面部检测单元22检测出的面部图 像和所述优先的面部图像的相似度高的情况下,优先信息注册单元14将用于 决定将该检测出的面部图像作为优先的面部图像的所述规定数设定得小。根据上述的结构,由于对相似度高的面部图像的对象,将用于决定作为 优先的面部图像的规定数设定得小,所以将父母子女或家人等的相似度高的 对象判断为优先对象的可能性高,将作为优先对象的注册条件设定得低,从 而能够在更短期间进行优先对象的判断。另外,上述的处理是对所述面部比 对部件将对象的面部图像识别为不是同 一人物的对象进行。通过包括上述的注册处理单元10,从而能够构成起到相同的效果的拍才聂 设备l。此外,通过包括如下部件,从而构成对拍摄的面部图像起到相同的效果 的拍摄设备l,即包括拍摄单元34,拍摄被摄体;优先信息数据库50,存储用于表示所迷优先的面部图像的特征的特征量;面部识别单元24,认证在 优先信息数据库50中存储的优先的面部图像和面部检测单元22检测出的面 部图像;以及拍摄条件变更单元32,基于面部识别单元24的比对结果,判 断通过拍摄单元34拍摄的被摄体是否为优先对象,并设定拍摄单元34的拍摄条件。另外,在上述的说明中,说明了配置信息参照单元16在注册处理单元 10中存在,配置信息参照单元16参照在面部信息数据库40中注册的配置信 息42,从而优先信息注册单元14决定优先对象的情况,但并不限定于此。 图6表示本发明的其他实施方式,是表示包含注册处理单元10、识别处理单 元20以及拍摄处理单元30的拍摄设备2的主要部分结构的方框图。在图6的拍摄设备2中,在配置信息参照单元16参照从面部检测单元 22输出的位置信息,面部注册单元12将数据分类注册到面部信息数据库40 时,基于检测出的面部图像的配置信息来决定是否在面部信息数据库40中注 册面部信息。此时,由于无需在面部信息数据库40中注册配置信息42,所 以能够抑制面部信息数据库40的数据尺寸,能够高速进行优先信息注册单元 14将优先对象注册到优先信息数据库50为止的处理。另外,在图6中,基于从面部检测单元22对面部注册单元12输出的面 部图像的配置信息来决定是否输出数据,但并不限定于此。也可以是在识别 处理单元20中包括配置信息参照单元16,在从面部一企测单元22对面部识别 单元24输出数据时,判断面部图像是否收敛在规定的区域,决定是否输出数 据。此时,无需在面部信息数据库40中注册配置信息42,所以能够起到与 上述相同的效果。最后,本发明的拍摄设备1、 2的各个模块、尤其是优先信息注册单元 14、配置信息参照单元16以及面部识别单元24可以由硬件逻辑构成,也可 以如下那样使用CPU通过软件实现。即,拍摄设备1、 2包括执行用于实现各种功能的控制程序的命令的 CPU ( central processing unit)、存+者了上述禾呈序的ROM ( read only memory )、 展开上述程序的RAM (random access memory )、存储上述程序以及各种数 据的存储器等的存储装置(记录媒体)等。而且,本发明的目的通过以下动 作也能够达到,即将作为实现上述功能的软件的优先对象决定装置IO的控制 程序的程序代码(执行形式程序、中间代码程序、源程序)以计算机可读取地记录的记录媒体提供给上述拍摄设备1 、 2,其计算机(或者CPU或MPU )读出在记录J 某体中记录的程序代码并抽j亍。作为上述记录媒体,例如可使用磁带或卡带等的带类、包括软盘(注册商标)/硬盘等的磁盘或CD-ROM/MO/MD/DVD/CD-R等的光盘的盘类、IC 卡(包括存储器卡)/光卡等的卡类、或者掩模ROM/EPROM/EEPROM/闪速 ROM等的半导体存储器类等。此外,可以将拍摄设备l、 2与通信网络可连接地构成,通过通信网络提 供上述程序代码。作为该通信网络,没有特别限定,例如可使用因特网、内 联网、外联网(extranet)、 LAN、 ISDN、 VAN、 CATV通信网、虚拟专用网 (virtual private network )、电话线路网、移动通信网、卫星通信网等。此夕卜, 作为构成通信网络的传输媒体,没有特别限定,例如可使用IEEE1394、 USB、 电力线传输、电缆TV线路、电话线、ADSL线路等的有线,也可以使用IrDA 或遥控那样的红外线、Bluetooth (注册商标)、802.11无线、HDR、移动电话 网、卫星线路、地面波数字网等的无线。另外,本发明通过上述程序代码以 电子传输具体化的、埋入载波的计算机数据信号的方式也能够实现。如上所述,本发明的拍摄设备l、 2基于位置信息,决定最终作为优先对 象注册到数据库的对象,所以能够更加正确地注册用户期望的优先对象,所 以能够适当地适用于拍摄设备、打印装置、通信装置、图像编辑装置等的进 行图像处理的装置。
权利要求
1. 一种优先对象决定装置,从在多个源图像中包含的多个面部图像中决定优先的面部图像,其特征在于,包括面部检测部件,从所述多个源图像中检测出面部图像和其位置信息;面部比对部件,将所述面部检测部件检测出的面部图像的特征与过去检测出的面部图像的特征进行比对;以及决定部件,在该面部比对部件比对的结果为特征一致的面部图像的数达到规定数的情况下,将这些面部图像决定作为优先的面部图像,在所述面部检测部件检测出的面部图像的位置处于在所述源图像中设定的区域外的情况下,所述面部检测部件不发送该面部图像或者所述面部比对部件不执行与该面部图像有关的所述比对,或者所述决定部件从所述面部图像的数中除去该面部图像的数。
2. 如权利要求1所述的优先对象决定装置,其特征在于, 在特征一致的面部图像的数达到规定数,并且该面部图像的尺寸信息或者频度信息中的至少一个没有达到规定值的情况下,所述决定部件从优先的 面部图像中除去该面部图像。
3. 如权利要求1所述的优先对象决定装置,其特征在于,还包括 面部图像注册部件,将所述面部图像或者表示该面部图像的特征的特征量与该面部图像的位置信息相关联地注册,所述决定部件基于在所述面部图像注册部件中注册的位置信息,决定是 否从优先的面部图像中除去。
4. 如权利要求1的所述的优先对象决定装置,其特征在于,还包括 相似度检测部件,从面部图像的特征量计算相似度, 在所述面部检测部件检测出的面部图像和所述优先的面部图像的相似度高的情况下,所述决定部件将所述规定数,即用于决定该;险测出的面部图像 作为优先的面部图像的所述规定数设定得小。
5. —种电子设备,包括权利要求1至4的任一项所述的优先对象决定 装置。
6. 如权利要求5所述的电子设备,其特征在于,包括 拍摄部件,拍摄被摄体;优先信息存储单元,存储用于表示所述优先的面部图像的特征的特征量;面部认证部件,认证在所述优先信息存储单元中存储的优先的面部图像和所述面部冲企测部件检测出的面部图像;以及拍摄条件设定部件,基于所述面部认证部件的认证结果,判断通过所述 拍摄部件拍摄的被摄体是否为优先对象,并设定所述拍摄部件的拍摄条件。
7. —种优先对象决定方法,从在多个源图像中包含的多个面部图像中决 定优先的面部图像,其特征在于,包括面部检测步骤,从所述多个源图像中检测出面部图像和其位置信息;面部比对步骤,将在所述面部检测步骤中检测出的面部图像的特征与过 去检测出的面部图像的特征进行比对;以及决定步骤,在通过该面部比对步骤比对的结果为特征一致的面部图像的 数达到规定数的情况下,将这些面部图像决定作为优先的面部图像,在所述面部检测步骤中检测出的面部图像的位置处于在所述图像中设定 的区域外的情况下,在所述面部检测步骤、所述面部比对步骤或者所述决定 步骤中,不作为处理对象。
8. —种程序,使权利要求1至4的任一项所述的优先对象决定装置动作, 并且使计算机作为上述的各个部件起作用。
9. 一种程序,使权利要求5所述的电子设备动作,并且使计算机作为上 述的各个部件起作用。
10. —种计算机可读取的记录媒体,记录了权利要求8所述的程序。
全文摘要
一种优先对象决定装置、电子设备、方法及程序以及记录媒体。从在多个源图像中包含的面部图像中决定优先的面部图像的拍摄设备包括面部检测单元,从多个源图像中检测出面部图像和其位置信息;面部识别单元,将所检测出的面部图像的特征与过去检测出的面部图像的特征进行比对;以及优先信息注册单元,在比对的结果为特征一致的面部图像的数达到规定数的情况下,将这些面部图像决定作为优先的面部图像,在面部检测单元检测出的面部图像的位置处于在所述源图像中设定的中央区域之外的情况下,面部检测单元不发送该面部图像或者面部识别单元不执行与该面部图像有关的比对,或者优先信息注册单元从所述面部图像的数中除去该面部图像的数。
文档编号H04N5/232GK101534392SQ20091000636
公开日2009年9月16日 申请日期2009年2月16日 优先权日2008年3月14日
发明者细井圣 申请人:欧姆龙株式会社