IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ 株式会社半導体エネルギー研究所の特許一覧

(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2024116154
(43)【公開日】2024-08-27
(54)【発明の名称】移動体
(51)【国際特許分類】
   H04N 7/18 20060101AFI20240820BHJP
   G09G 5/00 20060101ALI20240820BHJP
   G06T 1/00 20060101ALI20240820BHJP
   B60R 1/20 20220101ALI20240820BHJP
【FI】
H04N7/18 J
G09G5/00 550C
G09G5/00 550H
G06T1/00 500A
B60R1/20 100
【審査請求】有
【請求項の数】4
【出願形態】OL
(21)【出願番号】P 2024081459
(22)【出願日】2024-05-20
(62)【分割の表示】P 2022182480の分割
【原出願日】2018-04-16
(31)【優先権主張番号】P 2017089495
(32)【優先日】2017-04-28
(33)【優先権主張国・地域又は機関】JP
(31)【優先権主張番号】P 2017125394
(32)【優先日】2017-06-27
(33)【優先権主張国・地域又は機関】JP
(71)【出願人】
【識別番号】000153878
【氏名又は名称】株式会社半導体エネルギー研究所
(72)【発明者】
【氏名】山崎 舜平
(72)【発明者】
【氏名】宮口 厚
(57)【要約】
【課題】新規な構成の表示システム、および移動体を提供すること。
【解決手段】撮像装置、表示装置、特徴量出力回路、画像処理回路およびサーバを有する
表示システムとする。撮像装置は、撮像データを取得する機能を有する。特徴量出力回路
は、撮像データの特徴量データを取得する機能を有する。データベースは、補正用データ
と、検出用データと、を有する。データベースは、特徴量データに応じて補正用データを
画像処理回路に出力する機能を有する。データベースは、機械学習あるいは特徴量データ
の一致または類似に応じて、補正用データを選び出す。画像処理回路は、補正用データを
もとに撮像データを補正することで画像データを生成する機能を有する。表示装置は、画
像データに応じた表示を行う機能を有する。
【選択図】図3
【特許請求の範囲】
【請求項1】
撮像装置、表示装置、特徴量出力回路、画像処理回路、およびデータベースを有し、
前記撮像装置は、撮像データを出力する機能を有し、
前記特徴量出力回路は、前記撮像データの特徴量データを出力する機能を有し、
前記データベースは、補正用データと、検出用データと、を有し、前記特徴量データに応じて前記補正用データを前記画像処理回路に出力する機能を有し、
前記画像処理回路は、前記補正用データをもとに前記撮像データを補正することで画像データを生成する機能を有し、
前記表示装置は、前記画像データに応じた表示を行う機能を有することを特徴とする表示システム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明の一態様は、表示システムおよび移動体に関する。
【背景技術】
【0002】
車両周辺の情報を撮像するための撮像装置、および撮像で得られた情報を表示するため
の表示装置を備えた車両が普及している(例えば特許文献1)。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特開2017-5678号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
夜間走行中に車両周辺を撮像するような状況で、車両のヘッドライト(前照灯)などに
よる高照度の光源(眩光)が近付くことになる。そのため得られる撮像データは光源周辺
で過剰な露光となり、光源周辺に対応する領域の表示が白くなるといった問題がある。一
方露光を抑えることで、光源周辺の露光が調節可能となるものの表示する画像が暗くなっ
てしまい、車両全体の大きさや形状の把握が困難となる。つまり、得られる情報が限定的
となる。
【0005】
本発明の一態様は、新規な表示システムおよび移動体等を提供することを課題の一とす
る。
【0006】
または本発明の一態様は、撮像環境に起因して、取得した撮像データに欠損(不鮮明な
)部分が生じても正常な表示を行うことができる、新規な表示システムおよび移動体等を
提供することを課題の一とする。または本発明の一態様は、視認性の向上を図ることがで
きる、新規な表示システムおよび移動体等を提供することを課題の一とする。
【課題を解決するための手段】
【0007】
本発明の一態様の表示システムは、撮像装置で得られる撮像データにおいて、鮮明に撮
像された被写体の一部の情報から特徴量を抽出し、データベースにおいて照合することで
対応する補正用データを選び出して、この補正用データをもとに撮像データの不鮮明な領
域を補正することを要旨とする。
【0008】
本発明の一態様は、撮像装置、表示装置、特徴量出力回路、画像処理回路、およびデー
タベースを有し、撮像装置は、撮像データを出力する機能を有し、特徴量出力回路は、撮
像データの特徴量データを出力する機能を有し、データベースは、補正用データと、検出
用データと、を有し、特徴量データに応じて補正用データを画像処理回路に出力する機能
を有し、画像処理回路は、補正用データをもとに撮像データを補正することで画像データ
を生成する機能を有し、表示装置は、画像データに応じた表示を行う機能を有する表示シ
ステムである。
【0009】
本発明の一態様において、データベースは、特徴量データに一致または類似する検出用
データを選び出して検出用データに対応する補正用データを画像処理回路に出力する機能
を有する表示システムが好ましい。
【0010】
本発明の一態様において、データベースは、特徴量データを学習用データとした機械学
習により重みパラメータとなる検出用データを更新し、特徴量データに一致または類似す
る補正用データを推論することができる機能を有する表示システムが好ましい。
【0011】
本発明の一態様は、撮像装置、表示装置、特徴量出力回路、画像処理回路、および送受
信回路と、を有し、撮像装置は、撮像データを取得する機能を有し、特徴量出力回路は、
撮像データの特徴量データを取得する機能を有し、特徴量データは、送受信回路を介して
、補正用データと、検出用データとを有するデータベースに送信される機能を有し、画像
処理回路は、送受信回路を介して、データベースから補正用データを受信し、補正用デー
タをもとに撮像データを補正することで画像データを生成する機能を有し、表示装置は、
画像データに応じた表示を行う機能を有する移動体である。
【0012】
本発明の一態様において、補正用データは、検出用データに対応するデータであり、検
出用データは、特徴量データに一致または類似するデータである移動体が好ましい。
【0013】
本発明の一態様において、補正用データは、特徴量データを学習用データとした機械学
習により重みパラメータとなる検出用データを更新したデータベースにおいて、特徴量デ
ータを入力することで推論して得られるデータである移動体が好ましい。
【0014】
なおその他の本発明の一態様については、以下で述べる「発明を実施するための形態」
、および「図面」に記載されている。
【発明の効果】
【0015】
本発明の一態様は、新規な表示システム、および当該表示システムを備えた移動体等を
提供することができる。
【0016】
または本発明の一態様は、撮像環境に起因して、取得した撮像データに欠損(不鮮明な
)部分が生じても正常な表示を行うことができる、新規な表示システムおよび移動体等を
提供することができる。または本発明の一態様は、視認性の向上を図ることができる、新
規な表示システムおよび移動体等を提供することができる。
【図面の簡単な説明】
【0017】
図1】表示システムを説明するためのブロック図。
図2】表示システムを説明するためのブロック図。
図3】表示システムを説明するための概念図。
図4】表示システムを説明するためのブロック図。
図5】表示システムを説明するためのブロック図。
図6】表示システムを説明するためのフローチャート。
図7】表示システムを説明するためのフローチャート。
図8】表示システムを説明するためのブロック図。
図9】表示システムを説明するための図。
図10】表示システムを説明するための図。
図11】表示システムの動作の具体例を説明するための図。
図12】表示システムの動作の具体例を説明するための図。
図13】表示システムの動作の具体例を説明するための図。
図14】表示システムの動作の具体例を説明するための図。
図15】表示システムの動作の具体例を説明するための図。
図16】半導体装置の構成例を示す図。
図17】メモリセルの構成例を示す図。
図18】オフセット回路の構成例を示す図。
図19】タイミングチャート。
図20】積差演算回路の応用例を示す図。
図21】表示装置の一態様を示す上面図。
図22】表示装置の一態様を示す断面図。
図23】表示装置の一態様を示す断面図。
図24】移動体における表示装置を説明するための図。
図25】移動体の一例を説明する図。
【発明を実施するための形態】
【0018】
以下、本発明の一態様について図面を参照しながら説明する。但し、本発明の一態様は
多くの異なる態様で実施することが可能であり、趣旨およびその範囲から逸脱することな
くその形態および詳細を様々に変更し得ることは当業者であれば容易に理解される。従っ
て、本発明は、以下の記載内容に限定して解釈されるものではない。
【0019】
(実施の形態1)
<表示システムの構成>
本発明の一態様の表示システムについて説明する。
【0020】
図1は、本発明の一態様である表示システムの一例を説明するためのブロック図である
図1に示す表示システム10は、撮像装置11、特徴量出力回路12、データベース1
3、画像処理回路14および表示装置15を有する。
【0021】
撮像装置11は、具体的には、自動車などの移動体に取り付けられるカメラモジュール
である。撮像装置11は、撮像データ16を出力する機能を有する。撮像データ16は、
特徴量出力回路12および画像処理回路14に出力される。
【0022】
撮像装置11はダイナミックレンジの広い撮像素子を有することが好適である。例えば
、セレンを有する撮像素子を備えた撮像装置11とすることで、明暗差の大きい被写体を
撮像する際に、撮像データの不鮮明な部分を減らすことができる。
【0023】
特徴量出力回路12は、撮像データ16における特徴量を抽出し、特徴量データとして
出力する。特徴量の抽出は、撮像装置11で得られる撮像データと、被写体の相対速度や
相対位置を検出するのに用いるセンサなどから取得できるデータと、を組み合わせて行う
ことが有効である。
【0024】
特徴量としては、外観の特徴量(外観特徴量)がある。例えば、自動車における外観特
徴量は、一例として、自車の車体色、ナンバープレートのナンバー、車種、車幅、車高、
ウインカーランプ、ヘッドライトなどがある。これらの特徴量の特徴量データは、符号化
されたデータ、あるいは元の撮像データから切り出されたデータとして、データベース1
3に出力される。
【0025】
特徴量の設定は、デフォルトでは、画像認識による検出が容易なものを設定しておくこ
とで、画像認識処理の負荷を低減することができる。なおウインカーランプやブレーキラ
ンプは、点灯または点滅が状況により変化するため、画像認識の対象から除外することも
有効である。
【0026】
撮像データ16の不鮮明な領域は、明暗のコントラスト比が小さいなどのために、特徴
量の抽出が困難な領域である。そのため特徴量出力回路12は、特徴量を抽出することで
撮像データの不鮮明な領域のデータを削減することができる。
【0027】
また特徴量出力回路12は、例えば、Haar-like特徴、HOG(Histog
rams of Oriented Gradients)特徴、SIFT(Scald
Invariance Feature Transform)特徴、またはSURF
(Speeded Up Robust Features)を抽出する局所勾配特徴抽
出技術などを組みあわせて所望箇所の特徴量データを抽出して出力することも有効である
。また撮像データ16をガウシアンフィルタで平滑化し、特徴的な領域の情報を選別する
ことも有効である。
【0028】
また局所勾配特徴抽出技術とSVM(Support Vector Machine
)学習とを組み合わせた物体検出を行ない、所望箇所の特徴量データを抽出して出力する
ことも有効である。特徴量出力回路12は、例えば、CNN(Convolutiona
l Neural Network)学習によって自動算出された特徴量を特徴量データ
として出力してもよい。
【0029】
特徴量出力回路12は、主にマイクロコンピュータとして構成され、プロセッサ、メモ
リ、I/O、及びこれらを接続するバスによって構成される。特徴量出力回路12では、
撮像装置11の他、各種センサの情報に基づき、プロセッサがメモリに予め記憶されてい
るプログラムを実行することによって各種機能を実現することができる。
【0030】
データベース13は、特徴量データ17、補正用データ18および検出用データ19を
記憶する。補正用データ18は、撮像データ16を補正するためのデータである。検出用
データ19は、特徴量データをもとに補正用データ18を選び出すためのデータである。
【0031】
補正用データ18は、画像処理回路14において、撮像データ16を補正するためのデ
ータである。補正用データ18は、撮像データ16より解像度が高い表示が可能なデータ
とすることが好ましい。当該構成とすることで、撮像データ16の補正によって得られる
画像の解像度を高めることができ、表示装置15における表示の視認性を高めることがで
きる。
【0032】
なお補正用データ18を用いた撮像データの補正によって得られる画像データは、実際
に目視して得られる像とは異なる場合がある。例えば、車種、車体の形状などが部分的に
異なる画像データとなる場合がある。あるいは、同じ特徴量データを有する被写体から補
正用データを選び出す場合がある。このような場合でも、補正のない画像データと比べて
被写体の全体の情報をおぎなうことができるため、映し出された画像によってより効率的
に状況を把握することができる。
【0033】
検出用データ19は、特徴量出力回路12より入力される特徴量データ17をもとに、
補正用データ18を選び出すことができるデータである。例えば検出用データは、補正用
データ18をもとに抽出された外観特徴量などの特徴量データとすることができる。当該
構成により、特徴量データ17と一致または類似する検出用データ19を選び出すことに
よって、所望の補正用データ18を選択することができる。
【0034】
あるいは検出用データ19は、CNN学習における重みパラメータとなるデータでもよ
い。この場合、データベース13におけるCNN学習は、予め収集した特徴量出力回路1
2より入力される特徴量データ17に補正用データ18に対応する正解ラベルを付与した
データを学習データとして重みパラメータである検出用データ19を更新して行う。CN
N学習を繰り返すことで検出用データ19が更新される。更新を繰り返すことで、精度を
向上させることができる。更新された検出用データ19を重みパラメータとしたCNNを
用いることで、特徴量データ17の入力に応じた補正用データ18を精度よく選択するこ
とができる。
【0035】
データベース13は、補正用データ18および検出用データ19を記憶する機能の他、
特徴量データ17に応じた補正用データ18を選び出すためのプログラムを記憶するメモ
リと、当該プログラムを実行するためのプロセッサとを備えたコンピュータとしての機能
を有する。データベース13では、コンピュータに予め記憶されているプログラムを実行
することによって各種機能を実現することができる。
【0036】
画像処理回路14は、補正用データ18をもとに撮像データ16の不鮮明な領域のデー
タを補正し、補正された撮像データを画像データとして出力する機能を有する回路である
。なお撮像データ16の不鮮明な領域は、明暗のコントラスト比が小さい領域などの、特
徴量の抽出が困難な領域に対応する。そのため、特徴量の抽出が困難な領域を補正用デー
タ18をもとに補正する構成を一例として挙げることができる。補正用データ18は、撮
像データ16での被写体の全体の輪郭を補正する際に特に有効である。
【0037】
画像処理回路14は、一旦取得した補正用データを保持する構成が好ましい。当該構成
とすることで一旦補正用データ18を保持しておけば、繰り返して撮像データの補正に用
いることができる。
【0038】
なお補正用データ18は、撮像データ16より解像度が高いことが好適である。撮像装
置11で得られる撮像データの解像度がディスプレイの解像度に比べて小さい場合、補正
用データ18を撮像データの超解像処理に用いることができ、補正されて表示される画像
をより鮮明にすることができる。
【0039】
表示装置15は、画像処理回路で生成された画像データに基づく表示を行う。表示装置
15は、自動車の場合、ルームミラーの代わりとして用いることができる。表示装置15
としては、液晶表示装置の他、エレクトロルミネッセンス素子を有する自発光型表示装置
などを用いることができる。
【0040】
表示システム10は、撮像装置11および表示装置15を有する。表示システム10は
、撮像装置11で得られる撮像データ16において、被写体の一部の情報から特徴量を抽
出し、データベース13において照合することで補正用データ18を選び出して、この補
正用データ18をもとに撮像データ16の不鮮明な領域を補正する。
【0041】
表示システム10は、自動車などの移動体への適用が好適である。具体的には、自動車
周辺をカメラなどの撮像装置で撮像し、その様子を表示装置で視認する状況で特に好適で
ある。なお移動体とは、自動車のように移動する車両のことである。したがって移動体は
自動車に限らず、バス、電車、飛行機などを含む。
【0042】
上述のように撮像装置および表示装置を搭載した自動車では、昼夜、晴雨等の状況の変
化に応じて、撮像装置で得られる撮像データに不鮮明な領域が生じる場合がある。例えば
、後方の自動車のヘッドライト、あるいは撮像装置に付着した水滴等が、不鮮明な領域を
生じさせる原因となる。このように得られる撮像データに不鮮明な領域が存在する場合、
被写体全体の大きさや形状の把握が困難となり、得られる情報が限定的となる。上述した
ように本発明の一態様の表示システム10では、この被写体の一部の情報から特徴量を抽
出し、データベース13において照合することで補正用データ18を選び出して、撮像デ
ータ16の不鮮明な領域を補正する。そのため、視認性の向上に有効である。
【0043】
本発明の表示システム10の適用は、移動体に限らない。撮像装置で撮像した撮像デー
タを表示装置に表示する際に有効である。例えば、防犯用カメラやスマートフォンなどの
撮像装置で得られる撮像データの不鮮明な部分を補正する場合に有効である。
【0044】
なおデータベース13は、自動車と離れた遠隔地に設ける場合、図2に示す表示システ
ムのブロック図のようにすればよい。図2に示す表示システム10Aは、図1の表示シス
テム10の構成に送受信回路20およびネットワーク21を追加した構成である。つまり
、特徴量出力回路12からデータベース13に出力されるデータ、およびデータベースか
ら画像処理回路14に出力されるデータは、送受信回路20およびネットワーク21を介
して行われる。
【0045】
図2の表示システム10Aの構成は、図3(A)に図示する概念図で説明することがで
きる。すなわち、表示システム10Aは、送受信回路20が取り付けられた自動車22A
から中継局24を介してデータベース13とのデータの送受信を行う構成となる。
【0046】
なお図1の表示システム10の構成は、図3(B)に図示する概念図で説明することが
できる。すなわち、表示システム10を構成する撮像装置11、特徴量出力回路12、デ
ータベース13、画像処理回路14および表示装置15は、自動車22内に有する構成と
なる。特徴量出力回路12、データベース13および画像処理回路14は、データ処理回
路23として図示している。
【0047】
また図1の表示システム10の構成において、各構成を複数設ける構成としてもよい。
例えば図4には、複数の撮像装置11_1-11_n(nは自然数)および表示装置15
_1-15_nを備えた表示システム10Bのブロック図について図示している。なお図
4の構成では、撮像装置11_1-11_nが出力する複数の撮像データ16の他、特徴
量出力回路12、データベース13および画像処理回路14が出力するデータについても
複数となる。なお表示装置15は、大型の表示部を有することで、複数の撮像装置11_
1-11_nで撮像して得られる画像データを並べて表示する構成とすることも可能であ
る。
【0048】
また図1の表示システム10の構成において、周辺の照度に応じて補正の有無を切り替
える構成としてもよい。例えば図5には、図1の表示システム10の構成にセンサ25を
追加した表示システム10Cのブロック図について図示している。
【0049】
図5の表示システム10Cの構成において、センサ25は、その出力に応じて、特徴量
出力回路12の機能を停止するか否かを制御することができる。例えばセンサ25が照度
センサの場合、照度が大きいと特徴量出力回路12からの特徴量データの出力を停止し、
照度が小さいと特徴量出力回路12からの特徴量データの出力を開始する構成とすること
ができる。
【0050】
特徴量出力回路12からの特徴量データの出力の切り替えは、ユーザによる切り替え機
能のオンとオフによって行う構成としてもよい。この場合、タッチセンサなどによる入力
に応じて、機能の開始と停止を切り替えることができる構成とすればよい。
【0051】
センサ25として、被写体の相対速度や相対位置を検出するのに用いることができるミ
リ波レーダ等の他のセンサなどと組み合わせて用いる構成としてもよい。
【0052】
以上説明した本発明の一態様の表示システムでは、撮像環境に起因して、取得した撮像
データに欠損(不鮮明)部分が生じても、補正用データをもとに撮像データを補正し、正
常な表示を行うための画像データを生成することができる。そのため、表示装置に表示さ
れた画像の視認性の向上を図ることができる。
【0053】
<表示システムの動作>
図6は、図1で説明した表示システム10の動作例を説明するためのフローチャートで
ある。
【0054】
図6で説明する表示システムの動作では、撮像データ16の特徴量を抽出することで特
徴量データをデータベース13に入力し、特徴量データ17に一致または類似する検出用
データ19を比較することで補正用データ18を選び出す。そして、選び出された補正用
データ18を画像処理回路14で撮像データ16の補正に用いる。
【0055】
まずステップS11は、撮像装置11で撮像データ16を取得するステップである。撮
像データ16は、特徴量出力回路12に出力される。同じ撮像データ16は、画像処理回
路14にも出力される。
【0056】
ステップS12は、入力された撮像データ16に表示異常があるか否かを判定するステ
ップである。ステップS12は、ステップS13の特徴量の抽出とともにおこなってもよ
い。表示異常がある場合、外観特徴量などの特徴量の抽出が部分的に困難となる。そのた
め、特徴量データの変化に基づく、表示異常の判定を行うことが有効である。あるいは、
照度センサなどのセンサの出力に応じて表示異常を判定する構成でもよい。ユーザが撮像
データ16に基づく表示を見て表示異常を判定し、センサ等による切り替えを行ってもよ
い。表示異常がない(No)と判定すればステップS17での表示装置15による表示を
行うステップに進む。表示異常がある(Yes)と判定すれば、ステップS13に進む。
【0057】
ステップS13は、特徴量出力回路12で特徴量抽出を行うステップである。得られた
特徴量は、特徴量データ17としてデータベース13に出力される。特徴量データ17は
、画像認識処理に基づく外観特徴量と、特徴的な領域の局所勾配特徴抽出技術で得られる
特徴量と、を組み合わせて得られるデータである。
【0058】
ステップS14は、ステップS13で得られた特徴量データに対応する、データベース
13に記憶された検出用データ19を選び出す(サーチする)ステップである。検出用デ
ータ19は、上述したように、特徴量データ17をもとに補正用データ18を選び出すた
めのデータである。
【0059】
ステップS15は、ステップS14でのサーチによって特徴量データ17に一致または
類似した(ヒットした)検出用データ19に対応する補正用データ18を画像処理回路1
4に出力させるステップである。補正用データ18は、上述したように、撮像データ16
の欠損(不鮮明)領域を補正するためのデータである。
【0060】
ステップS16は、撮像データ16を補正して画像データを生成するステップである。
補正された撮像データ16をもとに得られる画像データは、光源周辺で過剰な露光や、被
写体全体の大きさや形状の情報が補正されたデータである。つまり補正用データ18によ
って、得られる情報を補完することができる。
【0061】
ステップS17は、表示装置15での画像データに基づく表示を行うステップである。
【0062】
図6で説明した表示システムの一連の動作では、特徴量データ17に一致または類似す
る検出用データ19を比較し、補正用データ18を選び出すことができる。選び出された
補正用データ18を画像処理回路14で撮像データ16の補正に用いることで、取得した
撮像データに欠損(不鮮明)部分が生じた際に正常な表示を行うための画像データを生成
することができる。そのため、表示装置に表示された画像の視認性の向上を図ることがで
きる。
【0063】
また表示システムの動作では、撮像データ16の特徴量をデータベース13に抽出させ
て特徴量データから補正用データ18を選び出すことができる。なおデータベース13は
、検出用データ19をCNN学習における重みパラメータとして特徴量データに応じた補
正用データ18を推論するように学習をさせておく。そして、選び出された補正用データ
18を画像処理回路14で撮像データ16の補正に用いることができる。
【0064】
図7では、検出用データ19をCNN学習における重みパラメータとする場合の表示シ
ステム10の学習の例を説明するためのフローチャートを示す。
【0065】
ステップS21は、上記ステップS13と同じ特徴量抽出を行う。つまりステップS1
2で表示異常のある撮像データ16の特徴量抽出を行う。ステップS21で得られる特徴
量データは訓練用のデータおよびテスト用のデータであり、元になる撮像データは異なる
データであることが好ましく、大量の特徴量データを生成して用意することが好ましい。
【0066】
ステップS22は、特徴量データに正解ラベルを付与するステップである。正解ラベル
は、特徴量データに対応する撮像データ16の補正に最適な補正用データ18に相当する
【0067】
ステップS23は、訓練用の特徴量データを与えて、重みパラメータとなる検出用デー
タ19の更新を行うステップである。重みパラメータの更新は、誤差逆伝播法など既知の
学習方法を用いて行うことが有効である。
【0068】
ステップS24は、特徴量データの入力を行うステップである。ステップS24で入力
する特徴量データは、正解ラベルを付したテスト用のデータである。
【0069】
ステップS25は、ステップS24によって得られた出力信号が先に付した正解ラベル
に対応するか否かの判定(Yes又はNo)を行う。対応しなければ、ステップS23で
のパラメータの更新を繰り返す。
【0070】
ステップS26は、特徴量データ17に一致または類似する補正用データ18が得られ
るかの精度が設定値以下であるかの判定(Yes又はNo)である。精度が設定値以下で
あれば、ステップS23でのパラメータの更新を繰り返す。
【0071】
CNN学習を繰り返すことで検出用データ19が更新される。更新を繰り返すことで、
特徴量データ17の入力に対応する補正用データ18の精度を向上させることができる。
更新された検出用データ19を重みパラメータとしたCNNを用いることで、未知の特徴
量データ17の入力に応じた補正用データ18を精度よく選択することができる。
【0072】
図8は、図7で説明したCNN(畳み込みニューラルネットワーク)の構成例を説明す
るためのブロック図である。
【0073】
図8に示す畳み込みニューラルネットワーク30は、入力層31、中間層32および出
力層33で構成される。
【0074】
図8では、入力層31において、入力データである特徴量データ17を図示している。
【0075】
また図8では、中間層32において、フィルタ34、畳み込みデータ35、プーリング
データ36、フィルタ37、畳み込みデータ38およびプーリングデータ39を図示して
いる。なお中間層32の構成は一例であり、プーリング処理、およびフィルタ34、37
による畳み込み演算処理をさらに多層で行う構成や、パディングやストライドといった演
算処理を介して行う構成としてもよい。
【0076】
また図8では、出力層33において、全結合データ40および出力データ41を図示し
ている。出力データ41は、得られた全結合データ40(図中、y1-ym)をソフトマ
ックス関数で処理し、正解ラベルに対応する出力が得られる。
【0077】
図7で説明したフローチャートにおけるCNN学習では、フィルタ34、37のパラメ
ータ(重みデータ)を更新して、ラベルを付与した出力データ41(図中、O(y1)-
O(ym))が得られるように学習させ、推論できるようにする。特徴量データ17を畳
み込みニューラルネットワーク30に入力することで、対応する補正用データ18を画像
処理回路14に出力する構成とすることができる。
【0078】
以上説明した表示システム10およびその動作の具体例について説明する。図9および
図10では、表示システム10を自動車に適用する場合の例について説明する。
【0079】
図9(A)は、自動車22の後方から見た模式図である。図9(A)では、撮像装置1
1であるカメラ、表示装置15であるルームミラーを図示している。
【0080】
図9(B)では、自動車22と、その後方にある別の自動車42を図示している。自動
車42は光源43であるヘッドライトを照射方向44にある自動車22に向けて照射する
様子を図示している。また図9(B)では自動車22の撮像装置11を撮像方向45にあ
る自動車42に向けて撮像している様子を図示している。
【0081】
なお図9(B)の例では、撮像装置11で撮像する被写体として自動車42を例示して
いるが、被写体は自動車に限らない。例えば被写体は、歩行者、自転車、街灯、標識など
、撮像データの中から特徴量の抽出によって補正用データを選び出すことができる対象で
あればよい。歩行者であれば、足や手などの部位の特徴から特徴量を抽出して、頭や上半
身の部位を補正用データで補正する構成とすることも有効である。歩行者全身の画像デー
タを表示装置に表示させることで、視認性を高めることができる。
【0082】
図9(B)の場合、撮像装置11で得られる撮像データ16は、図9(C)のように表
すことができる。つまり図9(C)に図示するように、光源43の照度が高くなる。露光
を抑えることで光源43周辺の領域の形状は認識されるものの、自動車42全体の形状は
認識することが困難になる。そのため、図9(D)に図示するように、夜間走行時などで
高照度の光源を有する自動車を撮像する場合、撮像データ内に鮮明領域48と不鮮明領域
49とが混在することになる。
【0083】
また別の例として図10(A)は、自動車22Aの後方から見た模式図である。図10
(A)では、撮像装置11Aであるカメラ、表示装置15であるルームミラーを図示して
いる。また図10(A)では撮像装置11Aを拡大した模式図を図示しており、レンズ4
6および水滴47を図示している。雨天などの場合、レンズ46の表面に水滴47などが
付着し、得られる撮像データが不鮮明になる場合がある。なお図10(A)では、表示装
置15をルームミラーの位置に配置する構成を図示しているが、サイドミラー、あるいは
ダッシュボードの位置の表示装置を配置する構成などにも有効である。
【0084】
図10(B)では、自動車22Aと、その後方にある別の自動車42を図示している。
図10(B)では自動車22Aの撮像装置11Aを撮像方向45にある自動車42に向け
て撮像している様子を図示している。
【0085】
図10(B)の場合、撮像装置11で得られる撮像データ16は、図10(C)のよう
に表すことができる。つまり図10(C)に図示するように、水滴47が撮像されること
により自動車42の像が不鮮明となり、自動車42全体の形状は認識することが困難にな
る。そのため、図10(D)に図示するように、雨天走行時などで自動車を撮像する場合
、撮像データ内に鮮明領域48と不鮮明領域49とが混在することになる。
【0086】
上述した本発明の一態様の表示システム10では、撮像データ16の鮮明領域48にあ
る自動車42の一部の情報から特徴量を抽出し、特徴量データ17をデータベース13に
おいて照合することで補正用データ18を選び出して、撮像データ16の不鮮明な領域を
補正することができる。
【0087】
そのため表示システム10を搭載した自動車では、昼夜、晴雨等の状況の変化に応じて
、撮像装置で得られる撮像データに不鮮明な領域が生じても補正された画像を視認するこ
とができる。例えば、後方の自動車のヘッドライト、あるいは撮像装置に付着した水滴等
が、不鮮明な領域を生じさせても特徴量データに応じた補正用データを選び出して撮像デ
ータを補正することができる。そのため、被写体全体の大きさや形状の把握が容易になる
。また得られる情報を増やすことができるため、視認性の向上に有効である。
【0088】
<表示システムの動作を説明するための具体例>
図11は、表示システムの動作のより具体的な例を説明するためのフローチャートであ
る。図11では、図1で説明した表示システム10における撮像装置11、特徴量出力回
路12、データベース13、画像処理回路14、および表示装置15でのデータの流れに
ついて図示している。
【0089】
図11に示すステップS31は、撮像装置11での撮像データの取得、特徴量出力回路
12への撮像データの出力を行う。また図11に示すステップS31は、データベース1
3で、補正用データ、検出用データの保存を行う。データベース13における補正用デー
タ18、検出用データ19の保存は、予め行っておいてもよい。
【0090】
図11に示すステップS31は、図12に示すブロック図のように図示することができ
る。図12では、理解を容易にするために、図9(C)で図示した撮像データ16を図示
している。また図12では、理解を容易にするために、補正用データ18として複数の自
動車の画像18Aを図示している。また、図12では、理解を容易にするために、検出用
データとして自動車の画像の一部であるヘッドライトの画像19Aを図示している。
【0091】
図11に示すステップS32は、特徴量出力回路12での特徴量データの演算、および
特徴量出力回路12からデータベース13への特徴量データ出力を行う。
【0092】
図11に示すステップS32は、図13に示すブロック図のように図示することができ
る。図13では、理解を容易にするために、特徴量データ17として外観特徴量である、
自動車の画像の一部としてヘッドライトの画像17Aを図示している。
【0093】
図11に示すステップS33は、特徴量出力回路12からデータベース13への特徴量
データ17の入力、ヘッドライトの画像17Aを用いた特徴量データに一致または類似す
る検出用データ19のサーチによる検出用データ19の選択、および検出用データ19に
応じた補正用データ18の画像処理回路14への出力を行う。
【0094】
図11に示すステップS33は、図14に示すブロック図のように図示することができ
る。図14では、理解を容易にするために、ヘッドライトの画像17Aの特徴量データと
ヘッドライトの画像19Aの特徴量データとが一致するとして、画像処理回路14に出力
される補正用データ18である画像18Aを図示している。
【0095】
図11に示すステップS34は、画像処理回路14に対して補正元のデータである撮像
装置11からの撮像データ16と補正用のデータであるデータベース13からの補正用デ
ータ18とが入力され、撮像データ16が補正される。補正された撮像データは、画像デ
ータとして画像処理回路14から表示装置15に出力される。表示装置15では画像処理
回路14から画像データが入力され、鮮明な表示を行うことができる。
【0096】
図11に示すステップS34は、図15に示すブロック図のように図示することができ
る。図15では、理解を容易にするために、図9(C)で図示した撮像データ16を図示
している。また図15では、理解を容易にするために、画像処理回路14に出力される補
正用データ18として画像18Aを図示している。また図15では、理解を容易にするた
めに、表示装置15に出力される画像データに対応する画像データ51を図示している。
【0097】
上述した本発明の一態様の表示システム10では、図11に図示したように撮像データ
16の一部の情報から特徴量を抽出し、データベース13において特徴量データ17を照
合することで補正用データ18を選び出して、撮像データ16の不鮮明な領域を補正する
。そのため、視認性の向上に有効である。
【0098】
そのため表示システム10を搭載した自動車では、昼夜、晴雨等の状況の変化に応じて
、撮像装置で得られる撮像データに不鮮明な領域が生じても補正された画像を視認するこ
とができる。例えば、後方の自動車のヘッドライト、あるいは撮像装置に付着した水滴等
が、不鮮明な領域を生じさせても特徴量データに応じた補正用データを選び出して撮像デ
ータを補正することができる。そのため、被写体全体の大きさや形状の把握が容易になる
。また得られる情報を増やすことができるため、視認性の向上に有効である。
【0099】
(実施の形態2)
本実施の形態では、上記の実施の形態で説明したニューラルネットワーク30に用いる
ことが可能な半導体装置の構成例について説明する。特に、中間層32や出力層33など
の積和演算回路に用いることができる。
【0100】
<半導体装置の構成例>
図16に、ニューラルネットワークの演算を行う機能を有する半導体装置MACの構成
例を示す。半導体装置MACは、上記の実施の形態で説明したニューラルネットワーク3
0の少なくとも一部に用いることができる。半導体装置MACは、ニューロン間の結合強
度(重み)に対応する第1のデータと、入力データに対応する第2のデータの積和演算を
行う機能を有する。なお、第1のデータ及び第2のデータはそれぞれ、アナログデータ又
は多値のデータ(離散的なデータ)とすることができる。また、半導体装置MACは、積
和演算によって得られたデータを活性化関数によって変換する機能を有する。
【0101】
半導体装置MACは、セルアレイCA、電流源回路CS、カレントミラー回路CM、回
路WDD、回路WLD、回路CLD、オフセット回路OFST、及び活性化関数回路AC
TVを有する。
【0102】
セルアレイCAは、複数のメモリセルMC及び複数のメモリセルMCrefを有する。
図16には、セルアレイCAがm行n列(m,nは1以上の整数)のメモリセルMC(M
C[1,1]乃至[m,n])と、m個のメモリセルMCref(MCref[1]乃至
[m])を有する構成例を示している。メモリセルMCは、第1のデータを格納する機能
を有する。また、メモリセルMCrefは、積和演算に用いられる参照データを格納する
機能を有する。なお、参照データはアナログデータ又は多値のデータとすることができる
【0103】
メモリセルMC[i,j](iは1以上m以下の整数、jは1以上n以下の整数)は、
配線WL[i]、配線RW[i]、配線WD[j]、及び配線BL[j]と接続されてい
る。また、メモリセルMCref[i]は、配線WL[i]、配線RW[i]、配線WD
ref、配線BLrefと接続されている。ここで、メモリセルMC[i,j]と配線B
L[j]間を流れる電流をIMC[i,j]と表記し、メモリセルMCref[i]と配
線BLref間を流れる電流をIMCref[i]と表記する。
【0104】
メモリセルMC及びメモリセルMCrefの具体的な構成例を、図17に示す。図17
には代表例としてメモリセルMC[1,1]、[2,1]及びメモリセルMCref[1
]、[2]を示しているが、他のメモリセルMC及びメモリセルMCrefにも同様の構
成を用いることができる。メモリセルMC及びメモリセルMCrefはそれぞれ、トラン
ジスタTr11、Tr12、容量素子C11を有する。ここでは、トランジスタTr11
及びトランジスタTr12がnチャネル型のトランジスタである場合について説明する。
【0105】
メモリセルMCにおいて、トランジスタTr11のゲートは配線WLと接続され、ソー
ス又はドレインの一方はトランジスタTr12のゲート、及び容量素子C11の第1の電
極と接続され、ソース又はドレインの他方は配線WDと接続されている。トランジスタT
r12のソース又はドレインの一方は配線BLと接続され、ソース又はドレインの他方は
配線VRと接続されている。容量素子C11の第2の電極は、配線RWと接続されている
。配線VRは、所定の電位を供給する機能を有する配線である。ここでは一例として、配
線VRから低電源電位(接地電位など)が供給される場合について説明する。
【0106】
トランジスタTr11のソース又はドレインの一方、トランジスタTr12のゲート、
及び容量素子C11の第1の電極と接続されたノードを、ノードNMとする。また、メモ
リセルMC[1,1]、[2,1]のノードNMを、それぞれノードNM[1,1]、[
2,1]と表記する。
【0107】
メモリセルMCrefも、メモリセルMCと同様の構成を有する。ただし、メモリセル
MCrefは配線WDの代わりに配線WDrefと接続され、配線BLの代わりに配線B
Lrefと接続されている。また、メモリセルMCref[1]、[2]において、トラ
ンジスタTr11のソース又はドレインの一方、トランジスタTr12のゲート、及び容
量素子C11の第1の電極と接続されたノードを、それぞれノードNMref[1]、[
2]と表記する。
【0108】
ノードNMとノードNMrefはそれぞれ、メモリセルMCとメモリセルMCrefの
保持ノードとして機能する。ノードNMには第1のデータが保持され、ノードNMref
には参照データが保持される。また、配線BL[1]からメモリセルMC[1,1]、[
2,1]のトランジスタTr12には、それぞれ電流IMC[1,1]、IMC[2,1
が流れる。また、配線BLrefからメモリセルMCref[1]、[2]のトランジ
スタTr12には、それぞれ電流IMCref[1]、IMCref[2]が流れる。
【0109】
トランジスタTr11は、ノードNM又はノードNMrefの電位を保持する機能を有
するため、トランジスタTr11のオフ電流は小さいことが好ましい。そのため、トラン
ジスタTr11としてオフ電流が極めて小さいOSトランジスタを用いることが好ましい
。これにより、ノードNM又はノードNMrefの電位の変動を抑えることができ、演算
精度の向上を図ることができる。また、ノードNM又はノードNMrefの電位をリフレ
ッシュする動作の頻度を低く抑えることが可能となり、消費電力を削減することができる
【0110】
トランジスタTr12は特に限定されず、例えばSiトランジスタ又はOSトランジス
タなどを用いることができる。トランジスタTr12にOSトランジスタを用いる場合、
トランジスタTr11と同じ製造装置を用いて、トランジスタTr12を作製することが
可能となり、製造コストを抑制することができる。なお、トランジスタTr12はnチャ
ネル型であってもpチャネル型であってもよい。
【0111】
電流源回路CSは、配線BL[1]乃至[n]及び配線BLrefと接続されている。
電流源回路CSは、配線BL[1]乃至[n]及び配線BLrefに電流を供給する機能
を有する。なお、配線BL[1]乃至[n]に供給される電流値と配線BLrefに供給
される電流値は異なっていてもよい。ここでは、電流源回路CSから配線BL[1]乃至
[n]に供給される電流をI、電流源回路CSから配線BLrefに供給される電流を
Crefと表記する。
【0112】
カレントミラー回路CMは、配線IL[1]乃至[n]及び配線ILrefを有する。
配線IL[1]乃至[n]はそれぞれ配線BL[1]乃至[n]と接続され、配線ILr
efは、配線BLrefと接続されている。ここでは、配線IL[1]乃至[n]と配線
BL[1]乃至[n]の接続箇所をノードNP[1]乃至[n]と表記する。また、配線
ILrefと配線BLrefの接続箇所をノードNPrefと表記する。
【0113】
カレントミラー回路CMは、ノードNPrefの電位に応じた電流ICMを配線ILr
efに流す機能と、この電流ICMを配線IL[1]乃至[n]にも流す機能を有する。
図16には、配線BLrefから配線ILrefに電流ICMが排出され、配線BL[1
]乃至[n]から配線IL[1]乃至[n]に電流ICMが排出される例を示している。
また、カレントミラー回路CMから配線BL[1]乃至[n]を介してセルアレイCAに
流れる電流を、I[1]乃至[n]と表記する。また、カレントミラー回路CMから配
線BLrefを介してセルアレイCAに流れる電流を、IBrefと表記する。
【0114】
回路WDDは、配線WD[1]乃至[n]及び配線WDrefと接続されている。回路
WDDは、メモリセルMCに格納される第1のデータに対応する電位を、配線WD[1]
乃至[n]に供給する機能を有する。また、回路WDDは、メモリセルMCrefに格納
される参照データに対応する電位を、配線WDrefに供給する機能を有する。回路WL
Dは、配線WL[1]乃至[m]と接続されている。回路WLDは、データの書き込みを
行うメモリセルMC又はメモリセルMCrefを選択するための信号を、配線WL[1]
乃至[m]に供給する機能を有する。回路CLDは、配線RW[1]乃至[m]と接続さ
れている。回路CLDは、第2のデータに対応する電位を、配線RW[1]乃至[m]に
供給する機能を有する。
【0115】
オフセット回路OFSTは、配線BL[1]乃至[n]及び配線OL[1]乃至[n]
と接続されている。オフセット回路OFSTは、配線BL[1]乃至[n]からオフセッ
ト回路OFSTに流れる電流量、及び/又は、配線BL[1]乃至[n]からオフセット
回路OFSTに流れる電流の変化量を検出する機能を有する。また、オフセット回路OF
STは、検出結果を配線OL[1]乃至[n]に出力する機能を有する。なお、オフセッ
ト回路OFSTは、検出結果に対応する電流を配線OLに出力してもよいし、検出結果に
対応する電流を電圧に変換して配線OLに出力してもよい。セルアレイCAとオフセット
回路OFSTの間を流れる電流を、Iα[1]乃至[n]と表記する。
【0116】
オフセット回路OFSTの構成例を図18に示す。図18に示すオフセット回路OFS
Tは、回路OC[1]乃至[n]を有する。また、回路OC[1]乃至[n]はそれぞれ
、トランジスタTr21、トランジスタTr22、トランジスタTr23、容量素子C2
1、及び抵抗素子R1を有する。各素子の接続関係は図18に示す通りである。なお、容
量素子C21の第1の電極及び抵抗素子R1の第1の端子と接続されたノードを、ノード
Naとする。また、容量素子C21の第2の電極、トランジスタTr21のソース又はド
レインの一方、及びトランジスタTr22のゲートと接続されたノードを、ノードNbと
する。
【0117】
配線VrefLは電位Vrefを供給する機能を有し、配線VaLは電位Vaを供給す
る機能を有し、配線VbLは電位Vbを供給する機能を有する。また、配線VDDLは電
位VDDを供給する機能を有し、配線VSSLは電位VSSを供給する機能を有する。こ
こでは、電位VDDが高電源電位であり、電位VSSが低電源電位である場合について説
明する。また、配線RSTは、トランジスタTr21の導通状態を制御するための電位を
供給する機能を有する。トランジスタTr22、トランジスタTr23、配線VDDL、
配線VSSL、及び配線VbLによって、ソースフォロワ回路が構成される。
【0118】
次に、回路OC[1]乃至[n]の動作例を説明する。なお、ここでは代表例として回
路OC[1]の動作例を説明するが、回路OC[2]乃至[n]も同様に動作させること
ができる。まず、配線BL[1]に第1の電流が流れると、ノードNaの電位は、第1の
電流と抵抗素子R1の抵抗値に応じた電位となる。また、このときトランジスタTr21
はオン状態であり、ノードNbに電位Vaが供給される。その後、トランジスタTr21
はオフ状態となる。
【0119】
次に、配線BL[1]に第2の電流が流れると、ノードNaの電位は、第2の電流と抵
抗素子R1の抵抗値に応じた電位に変化する。このときトランジスタTr21はオフ状態
であり、ノードNbはフローティング状態となっているため、ノードNaの電位の変化に
伴い、ノードNbの電位は容量結合により変化する。ここで、ノードNaの電位の変化を
ΔVNaとし、容量結合係数を1とすると、ノードNbの電位はVa+ΔVNaとなる。
そして、トランジスタTr22のしきい値電圧をVthとすると、配線OL[1]から電
位Va+ΔVNa-Vthが出力される。ここで、Va=Vthとすることにより、配線
OL[1]から電位ΔVNaを出力することができる。
【0120】
電位ΔVNaは、第1の電流から第2の電流への変化量、抵抗素子R1、及び電位Vr
efに応じて定まる。ここで、抵抗素子R1と電位Vrefは既知であるため、電位ΔV
Naから配線BLに流れる電流の変化量を求めることができる。
【0121】
上記のようにオフセット回路OFSTによって検出された電流量、及び/又は電流の変
化量に対応する信号は、配線OL[1]乃至[n]を介して活性化関数回路ACTVに入
力される。
【0122】
活性化関数回路ACTVは、配線OL[1]乃至[n]、及び、配線NIL[1]乃至
[n]と接続されている。活性化関数回路ACTVは、オフセット回路OFSTから入力
された信号を、あらかじめ定義された活性化関数に従って変換するための演算を行う機能
を有する。活性化関数としては、例えば、シグモイド関数、tanh関数、softma
x関数、ReLU関数、しきい値関数などを用いることができる。活性化関数回路ACT
Vによって変換された信号は、出力データとして配線NIL[1]乃至[n]に出力され
る。
【0123】
<半導体装置の動作例>
上記の半導体装置MACを用いて、第1のデータと第2のデータの積和演算を行うこと
ができる。以下、積和演算を行う際の半導体装置MACの動作例を説明する。
【0124】
図19に半導体装置MACの動作例のタイミングチャートを示す。図19には、図17
における配線WL[1]、配線WL[2]、配線WD[1]、配線WDref、ノードN
M[1,1]、ノードNM[2,1]、ノードNMref[1]、ノードNMref[2
]、配線RW[1]、及び配線RW[2]の電位の推移と、電流I[1]-Iα[1]
、及び電流IBrefの値の推移を示している。電流I[1]-Iα[1]は、配線B
L[1]からメモリセルMC[1,1]、[2,1]に流れる電流の総和に相当する。
【0125】
なお、ここでは代表例として図17に示すメモリセルMC[1,1]、[2,1]及び
メモリセルMCref[1]、[2]に着目して動作を説明するが、他のメモリセルMC
及びメモリセルMCrefも同様に動作させることができる。
【0126】
[第1のデータの格納]
まず、時刻T01-T02において、配線WL[1]の電位がハイレベルとなり、配線
WD[1]の電位が接地電位(GND)よりもVPR-VW[1,1]大きい電位となり
、配線WDrefの電位が接地電位よりもVPR大きい電位となる。また、配線RW[1
]、及び配線RW[2]の電位が基準電位(REFP)となる。なお、電位VW[1,1
はメモリセルMC[1,1]に格納される第1のデータに対応する電位である。また、
電位VPRは参照データに対応する電位である。これにより、メモリセルMC[1,1]
及びメモリセルMCref[1]が有するトランジスタTr11がオン状態となり、ノー
ドNM[1,1]の電位がVPR-VW[1,1]、ノードNMref[1]の電位がV
PRとなる。
【0127】
このとき、配線BL[1]からメモリセルMC[1,1]のトランジスタTr12に流
れる電流IMC[1,1],0は、次の式で表すことができる。ここで、kはトランジス
タTr12のチャネル長、チャネル幅、移動度、及びゲート絶縁膜の容量などで決まる定
数である。また、VthはトランジスタTr12のしきい値電圧である。
【0128】
MC[1,1],0=k(VPR-VW[1,1]-Vth (E1)
【0129】
また、配線BLrefからメモリセルMCref[1]のトランジスタTr12に流れ
る電流IMCref[1],0は、次の式で表すことができる。
【0130】
MCref[1],0=k(VPR-Vth (E2)
【0131】
次に、時刻T02-T03において、配線WL[1]の電位がローレベルとなる。これ
により、メモリセルMC[1,1]及びメモリセルMCref[1]が有するトランジス
タTr11がオフ状態となり、ノードNM[1,1]及びノードNMref[1]の電位
が保持される。
【0132】
なお、前述の通り、トランジスタTr11としてOSトランジスタを用いることが好ま
しい。これにより、トランジスタTr11のリーク電流を抑えることができ、ノードNM
[1,1]及びノードNMref[1]の電位を正確に保持することができる。
【0133】
次に、時刻T03-T04において、配線WL[2]の電位がハイレベルとなり、配線
WD[1]の電位が接地電位よりもVPR-VW[2,1]大きい電位となり、配線WD
refの電位が接地電位よりもVPR大きい電位となる。なお、電位VW[2,1]はメ
モリセルMC[2,1]に格納される第1のデータに対応する電位である。これにより、
メモリセルMC[2,1]及びメモリセルMCref[2]が有するトランジスタTr1
1がオン状態となり、ノードNM[2,1]の電位がVPR-VW[2,1]、ノードN
Mref[2]の電位がVPRとなる。
【0134】
このとき、配線BL[1]からメモリセルMC[2,1]のトランジスタTr12に流
れる電流IMC[2,1],0は、次の式で表すことができる。
【0135】
MC[2,1],0=k(VPR-VW[2,1]-Vth (E3)
【0136】
また、配線BLrefからメモリセルMCref[2]のトランジスタTr12に流れ
る電流IMCref[2],0は、次の式で表すことができる。
【0137】
MCref[2],0=k(VPR-Vth (E4)
【0138】
次に、時刻T04-T05において、配線WL[2]の電位がローレベルとなる。これ
により、メモリセルMC[2,1]及びメモリセルMCref[2]が有するトランジス
タTr11がオフ状態となり、ノードNM[2,1]及びノードNMref[2]の電位
が保持される。
【0139】
以上の動作により、メモリセルMC[1,1]、[2,1]に第1のデータが格納され
、メモリセルMCref[1]、[2]に参照データが格納される。
【0140】
ここで、時刻T04-T05において、配線BL[1]及び配線BLrefに流れる電
流を考える。配線BLrefには、電流源回路CSから電流が供給される。また、配線B
Lrefを流れる電流は、カレントミラー回路CM、メモリセルMCref[1]、[2
]へ排出される。電流源回路CSから配線BLrefに供給される電流をICref、配
線BLrefからカレントミラー回路CMへ排出される電流をICM,0とすると、次の
式が成り立つ。
【0141】
Cref-ICM,0=IMCref[1],0+IMCref[2],0
(E5)
【0142】
配線BL[1]には、電流源回路CSからの電流が供給される。また、配線BL[1]
を流れる電流は、カレントミラー回路CM、メモリセルMC[1,1]、[2,1]へ排
出される。また、配線BL[1]からオフセット回路OFSTに電流が流れる。電流源回
路CSから配線BL[1]に供給される電流をIC,0、配線BL[1]からオフセット
回路OFSTに流れる電流をIα,0とすると、次の式が成り立つ。
【0143】
-ICM,0=IMC[1,1],0+IMC[2,1],0+Iα,0
(E6)
【0144】
[第1のデータと第2のデータの積和演算]
次に、時刻T05-T06において、配線RW[1]の電位が基準電位よりもVX[1
大きい電位となる。このとき、メモリセルMC[1,1]、及びメモリセルMCref
[1]のそれぞれの容量素子C11には電位VX[1]が供給され、容量結合によりトラ
ンジスタTr12のゲートの電位が上昇する。なお、電位Vx[1]はメモリセルMC[
1,1]及びメモリセルMCref[1]に供給される第2のデータに対応する電位であ
る。
【0145】
トランジスタTr12のゲートの電位の変化量は、配線RWの電位の変化量に、メモリ
セルの構成によって決まる容量結合係数を乗じた値となる。容量結合係数は、容量素子C
11の容量、トランジスタTr12のゲート容量、及び寄生容量などによって算出される
。以下では便宜上、配線RWの電位の変化量とトランジスタTr12のゲートの電位の変
化量が同じ、すなわち容量結合係数が1であるとして説明する。実際には、容量結合係数
を考慮して電位Vを決定すればよい。
【0146】
メモリセルMC[1]及びメモリセルMCref[1]の容量素子C11に電位VX[
1]が供給されると、ノードNN[1]及びノードNMref[1]の電位がそれぞれV
X[1]上昇する。
【0147】
ここで、時刻T05-T06において、配線BL[1]からメモリセルMC[1,1]
のトランジスタTr12に流れる電流IMC[1,1],1は、次の式で表すことができ
る。
【0148】
MC[1,1],1=k(VPR-VW[1,1]+VX[1]-Vth
(E7)
【0149】
すなわち、配線RW[1]に電位VX[1]を供給することにより、配線BL[1]か
らメモリセルMC[1,1]のトランジスタTr12に流れる電流は、ΔIMC[1,1
=IMC[1,1],1-IMC[1,1],0増加する。
【0150】
また、時刻T05-T06において、配線BLrefからメモリセルMCref[1]
のトランジスタTr12に流れる電流IMCref[1],1は、次の式で表すことがで
きる。
【0151】
MCref[1],1=k(VPR+VX[1]-Vth (E8)
【0152】
すなわち、配線RW[1]に電位VX[1]を供給することにより、配線BLrefか
らメモリセルMCref[1]のトランジスタTr12に流れる電流は、ΔIMCref
[1]=IMCref[1],1-IMCref[1],0増加する。
【0153】
また、配線BL[1]及び配線BLrefに流れる電流について考える。配線BLre
fには、電流源回路CSから電流ICrefが供給される。また、配線BLrefを流れ
る電流は、カレントミラー回路CM、メモリセルMCref[1]、[2]へ排出される
。配線BLrefからカレントミラー回路CMへ排出される電流をICM,1とすると、
次の式が成り立つ。
【0154】
Cref-ICM,1=IMCref[1],1+IMCref[2],0
(E9)
【0155】
配線BL[1]には、電流源回路CSから電流Iが供給される。また、配線BL[1
]を流れる電流は、カレントミラー回路CM、メモリセルMC[1,1]、[2,1]へ
排出される。さらに、配線BL[1]からオフセット回路OFSTにも電流が流れる。配
線BL[1]からオフセット回路OFSTに流れる電流をIα,1とすると、次の式が成
り立つ。
【0156】
-ICM,1=IMC[1,1],1+IMC[2,1],1+Iα,1
(E10)
【0157】
そして、式(E1)乃至式(E10)から、電流Iα,0と電流Iα,1の差(差分電
流ΔIα)は次の式で表すことができる。
【0158】
ΔIα=Iα,1-Iα,0=2kVW[1,1]X[1] (E11)
【0159】
このように、差分電流ΔIαは、電位VW[1,1]とVX[1]の積に応じた値とな
る。
【0160】
その後、時刻T06-T07において、配線RW[1]の電位は接地電位となり、ノー
ドNM[1,1]及びノードNMref[1]の電位は時刻T04-T05と同様になる
【0161】
次に、時刻T07-T08において、配線RW[1]の電位が基準電位よりもVX[1
大きい電位となり、配線RW[2]の電位が基準電位よりもVX[2]大きい電位とな
る。これにより、メモリセルMC[1,1]、及びメモリセルMCref[1]のそれぞ
れの容量素子C11に電位VX[1]が供給され、容量結合によりノードNM[1,1]
及びノードNMref[1]の電位がそれぞれVX[1]上昇する。また、メモリセルM
C[2,1]、及びメモリセルMCref[2]のそれぞれの容量素子C11に電位V
[2]が供給され、容量結合によりノードNM[2,1]及びノードNMref[2]の
電位がそれぞれVX[2]上昇する。
【0162】
ここで、時刻T07-T08において、配線BL[1]からメモリセルMC[2,1]
のトランジスタTr12に流れる電流IMC[2,1],1は、次の式で表すことができ
る。
【0163】
MC[2,1],1=k(VPR-VW[2,1]+VX[2]-Vth
(E12)
【0164】
すなわち、配線RW[2]に電位VX[2]を供給することにより、配線BL[1]か
らメモリセルMC[2,1]のトランジスタTr12に流れる電流は、ΔIMC[2,1
=IMC[2,1],1-IMC[2,1],0増加する。
【0165】
また、時刻T05-T06において、配線BLrefからメモリセルMCref[2]
のトランジスタTr12に流れる電流IMCref[2],1は、次の式で表すことがで
きる。
【0166】
MCref[2],1=k(VPR+VX[2]-Vth (E13)
【0167】
すなわち、配線RW[2]に電位VX[2]を供給することにより、配線BLrefか
らメモリセルMCref[2]のトランジスタTr12に流れる電流は、ΔIMCref
[2]=IMCref[2],1-IMCref[2],0増加する。
【0168】
また、配線BL[1]及び配線BLrefに流れる電流について考える。配線BLre
fには、電流源回路CSから電流ICrefが供給される。また、配線BLrefを流れ
る電流は、カレントミラー回路CM、メモリセルMCref[1]、[2]へ排出される
。配線BLrefからカレントミラー回路CMへ排出される電流をICM,2とすると、
次の式が成り立つ。
【0169】
Cref-ICM,2=IMCref[1],1+IMCref[2],1
(E14)
【0170】
配線BL[1]には、電流源回路CSから電流Iが供給される。また、配線BL[1
]を流れる電流は、カレントミラー回路CM、メモリセルMC[1,1]、[2,1]へ
排出される。さらに、配線BL[1]からオフセット回路OFSTにも電流が流れる。配
線BL[1]からオフセット回路OFSTに流れる電流をIα,2とすると、次の式が成
り立つ。
【0171】
-ICM,2=IMC[1,1],1+IMC[2,1],1+Iα,2
(E15)
【0172】
そして、式(E1)乃至式(E8)、及び、式(E12)乃至式(E15)から、電流
α,0と電流Iα,2の差(差分電流ΔIα)は次の式で表すことができる。
【0173】
ΔIα=Iα,2-Iα,0=2k(VW[1,1]X[1]+VW[2,1]
[2]) (E16)
【0174】
このように、差分電流ΔIαは、電位VW[1,1]と電位VX[1]の積と、電位V
W[2,1]と電位VX[2]の積と、を足し合わせた結果に応じた値となる。
【0175】
その後、時刻T08-T09において、配線RW[1]、[2]の電位は接地電位とな
り、ノードNM[1,1]、[2,1]及びノードNMref[1]、[2]の電位は時
刻T04-T05と同様になる。
【0176】
式(E9)及び式(E16)に示されるように、オフセット回路OFSTに入力される
差分電流ΔIαは、第1のデータ(重み)に対応する電位Vと、第2のデータ(入力デ
ータ)に対応する電位Vの積を足し合わせた結果に応じた値となる。すなわち、差分電
流ΔIαをオフセット回路OFSTで計測することにより、第1のデータと第2のデータ
の積和演算の結果を得ることができる。
【0177】
なお、上記では特にメモリセルMC[1,1]、[2,1]及びメモリセルMCref
[1]、[2]に着目したが、メモリセルMC及びメモリセルMCrefの数は任意に設
定することができる。メモリセルMC及びメモリセルMCrefの行数mを任意の数とし
た場合の差分電流ΔIαは、次の式で表すことができる。
【0178】
ΔIα=2kΣW[i,1]X[i] (E17)
【0179】
また、メモリセルMC及びメモリセルMCrefの列数nを増やすことにより、並列し
て実行される積和演算の数を増やすことができる。
【0180】
以上のように、半導体装置MACを用いることにより、第1のデータと第2のデータの
積和演算を行うことができる。なお、メモリセルMC及びメモリセルMCrefとして図
17に示す構成を用いることにより、少ないトランジスタ数で積和演算回路を構成するこ
とができる。そのため、半導体装置MACの回路規模の縮小を図ることができる。
【0181】
半導体装置MACをニューラルネットワークにおける演算に用いる場合、メモリセルM
Cの行数mは一のニューロンに供給される入力データの数に対応させ、メモリセルMCの
列数nはニューロンの数に対応させることができる。例えば、中間層において半導体装置
MACを用いた積和演算を行う場合を考える。このとき、メモリセルMCの行数mは、入
力層から供給される入力データの数(入力層のニューロンの数)に設定し、メモリセルM
Cの列数nは、中間層のニューロンの数に設定することができる。
【0182】
以上のように、半導体装置MACを用いることにより、ニューラルネットワークの積和
演算を行うことができる。さらに、セルアレイCAに図17に示すメモリセルMC及びメ
モリセルMCrefを用いることにより、演算精度の向上、消費電力の削減、又は回路規
模の縮小を図ることが可能な集積回路を提供することができる。
【0183】
なお、第1のデータ(重み)に対応する電位Vが任意の基準電位以上である場合を「
正」、小さい場合を「負」とすることにより、積差演算を行なうことができる。よって、
半導体装置MACは積差演算回路として機能することができる。
【0184】
積差演算回路を用いて、突発的に生じたノイズの除去などを行なうことができる。一例
として、図20(A)および(B)を示す。図20(A)および(B)は、トンネル内な
どの暗所を走行中の車両を示す画像である。図20(A)は、急に点灯した車両100の
前照灯105の影響により、トンネル外に位置する車両110は視認できるものの、トン
ネル内にいる歩行者120および歩行者130の視認性が低下した状態を示している。
【0185】
図20(B)は、積差演算回路を用いた画像処理により、急に点灯した前照灯105の
影響を軽減し、トンネル外に位置する車両110のみでなく、トンネル内にいる歩行者1
20および歩行者130の視認性も高めた状態を示している。なお、積差演算回路によっ
て現在のフレーム画像と直前のフレーム画像の差分情報を取得し、該差分情報を用いて画
像処理を行うこともできる。
【0186】
近年、自動運転向けや、サイドミラーおよびバックミラーとして車載イメージセンサが
期待されている。本発明の一態様と、画素毎に感度を調整する仕組みと、を組み合わせる
ことにより、他車のライトなどがまぶしい状況でも障害物や人を正確に検出することがで
きる。
【0187】
本実施の形態は、他の実施の形態の記載と適宜組み合わせることができる。
【0188】
(実施の形態3)
本実施の形態においては、先の実施の形態で例示した表示装置15の一例について、図
21乃至図23を用いて以下説明を行う。
【0189】
図21は、先の実施の形態で例示した表示装置15に適用可能な表示装置700を示す
上面図である。図21に示す表示装置700は、第1の基板701上に設けられた画素部
702と、第1の基板701に設けられたデマルチプレクサ703、ソースドライバ70
4およびゲートドライバ706と、画素部702、デマルチプレクサ703、およびゲー
トドライバ706を囲むように配置されるシール材712と、第1の基板701に対向す
るように設けられる第2の基板705と、を有する。なお、第1の基板701と第2の基
板705は、シール材712によって封止されている。すなわち、画素部702、デマル
チプレクサ703、およびゲートドライバ706は、第1の基板701とシール材712
と第2の基板705によって封止されている。なお、図21には図示しないが、第1の基
板701と第2の基板705の間には表示素子が設けられる。
【0190】
また、表示装置700は、第1の基板701上のシール材712によって囲まれている
領域とは異なる領域に、画素部702、デマルチプレクサ703、ソースドライバ704
、およびゲートドライバ706と、それぞれ電気的に接続されるFPC端子部708(F
PC:Flexible printed circuit)が設けられる。また、FP
C端子部708には、FPC716が接続され、FPC716によって画素部702、デ
マルチプレクサ703、ソースドライバ704、およびゲートドライバ706に各種信号
等が供給される。また、画素部702、デマルチプレクサ703、ソースドライバ704
、ゲートドライバ706、およびFPC端子部708には、信号線710が各々接続され
ている。FPC716により供給される各種信号等は、信号線710を介して、画素部7
02、デマルチプレクサ703、ソースドライバ704、ゲートドライバ706、および
FPC端子部708に与えられる。
【0191】
また、表示装置700にゲートドライバ706を複数設けてもよい。また、表示装置7
00としては、ゲートドライバ706を画素部702と同じ第1の基板701に形成し、
ソースドライバ704をソースドライバICとしている例を示しているが、この構成に限
定されない。例えば、ソースドライバ704を第1の基板701に形成しても良い。なお
ソースドライバICは、COG(Chip On Glass)方法、ワイヤボンディン
グ方法などで設けることができる。またデマルチプレクサ703は、省略することも可能
である。
【0192】
また、表示装置700は、様々な素子を有することが出来る。該素子の一例としては、
例えば、エレクトロルミネッセンス(EL)素子(有機物および無機物を含むEL素子、
有機EL素子、無機EL素子、LEDなど)、発光トランジスタ(電流に応じて発光する
トランジスタ)、電子放出素子、液晶素子、電子インク素子、電気泳動素子、エレクトロ
ウェッティング素子、プラズマディスプレイパネル(PDP)、MEMS(マイクロ・エ
レクトロ・メカニカル・システム)ディスプレイ(例えば、グレーティングライトバルブ
(GLV)、デジタルマイクロミラーデバイス(DMD)、デジタル・マイクロ・シャッ
ター(DMS)素子、インターフェロメトリック・モジュレーション(IMOD)素子な
ど)、圧電セラミックディスプレイなどが挙げられる。
【0193】
また、EL素子を用いた表示装置の一例としては、ELディスプレイなどがある。電子
放出素子を用いた表示装置の一例としては、フィールドエミッションディスプレイ(FE
D)またはSED方式平面型ディスプレイ(SED:Surface-conducti
on Electron-emitter Display)などがある。液晶素子を用
いた表示装置の一例としては、液晶ディスプレイ(透過型液晶ディスプレイ、半透過型液
晶ディスプレイ、反射型液晶ディスプレイ、直視型液晶ディスプレイ、投射型液晶ディス
プレイ)などがある。電子インク素子または電気泳動素子を用いた表示装置の一例として
は、電子ペーパーなどがある。なお、半透過型液晶ディスプレイや反射型液晶ディスプレ
イを実現する場合には、画素電極の一部、または、全部が、反射電極としての機能を有す
るようにすればよい。例えば、画素電極の一部、または、全部が、アルミニウム、銀、な
どを有するようにすればよい。さらに、その場合、反射電極の下に、SRAMなどの記憶
回路を設けることも可能である。これにより、さらに、消費電力を低減することができる
【0194】
なお、表示装置700における表示方式は、プログレッシブ方式やインターレース方式
等を用いることができる。また、カラー表示する際に画素で制御する色要素としては、R
GB(Rは赤、Gは緑、Bは青を表す)の三色に限定されない。例えば、Rの画素とGの
画素とBの画素とW(白)の画素の四画素から構成されてもよい。または、ペンタイル配
列のように、RGBのうちの2色分で一つの色要素を構成し、色要素によって、異なる2
色を選択して構成してもよい。またはRGBに、イエロー、シアン、マゼンタ等を一色以
上追加してもよい。なお、色要素のドット毎にその表示領域の大きさが異なっていてもよ
い。ただし、開示する発明はカラー表示の表示装置に限定されるものではなく、モノクロ
表示の表示装置に適用することもできる。
【0195】
また、バックライト(有機EL素子、無機EL素子、LED、蛍光灯など)に白色発光
(W)を用いて表示装置をフルカラー表示させるために、着色層(カラーフィルタともい
う。)を用いてもよい。着色層は、例えば、レッド(R)、グリーン(G)、ブルー(B
)、イエロー(Y)などを適宜組み合わせて用いることができる。着色層を用いることで
、着色層を用いない場合と比べて色の再現性を高くすることができる。このとき、着色層
を有する領域と、着色層を有さない領域と、を配置することによって、着色層を有さない
領域における白色光を直接表示に利用しても構わない。一部に着色層を有さない領域を配
置することで、明るい表示の際に、着色層による輝度の低下を少なくでき、消費電力を2
割から3割程度低減できる場合がある。ただし、有機EL素子や無機EL素子などの自発
光素子を用いてフルカラー表示する場合、R、G、B、Y、Wを、それぞれの発光色を有
する素子から発光させても構わない。自発光素子を用いることで、着色層を用いた場合よ
りも、さらに消費電力を低減できる場合がある。
【0196】
また、カラー化方式としては、上述の白色発光からの発光の一部をカラーフィルタを通
すことで赤色、緑色、青色に変換する方式(カラーフィルタ方式)の他、赤色、緑色、青
色の発光をそれぞれ用いる方式(3色方式)、または青色発光からの発光の一部を赤色や
緑色に変換する方式(色変換方式、量子ドット方式)を適用してもよい。
【0197】
本実施の形態においては、表示素子として液晶素子およびEL素子を用いる構成につい
て、図22および図23を用いて説明する。なお、図22は、図21に示す一点鎖線Q-
Rにおける断面図であり、表示素子として液晶素子を用いた構成である。また、図23
図21に示す一点鎖線Q-Rにおける断面図であり、表示素子としてEL素子を用いた
構成である。
【0198】
まず、図22および図23に示す共通部分について最初に説明し、次に異なる部分につ
いて以下説明する。
【0199】
<表示装置の共通部分に関する説明>
図22および図23に示す表示装置700は、引き回し配線部711と、画素部702
と、デマルチプレクサ703と、FPC端子部708と、を有する。また、引き回し配線
部711は、信号線710を有する。また、画素部702は、トランジスタ750および
容量素子790を有する。また、デマルチプレクサ703は、トランジスタ752を有す
る。
【0200】
トランジスタ750およびトランジスタ752は、トップゲート型、ボトムゲート型、
チャネルエッチ型、チャネル保護型、いずれでも良い。図22および図23はトップゲー
ト型を図示している。トランジスタ750およびトランジスタ752の半導体層には、シ
リコン系半導体(アモルファスシリコン、多結晶シリコン等)、酸化物半導体(酸化亜鉛
、酸化インジウム等)等を用いることができる。図22および図23は酸化物半導体を用
いた場合を説明する。
【0201】
容量素子790は、トランジスタ750が有する第1の酸化物半導体膜と、同一の酸化
物半導体膜を加工する工程を経て形成される下部電極と、トランジスタ750が有するソ
ース電極およびドレイン電極として機能する導電膜と、同一の導電膜を加工する工程を経
て形成される上部電極と、を有する。また、下部電極と上部電極との間には、トランジス
タ750が有する第2の絶縁膜として機能する絶縁膜、および第3の絶縁膜として機能す
る絶縁膜と、同一の絶縁膜を形成する工程を経て形成される絶縁膜が設けられる。すなわ
ち、容量素子790は、一対の電極間に誘電体として機能する絶縁膜が挟持された積層型
の構造である。
【0202】
また、図22および図23において、トランジスタ750、トランジスタ752、およ
び容量素子790上に平坦化絶縁膜770が設けられている。
【0203】
平坦化絶縁膜770としては、ポリイミド樹脂、アクリル樹脂、ポリイミドアミド樹脂
、ベンゾシクロブテン樹脂、ポリアミド樹脂、エポキシ樹脂等の耐熱性を有する有機材料
を用いることができる。なお、これらの材料で形成される絶縁膜を複数積層させることで
、平坦化絶縁膜770を形成してもよい。また、平坦化絶縁膜770を設けない構成とし
てもよい。
【0204】
また、信号線710は、トランジスタ750、752のソース電極およびドレイン電極
として機能する導電膜と同じ工程を経て形成される。なお、信号線710は、トランジス
タ750、752のソース電極およびドレイン電極と異なる工程を経て形成された導電膜
、例えば、ゲート電極として機能する酸化物半導体膜と同じ工程を経て形成される酸化物
半導体膜を用いてもよい。信号線710として、例えば、銅元素を含む材料を用いた場合
、配線抵抗に起因する信号遅延等が少なく、大画面での表示が可能となる。
【0205】
また、FPC端子部708は、接続電極760、異方性導電膜780、およびFPC7
16を有する。なお、接続電極760は、トランジスタ750、752のソース電極およ
びドレイン電極として機能する導電膜と同じ工程を経て形成される。また、接続電極76
0は、FPC716が有する端子と異方性導電膜780を介して、電気的に接続される。
【0206】
また、第1の基板701および第2の基板705としては、例えばガラス基板を用いる
ことができる。また、第1の基板701および第2の基板705として、可撓性を有する
基板を用いてもよい。該可撓性を有する基板としては、例えばプラスチック基板等が挙げ
られる。
【0207】
また、第1の基板701と第2の基板705の間には、構造体778が設けられる。構
造体778は、絶縁膜を選択的にエッチングすることで得られる柱状のスペーサであり、
第1の基板701と第2の基板705の間の距離(セルギャップ)を制御するために設け
られる。なお、構造体778として、球状のスペーサを用いていても良い。
【0208】
また、第2の基板705側には、ブラックマトリクスとして機能する遮光膜738と、
カラーフィルタとして機能する着色膜736と、遮光膜738および着色膜736に接す
る絶縁膜734が設けられる。
【0209】
<液晶素子を用いる表示装置の構成例>
図22に示す表示装置700は、液晶素子775を有する。液晶素子775は、導電膜
772、導電膜774、および液晶層776を有する。導電膜774は、第2の基板70
5側に設けられ、対向電極としての機能を有する。図22に示す表示装置700は、導電
膜772と導電膜774に印加される電圧によって、液晶層776の配向状態が変わるこ
とによって光の透過、非透過が制御され画像を表示することができる。
【0210】
また、導電膜772は、トランジスタ750が有するソース電極およびドレイン電極と
して機能する導電膜に接続される。導電膜772は、平坦化絶縁膜770上に形成され画
素電極、すなわち表示素子の一方の電極として機能する。また、導電膜772は、透明電
極としての機能を有する。図22に示す表示装置700は、液晶層776でバックライト
の光を透過して着色膜736を介して表示する、所謂透過型のカラー液晶表示装置である
【0211】
導電膜772としては、可視光において透光性のある導電膜、または可視光において反
射性のある導電膜を用いることができる。可視光において透光性のある導電膜としては、
例えば、インジウム(In)、亜鉛(Zn)、錫(Sn)の中から選ばれた一種を含む材
料を用いるとよい。可視光において反射性のある導電膜としては、例えば、アルミニウム
、または銀を含む材料を用いるとよい。
【0212】
なお、図22において図示しないが、導電膜772、774の液晶層776と接する側
に、それぞれ配向膜を設ける構成としてもよい。また、図22において図示しないが、偏
光部材、位相差部材、反射防止部材などの光学部材(光学基板)などは適宜設けてもよい
。例えば、偏光基板および位相差基板による円偏光を用いてもよい。また、光源としてバ
ックライト、サイドライトなどを用いてもよい。
【0213】
表示素子として液晶素子を用いる場合、サーモトロピック液晶、低分子液晶、高分子液
晶、高分子分散型液晶、強誘電性液晶、反強誘電性液晶等を用いることができる。これら
の液晶材料は、条件により、コレステリック相、スメクチック相、キュービック相、カイ
ラルネマチック相、等方相等を示す。
【0214】
また、横電界方式を採用する場合、配向膜を用いないブルー相を示す液晶を用いてもよ
い。ブルー相は液晶相の一つであり、コレステリック液晶を昇温していくと、コレステリ
ック相から等方相へ転移する直前に発現する相である。ブルー相は狭い温度範囲でしか発
現しないため、温度範囲を改善するために数重量%以上のカイラル剤を混合させた液晶組
成物を液晶層に用いる。ブルー相を示す液晶とカイラル剤とを含む液晶組成物は、応答速
度が短く、光学的等方性であるため配向処理が不要である。また配向膜を設けなくてもよ
いのでラビング処理も不要となるため、ラビング処理によって引き起こされる静電破壊を
防止することができ、作製工程中の液晶表示装置の不良や破損を軽減することができる。
また、ブルー相を示す液晶材料は、視野角依存性が小さい。
【0215】
また、表示素子として液晶素子を用いる場合、TN(Twisted Nematic
)モード、IPS(In-Plane-Switching)モード、FFS(Frin
ge Field Switching)モード、ASM(Axially Symme
tric aligned Micro-cell)モード、OCB(Optical
Compensated Birefringence)モード、FLC(Ferroe
lectric Liquid Crystal)モード、AFLC(AntiFerr
oelectric Liquid Crystal)モードなどを用いることができる
【0216】
また、ノーマリーブラック型の液晶表示装置、例えば垂直配向(VA)モードを採用し
た透過型の液晶表示装置としてもよい。垂直配向モードとしては、いくつか挙げられるが
、例えば、MVA(Multi-Domain Vertical Alignment
)モード、PVA(Patterned Vertical Alignment)モー
ド、ASVモードなどを用いることができる。
【0217】
<発光素子を用いる表示装置>
図23に示す表示装置700は、発光素子782を有する。発光素子782は、導電膜
784、EL層786、および導電膜788を有する。図23に示す表示装置700は、
発光素子782が有するEL層786が発光することによって、画像を表示することがで
きる。
【0218】
また、導電膜784は、トランジスタ750が有するソース電極およびドレイン電極と
して機能する導電膜に接続される。導電膜784は、平坦化絶縁膜770上に形成され画
素電極、すなわち表示素子の一方の電極として機能する。導電膜784としては、可視光
において透光性のある導電膜、または可視光において反射性のある導電膜を用いることが
できる。可視光において透光性のある導電膜としては、例えば、インジウム(In)、亜
鉛(Zn)、錫(Sn)の中から選ばれた一種を含む材料を用いるとよい。可視光におい
て反射性のある導電膜としては、例えば、アルミニウム、または銀を含む材料を用いると
よい。
【0219】
また、図23に示す表示装置700には、平坦化絶縁膜770および導電膜784上に
絶縁膜730が設けられる。絶縁膜730は、導電膜784の一部を覆う。なお、発光素
子782はトップエミッション構造である。したがって、導電膜788は透光性を有し、
EL層786が発する光を透過する。なお、本実施の形態においては、トップエミッショ
ン構造について、例示するが、これに限定されない。例えば、導電膜784側に光を射出
するボトムエミッション構造や、導電膜784および導電膜788の双方に光を射出する
デュアルエミッション構造にも適用することができる。
【0220】
また、発光素子782と重なる位置に、着色膜736が設けられ、絶縁膜730と重な
る位置、引き回し配線部711、およびソースドライバ704に遮光膜738が設けられ
ている。また、着色膜736および遮光膜738は、絶縁膜734で覆われている。また
、発光素子782と絶縁膜734の間は封止膜732で充填されている。なお、図23
示す表示装置700においては、着色膜736を設ける構成について例示したが、これに
限定されない。例えば、EL層786を塗り分けにより形成する場合においては、着色膜
736を設けない構成としてもよい。
【0221】
本実施の形態に示す構成は、他の実施の形態に示す構成と適宜組み合わせて用いること
ができる。
【0222】
(実施の形態4)
本実施の形態においては、先の実施の形態で例示した表示装置の自動車、およびその他
の移動体への適用例について、図24および図25を用いて以下説明を行う。
【0223】
<表示システムの移動体への適用例>
上述した表示システムが有する表示装置について、移動体である自動車の運転席周辺に
設ける場合の例について説明する。
【0224】
例えば図24(A)は、運転席と助手席にベンチシートを採用した自動車の室内を示し
ている。図24(A)では、ドア部に設けられた表示装置52A、ハンドルに設けられた
表示装置52B、ベンチシートの座面の中央部に設けられた表示装置52Cを図示してい
る。
【0225】
表示装置52Aには、例えば、車体に設けられた撮像装置からの画像を表示部に映し出
すことによって、ドアで遮られた視界を補完することができる。
【0226】
表示装置52Bおよび52Cは、車体に設けられた撮像装置からの画像の他、ナビゲー
ション情報、スピードメーターやタコメーター等のメーター、走行距離、給油量、ギア状
態、エアコンの設定など、その他様々な情報を提供することができる。また、表示装置に
表示される表示項目やレイアウトなどは、ユーザの好みに合わせて適宜変更することがで
きる。表示装置52Bおよび52Cは、照明装置として用いることも可能である。
【0227】
また図24(B)は、自動車の室内におけるフロントガラス周辺を表す図である。図2
4(B)では、ダッシュボードに取り付けられた表示装置53Aを図示している。
【0228】
表示装置53Aは、ナビゲーション情報、スピードメーターやタコメーター、走行距離
、給油量、ギア状態、エアコンの設定など、その他様々な情報を提供することができる。
また、表示装置に表示される表示項目やレイアウトなどは、ユーザの好みに合わせて適宜
変更することができ、デザイン性を高めることが可能である。表示装置53Aは、照明装
置として用いることも可能である。
【0229】
また表示装置53Aには、車体に設けられた撮像手段からの映像を映し出すことによっ
て、車体に遮られた視界(死角)を補完することができる。すなわち、自動車の外側に設
けられた撮像手段からの画像を表示することによって、死角を補い、安全性を高めること
ができる。また、見えない部分を補完する映像を映すことによって、より自然に違和感な
く安全確認を行うことができる。表示装置53Aは、照明装置として用いることも可能で
ある。
【0230】
<移動体の例>
移動体の例について説明する。
【0231】
本発明の一態様に係る表示システムは、自動車に限らず様々な移動体に用いることがで
きる。これら移動体の具体例を図25(A)乃至(C)に示す。
【0232】
図25(A)はバス302である。本発明の一態様に係る移動体は、バス302に用い
ることができる。表示システムはバス302の外部の画像を撮像し、視認する際の画像の
視認性を高めることができる。そのため、安全性が高められたバス302とすることがで
きる。
【0233】
図25(B)は電車303である。本発明の一態様に係る移動体は、電車303に用い
ることができる。表示システムは電車303の外部の画像を撮像し、視認する際の画像の
視認性を高めることができる。そのため、安全性が高められた電車303とすることがで
きる。
【0234】
図25(C)は飛行機304である。本発明の一態様に係る移動体は、飛行機304に
用いることができる。表示システムは飛行機304の外部の画像を撮像し、視認する際の
画像の視認性を高めることができる。そのため、安全性が高められた飛行機304とする
ことができる。
【0235】
<本明細書等の記載に関する付記>
本明細書等において、「第1」、「第2」、「第3」という序数詞は、構成要素の混同
を避けるために付したものである。従って、構成要素の数を限定するものではない。また
、構成要素の順序を限定するものではない。
【0236】
本明細書等において、ブロック図では、構成要素を機能毎に分類し、互いに独立したブ
ロックとして示している。しかしながら実際の回路等においては、構成要素を機能毎に切
り分けることが難しく、一つの回路に複数の機能が係わる場合や、複数の回路にわたって
一つの機能が関わる場合があり得る。そのため、ブロック図のブロックは、明細書で説明
した構成要素に限定されず、状況に応じて適切に言い換えることができる。
【0237】
なお図面において、同一の要素または同様な機能を有する要素、同一の材質の要素、あ
るいは同時に形成される要素等には同一の符号を付す場合があり、その繰り返しの説明は
省略する場合がある。
【0238】
本明細書等において、トランジスタの接続関係を説明する際、「ソース又はドレインの
一方」(又は第1電極、又は第1端子)、「ソース又はドレインの他方」(又は第2電極
、又は第2端子)と表記している。これは、トランジスタのソースとドレインは、トラン
ジスタの構造又は動作条件等によって変わるためである。なおトランジスタのソースとド
レインの呼称については、ソース(ドレイン)端子や、ソース(ドレイン)電極等、状況
に応じて適切に言い換えることができる。
【0239】
また、本明細書等において、電圧と電位は、適宜言い換えることができる。電圧は、基
準となる電位からの電位差のことであり、例えば基準となる電位をグラウンド電位(接地
電位)とすると、電圧を電位に言い換えることができる。グラウンド電位は必ずしも0V
を意味するとは限らない。なお電位は相対的なものであり、基準となる電位によっては、
配線等に与える電位を変化させる場合がある。
【0240】
本明細書等において、スイッチとは、導通状態(オン状態)、または、非導通状態(オ
フ状態)になり、電流を流すか流さないかを制御する機能を有するものをいう。または、
スイッチとは、電流を流す経路を選択して切り替える機能を有するものをいう。
【0241】
一例としては、電気的スイッチ又は機械的なスイッチなどを用いることができる。つま
り、スイッチは、電流を制御できるものであればよく、特定のものに限定されない。
【0242】
なお、スイッチとしてトランジスタを用いる場合、トランジスタの「導通状態」とは、
トランジスタのソースとドレインが電気的に短絡されているとみなせる状態をいう。また
、トランジスタの「非導通状態」とは、トランジスタのソースとドレインが電気的に遮断
されているとみなせる状態をいう。なおトランジスタを単なるスイッチとして動作させる
場合には、トランジスタの極性(導電型)は特に限定されない。
【0243】
本明細書等において、AとBとが接続されている、とは、AとBとが直接接続されてい
るものの他、電気的に接続されているものを含むものとする。ここで、AとBとが電気的
に接続されているとは、AとBとの間で、何らかの電気的作用を有する対象物が存在する
とき、AとBとの電気信号の授受を可能とするものをいう。
【符号の説明】
【0244】
10:表示システム、10A:表示システム、10B:表示システム、10C:表示シ
ステム、11:撮像装置、11A:撮像装置、12:特徴量出力回路、13:データベー
ス、14:画像処理回路、15:表示装置、16:撮像データ、17:特徴量データ、1
8:補正用データ、19:検出用データ、20:送受信回路、21:ネットワーク、22
:自動車、22A:自動車、23:データ処理回路、24:中継局、25:センサ、S1
1-S17:ステップ、S21-S26:ステップ、30:ニューラルネットワーク、3
1:入力層、32:中間層、33:出力層、34:フィルタ、35:畳み込みデータ、3
6:プーリングデータ、37:フィルタ、38:畳み込みデータ、39:プーリングデー
タ、40:全結合データ、41:出力データ、42:自動車、43:光源、44:照射方
向、45:撮像方向、46:レンズ、47:水滴、48:鮮明領域、49:不鮮明領域、
11_1-11_n:撮像装置、15_1-15_n:表示装置、S31-S34:ステ
ップ、18A:画像、19A:画像、17A:特徴量データ、51:画像データ、700
:表示装置、701:基板、702:画素部、703:デマルチプレクサ、704:ソー
スドライバ、705:基板、706:ゲートドライバ、708:FPC端子部、710:
信号線、711:配線部、712:シール材、716:FPC、730:絶縁膜、732
:封止膜、734:絶縁膜、736:着色膜、738:遮光膜、750:トランジスタ、
752:トランジスタ、760:接続電極、770:平坦化絶縁膜、772:導電膜、7
74:導電膜、775:液晶素子、776:液晶層、778:構造体、780:異方性導
電膜、782:発光素子、784:導電膜、786:EL層、788:導電膜、790:
容量素子、52A-52C:表示装置、53A:表示装置、302:バス、303:電車
、304:飛行機
図1
図2
図3
図4
図5
図6
図7
図8
図9
図10
図11
図12
図13
図14
図15
図16
図17
図18
図19
図20
図21
図22
図23
図24
図25
【手続補正書】
【提出日】2024-06-14
【手続補正2】
【補正対象書類名】特許請求の範囲
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【特許請求の範囲】
【請求項1】
表示システムを有する移動体であって、
前記表示システムは、
撮像装置、特徴量出力回路、送受信回路と、画像処理回路及び表示装置、を有し、
前記撮像装置は、撮像データを取得する機能を有し、
前記特徴量出力回路は、前記撮像データから特徴量データを取得する機能を有し、
前記送受信回路は、前記移動体とは異なる場所に設けられたデータベースへ、前記特徴量データを送信する機能と、前記データベースから、前記特徴量データに対応する補正用データを受信する機能と、を有し、
前記画像処理回路は、前記撮像データのうち特徴量の抽出が困難な領域を前記補正用データをもとに補正して画像データとして出力する機能を有し、
前記表示装置は、前記画像データを表示部に表示する機能を有する移動体。
【請求項2】
表示システムを有する移動体であって、
前記表示システムは、
撮像装置、特徴量出力回路、データベースと、画像処理回路及び表示装置、を有し、
前記撮像装置は、撮像データを取得する機能を有し、
前記特徴量出力回路は、前記撮像データから特徴量データを取得する機能を有し、
前記データベースは、前記特徴量データに対応する補正用データを出力する機能を有し、
前記画像処理回路は、前記撮像データのうち特徴量の抽出が困難な領域を前記補正用データをもとに補正して画像データとして出力する機能を有し、
前記表示装置は、前記画像データを表示部に表示する機能を有する移動体。
【請求項3】
請求項1又は請求項2において、
前記表示部は、ルームミラーとしての機能を有する移動体。
【手続補正書】
【提出日】2024-07-18
【手続補正1】
【補正対象書類名】特許請求の範囲
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【特許請求の範囲】
【請求項1】
表示システムを有する移動体であって、
前記表示システムは、
撮像装置、特徴量出力回路、送受信回路と、画像処理回路及び表示装置、を有し、
前記撮像装置は、撮像データを取得する機能を有し、
前記特徴量出力回路は、前記撮像データから特徴量データを取得する機能を有し、
前記送受信回路は、前記移動体とは異なる場所に設けられたデータベースへ、前記特徴量データを送信する機能と、前記データベースから、前記特徴量データに対応する補正用データを受信する機能と、を有し、
前記画像処理回路は、前記撮像データのうち特徴量の抽出が困難な領域を前記補正用データをもとに補正して画像データとして出力する機能を有し、
前記表示装置は、前記画像データを表示部に表示する機能を有する移動体。
【請求項2】
表示システムを有する移動体であって、
前記表示システムは、
撮像装置、特徴量出力回路、データベースと、画像処理回路及び表示装置、を有し、
前記撮像装置は、撮像データを取得する機能を有し、
前記特徴量出力回路は、前記撮像データから特徴量データを取得する機能を有し、
前記データベースは、前記特徴量データに対応する補正用データを出力する機能を有し、
前記画像処理回路は、前記撮像データのうち特徴量の抽出が困難な領域を前記補正用データをもとに補正して画像データとして出力する機能を有し、
前記表示装置は、前記画像データを表示部に表示する機能を有する移動体。
【請求項3】
請求項1又は請求項2において、
前記表示部は、ルームミラーとしての機能を有する移動体。
【請求項4】
請求項1乃至請求項3のいずれか一において、
前記表示装置は、発光素子と、トランジスタとを有し、
前記トランジスタは、チャネル形成領域に酸化物半導体を有し、
前記酸化物半導体は、酸化インジウムを有する移動体。