特許第6983952号(P6983952)IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ 華邦電子股▲ふん▼有限公司の特許一覧

<>
  • 特許6983952-人工知能操作用のメモリ装置 図000002
  • 特許6983952-人工知能操作用のメモリ装置 図000003
  • 特許6983952-人工知能操作用のメモリ装置 図000004
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B1)
(11)【特許番号】6983952
(24)【登録日】2021年11月26日
(45)【発行日】2021年12月17日
(54)【発明の名称】人工知能操作用のメモリ装置
(51)【国際特許分類】
   G11C 5/02 20060101AFI20211206BHJP
   G06F 12/00 20060101ALI20211206BHJP
   G06N 3/063 20060101ALI20211206BHJP
   G11C 7/10 20060101ALI20211206BHJP
【FI】
   G11C5/02 100
   G06F12/00 560F
   G06N3/063
   G11C7/10 150
【請求項の数】7
【外国語出願】
【全頁数】10
(21)【出願番号】特願2020-116793(P2020-116793)
(22)【出願日】2020年7月7日
【審査請求日】2020年7月7日
(73)【特許権者】
【識別番号】512167426
【氏名又は名称】華邦電子股▲ふん▼有限公司
【氏名又は名称原語表記】Winbond Electronics Corp.
(74)【代理人】
【識別番号】100147485
【弁理士】
【氏名又は名称】杉村 憲司
(74)【代理人】
【識別番号】230118913
【弁護士】
【氏名又は名称】杉村 光嗣
(74)【代理人】
【識別番号】100134577
【弁理士】
【氏名又は名称】石川 雅章
(72)【発明者】
【氏名】朴 山河
【審査官】 後藤 彰
(56)【参考文献】
【文献】 特開2007−206849(JP,A)
【文献】 特開2012−079386(JP,A)
【文献】 特開平03−250244(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
G11C 5/02
G06F 12/00
G06N 3/063
G11C 7/10
(57)【特許請求の範囲】
【請求項1】
互いに電気的に結合された複数のサブアレイと、
前記サブアレイの少なくとも1つの行を制御するための行コントローラと、
前記サブアレイの少なくとも1つの列を制御するための列コントローラと、
データアクセス動作中に使用可能にされる前記サブアレイにそれぞれ適合された複数の検知増幅器と、
前記サブアレイにそれぞれ隣接して配置され,前記サブアレイに対応する駆動信号を供給する複数のサブワードラインドライバと、
前記サブアレイに配置され,データアクセス操作を実行するための複数の論理回路と、を備え
前記サブアレイが第1部サブアレイ及び第2部サブアレイに分割され,
前記第1部サブアレイ及び前記第2部サブアレイが順次に配置されており,
前記論理回路が第1論理回路,第2論理回路及び第3論理回路を備え,
前記第1の論理回路が列方向で前記第1部サブアレイに隣接して配置され,前記第2論理回路が列方向で前記第1論理回路及び前記第2論理回路の間に配置され,前記第3論理回路が列方向で前記第2部サブアレイに隣接して配置される,メモリ装置。
【請求項2】
請求項1に記載のメモリ装置であって,前記サブアレイは,前記第1部サブアレイ,前記第2部サブアレイ,第3部サブアレイ及び第4部サブアレイに分割され,
前記第1部サブアレイ,前記第2部サブアレイ,前記第3部サブアレイ及び前記第4部サブアレイは,順次に配置されている,メモリ装置。
【請求項3】
請求項2に記載のメモリ装置であって,前記論理回路は,前記第1論理回路,前記第2論理回路,前記第3論理回路,第4論理回路及び第5論理回路を備え,
前記第1論理回路が列方向で前記第1部サブアレイに隣接して配置され,前記第2論理回路が列方向で前記第1部サブアレイ及び前記第2部サブアレイの間に配置され,前記第3論理回路が列方向で前記第2部サブアレイ及び前記第3部サブアレイの間に配置され,前記第4論理回路が列方向で前記第3部サブアレイ及び前記第4部サブアレイの間に配置され,前記第5論理回路が列方向で前記第4部サブアレイに隣接して配置される,メモリ装置。
【請求項4】
請求項1に記載のメモリ装置であって,前記サブアレイ内におけるデータアクセス動作は,前記サブアレイに格納されたデータを,前記サブアレイに隣接して配置された前記論理回路により論理計算することによって実行される,メモリ装置。
【請求項5】
請求項1に記載のメモリ装置であって、
前記サブアレイの各々からのデータアクセス操作を実行し,かつ,データを前記サブアレイ内に配置された複数の論理回路に転送するように構成された複数のローカルデータラインを更に備える,メモリ装置。
【請求項6】
請求項1に記載のメモリ装置であって,前記データアクセス操作は,読み取り操作,又は書き込み操作,又は読み取り及び計算操作,又は読み取り及び書き戻し操作,又はメモリ装置内の別のアドレスへの読み取り及び書き込み操作である,メモリ装置。
【請求項7】
請求項1に記載のメモリ装置であって,前記論理回路はMACである,メモリ装置。
【発明の詳細な説明】
【技術分野】
【0001】
本開示は,メモリ装置に関し,より詳細にはメモリ装置における機能(FIM)に関する。
【背景技術】
【0002】
今日,人工知能AIや機械学習アプリケーションの分野では,メモリ装置が広く使用されている。これらのアプリケーションにおいて,コントローラ及びメモリ装置の間のデータ移動は,低速であって高電力消費を引き起こす。これは,データが配線又は基板(RDL)を介してアクセスする場合があり,従って帯域幅が基板(RDL)における配線及び配線数によって制限されるからである。コントローラ及びメモリ装置の間におけるデータ移動は,メモリ装置に格納されたデータを計算し,そのデータを中間データとして格納することによって実行される。データ移動により,メモリ装置の帯域幅に大きなオーバーヘッドが発生し,メモリ装置の性能が低下する。
【0003】
一例として,図1に示す従来のメモリ装置のブロック図を参照する。従来のメモリ装置100は,複数のメモリセル110を含む。各メモリセル110は,複数のサブアレイ150に区分される。各メモリセル110は,行アドレスデコーダ120,列アドレスデコーダ130,複数のサブワードラインドライバ(SWD)151,複数の検知増幅器(SA)152及び論理回路170を更に含んでおり,MACとしても既知である。
【0004】
サブアレイ150は,対応するサブワードドライバ151及び検知増幅器152に結合される。
【0005】
データ移動操作としても既知のデータアクセス操作の間,メモリ装置内のデータにアクセスするように構成される。
データアクセス操作は,各サブアレイ150からのデータに対して,対応する検知増幅器152により,各検知増幅器152からの複数のローカルデータ線LDQを介してアクセスすることによって実行される。各列に配置されたサブアレイ150からのデータアクセスは,複数のメインデータラインMDQを介して行われ,これはグローバルI/O GIOとも呼ばれる。なお,各検知増幅器152の間には,複数のスイッチ156が設けられている。スイッチ156は,データアクセス動作時に,メインデータラインMDQとローカルデータラインLDQとの間でデータを転送する。
【0006】
一例として,72個のサブアレイ150が9×8,即ち9行8列に配置されたメモリセル110の場合について説明する。
【0007】
データアクセス動作中,各列からの9ビットのデータは,各検知増幅器152に対応するローカルデータラインLDQを介してメインデータラインMDQを介してアクセスされ,
メモリセル110からのデータはメモリセル110の外側に配置された論理回路170により論理的に計算される。
具体的には,メモリセル110内の全てのサブアレイにアクセスするため,メインデータラインMDQは,データアクセス動作中にデータにアクセスするように使用される。言い換えれば,サブアレイ150の8列に対応する8本のメインデータラインMDQが使用されて,メモリセル110の72ビットデータにアクセス可能とされている。ローカルデータラインLDQは,メインデータラインMDQよりも短いことに留意されたい。データアクセス操作中,各9ビットデータは長いメインデータラインMDQを介してアクセスされる。その結果,消費電力が増加し,メモリ装置の帯域幅のオーバーヘッドが増加する。これに加えて,データライン増幅器は,主データ線MDQのそれぞれに適合され,長いデータ線を介してデータにアクセスする構成とされている。
【0008】
メモリ装置における帯域幅のオーバーヘッドと,増大する電力消費を克服する必要性に鑑み,この技術分野の特定のアプリケーションに対して,データ帯域幅が広く,電力消費の少ないメモリ装置の機能を開発することが望ましい。
【発明の概要】
【発明が解決しようとする課題】
【0009】
従って,本発明は,人工知能動作のためにデータ帯域幅が広く,電力消費がより少ないメモリ装置を提供するものである。
【課題を解決するための手段】
【0010】
本開示のメモリ装置は,複数のサブアレイ,行コントローラ,列コントローラ,複数の検知増幅器,複数のサブワードラインドライバ及び複数の論理回路を含む。各サブアレイは,互いに電気的に結合される。行コントローラは,サブアレイの少なくとも1つの行を制御するように構成される。列コントローラは,サブアレイの少なくとも1つの列を制御するように構成される。検知増幅器は,データアクセス動作中に有効にされるサブアレイのそれぞれに適合される。サブワードラインドライバは,各サブアレイに隣接して配置され,サブアレイに対応する駆動信号を供給する。複数の論理回路は,サブアレイに配置され,データアクセス動作を実行するように構成される。
【発明の効果】
【0011】
上記の構成に基づき,本開示の実施形態では,サブアレイ内の複数の論理回路を採用することにより,サブアレイからのより多くのビットを同時に計算することができ,それによってメモリ装置における機能を実行する。これに加えて,メインデータラインMDQの代わりにローカルデータラインLDQを使用してデータアクセス操作中にデータにアクセスすることにより,データアクセス操作中におけるメモリ装置の電力消費が低減される。更に,データアクセス動作中に,メインデータラインMDQの代わりにローカルデータラインLDQを使用することにより,データライン増幅器が回避され,したがって,電力消費が一層低減される。
【0012】
上述した事項をより理解し易くするため,以下,図面に示される幾つかの実施形態について詳述する。
【図面の簡単な説明】
【0013】
添付図面は,本開示の更なる理解を可能とするために含まれており,本明細書に組み込まれてその一部を構成するものである。図面は,本開示の例示的な実施形態を示し,明細書と共に本開示に係る原理の説明に資するものである。
図1】従来のメモリ装置を示すブロック図である。
図2】本開示の例示的な一実施形態に係るメモリ装置のブロック図である。
図3】本開示の例示的な一実施形態に係るメモリ装置のブロック図である。
【発明を実施するための形態】
【0014】
図2は,本開示の例示的な実施形態に係るメモリ装置のブロック図である。図2を参照すると,メモリ装置200は,複数のメモリセル210を含む。各メモリセル210は,複数のサブアレイ250に区分される。各メモリセル210におけるサブアレイ250の数は,メモリ装置200の密度に従って決定される。
【0015】
メモリ装置200は,揮発性メモリ装置及び/又は不揮発性メモリ装置で構成することができる。すなわち,本開示において,メモリ装置200の形式は限定されるものではない。メモリ装置200は,複数のメモリセルを含み,典型的には各メモリセル毎に8個ないし72個のサブアレイを含む。
【0016】
各メモリセル210は,行アドレスデコーダ220,行コントローラ225,列アドレスデコーダ230,列コントローラ235,複数のサブワードラインドライバ(SWD)251,複数の検知増幅器(SA)252及び複数の論理回路270を更に含む。
【0017】
サブアレイ250は,複数のサブワードラインドライバ251及び検知増幅器252に結合される。言い換えると,各サブアレイは,少なくとも1つのサブワードラインドライバ251と,1つの検知増幅器252を含む。サブワードラインドライバ251は,サブアレイ250の両側に隣接して配置され,サブアレイ250に対応する駆動信号を供給するように構成される。サブアレイ250は,内部データバスによって内部接続される。サブアレイ250間におけるデータ移動及び/又はデータアクセス操作は,内部データバスによって実行される。
【0018】
サブアレイ250は,第1部サブアレイ250−1,第2部サブアレイ250−2,第3部サブアレイ250−3及び第4部サブアレイ250−4に分割される。第1部サブアレイ250−1,第2部250−2,第3部サブアレイ250−3及び第4部サブアレイ250−4は,順次に配置されていることに留意されたい。
【0019】
行コントローラ225及び列コントローラ235は,アドレスレジスタ(図示せず)から制御信号を受信して,サブアレイ250に対応するデータにアクセスすることができる。行コントローラ225は,サブアレイ250の行を制御するように構成される。同様に,列コントローラ235は,サブアレイ250の列を制御するように構成される。本開示におけるアクセスデータは,読み取り操作,書き込み操作及び/又はバックアップ操作を指す。すなわち,本開示におけるアクセスデータの機能は,限定されるものではない。データにアクセスするためのアドレスレジスタからの制御信号に基づいて,行コントローラ225は,行制御信号を行アドレスデコーダ220に供給する。他方,列コントローラ235は,列制御信号を列アドレスデコーダ230に供給する。
【0020】
行アドレスデコーダ220は,各メモリセル210に関連付けられ,メモリセル210における少なくとも1つの行を選択するように構成される。同様に,列アドレスデコーダ230は,各メモリセル210に関連付けられ,メモリセル210における少なくとも1つの列を選択するように構成される。
【0021】
検知増幅器252は,各サブアレイ250に適合される。検知増幅器252は,サブアレイ250におけるデータアクセス動作中に有効化/無効化される。
【0022】
MAC270としても既知である複数の論理回路が,サブアレイ250内に配置される。論理回路270は,データアクセス操作を実行するように構成される。具体的には,サブアレイ250の各対間には列方向に1つの論理回路が配置され,サブアレイ250の列方向縁部の両側に1つの論理回路が配置される。言い換えれば,この配列により,少なくとも1つの論理回路270が,各サブアレイ250に対して列方向で隣接して配置される。
【0023】
論理回路270は,第1論理回路270−1,第2論理回路270−2,第3論理回路270−3,第4論理回路270−4及び第5論理回路270−5を含む。第1論理回路270−1は,列方向において第1部サブアレイ250−1に隣接して配置される。第2論理回路270−2は,列方向において第1部サブアレイ250−1と第2部サブアレイ250−2との間に配置される。第3論理回路270−3は,列方向において,第2部サブアレイ250−2と第3部サブアレイ250−3との間に配置される。第4論理回路270−4は,列方向において,第3部サブアレイ250−3と第4部サブアレイ250−4との間に配置される。第5論理回路270−5は,列方向において第4部サブアレイ250−4に隣接して配置される。
【0024】
サブアレイ250の部数がnである場合,メモリ装置200内における論理回路270の数は,n+1であり,ここにnは正の整数であることに留意されたい。
【0025】
サブアレイ250内におけるデータアクセス操作は,サブアレイ250に格納されたデータを論理回路270により論理計算することによって実行される。言い換えれば,論理計算を実行するためにサブアレイ250内に論理回路270を配置するは,メモリ装置200における機能として既知である。
【0026】
データアクセス動作は,読み出し操作,書き込み操作,読み出し及び計算操作,読み出し及び書き戻し操作,メモリ装置200内における別のアドレス動作への読み出し及び書き込み操作を含む。
【0027】
各サブアレイ250に隣接して,複数の論理回路270のうちの少なくとも1つの論理回路が配置されることに留意されたい。言い換えると,各サブアレイ250におけるデータアクセス操作は,複数の論理回路270のうち,列方向において各サブアレイ250に隣接して配置される少なくとも1つの論理回路によって実行される。具体的には,一対のサブアレイ250の間に少なくとも1つの論理回路270が配置され,サブアレイ250の列方向の両側に少なくとも1つの論理回路270が配置される。言い換えれば,サブアレイ250からのデータは,各検知増幅器252からの複数のローカルデータラインLDQを介して,対応する検知増幅器252により直接アクセスされるものである。
【0028】
一例として,メモリセル110には,72個のサブアレイが9×8に配置されている。すなわち,サブアレイ250の配置は9行8列である。
【0029】
幾つかの実施形態では,メモリセル110の行数(M)及び列数(N)はM×Nとして表され,M及びNは正の整数値である。M及びNの値は,メモリセル110内におけるサブアレイ250の数に従って決定される。
【0030】
データアクセス操作の間,各サブアレイ250からの4ビットデータは,ローカルデータラインLDQを介して対応する検知増幅器252によりアクセスされ,論理回路270は,メモリセル210内におけるデータの論理計算を実行する。
【0031】
上記に基づき,ローカルデータ線LDQを用いて論理回路でサブアレイにアクセスするデータアクセス操作の間,メインデータ線MDQを介してサブアレイにおけるデータにアクセスする場合と比較して,消費電力が少ない。ローカルデータラインLDQを直接使用して論理回路によりデータにアクセスすれば,データアクセス操作中により多くのデータを同時に計算することができる。これに加えて,データアクセス操作の間,メインデータラインMDQの代わりにローカルデータラインLDQを使用することにより,データライン増幅器が回避され,従ってメモリ装置の電力消費が一層低減される。
【0032】
図3は,本開示の例示的な実施形態に係るメモリ装置のブロック図である。メモリ装置300は,複数のメモリセル310を含む。各メモリセル310は,複数のサブアレイ350に区分される。各メモリセル310におけるサブアレイ350の数は,メモリ装置300の密度に従って決定される。
【0033】
各メモリセル310は,行アドレスデコーダ320,行コントローラ325,列アドレスデコーダ330,列コントローラ335,複数のサブラインワードドライバ(SWD)351,複数の検知増幅器(SA)352及び複数の論理回路370を更に含む。
【0034】
メモリセル310は,図2に示した複数のメモリセル210とそれぞれ同様である点に留意されたい。従って,メモリ装置300におけるメモリセル310の詳細な説明は省略する。
【0035】
検知増幅器352は,各サブアレイ350に適合されている。検知増幅器352は,サブアレイ350におけるデータアクセス操作中に有効化/無効化される。
【0036】
サブアレイ350は,第1部サブアレイ350−1及び第2部サブアレイ350−2に区分される。第1部サブアレイ350−1及び第2部サブアレイ350−2は,順次に配置される。サブアレイ350には,MACとしても既知の複数の論理回路370が配置される。論理回路370は,データアクセス操作を実行するように構成される。具体的には,複数の論理回路370のうちの1つの論理回路がサブアレイ350の中央に配置され,複数の論理回路370のうちの1つの論理回路がサブアレイ350の列方向の縁部の各側に配置される。
【0037】
論理回路370は,第1論理回路370−1,第2論理回路370−2及び第3論理回路370−3を含む。第1論理回路370−1は,列方向において第1部サブアレイ350−1に隣接して配置される。第2論理回路370−2は,列方向において第1部サブアレイ350−1と第2部サブアレイ350−2との間に配置される。第3論理回路370−3は,列方向において第2部サブアレイ350−2に隣接して配置される。
【0038】
サブアレイ350の部数がnである場合,メモリ装置300における論理回路370の数はn+1であり,ここにnは正の整数であることに留意されたい。
【0039】
サブアレイ350のデータアクセス操作は,サブアレイ350に格納されたデータを論理計算することによって,論理回路370によって実行される。言い換えると,サブアレイ350内に論理回路370を配置することにより,メモリ装置300の機能としてる論理計算を実行する。
【0040】
各サブアレイ350におけるデータアクセス操作は,列方向において,少なくとも1つの論理回路370をサブアレイ350の中央に配置し,少なくとも1つの論理回路をサブアレイ350の各側に配置することによって実行される。
【0041】
データアクセス操作は,読み出し操作,書き込み操作,読み出し及び計算操作,読み出し及び書き戻し操作,メモリ装置300における別のアドレスに対する読み出し及び書き込み操作を含む。
【0042】
詳細には,サブアレイ350からのデータは,各検知増幅器352からの複数のローカルデータラインLDQを介して,対応する検知増幅器352によって直接アクセスされる。
【0043】
一例として,9×8に配列された72個のサブアレイを有するメモリセル110の場合,すなわちサブアレイ350が9行8列で配置される場合,データアクセス操作の間,サブアレイ350の各対からの8ビットデータ,すなわち各サブアレイ350からの4ビットデータは,ローカルデータラインLDQを介して対応する検知増幅器352によりアクセスされ,論理回路370はメモリセル310のデータの論理計算を実行する。
【0044】
上記に基づき,ローカルデータ線LDQを用いて論理回路でサブアレイにアクセスするデータアクセス操作では,メインデータ線MDQを介してサブアレイのデータにアクセスする場合と比較して,消費電力が少ない。ローカルデータラインLDQを直接使用して論理回路によりデータにアクセスすれば,データアクセス操作中により多くのデータを同時に計算することができる。これに加えて,データアクセス操作に,メインデータラインMDQの代わりにローカルデータラインLDQを使用すれば,データライン増幅器が回避され,従ってメモリ装置の電力消費が更に低減される。この配列は,論理回路370をサブアレイ350の中央に配置するものであり,列方向において各サブアレイ350に対して少なくとも1つの論理回路370を隣接させて配置する場合よりも少数のローカルデータラインLDQが使用され,それにより消費電力が更に低減される。すなわち,各サブアレイ350に隣接させて少なくとも1つの論理回路370を配置する場合と比較して,50%の消費電力削減が可能である。論理回路をサブアレイの中央に配置すれば,列方向において各サブアレイに少なくとも1つの論理回路を隣接させて配置する場合と比較してデータラインLDQの数を減少させ,メモリ装置の電力消費を更に低減することができる。
【0045】
要約すると,本開示の実施形態において,メモリセル内のデータアクセス動作は,サブアレイに配置されたローカルデータラインLDQを介して複数の論理回路を使用することによって実行され,より多くのデータに対する同時アクセスが可能である。これに加えて,ローカルデータラインLDQが短いため,データアクセス操作時の消費電力が低減される。更に,サブアレイ内のデータにアクセスするためにメインデータラインMDQを回避することにより,メモリ装置におけるデータアクセス操作中に長いメインデータラインMDQを増幅するためのデータライン増幅器が不要になり,これによってメモリ装置の消費電力が一層低減される。
【0046】
本開示の範囲又は精神から逸脱することなく,開示された実施形態について様々な修正及び変更が可能であることは,当業者には明らかである。すなわち,本開示は,以下の特許請求の範囲及びその均等範囲に含まれる限度で行われる修正及び変形を網羅することを意図するものである。
【産業上の利用可能性】
【0047】
本発明によれば,人工知能動作のために,データ帯域幅が広く,電力消費が少ないメモリ装置が提供される。
【符号の説明】
【0048】
100,200,300 記憶装置
110,210,310 メモリセル
120,220,320 行アドレスデコーダ
225,325 行アドレスコントローラ
130,230,330 列アドレスデコーダ
235,335 列アドレスコントローラ
150,250,350 サブアレイ
250−1,350−1 第1部サブアレイ
250−2,350−2 第2部サブアレイ
250−3 第3部サブアレイ
250−4 第4部サブアレイ
151,252,351 サブワードドライバ
152,252,352 検知増幅器
170,270,370 論理回路(MAC)
270−1,370−1 第1論理回路
270−2,370−2 第2論理回路
270−3,370−3 第3論理回路
270−4 第4論理回路
270−5 第5論理回路
SA 検知増幅器
LDQ ローカルデータライン
MDQ メインデータライン
【要約】      (修正有)
【課題】人工知能動作のためにデータ帯域幅が広く,電力消費がより少ないメモリ装置を提供する。
【解決手段】メモリ装置200は,複数のサブアレイ250−1〜250−4,行コントローラ,列コントローラ,複数の検知増幅器252,複数のサブワードラインドライバ251及び複数の論理回路270−1〜270−5を含む。各サブアレイは,互いに電気的に結合される。行コントローラは,サブアレイの少なくとも1つの行を制御する。列コントローラは,サブアレイの少なくとも1つの列を制御する。検知増幅器は,データアクセス操作の間に有効とされるサブアレイのそれぞれに適合される。サブワードラインドライバは,各サブアレイに隣接して配置され,サブアレイに対応する駆動信号を供給する。複数の論理回路がサブアレイに配置され,データアクセス操作を実行する。
【選択図】図2
図1
図2
図3