(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2024028937
(43)【公開日】2024-03-05
(54)【発明の名称】高密度低バンド幅メモリと低密度高バンド幅メモリを組み合わせたメモリシステム
(51)【国際特許分類】
G06F 12/00 20060101AFI20240227BHJP
G11C 5/04 20060101ALI20240227BHJP
H01L 25/07 20060101ALI20240227BHJP
【FI】
G06F12/00 550K
G11C5/04 220
H01L25/08 C
【審査請求】有
【請求項の数】20
【出願形態】OL
【外国語出願】
(21)【出願番号】P 2023208341
(22)【出願日】2023-12-11
(62)【分割の表示】P 2022172887の分割
【原出願日】2017-03-06
(31)【優先権主張番号】62/355,012
(32)【優先日】2016-06-27
(33)【優先権主張国・地域又は機関】US
【公序良俗違反の表示】
(特許庁注:以下のものは登録商標)
1.VERILOG
(71)【出願人】
【識別番号】503260918
【氏名又は名称】アップル インコーポレイテッド
【氏名又は名称原語表記】Apple Inc.
【住所又は居所原語表記】One Apple Park Way,Cupertino, California 95014, U.S.A.
(74)【代理人】
【識別番号】100094569
【弁理士】
【氏名又は名称】田中 伸一郎
(74)【代理人】
【識別番号】100103610
【弁理士】
【氏名又は名称】▲吉▼田 和彦
(74)【代理人】
【識別番号】100067013
【弁理士】
【氏名又は名称】大塚 文昭
(74)【代理人】
【識別番号】100139712
【弁理士】
【氏名又は名称】那須 威夫
(74)【代理人】
【識別番号】100121979
【弁理士】
【氏名又は名称】岩崎 吉信
(72)【発明者】
【氏名】ビスワス スカルパ
(72)【発明者】
【氏名】ネマティ ファリド
(57)【要約】 (修正有)
【課題】DRAMを含む電子システムを改良する。
【解決手段】メモリシステム10は、少なくとも1つの特性が異なる、少なくとも2つのタイプのDRAMを含む。例えば、第1のタイプのDRAM16A~16Dは高密度DRAMであってよく、第2のタイプのDRAM18は、第1のDRAMタイプよりも低い密度を有するが、より低いレイテンシ及びより高いバンド幅も有する。第1のタイプのDRAMは1つ以上の第1の集積回路にあってよく、第2のタイプのDRAMは1つ以上の第2の集積回路にあってよい。第1の集積回路と第2の集積回路はスタックにおいて互いに接続することができる。第2の集積回路は、他の回路(例えば、システムオンチップ(SOC)など、メモリコントローラを有する集積回路)に接続するために物理層回路(PHY60B)を含み、PHY60Bは、第1の集積回路のDRAMによって共有することができる。
【選択図】
図1
【特許請求の範囲】
【請求項1】
第1のタイプのダイナミックランダムアクセスメモリ(DRAM)を含む少なくとも1つの第1の集積回路と、
第2のタイプのDRAMを含む少なくとも1つの第2の集積回路であって、前記第2のタイプのDRAMは前記第1のタイプのDRAMよりも低密度であり、前記第2のタイプのDRAMへのアクセスはエネルギー消費が前記第1のタイプのDRAMへのアクセスよりも小さい、少なくとも1つの第2の集積回路と、
前記第2の集積回路と共にパッケージングされた第3の集積回路であって、前記第1の集積回路と前記第3の集積回路との間の接続と比較して、前記第3の集積回路と前記第2の集積との間の接続の長さ及びキャパシタンスを低減しており、前記メモリへのアクセスを制御するように構成されているメモリコントローラを含む第3の集積回路と、
を備えるシステム。
【請求項2】
前記第2の集積回路は、前記第1のタイプのDRAM及び前記第2のタイプのDRAMを含み、前記メモリのために通信するように構成されている物理層回路を備える、請求項1に記載のシステム。
【請求項3】
前記第1のタイプの複数のDRAMを含む複数の前記第1の集積回路を更に備える、請求項1に記載のシステム。
【請求項4】
前記複数の第1の集積回路は、シリコン貫通電極(TSV)相互接続によりスタックにおいて接続されている、請求項3に記載のシステム。
【請求項5】
前記複数の第1の集積回路の前記スタックは前記第2の集積回路に接続されており、前記TSV相互接続は前記第2の集積回路の物理層回路に接続されている、請求項3に記載のシステム。
【請求項6】
前記第2のDRAMは前記物理層回路に接続されており、
前記物理層回路は、前記第3の集積回路への複数の前記第1のDRAMのための通信線、及び前記第3の集積回路への前記第2のDRAMのための通信線を含む、請求項5に記載のシステム。
【請求項7】
前記第2の集積回路及び前記第3の集積回路は、チップオンウエハパッケージング技術を使用してパッケージングされている、請求項1に記載のシステム。
【請求項8】
前記第2の集積回路及び前記第3の集積回路は、ウエハオンウエハパッケージング技術を使用してパッケージングされている、請求項1に記載のシステム。
【請求項9】
前記第2の集積回路及び前記第3の集積回路は、チップオンチップパッケージング技術を使用してパッケージングされている、請求項1に記載のシステム。
【請求項10】
前記第1の集積回路は、前記第2の集積回路及び前記第3の集積回路のパッケージ上に積層されている、請求項1に記載のシステム。
【請求項11】
前記第1の集積回路は、前記第2の集積回路及び前記第3の集積回路を含む前記パッケージを用いたパッケージオンパッケージ構成でパッケージングされている、請求項10に記載のシステム。
【請求項12】
前記第1の集積回路は、前記第1の集積回路及び前記第2の集積回路を含む前記パッケージの側面に配置されている、請求項1に記載のシステム。
【請求項13】
前記第1の集積回路は複数の第1の集積回路のうちの1つであり、前記複数の第1の集積回路は、前記第2の集積回路及び前記第3の集積回路を含む前記パッケージの複数の側面に配置されている、請求項1に記載のシステム。
【請求項14】
前記メモリコントローラは、複数のDRAM、前記第1のタイプのDRAMからのデータを、前記第2のタイプのDRAMの少なくとも1つの第2のDRAMにキャッシュするように構成されている、請求項1に記載のシステム。
【請求項15】
前記第2のタイプのDRAMは、1ビット線当たりで前記第1のタイプのDRAMよりも少ないメモリセルを含む、請求項1に記載のシステム。
【請求項16】
前記第2のタイプのDRAMは、1ワード線当たりで前記第1のタイプのDRAMよりも少ないメモリセルを含む、請求項1に記載のシステム。
【請求項17】
前記第2のタイプのDRAMは、前記第1のタイプのDRAMよりも少ないバンクを含む、請求項1に記載のシステム。
【請求項18】
前記第2のタイプのDRAMは、前記第1のタイプのDRAMよりも多くのバンクを含む、請求項1に記載のシステム。
【請求項19】
前記第2のタイプのDRAMは、前記第1のタイプのDRAMよりも4倍~16倍低密度である、請求項1に記載のシステム。
【請求項20】
前記第2のタイプのDRAMは、前記第1のタイプのDRAMよりも6倍~8倍低密度である、請求項19に記載のシステム。
【請求項21】
前記第1のタイプのDRAMへの所定のアクセスは、前記第1の集積回路への第1のインタフェースを介した複数のコマンドを含み、
前記第2のタイプのDRAMへの所定のアクセスは、前記第2の集積回路への第2のインタフェースを介した単一のコマンドを含む、請求項1に記載のシステム。
【請求項22】
少なくとも1つの第1の集積回路に第1のタイプのダイナミックランダムアクセスメモリ(DRAM)を含み、少なくとも1つの第2の集積回路に第2のタイプのDRAMを含むメモリであって、前記第1のタイプのDRAM及び前記第2のタイプのDRAMは少なくとも1つの特性が異なり、前記第2の集積回路は第1の物理層回路を含む、メモリと、
前記メモリに接続されており、メモリコントローラ及び第2の物理層回路を含む第3の集積回路と、
を備えるシステムであって、
前記第1の物理層回路は、前記第2の物理層回路に接続されており、前記第1の集積回路及び前記第2の集積回路の両方のために前記第2の物理層回路と通信するように構成されている、システム。
【請求項23】
前記少なくとも1つの第1の集積回路はスタックにおける複数の集積回路であり、前記複数の集積回路は前記第1の物理層回路に接続されている、請求項22に記載のシステム。
【請求項24】
前記複数の集積回路は、前記第1の物理層回路への相互接続の一部分を形成しているシリコン貫通電極を含む、請求項23に記載のシステム。
【請求項25】
前記メモリコントローラは、前記第1のタイプのDRAMのためのキャッシュとして前記第2のタイプのDRAMを動作させるように構成されている、請求項22に記載のシステム。
【請求項26】
前記第2のタイプのDRAMは前記第1のタイプのDRAMよりも高いバンド幅を有する、請求項22に記載のシステム。
【請求項27】
前記第2のタイプのDRAMは前記第1のタイプのDRAMよりも低いレイテンシを有する、請求項22に記載のシステム。
【請求項28】
前記第1のタイプのDRAMは前記第2のタイプのDRAMよりも密度が高い、請求項22に記載のシステム。
【請求項29】
第1のタイプの第1のダイナミックランダムアクセスメモリ(DRAM)を含む1つ以上の第1の集積回路と、
スタックにおいて前記1つ以上の第1の集積回路に接続された第2の集積回路であって、第2のDRAMタイプの第2のDRAMを含み、前記第1のDRAM及び前記第2のDRAMのために通信するように構成されている物理層回路を更に含む第2の集積回路と、
を備えるメモリ。
【発明の詳細な説明】
【技術分野】
【0001】
本明細書で説明する実施形態は、ダイナミックランダムアクセスメモリ(dynamic random access memory、DRAM)を含む電子システムに関する。
【背景技術】
【0002】
DRAMが発展し続けるにつれて、DRAMの設計は、高バンド幅、大容量、及び低電力消費量(高いエネルギー効率)を有する高密度ストレージなどの、DRAMの理想的な目的が異なることにより複雑化している。密度/容量を改善する設計選択は、バンド幅を低減する(又は少なくとも増加させない)傾向を有する。バンド幅を増加させ得る設計選択は、容量及びエネルギー効率を低減する(又は少なくとも増加させない)傾向を有する。
【発明の概要】
【0003】
一実施形態では、メモリシステムは、少なくとも1つの特性が異なる少なくとも2つのタイプのDRAMを含むことができる。例えば、一方のDRAMタイプは高密度DRAMであってよく、一方、他方のDRAMタイプは、一方のDRAMタイプよりも低い密度を有するが、より低いレイテンシ及びより高いバンド幅も有することができる。第1のタイプのDRAMは1つ以上の第1の集積回路にあってよく、第2のタイプのDRAMは1つ以上の第2の集積回路にあってよい。2つのタイプのDRAM(例えば1つは高密度、及び1つは低レイテンシ、高バンド幅)を備えるメモリシステムを提供することにより、非常にエネルギー効率的な動作を可能にすることができ、それにより、消費されるエネルギー単位当たりのエネルギー効率及び性能が重要な属性であるポータブルデバイス及び他のデバイスに好適なメモリシステムを製作することができる。
【0004】
一実施形態では、第1の集積回路と第2の集積回路はスタックにおいて互いに接続することができる。第2の集積回路は、他の回路(例えば、システムオンチップ(SOC)など、メモリコントローラを有する集積回路)に接続するために物理層回路を含むことができ、この物理層回路は第1の集積回路のDRAMによって共有することができる。いくつかの実施形態では、このメモリを使用して高いエネルギー効率、大容量、及び低レイテンシを実現することができる。
以下の詳細な説明は、以下に簡単に記述する添付の図面を参照する。
【図面の簡単な説明】
【0005】
【
図1】メインメモリ及びキャッシュメモリへのメモリコントローラ及び物理層回路を有するシステムオンチップ(system on a chip、SOC)の一実施形態のブロック図である。
【
図2】キャッシュメモリからメインメモリへの別の物理層回路を備えるキャッシュメモリへのメモリコントローラ及び物理層回路を有するSOCの別の実施形態のブロック図である。
【
図3】キャッシュメモリへのメモリコントローラ及び物理層回路と、キャッシュメモリからメインメモリへの別の物理層回路を備えるメインメモリ及び別の物理層回路とを有する別の実施形態のブロック図である。
【
図4】一実施形態のためのシステムオンチップ(SOC)及びメモリを示すブロック図である。
【
図5】一実施形態のための1つ以上のキャッシュを含むSOC、及びSOC/キャッシュに接続されたメインメモリを示すブロック図である。
【
図6】一実施形態のためのSOC及び複数のメモリを示すブロック図である。
【
図7】一実施形態のための1つ以上のキャッシュを含むSOC、及び複数のメインメモリを示すブロック図である。
【
図8】パッケージオンパッケージ(package-on-package、POP)構成でメインメモリ及びキャッシュメモリを有するシステムの一実施形態のブロック図である。
【
図9】パッケージオンパッケージ(POP)構成でメインメモリ及びキャッシュメモリを有するシステムの別の実施形態のブロック図である。
【
図10】メインメモリ及びキャッシュメモリを有し、メインメモリが別々にパッケージングされたシステムの一実施形態のブロック図である。
【
図11】メインメモリ及びキャッシュメモリを有し、メインメモリが別々にパッケージングされたシステムの別の実施形態のブロック図である。
【
図12】キャッシュ及びメインメモリダイナミックランダムアクセスメモリ(DRAM)を含むシステムの一実施形態のブロック図である。
【
図13】本システムの別の実施形態のブロック図である。
【
図14】本システムのまた別の実施形態のブロック図である。
【発明を実施するための形態】
【0006】
この開示に記述する実施形態には、各種の変更形態及び代替形態の余地があり得るが、その具体的な実施形態を例として図面に示し、本明細書で詳細に説明する。しかし、図面及び図面に関する詳細な説明は、開示する特定の形態に実施形態を限定することを意図しておらず、むしろその意図は、添付の請求項の趣旨及び範囲に含まれる全ての変更形態、均等形態、及び代替形態を網羅することであることを理解されたい。本明細書において用いられる表題は、構成を目的とするに過ぎず、説明の範囲を制限するために用いることを意図していない。本出願を通して使用するとき、「~し得る、~してもよい(may)」という語は、義務的な意味(すなわち、~しなければならないことを意味する)ではなく、許容的な意味(すなわち、~する可能性を有することを意味する)で使用される。同様に、「含む(include、including、及びincludes)」という語は、「~を含むが、それに限定するものではないこと」を意味する。
【0007】
本開示内で、(「ユニット」、「回路」、他の構成要素などと様々に呼ばれることがある)様々なエンティティは、1つ以上のタスク又は動作を実施するように「構成されている(configured)」ものとして記述又は請求されることがある。[1つ以上のタスクを実施する]ように構成されている[エンティティ]というこの明確な語句は、本明細書では構造(すなわち、電子回路など、物理的なもの)を指すために使用される。より具体的には、この明確な語句は、この構造が動作中に1つ以上のタスクを実施するように配置されたことを示すために使用される。構造は、その構造が現在動作していない場合でも、何らかのタスクを実施する「ように構成されている」と述べられることがある。「出力クロック信号を生成するように構成されているクロック回路」は、例えば、当該の回路が現在使用されていない(例えば、その回路に電源が接続されていない)場合でも、動作中にこの機能を実施する回路を網羅することを意図している。このように、何らかのタスクを実施するように「構成されている」ものとして記述又は具陳されるエンティティは、そのタスクを実装するように実行可能なデバイス、回路、プログラム命令を記憶したメモリなど、物理的なものを指す。この句は、本明細書では無形のものを指すために使用されない。概して、「~ように構成されている」に対応する構造を形成する回路は、ハードウェア回路を含み得る。ハードウェア回路は、組み合わせ論理回路、フロップ、レジスタ、ラッチ等のクロックド記憶デバイス、有限状態マシン、スタティックランダムアクセスメモリ又は埋め込みダイナミックランダムアクセスメモリなどのメモリ、カスタム設計回路、アナログ回路、プログラマブル論理アレイなどの任意の組み合わせを含むことができる。同様に、種々のユニット/回路/構成要素は、説明を簡便にするために、タスク(単数又は複数)を実施するものとして述べられることがある。そのような説明は、「~ように構成されている」という語句を含むものとして解釈されるべきである。
【0008】
「~ように構成されている」という用語は、「~ように構成可能な」を意味することを意図していない。例えば、プログラムされていないFPGAは、何らかの特定の機能を実施する「ように構成可能」であり得るが、その機能を実施する「ように構成されている」とは見なされないであろう。適切なプログラミングの後に、FPGAは、その場合、その機能を実施するように構成され得る。
【0009】
1つ以上のタスクを実施するように構成されているユニット/回路/構成要素又は他の構造についての添付の請求項における記載は、その請求項要素について米国特許法第112条(f)の解釈を援用しないことを明示的に意図している。したがって、出願された本出願中の請求項のいずれも、ミーンズプラスファンクション要素を有するものとして解釈されることを意図していない。出願人が審査過程中に112条(f)を援用することを望む場合、それは、[機能を実施する]「ための手段」という構成体を使用して請求項要素を具陳することになる。
【0010】
一実施形態では、本開示によるハードウェア回路は、回路の記述を、Verilog又はVHDLなどのハードウェア記述言語(hardware description language、HDL)でコーディングすることによって実装されてもよい。HDL記述は、所与の集積回路製造技術のために設計されたセルのライブラリに対して合成されてもよく、タイミング、電力、及び他の理由のために修正されて、結果としてファウンドリに送信することができる最終設計データベースとなり、マスクを生成し、最終的に集積回路を製造することができる。いくつかのハードウェア回路又はその一部も、回路図エディタでカスタム設計して、合成された回路とともに集積回路設計に取り込むことができる。集積回路は、トランジスタを含んでもよく、他の回路素子(例えば、コンデンサ、抵抗、インダクタなどの受動素子)、及びトランジスタと回路素子との間の相互接続を更に含むことができる。いくつかの実施形態は、ハードウェア回路を実現するために一体的に接続された複数の集積回路を実装することができ、及び/又は、いくつかの実施形態では、個別素子を使用することができる。あるいは、HDL設計は、フィールドプログラマブルゲートアレイ(field programmable gate array、FPGA)などのプログラム可能な論理アレイに統合してもよく、FPGAに実装してもよい。
【0011】
本明細書で使用する「~に基づいて」又は「~に依存して」という用語は、判定に影響を及ぼす1つ以上の要因を記述するために使用される。この用語は、追加の要因が判定に影響を及ぼすことがある可能性を除外しない。すなわち、判定は、指定された要因のみに基づくか、又は、指定された要因並びに他の指定されていない要因に基づき得る。「Bに基づいてAを判定する」という句を検討する。この句により、Bは、Aを判定するために使用されるか又はAの判定に影響を及ぼす要因であることが指定される。この句は、Aの判定が、Cなど、何らかの他の要因にも基づき得ることを除外しない。この句は、AがBのみに基づいて判定される実施形態をも網羅することを意図している。本明細書で使用する「~に基づいて」という句は、「~に少なくとも部分的に基づいて」という句と同義である。
【0012】
本開示が特定の一実装形態を指すことを意図しておらず、むしろ、添付の請求項を含む、本開示の趣旨内に入る実施形態の範囲を指すことを意図していることを示すために、本明細書は様々な実施形態への言及を含む。特定の特徴、構造、又は特性は、本開示と一貫したいずれかの適切な方式で組み合わされてもよい。
【0013】
次に
図1を参照すると、メモリシステム10及び集積回路12を含むシステムの一実施形態のブロック図が示されている。図示の実施形態では、集積回路12はシステムオンチップ(SOC)であり、本開示における他の実施形態ではSOCを例として使用する。しかしながら、任意の集積回路を様々な実施形態で使用することができる。
図1の実施形態では、メモリ10は、複数のメインDRAMチップ(DRAM)16A~16D、及びキャッシュDRAM18を含む。メインDRAM16A~16Dは物理層回路(PHY)60Aを含み、キャッシュDRAM18はPHY60Bを含む。PHY60AはSOC12においてPHY60Cに接続され、PHY60BはSOC12においてPHY60Dに接続される。より具体的には、PHY60Cはメインメモリコントローラ(MC)ブロック28Aに接続してよく、PHY60Dはキャッシュコントローラブロック(CC)28Bに接続してよく、それらの両方は
図1においてメモリコントローラ28(Mem)の一部であってよい。
【0014】
メモリシステム10は2つの異なるタイプのDRAMを含むことができ、それらのDRAMについて、SOC12のメモリコントローラ28は、メインDRAM16A~16D及びキャッシュDRAM18を独立して制御することができる。メインDRAM16A~16DとキャッシュDRAM18との組み合わせは、SOC12のメモリエージェントに高バンド幅を提供し、全体的に大きい記憶容量及び低電力をも提供することができる。記憶容量は、密度及び容量に対して設計されたメモリを有することのできるメインDRAM16A~16Dによって提供することができる。高バンド幅は、キャッシュDRAM18とSOC12との間の広いインタフェースによって提供することができる。インタフェースが広くなると、より遅いクロック速度でクロック制御することが可能になり、従来の同期型DRAMの高速で狭いインタフェースと比較して電力が節約される。一実施形態では、キャッシュDRAM18とSOC12との間のインタフェース、及びメインDRAM16A~16DとSOC12との間のインタフェースは幅が異なってもよい(例えば、キャッシュDRAM18は、メインDRAM16A~16Dよりも2倍を超えて広いインタフェースを有してもよく、いくつかの実施形態では、2~4倍広くてもよい)。更に、キャッシュDRAM18は、密度はより低いが、より小さいエネルギーでより高いバンド幅を実現することのできる比較的小さいメモリアレイを含むことができる。例えば、メモリアレイは、従来のDRAM又はDRAM16A~16Dと比較して、より多くのバンク、より小さいページサイズ、より低いレイテンシ、より多くのチャネルなどを有することができる。いくつかの実施形態では、メモリアレイは、電力を低減するために、DRAM16A~16Dの同様の特性と比較して、1ビット線当たりでより少ないメモリセル、1ワード線当たりでより少ないメモリセル、及び/又はより小さいバンク、のうちの1つ以上を含むことができる。より具体的には、一実施形態では、キャッシュDRAM18のメモリアレイは、エネルギー消費量を低減するために、メインDRAM16A~16Dよりも低い密度をトレードオフすることができる。より低い密度は、(メインDRAM16A~16Dと比較して)1ビット線当たりでより少ないメモリセル、1ワード線当たりでより少ないメモリセル、より多数のバンク、及び/又はより小さいバンク、のうちの1つ以上により、キャッシュDRAM18において実現することができる。一実施形態では、キャッシュDRAM18は、メインDRAM16A~16Dのメモリアレイよりも4倍から16倍低密度であり、好ましくは6倍から8倍低密度であるメモリアレイを有することができる。バンク内のデータ経路設計及びバンクからPHY60Bへのデータ経路設計は最適化することができる。更に、キャッシュDRAM18からSOC12へのデータ経路は、ポイントツーポイント、低キャパシタンス、低電圧接続であってよい。
【0015】
2つのタイプのDRAMがメモリシステムを形成している場合、いくつかの実施形態では、それらのうちの一方をバンド幅のために最適化することができ、他方を容量のために最適化することができ、バンド幅増加及び容量増加の目的の両方を実現することができる。更に、エネルギー効率は、(より小容量/より小型であり、したがって密度をより低くすることのできる)メモリの高バンド幅部分において管理することができる。容量に関して最適化されたメモリの部分は、より低いバンド幅の目的、及び緩やかな(より長い)レイテンシの目的を有することができる。なぜなら、これらの目的は、バンド幅のために最適化された部分によって果たすことができるからである。同様に、バンド幅に関して最適化されたメモリの部分は、より低い面積効率の目的を有することができるが、レイテンシ及びエネルギー効率を改善することができる。いくつかの実施形態では、全体的に、高バンド幅、低レイテンシ、エネルギー効率的で大容量のメモリシステムを低コストで実現することができる。特に、高密度部分(メインDRAM16A~16D)と高バンド幅、低レイテンシ部分(キャッシュDRAM18)とを、共にメインメモリシステム10を形成する別個のチップに実装することにより、各メモリ16A~16D及び18に対してエネルギー効率を改善することが可能になり、それにより、高性能及び高バンド幅でもあり、非常にエネルギー効率的なメモリソリューションを提供することができる。様々な実施形態における各メモリで行われ得る特定の最適化については、
図12~
図14に関して以下で更に詳述する。
【0016】
一実施形態では、キャッシュDRAM18は、アクセスごとにキャッシュDRAM18に送信されるコマンドの数を低減するために、簡略化されたコマンドセットを実装することができる。例えば、メインDRAM16A~16Dは、アクティブコマンド、各読取りアクセス又は書込みアクセスのための列アドレスストローブ(column address strobe、CAS)コマンド、並びに任意選択でリチャージコマンドを含むことができる。一方、キャッシュDRAM18は、読取りアクセスのための読取りコマンド、及び書込みアクセスのための書込みコマンドをサポートすることができる。キャッシュDRAM18の内部で、読取りコマンド又は書込みコマンドは、アクティブ化、1つ以上のCAS読取り又は書込み(それぞれ)、及びプリチャージなど、複数の内部動作を引き起こすことができる。所与のアクセスのために少数のコマンドしかインタフェースを介して送信されないので、アクセスのためのエネルギー消費量が低減することができる。
【0017】
図示のように、メモリコントローラ28は、メインDRAM16A~16D及びキャッシュDRAM18を独立して制御する。特に、一実施形態において、メインメモリコントローラブロック28A及びキャッシュコントローラブロック28Bが図示されている。メインメモリコントローラブロック28AはメインDRAM16A~16Dを制御することができ、キャッシュコントローラブロック28BはキャッシュDRAM18を制御することができる。メインDRAM16A~16DからキャッシュDRAM18へのデータのキャッシングは、メモリコントローラ28の制御下にあり、メインDRAM16A~16DからSOC12を通してキャッシュDRAM18にデータを移動させることによって実行することができる。すなわち、キャッシュ線のキャッシングポリシー、割り当て及び割り当て解除などは、メモリコントローラ28によって決定することができる。頻繁にアクセスされるデータを高バンド幅低電力キャッシュDRAM18に記憶することによって、有効メモリバンド幅をメインDRAM16A~16Dのメモリバンド幅よりも高めることができ、それと同時に、メインDRAM16A~16Dの大容量も享受することができる。メインメモリコントローラブロック28A及びキャッシュコントローラブロック28Bの他にも、メモリコントローラ28の追加の回路がキャッシングポリシー、データ転送などを協調させることができ、あるいは、ブロック28A~28Bはキャッシング動作を実施するために直接相互作用することができる。
【0018】
図2は、メインDRAM16A~16D、及びSOC12に接続しているキャッシュDRAM18の別の実施形態のブロック図である。
図2の実施形態では、単一のPHY60DをSOC12に実装することができ、SOC12は、キャッシュDRAM18の単一のPHY60Bに接続される。メインDRAM16A~16Dに向けられた動作を復号することのできる論理が存在してもよく、この復号された動作は、
図2に示されているようにPHY60C及び60Aを通ってDRAM16A~16Dに転送することができる。
【0019】
図3は、メインDRAM16A~16D、及びSOC12に接続しているキャッシュDRAM18の第3の実施形態のブロック図である。
図3の実施形態では、キャッシュコントローラブロック28BがキャッシュDRAM18(PHY60B)と通信するためと、メインメモリコントローラブロックがメインDRAM16A~16B(PHY60A)と通信するためとで、それぞれ別個のPHY60D及び60Cを実装することができる。しかしながら、キャッシュDRAM18は、
図3に示されているように、PHY60Eを介してメインDRAM16A~16DのPHY60Fと通信する、メインDRAM16A~16Dへのトランスポート層に対するホストとして動作することができる。
【0020】
図1~
図3が示すように、いくつかの実施形態では、キャッシュDRAM18に対するPHYプロトコルはメインDRAM16A~16DのPHYプロトコルとは異なってもよく、様々な構成において両方のプロトコルをサポートすることができる。他の実施形態では、同じPHYプロトコルを使用することができる。
【0021】
図4~
図7は、キャッシュDRAM18及びメインDRAM16A~16DをSOC12とパッケージングする様々な実施形態に基づき、種々異なる適用例のためのメモリシステム10のスケーラビリティを示す。例えば、
図4及び
図6では、メインDRAM16A~16D及びキャッシュDRAM18(すなわちメインメモリ10)は、SOC12とは別々にパッケージングされている。モバイルフォンなどの小型フォームファクタデバイスには、
図4のようなシステムを使用することができ、SOC12の一方の側面にメモリシステム10を有する。一方、タブレットコンピュータ、ラップトップ、又はデスクトップコンピュータなど、より大きいフォームファクタデバイスには、
図6のような実施形態を使用することができ、メモリシステム10は、SOC12の様々な側面の複数の部分(例えば
図6における部分10A、10B、10C、及び10D)から形成される。様々な実施形態において任意の数の部分を使用することができる。
図5及び
図7は、SOC12とキャッシュDRAM18が一緒にパッケージングされ、メインDRAM16A~16Dにインタフェースする実施形態を示す。
図5は
図4と同様であり、例えば、モバイルフォンなどの小形フォームファクタデバイスのために、SOC12/キャッシュDRAM18の一方の側面にメインDRAM16A~16Dを示す。一方、より大きいフォームファクタデバイスには、
図7などの実施形態を使用することができる。
図7では、SOC12及びキャッシュDRAM18の様々な側面にメインDRAM16A~16Dの複数のインスタンスが示されている。SOC12とパッケージされたキャッシュDRAM18も、必要に応じて、異なる実装形態ではスケーラブルである。例えば、以下の
図8及び
図9を参照されたい。様々な実施形態において任意の数のインスタンスを使用することができる。前述のように、
図4~
図7に示されている各メインDRAM16A~16Dは、様々な実施形態では必要に応じて、1つのDRAM又は複数のDRAMであってよい。
【0022】
図8は、SOC12及びキャッシュDRAM18を含むパッケージ50を示すシステムの一実施形態のブロック図である。任意選択で、いくつかの実施形態ではキャッシュDRAM18の複数のインスタンスを含むことができる(例えば、
図8には第2のキャッシュDRAM18が点線形状で示されている)。キャッシュDRAM18への比較的短い相互接続を含む接続層14をパッケージに含んでもよい(例えば、さらなる詳細について以下の
図12及び説明を参照されたい)。1つ以上のメインDRAM16A~16DをSOC12/キャッシュDRAM18と共に、パッケージオンパッケージ(POP)基板52を使用したPOP構成で組み立てることができ、メインDRAM16A~16Dと接続層14との間で(更にSOC12へ、
図8に示されていない接続層14及びPOP基板52における配線へ)接続することができる。
図9は、1つ以上のメインDRAM16A~16D及びSOC12/キャッシュDRAM18を用いたPOPパッケージングの別の例である。
図9の実施形態において、1つのキャッシュDRAM18(又はいくつかの実施形態では複数のキャッシュDRAM18)は、任意の所望の技法を使用してSOC12上に取り付けられている。例えば、チップオンウエハ(chip on wafer、COW)パッケージング、ウエハオンウエハ(wafer on wafer、WOW)パッケージング、及びチップオンチップ(chip on chip、COC)パッケージングなどを使用することができる。
【0023】
他の実施形態では、メインDRAM16A~16Dは、SOC12及びキャッシュDRAM18とは別個にパッケージングしてもよい。例えば、
図10及び
図11は、それぞれ、
図8及び
図9に示されているようにSOC12/キャッシュDRAM18を示すが、別々にパッケージングされたメインDRAM16A~16Dがシステム用の基板又はメインボード54に接続されている。いくつかの実装形態では、
図10及び
図11の実施形態はマルチチップモジュール(multi-chip module、MCM)であってよく、基板54はMCM基板であってよい。他の実施形態では、メインボード54は様々なタイプの回路板であってよく、例えばプリント回路板(PCB)であってよい。メインDRAM16A~16Dの2つのセットが示されているが、各DRAMは1つ以上のDRAMであってよく、
図6及び
図7に示されているように1つのDRAM/DRAMセット又は複数のDRAMセットがあってもよい。
【0024】
図12~
図14は、SOC12、キャッシュDRAM18、及びメインDRAM16A~16Dの様々な例示的な2.5次元(D)及び3D構成を示す。ただし、他の実施形態では、様々な他の2.5D及び/又は3Dソリューションを含む任意のパッケージングソリューションでも使用できることに留意されたい。
【0025】
次に
図12を参照すると、接続層14を通して接続されたメモリシステム10及びSOC12を含むシステムの一実施形態のブロック図が示されている。
図1の実施形態では、メモリ10は、複数のメインDRAMチップ(DRAM)16A~16D、及びキャッシュDRAM18を含む。各メインDRAM16A~16Bは、
図1に示されているように、1つ以上のメモリアレイ20A~20Hを含む。キャッシュDRAM18は、メモリアレイ22及び物理層インタフェース回路(PHY回路24)を含む。PHY回路24は、キャッシュDRAM18のピンを通して接続層14に接続され、接続層14を通してSOC12のピンに接続され、次いで、SOC12の対応するPHY回路26に接続される。PHY26はSOC12のメモリコントローラ28に接続され、メモリコントローラ28は様々な他の回路30(例えばプロセッサ、周辺機器など)を更に含む。他の回路30は、SOC12の他のピンを通して接続層14の反対側に接続され、システムの他の構成要素に接続することができる。
【0026】
上述のように、メモリシステム10は2つの異なるタイプのDRAMを含むことができ、それらのDRAMについて、SOC12のメモリコントローラ28はメインDRAM16A~16D及びキャッシュDRAM18を独立して制御することができる。
図1の実施形態には1つのPHY回路24及び1つのPHY回路26が示されているが、他の実施形態では、PHY回路60A~60D(並びに
図3の実施形態における60E及び60F)に関して上記で説明したように、キャッシュDRAM18のためとメインDRAM16A~16Dのために、独立したPHY回路24及び26を有し得ることに留意されたい。
【0027】
上述のように、メモリアレイ20A~20Hは、DRAM16A~16Dの単位面積当たりの高い記憶容量を提供するために、密度に関して設計することができる。DRAM16A~16Dは、キャッシュDRAM18と比較して、例えば、大きいページサイズを実装することができる。DRAM16A~16Dには、キャッシュDRAM18と比較してより少ないバンクが含むことができる。密度を更に高めるために、テスト回路、冗長性制御、誤り訂正コード(error correction code、ECC)機構、基準電圧論理、温度制御基準論理など、DRAM16A~16Dへの何らかの制御論理をキャッシュDRAM18上に置くことができる。
【0028】
キャッシュDRAM18のページサイズが小さくなればなるほど(及び、キャッシュDRAM18のバンクの数が増大することに起因して、開かれたページ数が大きくなるほど)、SOC12の多数のメモリエージェントによって(そのページサイズと比較して)頻繁な小さいアクセスが助長されることがある。例えば、プロセッサは、データの1つ又は少数のキャッシュ線しか読み取らない傾向があり、ここで、DRAMの従来のページサイズは大きさが2~4キロバイトであり得る。ページが開かれるたびに、データのページ全体がメモリアレイから読み取られ、アクセスのためにセンス増幅器及び/又はレジスタにおいてキャプチャすることができる。そのページが閉じられ、新しいページが開かれると、そのデータの新しいページ全体が読み取られる。一方、より小さいページを読み取れば、それに比例して電力の消費はより少なくなる。多数のエージェントがメモリへのアクセスについて競合している場合、ページ競合及びページオープン/クローズがより頻繁になることがあり、ページ当たりの電力消費量の低減が電力消費量全体の低減をもたらすことができる。
【0029】
したがって、データを再利用できる場合には、メモリコントローラ28は、メインDRAM16A~16Dから読み取られたデータをキャッシュDRAM18に書き込むように構成することができる。様々なキャッシング方式を使用することができる。しかしながら、キャッシュDRAM18は、SOC上のスタティックRAM(on-SOC static RAM、SRAM)よりも高密度であるので、SRAMを用いて可能であるよりも大きいキャッシュを実装することができる。更に、DRAMは、記憶されたデータの1ビット当たりでSRAMよりも少ない数のトランジスタを含み(例えば、1ビット当たりで6つのトランジスタに対して1ビット当たりに1つのトランジスタ)、したがって、DRAMは、ビット当たりの単位でSRAMよりも漏れ電力が小さい。更に、いくつかの実施形態では、オンチップメモリキャッシュを削減することによってSOC12のシリコンダイ面積を節約すると、ある程度までキャッシュDRAM18の出費を埋め合わせすることができる。
【0030】
メインDRAM16A~16Dは、相互接続の長さ及びキャパシタンスを低減するために、シリコン貫通電極(through-silicon-via、TSV)相互接続(例えば
図12に示されているTSV32)を採用することができる。TSV32は、例えば、知られているTSV製造技法を使用して形成することができる。TSV32は、DRAM16A~16Dがピンを通してメモリ間で積層されるときに、互いに接続することができる。DRAM16D(スタックの底部にあるメインDRAM)は、ピンを通してキャッシュDRAM18に接続することができ、キャッシュDRAM18は信号をPHY回路24にルーティングすることができる。PHY回路24は、キャッシュDRAM18のエッジに沿って物理的に配置された、PHY回路26への出力端子及び/又はPHY回路26からの入力端子を有してもよく、PHY回路26の入力端子/出力端子は、SOC12のエッジに沿って同様に物理的に配置することができる。このようにして、PHY回路24/26を接続するために、接続層14を通る短い配線経路を使用することができる。PHY回路24及びPHY回路26は、比較的短い相互接続を介して、固定された小型の負荷と接続層14を通して通信するように設計することができる。より長い相互接続を有し、複数のDRAM負荷を有している従来のDRAMインタフェース比較して、小型の低電力ドライバを使用することができる。
【0031】
更に、キャッシュDRAM18は、このキャッシュDRAM18のエッジにおける所望の位置にTSV相互接続を経路設定するので、TSVは、メインDRAM16A~16D内により自由に位置することができる。いくつかの実施形態では、従来のDRAMにおいて可能であるよりも輻輳を軽減でき、より多くの相互接続を提供することができる。
【0032】
図示の実施形態ではTSVが使用されているが、他の実施形態では、台湾セミコンダクター・マニュファクチャリング・カンパニー(商標)(TSMC)から入手可能な集積ファンアウト(integrated fanout、InFO)など、シリコンインターポーザー相互接続又はファンアウト技術を使用することができる。本明細書で言及するピンは、任意の形式のチップ間相互接続部とすることができる。例えば、ピンは「マイクロバンプ」であってもよく、あるいは半田ボール又は他のピン形成材料であってもよい。他の実施形態は明示的に半田ボールを示しているが、それらの実施形態では他のピン構成も同様に使用することができる。
【0033】
接続層14は任意の形態のチップ間相互接続であってもよい。例えば、接続層14は、シリコンインターポーザー、再分布層、セラミック、有機物、又はプリント回路板様の基板などであってもよい。
【0034】
図13は、SOC12上のメモリシステム10の別の実施形態のブロック図である。
図2の実施形態では、パッケージは接続層14を通して接続されるのではなく、直接接続されているので、PHY回路24をPHY回路26に接続するピンは1つのエッジ上に存在する必要はない。SOC12の底面上のピン(図示せず)は、SOCをシステムの残部に接続するために使用することができる。上述したように、他の実施形態は、キャッシュDRAM18のためと、メインDRAM16A~16Dのために、独立したPHY回路24を有することができる。
【0035】
図14は、キャッシュDRAM18がSOC12とのスタックに実装され、メインDRAM16A~16Dが接続層14を通してSOC12に接続されているメモリシステムの第3の実施形態のブロック図である。この実施形態では、メインDRAM16A~16Dがベースダイ40上に積層されており、ベースダイ40は、TSV32からの信号をPHY回路24にルーティングし、(エッジ近傍の)短い相互接続を通してSOC12のPHY26にルーティングする。
【0036】
DRAM18及びSOC12は様々なパッケージング技術を使用して接続することができる。DRAM18又はSOC12のいずれかが「上部」チップであってよい(ただし、「上部」は
図14の配向を基準にする)。任意の3Dチップパッケージング技術を使用することができる。例えば、様々な実施形態では、TSV接続、COWパッケージング、WOWパッケージング、POPパッケージングなどのうちの1つ以上を使用することができる。
【0037】
上述の開示内容が十分に理解されれば、多くの変形形態及び変更形態が当業者にとって明らかになるであろう。以下の「特許請求の範囲」は、そのような変形形態及び変更形態の全てを包含するように解釈されることを意図している。
【手続補正書】
【提出日】2024-01-10
【手続補正1】
【補正対象書類名】特許請求の範囲
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【特許請求の範囲】
【請求項1】
システムであって、
第1のタイプのダイナミックランダムアクセスメモリ(DRAM)を含む少なくとも1つの第1の集積回路と、
第2のタイプのDRAMを含む少なくとも1つの第2の集積回路であって、前記第2のタイプのDRAMにおいて、第2の複数のチャネルを含む第2のメモリアレイは、前記第1のタイプのDRAMにおいて、第1の複数のチャネルを含む第1のメモリアレイよりも低密度であり、前記第2のタイプのDRAMにおける前記第2のメモリアレイへの1つ以上のアクセスは、前記第1のタイプのDRAMにおける前記第1のメモリアレイへのアクセスよりもエネルギー消費が低く、前記第1の複数のチャネルの第1の数は、前記第2の複数のチャネルの第2の数よりも少ない、少なくとも1つの第2の集積回路と、
前記第1のタイプのDRAM及び前記第2のタイプのDRAMを含むメモリへのアクセスを制御するように構成されたメモリコントローラを含む第3の集積回路と、
を備える、システム。
【請求項2】
前記第1の複数のチャネルは、前記第1のメモリアレイからの第1の量の帯域幅をサポートし、前記第2の複数のチャネルは、前記第2のメモリアレイからの第2の量の帯域幅をサポートし、前記第1の量は前記第2の量よりも少ない、請求項1に記載のシステム。
【請求項3】
前記第2の集積回路は、前記第1のタイプのDRAM及び前記第2のタイプのDRAMを含み、前記メモリのために通信するように構成されている物理層回路を備える、請求項1に記載のシステム。
【請求項4】
前記第1のタイプの複数のDRAMを含む複数の前記第1の集積回路を更に備える、請求項1に記載のシステム。
【請求項5】
前記複数の前記第1の集積回路は、シリコン貫通電極(TSV)相互接続によりスタックにおいて接続されている、請求項4に記載のシステム。
【請求項6】
前記複数の前記第1の集積回路の前記スタックは前記第2の集積回路に接続されており、前記TSV相互接続は前記第2の集積回路の物理層回路に接続されている、請求項5に記載のシステム。
【請求項7】
前記第2の集積回路は前記物理層回路に接続されており、前記物理層回路は、前記第3の集積回路への前記複数の前記第1の集積回路における前記第1のタイプのDRAMのための通信線、及び前記第3の集積回路への前記第2の集積回路における前記第2のタイプのDRAMのための通信線を含む、請求項6に記載のシステム。
【請求項8】
前記第2の集積回路及び前記第3の集積回路は、チップオンウエハパッケージング技術を使用してパッケージングされている、請求項1に記載のシステム。
【請求項9】
前記第2の集積回路及び前記第3の集積回路は、ウエハオンウエハパッケージング技術を使用してパッケージングされている、請求項1に記載のシステム。
【請求項10】
前記第2の集積回路及び前記第3の集積回路は、チップオンチップパッケージング技術を使用してパッケージングされている、請求項1に記載のシステム。
【請求項11】
前記第1の集積回路は、前記第2の集積回路及び前記第3の集積回路のパッケージ上に積層されている、請求項1に記載のシステム。
【請求項12】
前記第1の集積回路は、前記第2の集積回路及び前記第3の集積回路を含む前記パッケージを用いたパッケージオンパッケージ構成でパッケージングされている、請求項11に記載のシステム。
【請求項13】
前記第1の集積回路は、前記第3の集積回路及び前記第2の集積回路を含むパッケージの側面に配置されている、請求項1に記載のシステム。
【請求項14】
前記第1の集積回路は複数の第1の集積回路のうちの1つであり、前記複数の第1の集積回路は、前記第2の集積回路及び前記第3の集積回路を含むパッケージの複数の側面に配置されている、請求項1に記載のシステム。
【請求項15】
前記メモリコントローラは、前記第1のタイプのDRAMの複数のDRAMからのデータを、前記第2のタイプのDRAMの少なくとも1つの第2のDRAM中にキャッシュするように構成されている、請求項1に記載のシステム。
【請求項16】
前記第2のタイプのDRAMは、前記第1のタイプのDRAMよりも4倍~16倍低密度である、請求項1に記載のシステム。
【請求項17】
前記第3の集積回路は、前記第2の集積回路とともにパッケージ化され、前記第1の集積回路と前記第3の集積回路との間の結合と比較して、前記第3の集積回路と前記第2の集積回路との間の長さ及び結合容量を低減する、請求項1に記載のシステム。
【請求項18】
方法であって、
第1のタイプのダイナミックランダムアクセスメモリ(DRAM)を含む少なくとも1つの第1の集積回路と、第2のタイプのDRAMを含む少なくとも1つの第2の集積回路と、メモリコントローラを含む第3の集積回路と、を含むシステムにおいて、前記メモリコントローラを使用して、前記第1のタイプのDRAM及び前記第2のタイプのDRAMを含む第1のメモリへのアクセスを制御することであって、前記第2のタイプのDRAMにおける第2のメモリアレイは、前記第1のタイプのDRAMにおける第1のメモリアレイよりも低密度であり、前記第1のメモリアレイは第1の複数のチャネルを含み、前記第2のメモリアレイは第2の複数のチャネルを含み、前記第2のタイプのDRAMにおける前記第2のメモリアレイへの1つ以上のアクセスは、前記第1のタイプのDRAMにおける前記第1のメモリアレイへのアクセスよりもエネルギー消費が低く、前記第1の複数のチャネルの第1の数は、前記第2の複数のチャネルの第2の数よりも少ない、ことを含む、方法。
【請求項19】
前記第1の複数のチャネルは、前記第1のメモリアレイからの第1の量の帯域幅をサポートし、前記第2の複数のチャネルは、前記第2のメモリアレイからの第2の量の帯域幅をサポートし、前記第1の量は前記第2の量よりも少ない、請求項18に記載の方法。
【請求項20】
メモリであって、
第1のタイプのダイナミックランダムアクセスメモリ(DRAM)を含む少なくとも1つの第1の集積回路と、
第2のタイプのDRAMを含む少なくとも1つの第2の集積回路であって、前記第2のタイプのDRAMにおいて第2の複数のチャネルを含む第2のメモリアレイは、前記第1のタイプのDRAMにおいて第1の複数のチャネルを含む第1のメモリアレイよりも低密度であり、前記第2のタイプのDRAMにおける前記第2のメモリアレイへの1つ以上のアクセスは、前記第1のタイプのDRAMにおける前記第1のメモリアレイへのアクセスよりもエネルギー消費が低く、前記第1の複数のチャネルの第1の数は、前記第2の複数のチャネルの第2の数よりも少ない、少なくとも1つの第2の集積回路と、
を備える、メモリ。
【外国語明細書】