NEO Semiconductor патентоват 3D DRAM с AI обработка Остави коментар

Въведение в технологията 3D X-AI

NEO Semiconductor, която се фокусира върху 3D NAND флаш памет и 3D DRAM, обяви новата технология 3D X-AI чип, предназначена да замени настоящите HBM (High Bandwidth Memory) чипове, използвани в AI GPU ускорителите. Тази 3D DRAM има вградена AI обработка, която позволява извършването на операции и генерирането на резултати, без да са необходими математически изчисления. Това намалява проблемите с преноса на данни, когато огромни количества информация се предават между паметта и процесора, като по този начин се увеличава производителността и ефективността на AI.

Архитектура и подобрения в производителността

Чипът 3D X-AI има невронен слой в основата си, който обработва данните, съхранявани в 300-те слоя памет на същия кристал. Според NEO Semiconductor, тази 3D памет предлага 100-кратно подобрение на производителността благодарение на своите 8000 невронни схеми, които извършват AI обработка в самата памет. Освен това, тя разполага с осем пъти по-голяма плътност на паметта в сравнение с настоящите HBM и, което е още по-важно, предлага 99% намаление на енергийната консумация, като намалява количеството данни, които трябва да бъдат обработени от енергоемките GPU.

Проблеми с настоящата AI архитектура

„Настоящите AI чипове губят значителни количества производителност и енергия поради архитектурни и технологични неефективности“, казва основателят и главен изпълнителен директор на NEO Semiconductor Анди Хсу. Хсу коментира: „Настоящата архитектура на AI чиповете съхранява данни в HBM и разчита на GPU, за да извършва всички изчисления. Тази отделена архитектура за съхранение и обработка на данни прави преносната шина неизбежно затруднение в производителността. Прехвърлянето на огромни количества данни през шината води до ограничена производителност и много висока консумация на енергия. 3D X-AI може да извършва AI обработка във всеки HBM чип, което драстично намалява данните, които се прехвърлят между HBM и GPU, за да се подобри производителността и намали енергийната консумация значително.“

Капацитет и възможности на 3D X-AI

Компанията твърди, че X-AI има капацитет от 128GB и може да поддържа 10 TB/s AI обработка на един кристал. Подреждането на дванадесет кристала заедно в една HBM опаковка може да постигне капацитет за съхранение над 1,5TB и 120 TB/s обработваща производителност.

Влияние върху бъдещето на AI и полупроводниковите технологии

Развитието на AI води до максимално използване на компютърните възможности, като много компании изследват технологии, които ще увеличат скоростта на обработка и комуникация. С развитието на по-бързи и по-ефективни полупроводници, шината, която прехвърля данни между компонентите, става пречка. Затова технологии като тази ще позволят на всички компоненти да работят по-бързо заедно. Например, няколко компании, включително Intel, Kioxia и TSMC, работят върху оптични технологии за по-бързи комуникации в рамките на дънната платка. Но чрез прехвърляне на част от AI обработката от GPU към HBM, NEO Semiconductor може да помогне за намаляване на натоварването на GPU, като го направи значително по-ефективен от настоящите енергоемки AI ускорители.