این استارت آپ تراشه با شرط بندی که بزرگترین تنگنای هوش مصنوعی محاسبات نیست، بلکه حافظه است، 135 میلیون دلار به دست آورد.

هر بار که از ChatGPT سؤالی می‌پرسید، درخواست شما مسابقه داده را راه‌اندازی می‌کند. اطلاعات از حافظه خارج می شود، برای پیش پردازش از CPU عبور می کند، برای محاسبات سنگین به GPU می رود و سپس راه خود را باز می کند – و کل این سفر برای هر کلمه تولید شده توسط هوش مصنوعی تکرار می شود.

گلوگاه ساختاری است – به این معنی است که با هر درخواستی از گران‌ترین و پرقدرت‌ترین تراشه‌های صنعت استفاده کنید. این ناکارآمدی دقیقاً همان چیزی است که XCENA، یک استارت آپ با دفاتر در کره جنوبی و ایالات متحده، در تلاش برای حل آن است. این استارت‌آپ چهار ساله تراشه‌ای طراحی کرده است که قابلیت‌های محاسباتی را بسیار به DRAM نزدیک‌تر می‌کند – تراشه‌های حافظه سریع و کوتاه‌مدت که داده‌هایی را ذخیره می‌کنند که پردازنده فعالانه از آنها استفاده می‌کند – اجازه می‌دهد تا عملیات معمول داده‌ها در نزدیکی حافظه پردازش شوند، بدون رفت و برگشت گران قیمت بین CPU، GPU و حافظه.

اگر در مقیاس کار کند، پیامدهای هزینه برای زیرساخت های هوش مصنوعی می تواند قابل توجه باشد، که تا حد زیادی شور و شوق سرمایه گذاران را در اطراف شرکت توضیح می دهد. در واقع، XCENA فقط 135 میلیون دلار در سری B با ارزش 570 میلیون دلار جمع آوری کرد و مجموع آن را به 185 میلیون دلار رساند.

مدیر عامل XCENA، جین کیم، این استارتاپ را در سال 2022 به همراه CTO Dohoon Kim و CTO Harry Joohyun Kim، که همگی از کهنه‌کاران سامسونگ و SK Hynix، غول‌های حافظه‌ای که تراشه‌های GPU انویدیا را تامین می‌کنند، تأسیس کرد. جین کیم در مصاحبه ای با TechCrunch گفت: “هم پردازنده ها و هم پردازنده های گرافیکی در طول دهه ها هوشمندتر شده اند. حافظه هرگز این کار را نکرده است. XCENA می خواهد آن را تغییر دهد.” او افزود: افزایش اخیر قیمت حافظه و سهام مرتبط نشان دهنده تغییر گسترده‌تر زیرساخت‌های هوش مصنوعی به سمت معماری‌های حافظه محور است. (در این ماه، سه شرکتی که بر بازار جهانی تراشه‌های حافظه تسلط دارند – سامسونگ، SK Hynix و Micron – برای اولین بار ارزش تریلیون دلاری را پشت سر گذاشتند.)

کیم گفت: XCENA کسب و کار خود را بر این گزاره می بندد که “استنتاج فقط یک مشکل محاسباتی نیست، بلکه به طور فزاینده ای یک مشکل مقیاس بندی حافظه است.”

تراشه XCENA، MX1، از طریق CXL (Compute Express Link) به پردازنده متصل می شود – که اساساً یک خط اکسپرس اختصاصی بین پردازنده و حافظه است – داده ها را قبل از اینکه نیاز به خروج از ماژول حافظه داشته باشد پردازش می کند. محاسبات را به داده ها می آورد، نه برعکس. این شرکت ادعا می کند که آنچه در گذشته به 10 سرور نیاز داشت، می تواند تنها روی یک سرور اجرا شود.

“در حالی که پردازنده‌های گرافیکی در ضرب ماتریس برتری دارند – ریاضیات سخت پشت آموزش مدل‌های هوش مصنوعی – بیشتر هماهنگ‌سازی داده‌های اطراف، از جمله پیش‌پردازش، مدیریت حافظه نهان KV (سیستمی که زمینه مکالمه قبلی را ذخیره می‌کند تا مدل مجبور نباشد آن را دوباره پردازش کند)، و کش داده‌ها همچنان روی پردازنده‌ها اجرا می‌شود. تراشه ما در حافظه K به طور مستقیم این وظایف را انجام می‌دهد.”

تقاضا برای راه حل های حافظه از نیمه دوم سال گذشته افزایش یافته است و این شرکت معتقد است که زمان بندی به نفع آن است.

گفتگو با چندین تامین کننده حافظه جهانی در مراحل اولیه است، اگرچه کیم از ذکر نام آنها خودداری کرد. مشتریان ایده‌آل این شرکت، ابر مقیاس‌کننده‌ها هستند که ده‌ها میلیارد دلار در سال برای زیرساخت‌های هوش مصنوعی خرج می‌کنند، جایی که حتی افزایش اندک در کارایی حافظه می‌تواند به معنای صدها میلیون صرفه‌جویی باشد.

MX1 هنوز یک نمونه اولیه است. تولید انبوه تراشه ها قرار است تا پایان سال 2026 از خطوط ریخته گری سامسونگ خارج شود و این شرکت انتظار دارد از سال 2027 درآمدزایی کند.

در حالی که سازندگان واحد پردازش عصبی (NPU) برای به چالش کشیدن انویدیا برای بارهای کاری آموزشی رقابت می‌کنند، XCENA لایه‌ای با حافظه فشرده را که در زیر همه آن قرار دارد هدف قرار داده است.

نزدیکترین رقبای XCENA عبارتند از Astera Labs و Marvell که هر دو شرکت های فهرست شده در Nasdaq بر روی اتصال حافظه نسل بعدی کار می کنند. کیم گفت که مارول یک بازیکن بزرگ و تثبیت شده است که قبلاً در همان فضا فعالیت می کند و اضافه کرد که تفاوت به مالکیت معنوی برمی گردد. کیم گفت: ما هزاران هسته داریم. بر اساس مشخصات عمومی، رویکرد مارول بر تعداد انگشت شماری از هسته‌های همه منظوره برای محک زدن متکی است.

این هسته‌ها بر روی RISC-V ساخته شده‌اند – طرحی برای طراحی تراشه منبع باز – و به طور خاص برای پردازش داده‌ها بهینه شده‌اند.، با هر هسته عمدا کوچک و کارآمد. فراتر از خود هسته‌ها، XCENA سلسله مراتب حافظه داخلی، گذرگاه اتصال و کنترلر DRAM خود را طراحی می‌کند – سطحی از یکپارچگی عمودی که اکثر شرکت‌های تراشه، از جمله رقبای بزرگ‌تر، معمولاً برون‌سپاری می‌کنند.

شرکت‌های سرمایه‌گذاری مخاطره‌آمیز مستقر در سئول، آتینوم و سرمایه‌گذاری IMM، دور سری B را به همراه Corstone Asia و سرمایه‌گذاران فعلی SBI Investment و Mirae Asset Capital رهبری کردند. این شرکت که بیش از 90 کارمند در دفاتر Pangyo، مرکز فناوری خارج از سئول، و Sunnyvale دارد، همچنین در حال مذاکره با سرمایه گذاران بین المللی برای تامین مالی بیشتر است.