مقالات

امنیت هوش مصنوعی برای هوش مصنوعی سازمانی


NeuralTrust، پلتفرم حفاظت از عامل هوش مصنوعی، امروز یک دور اولیه 20 میلیون دلاری را اعلام کرد که بزرگترین سرمایه اولیه امنیت سایبری است که توسط یک شرکت اتحادیه اروپا تا به امروز جمع‌آوری شده است. این دور مهندسی، تعمیق ادغام با محصولات NeuralTrust و گسترش بازار اروپا را تأمین می کند زیرا شرکت ها سیستم های هوش مصنوعی مستقل را به تولید می رسانند.

دور توسط Alstin Capital با مشارکت VentureFriends، Seaya، Kibo Ventures، Banc Sabadell، EA Ventures Plug and Play Fund و Finaves، صندوق سرمایه گذاری مخاطره آمیز مدرسه کسب و کار IESE رهبری شد. NeuralTrust همچنین توسط بودجه عمومی شورای نوآوری اروپا و آژانس تحقیقات دولتی اسپانیا (AEI) پشتیبانی می شود.

پذیرش نماینده از مدیریت پیشی می گیرد

این سرمایه‌گذاری زمانی انجام می‌شود که عوامل هوش مصنوعی از آزمایش به زیرساخت‌های اصلی سازمانی حرکت می‌کنند، و مدیریت نتوانسته سرعت خود را حفظ کند. گارتنر پیش بینی می کند که تا سال 2027، 40 درصد از شرکت ها به دلیل شکاف های مدیریتی که تنها پس از وقوع حوادث تولید شناسایی می شوند، عوامل هوش مصنوعی مستقل را کاهش داده یا بازنشسته خواهند کرد. خطر به سرعت در حال افزایش است: پیش بینی می شود که 500 شرکت فورچون تا سال 2028 هر کدام بیش از 150000 نماینده را مدیریت کنند، اما تنها 13 درصد از کسب و کارها برای مدیریت آنها احساس آمادگی می کنند.

در یک شرکت بزرگ، عوامل هوش مصنوعی به همه جا ختم می‌شوند. یک تیم در حال ساخت نمایندگی خدمات مشتری یک فروشنده هوش مصنوعی است، تیمی دیگر در حال خودکار کردن کارهای پشتیبان دیگری است، و نرم افزار فروشنده با نمایندگان خود ارسال می شود. آنها به سیستم های داخلی، پایگاه های داده و ابزارهای خارجی متصل می شوند و به طور مستقل عمل می کنند. اکثر تیم‌های امنیتی نمی‌توانند بگویند که چند عامل در حال اجرا هستند، هر کدام مجاز به انجام چه کاری هستند، یا زمانی که فردی فریب داده شده تا داده‌ها را فاش کند یا اقدامی را انجام دهد که نباید انجام دهد. NeuralTrust به آن‌ها یک مکان می‌دهد تا هر عاملی را ببینند، کارهایی را که می‌تواند انجام دهد را کنترل کنند و وقتی مشکلی پیش آمد آن را متوقف کنند.

NeuralTrust هر روز میلیون ها تعامل عامل را بررسی می کند. حدود 1.2٪ مخرب هستند و نیاز به مداخله دارند: تلاش برای استخراج داده، ربودن یک ابزار، یا فشار دادن یک عامل به خارج از قوانین آن، دستگیر شده و در زمان واقعی متوقف می شود.

سه محصول کار را انجام می دهند. TrustGate، یک دروازه عامل که هر LLM، MCP و فراخوانی ابزار را واسطه می‌کند، به نقطه اجرایی واحدی تبدیل می‌شود که تمام ترافیک عامل از آن عبور می‌کند. TrustGuard، یک موتور امنیتی در محل کار، تهدیدها را در هر پلتفرم و نقطه پایانی که عوامل در آن اجرا می‌شوند، بدون توجه به نحوه ساخت یا استقرار آنها شناسایی و متوقف می‌کند. و TrustLens، یک لایه مدیریت وضعیت، هر عاملی را در سازمان شناسایی می کند و نحوه رفتار آن را در داخل و خارج از محیط امنیتی ردیابی می کند. از آنجایی که این سه عمیقاً یکپارچه شده اند، نقاط کور ناپدید می شوند.

نتیجه یک پلت فرم یکپارچه است که در آن کنترل، محافظت و وضعیت بدن با هر تعامل ترکیب می شود.

مورد اعتماد کسب و کارهای پیشرو

مشتریان NeuralTrust عبارتند از AirEuropa، Abanca، Iberia و Banc Sabadell، همراه با سایر بانک های جهانی، خطوط هوایی، شرکت های انرژی و سازمان های دولتی. 92٪ درآمد سالانه بیش از 1 میلیارد دلار را گزارش می دهند که 80٪ در اروپا و 20٪ در خارج از کشور است. این شرکت از دفاتر بارسلونا و لندن کار می‌کند و پذیرش آن در حال تسریع است: در سه ماهه اول سال 2026، NeuralTrust ARR سال 2025 خود را دو برابر کرد.

NeuralTrust به طور مستقل به عنوان یک رهبر در حوزه امنیت هوش مصنوعی در حال ظهور شناخته می شود. گارتنر این شرکت را به عنوان فروشنده نماینده در دو فهرست بازار معرفی کرد، KuppingerCole پیشرو در قطب‌نمای رهبری 2025 برای دفاع مولد هوش مصنوعی، و MarketsandMarkets پیشرو در ربع امنیتی هوش مصنوعی عاملی در سال 2026.

NeuralTrust با KPMG به عنوان یک شریک استراتژیک کلیدی برای ارائه فناوری خود به مشتریان سازمانی بزرگ، در کنار شبکه گسترده‌تری از همکاران صنعتی (از جمله Capgemini، Sopra Steria، Bentengo و M3Cop) شریک شده است.

ساخت لایه سازمانی که هوش مصنوعی روی آن اجرا خواهد شد

NeuralTrust توسط تیمی ساخته شد که قبل از بازار مشکل را درک کرده بودند. مدیر عامل، جوآن وندرل، به‌عنوان مدیر ارشد داده در Mango، به‌عنوان مدیر ارشد داده در آمازون و مک‌کینزی، استقرار و امنیت هوش مصنوعی را رهبری می‌کند. ویکتور گارسیا، مدیر ارشد فناوری، معماری امنیتی در ارتباطات راه دور و بانکداری تنظیم شده را رهبری می کند. و الخاندرو دومینگو، مدیر اجرایی، تحول هوش مصنوعی را به عنوان شریک وابسته در مک کینزی، پس از تغییر یک استارتاپ برای خروج، رهبری کردند.

تحقیقات NeuralTrust به تعریف این زمینه ادامه می‌دهد و کلاس‌های جدیدی از حملات، جیلبریک‌های چند چرخشی مانند “Echo Chamber” و حملات چندوجهی مانند “Semantic Chaining” را نشان می‌دهد که اکنون بخشی از طبقه‌بندی پروژه امنیتی OWASP AI است.

این دور به سمت تعمیق یکپارچگی در سراسر پلتفرم، رشد تیم مهندسی، و گسترش دامنه مدل‌ها، ابزارها و پلتفرم‌های هوش مصنوعی خواهد رفت که NeuralTrust همزمان با گسترش اکوسیستم عامل ارائه می‌کند. این شرکت از دفاتر خود در بارسلونا و لندن قصد دارد تا پایان سال 2026 به رهبر بازار اروپا تبدیل شود و حضور بین المللی خود را از آنجا گسترش دهد. شرط پشت آن: ظرف چند سال، هر شرکت بزرگی هزاران عامل هوش مصنوعی را اجرا خواهد کرد و محافظت از آنها به دسته خود تبدیل خواهد شد، همان کاری که پیش از آن نقطه پایانی و امنیت ابری انجام می دادند. NeuralTrust ساخته شده است تا سطحی باشد که این شرکت ها در آن فعالیت می کنند.

جوآن وندرل، یکی از بنیانگذاران و مدیر عامل NeuralTrust می گوید: «نمایندگان هوش مصنوعی اکنون بخشی از عملیات سازمانی هستند، اما کنترل هایی که از آنها محافظت می کنند همچنان در حال پیگیری هستند. “این دور به ما اجازه می دهد تا به ساخت لایه زیرساختی ادامه دهیم که استقرار هوش مصنوعی را قابل اندازه گیری، مدیریت و ایمن می کند. ماموریت ما از روز اول تغییر نکرده است: تبدیل امنیت هوش مصنوعی به یک مزیت استراتژیک سازمانی که دهه آینده را مشخص خواهد کرد.”

“عوامل هوش مصنوعی سریع‌تر از آنچه تیم‌های امنیتی می‌توانند تطبیق دهند وارد زیرساخت‌های سازمانی می‌شوند، بنابراین پنجره ایجاد کنترل اکنون است. چیزی که ما را متقاعد کرد که این دور را رهبری کنیم، نه تنها یک محصول استثنایی بود، بلکه وضوح تیم در مورد اینکه مشکل واقعی کجاست. آنها یک لایه کنترل واقعی ایجاد کرده‌اند، نه راه‌حل نقطه‌ای دیگر، و شرکت‌ها می‌توانند آن را امروز به کار ببندند. ما معتقدیم که ارائه عوامل هوش مصنوعی یکی از مسائل زیرساختی در سازمان است. الکساندر مایر-شارنبرگ، شریک آلستین کپیتال، گفت: NeuralTrust بهترین موقعیت را برای مالکیت آن دارد.

Picture Funding به سبد محصولات NeuralTrust برای محافظت، نظارت و کنترل عوامل هوش مصنوعی در شرکت سرعت می بخشد.

عکس/منبع: NeuralTrust


Source link

نوشته های مشابه

دیدگاهتان را بنویسید

دکمه بازگشت به بالا