Red Hat обявиха придобиването на Chatterbox Labs

Red Hat обявиха придобиването на AI компания, оперираща в областта на киберсигурността. Британският стартъп Chatterbox Labs предлага платформа с името AIMI. Тя осигурява защита срещу хакерски атаки, както на готови AI модели, като Claude и ChatGPT, така и на алтернативни алгоритми. Предложението на компанията идва пакетирано в Docker контейнер, към който клиентите на компанията се свързват.

Посредством придобиването на Chatterbox Labs, IBM увеличават AI предложенията, идващи с популярната Линукс дистрибуция. Red Hat вече включва предварително инсталирани библиотеки за машинно обучение. Отделно от това, OpenShift AI, еквивалента им на Kubernetes, поддържа инструмента с открит код с името llm-d. Той може да разпределя интерферентни работни натоварвания към множество сървъри.

AIMI успява да намира проблеми с безопасността чрез серия от симулирани атаки към тествания модел за идентифициране на уязвими точки. Платформата използва и различни методи, като „информационно натравяне“. При този метод на атака се компрометира информационния набор, с който се обучава модела, с невярна информация или некоректни данни.

AIMI успява също да регистрира изтичането на вътрешни данни, като например информация за архитектурата на модела. Освен това, системата защитава AI агенти, които използват MCP протокола за извършване на действия в приложения от външни страни. Именно последното е дало повод на IBM да придобият Chatterbox Labs.

Компанията предлага специален продуктов пакет с името Red Hat AI. Той включва едноименната Линукс дистрибуция с AI оптимизации, OpenShift AI и инструмент с името Inference Server. Последната версия на пакета съдържа поддръжката на MCP (Model Context Protocol). IBM ще използват софтуера на Chatterbox Labs за обезпечаване на сигурността на агентите, опериращи на платформата. В бъдеще компанията възнамерява да пусне AIMI под отворен лиценз.